In questa talk parlerò dell’utilizzo dell’AI sia come strumento per facilitare la commissione di reati (ad esempio attraverso l’utilizzo di social engineering nella commissione di frodi bancarie), che come strumento investigativo all’interno del procedimento penale (ad esempio attraverso l’utilizzo di sistemi di sorveglianza speciali), che come supporto ai giudici nella determinazione della pena e nella stesura delle sentenze. Infine tratterò delle possibili discriminazioni che l’utilizzo acritico di sistemi di AI può determinare nell’amministrazione della giustizia, distinguendo tra discriminazioni matematico/statistiche e sociali (come succede anche nella valutazione del credit score nella richiesta di mutui).
In questo talk vorrei proporre 2 linee di pensiero volte ad aggiornare il catalogo dei diritti umani alla luce delle caratteristiche tecniche dell’AI, delle sue potenzialità e dei rischi del suo utilizzo. La prima considera l’adattamento di alcuni principi tradizionali (consenso informato e non discriminazione) rispetto alle sfide poste dall’AI. La seconda comprende 4 nuovi diritti: diritto all’eroe, diritto alla discontinuità, diritto ad un ambiente umano, diritto alla AI. Farò anche qualche riferimento all’AI Act, il nuovo regolamento approvato recentemente dal Parlamento dell’Unione Europea.