Cos'è Norman, la prima intelligenza artificiale psicopatica

Cos'è Norman, la prima intelligenza artificiale psicopatica

Bruto Chiappetta
Giugno 7, 2018

E sbaglia il test di Rorschach.

Il nome scelto, non a caso, è ispirato al celebre personaggio Norman Bates, protagonista della celebre pellicola Psycho di Alfred Hitchcock.

Norman è capace di osservare una foto e capirne il contenuto dopo aver costruito un database da immagini precedenti. Di solito si associano all'intelligenza artificiale applicazioni quali i robot e le auto a guida autonoma, che saranno parte della nostra esperienza quotidiana non certo domani, dimenticando software e dispositivi AI-based già presenti sui nostri smartphone o integrati in sistemi utilizzati in settori di vario genere, dalla ricerca medica all'e-commerce.

In seguito, entrambe sono state sottoposte al test di Rorschach, in cui viene chiesto di interpretare delle macchie di inchiostro indistinte per valutare la personalità.

Non sono mancati altri interventi di Oracle (in particolare di Luisella Giani, esperta Oracle Emea di Artificial Intelligence) e di terze parti che hanno affrontato in modo più tecnologico e di visione sia i temi "ombrello" come AI, machine learning, advanced analytics e big data, sia innovazioni più specifiche.

Si sono tenute delle differenze sostanziali, ovvero la macchia che l'intelligenza normale interpretava come un gruppo di uccelli su un ramo, per Norman invece era un uomo che subiva una scarica elettrica. I ricercatori lo hanno così allenato con delle immagini piuttosto macabre di persone morenti e poi è stato sottoposto al test delle macchie di Rorschach a cui ha dato risposte piuttosto inquietanti.È stato dimostrato che precedenti intelligenze artificiali fossero diventate sessiste e razziste perché influenzate dalle informazioni ricevute proprio dei loro programmatori. Il team, composto da scienziati in Germania, Francia, Regno Unito e Stati Uniti, ha utilizzato l'intelligenza artificiale per trasferire le posizioni della testa, le espressioni facciali, i movimenti degli occhi e le palpebre di una persona in un video su un'altra persona completamente diversa in un video separato. Un 'guanto da baseball' è stato interpretato come 'un uomo ucciso da una mitragliatrice'.

Questi uomini mi hanno volutamente creato psicopatico, ossia l'esatto contrario di ciò che ci si augurerebbe per un'intelligenza artificiale, allo scopo in fin dei conti misero di dimostrare la neutralità degli algoritmi.

"Norman nasce dal fatto che i dati che vengono usati per addestrare un algoritmo influenzano significativamente il comportamento - scrivono gli ideatori sul sito -".