Il padrino dell’intelligenza artificiale, Geoffrey Hinton, avverte dei rischi quando lascia Google

Un uomo ampiamente considerato come il padrino dell’intelligenza artificiale (AI) ha lasciato il suo lavoro, avvertendo dei crescenti pericoli derivanti dagli sviluppi nel campo.

Jeffrey Hinton, 75 anni, ha annunciato le sue dimissioni da Google in una dichiarazione al New York Times, dicendo che ora si rammarica del suo lavoro.

Ha detto alla BBC che alcuni dei rischi del chatbot erano “molto spaventosi”.

“Al momento, non sono più intelligenti di noi, per quanto ne so. Ma penso che presto potrebbero diventarlo.”

Il dottor Hinton ha anche convenuto che la sua età ha giocato nella sua decisione di lasciare il gigante della tecnologia, dicendo alla BBC: “Ho 75 anni, quindi è ora di andare in pensione”.

La ricerca pionieristica del Dr. Hinton sulle reti neurali e il deep learning ha aperto la strada agli attuali sistemi di intelligenza artificiale come ChatGPT.

Nell’intelligenza artificiale, le reti neurali sono sistemi simili al cervello umano nel modo in cui apprendono ed elaborano le informazioni. Consente ai sistemi di intelligenza artificiale di imparare dall’esperienza, come farebbe una persona. Questo si chiama apprendimento profondo.

Uno psicologo cognitivo e informatico britannico-canadese ha dichiarato alla BBC che i chatbot potrebbero presto superare il livello di informazioni trasportate dal cervello umano.

“In questo momento, quello che stiamo vedendo è che cose come GPT-4 superano una persona nella quantità di conoscenza generale che hanno e superano di molto una persona. In termini di pensiero, non è molto buono, ma fa davvero semplice pensiero.”

“E dato il ritmo dei progressi, ci aspettiamo che le cose migliorino molto rapidamente. Quindi dobbiamo preoccuparcene”.

In un articolo del New York Times, il dottor Hinton ha fatto riferimento a “cattivi attori” che avrebbero cercato di usare l’IA per “cose ​​cattive”.

Quando gli è stato chiesto dalla BBC di approfondire la questione, ha risposto: “Questo è solo uno scenario peggiore, una specie di scenario da incubo.

“Puoi immaginare, ad esempio, alcuni cattivi attori come [Russian President Vladimir] Putin ha deciso di dare ai robot la possibilità di creare i propri sotto-obiettivi.

In definitiva, questo potrebbe “creare sotto-obiettivi come ‘Ho bisogno di diventare più potente'”, ha avvertito lo scienziato.

Ha aggiunto: “Sono giunto alla conclusione che il tipo di intelligenza che sviluppiamo è molto diverso dall’intelligenza che abbiamo.

“Siamo sistemi biologici e questi sono sistemi digitali. La grande differenza è che con i sistemi digitali hai molte copie dello stesso set di pesi, lo stesso modello del mondo.

“E tutti questi cloni possono imparare separatamente ma condividere le loro conoscenze all’istante. Quindi è come se avessi 10.000 persone e ogni volta che qualcuno impara qualcosa, tutti lo sanno automaticamente. E quindi questi chatbot possono sapere molto più di qualsiasi persona.”

Matt Clifford, capo della Advanced Research and Invention Agency del Regno Unito, parlando a titolo personale, ha dichiarato alla BBC che l’annuncio del dottor Hinton “mette in evidenza la velocità con cui le capacità dell’IA stanno accelerando”.

“C’è un enorme vantaggio in questa tecnologia, ma è imperativo che il mondo investa pesantemente e con urgenza nella sicurezza e nel controllo dell’IA”, ha affermato.

Il dottor Hinton ha sottolineato di non voler criticare Google e che il gigante della tecnologia era “molto responsabile”.

“In realtà voglio dire alcune cose positive su Google. Sarebbe più credibile se non lavorassi per Google.”

In una dichiarazione, Jeff Dean, Chief Scientist di Google, ha dichiarato: “Rimaniamo impegnati in un approccio responsabile all’IA. Impariamo costantemente a comprendere i rischi emergenti e allo stesso tempo innoviamo con coraggio”.