Mantenere il controllo: è questa, per Geoffrey Hinton, la grande scommessa per affrontare la diffusione sempre più capillare dell’intelligenza artificiale. Lo ha dichiarato lo stesso fisico durante una telefonata con la Fondazione Nobel, affermando: “Abbiamo a che fare con qualcosa per cui abbiamo un’idea molto più limitata di cosa succederà e di che cosa fare. Vorrei avere una sorta di ricetta semplice per cui se si fa questo, tutto andrà bene. Ma non è così.”
In particolare, Hinton ha messo in guardia riguardo alla minaccia che queste tecnologie possano sfuggire al controllo: “Penso che ci troviamo in una sorta di bivio nella storia” e ha aggiunto che “nei prossimi anni dovremo capire se c’è un modo per affrontare questa minaccia“.
Secondo il Nobel, è “molto importante in questo momento lavorare sulla questione di come mantenere il controllo. Dobbiamo impegnarci molto nella ricerca. Credo che una cosa che i governi possano fare – ha rilevato – sia costringere le grandi aziende a destinare molte più risorse alla ricerca sulla sicurezza. In modo che, ad esempio, aziende come OpenAI non possano mettere in secondo piano la ricerca sulla sicurezza“.
Hinton ha anche notato delle analogie fra i timori relativi all’IA e la conferenza di Asilomar del 1975, che riunì i protagonisti della ricerca sulle biotecnologie per discutere i rischi di un campo che allora era appena agli inizi: “Penso che ci siano delle analogie e che quello che hanno fatto sia stato molto buono. Purtroppo – ha aggiunto – ci sono molte altre applicazioni pratiche dell’IA” e “credo che sarà molto più difficile“. Riguardo all’approccio dei biologi, Hinton ha osservato: “È un buon modello cui guardare“.
La sua speranza è che adesso i suoi appelli alla prudenza possano avere più ascolto grazie al riconoscimento del Nobel: “Spero che mi renda più credibile quando dico che queste cose le capisco davvero“. Ha poi fatto riferimento alla scuola di linguistica di Noam Chomsky, “che pensa che sia del tutto insensato dire che queste cose – dice riferendosi ai grandi modelli linguistici – capiscono, che non elaborano il linguaggio nello stesso modo in cui lo facciamo noi. Credo che questa scuola sia sbagliata. Penso che sia ormai chiaro che le reti neurali siano molto più brave a elaborare il linguaggio di qualsiasi altra cosa prodotta dalla scuola linguistica di Chomsky. Ma c’è ancora molto dibattito al riguardo, soprattutto tra i linguisti“.
