Cosa accadrebbe se, in futuro, le intelligenze artificiali diventassero troppo intelligenti? Google vuole evitare di scoprirlo, e, nonostante stia concentrando moltissime energie sullo sviluppo di intelligenze artificiali sempre più complesse ed in grado di interagire con gli esseri umani, ha cominciato a prendere, in contemporanea, anche delle “misure di sicurezza” sviluppando una sorta di “comando manuale” da usare nel caso in cui fosse necessario recuperare il controllo di un robot che ha un comportamento “non previsto“, prima che possa fare cose che avrebbero conseguenze irreparabili.
Queste misure di sicurezza sono nate in collaborazione con l’Istituto “Futuro dell’Umanità” di Oxford, e sono inclusi all’interno di un documento che descrive la realizzazione di un comando di emergenza che sia in grado di bloccare qualsiasi macchina o intelligenza artificiale fuori controllo. In questi casi, come si suol dire, prevenire è meglio che curare.