In Italia è passato praticamente inosservato – forse per paura di derisione – un fatto accaduto qualche mese fa e che invece ha destato se non scalpore almeno inquietudine nel resto del mondo: lo “spegnimento” di due “robot” che improvvisamente hanno cominciato a parlare tra loro in una lingua da loro stessi inventata.
C’è chi ha considerato l’avvenimento come “eccitante” da punto di vista scientifico, chi invece, come il professore di robotica Kevin Warwick, ha immediatamente messo in risalto i pericoli che da ciò possono derivare, in particolare se i robot avesso una qualche capacità militare…
Ma cosa è successo realmente?
Si è trattato di un esperimento eseguito da Facebook. Sono stati installati due chatbot (v. articolo), chiamati Alice e Bob, che dovevano migliorare le proprie capacità di negoziazione. Avrebbero dovuto utilizzare la lingua inglese tra loro e poi, in un secondo tempo, con i possibili utenti. Ad un certo punto, senza alcun preavviso, hanno cominciato ad usare un loro linguaggio incomprensibile ad altri. Gli esperti di Facebook hanno quindi preferito spegnere le due macchine perché non è stato raggiunto il risultato atteso.
Dopo questo allarme si è scoperto che fatti simili sembrano essere già accaduti (almeno) presso Google.
Dunque, cosa sta accadendo? L’Intelligenza Artificiale può rappresentare un rischio? E, se la risposta è positiva, può rappresentare un rischio per l’umanità?
La risposta non è semplice. Forse la risposta non c’è.
Chiunque, come me, sia stato da ragazzo un appassionato lettore di fantascienza non può non aver letto Asimov. Ma per parlare dei più giovani, negli ultimi anni i film che parlano di forme di Intelligenza Artificiale che interferiscono con il naturale sviluppo della civiltà umana sono innumerevoli.
Come possiamo essere certi che un programma, magari sviluppato da un gruppo di attivisti ecologisti per salvaguardare la natura non possa un giorno prendere il controllo del mondo e decidere che la razza umana è il vero pericolo per la natura e dunque decida di “fare piazza pulita”?
E, fate attenzione, chiunque pensasse che si tratta solo di fantascienza, al punto in cui siamo, non avrebbe capito niente. Sembra infatti che ultimamente la realtà superi la fantascienza!
Se si considera che fermare l’evoluzione in questo campo è praticamente impossibile, la cosa peggiore è non parlarne per paura di essere derisi. Ciò che occorre è controllo accurato su ciò che accade e sulla ricerca per poter prevenire possibili problemi che potrebbero nascere da un campo, l’Intelligenza Artificiale, assolutamente nuovo.
In questo senso è solo da elogiare la discussione iniziata in seno al Parlamento Europeo relativamente alla necessità di regolamentazione dei Robot (v.articolo).
(immagine: fotogramma “I Robot” – 20th Century Fox)
