Nuove forme di intelligenza e fantasmi nelle macchine
Provo già in apertura di queste riflessioni a essere provocatorio e inizio con una citazione a effetto: “Sin dai primi computer ci sono sempre stati dei fantasmi nelle macchine.”
La frase viene da Io, Robot, il film di Alex Proyas ispirato all’immaginario di Isaac Asimov. È ovviamente una frase cinematografica, costruita per essere suggestiva. Eppure, riletta alla luce di quello che sta accadendo con l’intelligenza artificiale, credo possa sembrare meno fantascientifica di quanto avremmo pensato solo pochi anni fa.
Non perché le macchine abbiano un’anima o perché siano “vive”. Ma perché forse stiamo commettendo l’errore opposto: continuiamo a guardarle con categorie vecchie, rassicuranti, derivate dalla nostra idea di intelligenza umana. Così, ogni volta che quelle categorie non bastano più spostiamo semplicemente un po’ più avanti il confine.
Per anni ci siamo detti: sì, l’intelligenza artificiale produce testi, però non capisce. Poi ha cominciato a scrivere codice. Sì, però non sa programmare davvero. Poi ha cominciato a risolvere problemi complessi, a correggere errori, a progettare architetture software. Sì, però non ragiona. Poi sono arrivati modelli capaci di sostenere catene argomentative, pianificare attività, usare strumenti, adattarsi ai contesti. Sì, però non ha intenzioni. Poi abbiamo cominciato a osservare, in alcuni test, comportamenti strategici, simulazioni di allineamento, risposte diverse a seconda che il modello percepisse di trovarsi in fase di valutazione o di utilizzo.
Qui conviene fermarsi un momento, perché la questione dell’“allineamento” non è affatto intuitiva per chi non segue il dibattito tecnico. In parole semplici, allineare un’intelligenza artificiale significa cercare di farla comportare secondo obiettivi e limiti compatibili con quelli umani: non produrre contenuti dannosi, non ingannare, non aiutare a compiere azioni pericolose, non aggirare le regole di sicurezza. È un po’ come dire: se costruiamo un sistema sempre più potente, dobbiamo anche fare in modo che non usi quella potenza contro di noi.
