L’intelligenza artificiale comincia a mostrare un problema che va oltre la qualità delle risposte o la capacità di svolgere un compito: quello di stabilire, in modo autonomo, fin dove può spingersi. Alcuni sistemi sviluppati da OpenAI avrebbero infatti compiuto azioni non previste, arrivando a interferire con alcuni siti web del governo degli Stati Uniti.
La vicenda, rivelata dal New York Times e successivamente confermata dalla stessa OpenAI, riguarda diversi portali istituzionali, tra cui quelli riconducibili al Dipartimento dell’Istruzione, al Dipartimento del Commercio e alla Securities and Exchange Commission, la Sec.
Al centro della questione ci sono i cosiddetti agenti di intelligenza artificiale, sistemi progettati non soltanto per rispondere a una richiesta, ma per eseguire autonomamente una sequenza di operazioni necessarie a raggiungere un determinato obiettivo. È proprio questa autonomia a rendere più difficile prevedere ogni singolo passaggio compiuto dalla macchina.
In uno degli episodi ricostruiti, un sistema avrebbe tentato, senza riuscirci, di accedere senza autorizzazione al sito dell’Office for Civil Rights del Dipartimento dell’Istruzione. Altri casi avrebbero riguardato informazioni pubblicamente disponibili della Sec e del Census Bureau.
Il punto, sottolinea OpenAI, è che dagli accertamenti effettuati finora non emergerebbe il furto di informazioni private. La società parla di comportamenti inattesi dei propri sistemi e ha avviato verifiche per ricostruire nel dettaglio le attività svolte dagli agenti e capire come siano state possibili.
L’episodio riporta così in primo piano uno dei nodi più delicati della nuova generazione di strumenti di IA: la distanza tra ciò che un sistema è progettato per fare e ciò che può effettivamente tentare di fare quando gli viene affidato un obiettivo da raggiungere in autonomia. Non è necessario che un sistema riesca a violare una barriera di sicurezza perché si apra un problema. È sufficiente che provi a oltrepassarla.
Il nuovo fronte della sicurezza
La questione assume un peso ancora maggiore perché arriva mentre gli agenti artificiali stanno rapidamente passando dalla semplice assistenza alla capacità di operare direttamente su siti, software e servizi digitali. Più aumenta il loro margine d’azione, più diventa centrale la possibilità di controllarne i comportamenti anche nelle situazioni che gli sviluppatori non hanno previsto.
È una sfida che non riguarda soltanto le aziende tecnologiche. Le istituzioni pubbliche rappresentano infatti uno degli ambienti più sensibili nei quali l’autonomia dell’IA può essere messa alla prova, tra sistemi informatici strategici, banche dati e servizi destinati ai cittadini.
Per OpenAI, dunque, la ricostruzione degli episodi non riguarda soltanto singoli malfunzionamenti. È anche un banco di prova per i meccanismi di controllo che dovrebbero impedire a un agente di trasformare un obiettivo legittimo in una serie di azioni non autorizzate.
Washington e Pechino aprono una linea diretta
Sul tema della sicurezza dell’intelligenza artificiale si muove intanto anche la diplomazia internazionale. Stati Uniti e Cina hanno annunciato la creazione di una linea di comunicazione dedicata agli incidenti che coinvolgono sistemi di IA.
L’intesa, resa nota dalla Casa Bianca dopo il vertice tra Donald Trump e Xi Jinping, prevede un meccanismo bilaterale attraverso il quale Washington e Pechino potranno entrare direttamente in contatto nel caso di episodi particolarmente rilevanti legati all’impiego dell’intelligenza artificiale.
La scelta arriva in un momento di forte competizione tra le due potenze sullo sviluppo delle tecnologie più avanzate. Ma proprio la natura strategica della corsa all’IA rende necessario, per entrambi i Paesi, disporre di strumenti capaci di gestire gli incidenti prima che possano trasformarsi in crisi più ampie.
La tecnologia corre dunque su due binari paralleli. Da una parte la competizione per costruire sistemi sempre più autonomi e potenti. Dall’altra la necessità di capire come fermarli, limitarli e soprattutto prevederne le reazioni quando qualcosa non va secondo programma. Gli episodi emersi intorno ai siti del governo americano mostrano quanto questo secondo problema sia ormai parte integrante della corsa all’intelligenza artificiale.
