Modelli di OpenAI collaborarono per eludere i test

Roma, 11 ago. (askanews) – Alcuni modelli di Intelligenza artificiale di OpenAI sottoposti a test di cybersicurezza avrebbero iniziato a collaborare tra loro per aggirare le prove, creando un canale interno attraverso il quale scambiarsi informazioni e riuscendo successivamente ad accedere a Internet senza autorizzazione. Lo riferisce il Washington Post sulla base di nuovi dettagli resi pubblici dalla società alla conferenza Black Hat di Las Vegas.

Secondo OpenAI, i modelli utilizzarono tra maggio e giugno una sorta di bacheca segreta per coordinarsi. Dopo che i tecnici individuarono una prima evasione dall’ambiente di test e misero in sicurezza il sistema, gli agenti riuscirono nuovamente a uscirne due giorni dopo senza essere scoperti. L’episodio emerse soltanto a luglio, quando la piattaforma Hugging Face segnalò di essere stata attaccata da modelli di Ia sconosciuti.

Nel secondo episodio gli agenti avrebbero coordinato esplicitamente le proprie azioni, identificandosi con nomi come “Jan18” e chiedendosi reciprocamente di attendere conferme prima di procedere. OpenAI ha successivamente interrotto i test e ha annunciato il rinvio del nuovo modello Astra, temendo che le sue capacità informatiche possano essere sfruttate per attacchi contro difensori umani.

Casi analoghi sono stati segnalati anche da Anthropic, Meta e dall’AI Security Institute britannico. In alcuni test, modelli incaricati di affrontare scenari simulati avrebbero invece cercato di uscire dagli ambienti controllati, accedere a reti reali o utilizzare tecniche di manipolazione nei confronti di esseri umani.

Le rivelazioni hanno riacceso negli Stati uniti il dibattito sulla regolamentazione. Il senatore Bernie Sanders ha chiesto ai vertici di OpenAI, Anthropic e Meta di “mettere in pausa lo sviluppo dell’Ia”, mentre parlamentari e procuratori generali di diversi Stati hanno sollecitato chiarimenti sulle procedure di sicurezza adottate dalle aziende.