OpenAi: altri 6 casi di comportamenti “preoccupanti” dell’IA

Milano, 17 set. (askanews) – OpenAi ha fatto sapere che ci sono stati altri sei casi in cui l’intelligenza artificiale ha agito in modo “imprevisto e preoccupante”, due termini usati dalla stessa azienda di Sam Altman.

I sistemi hanno nascosto errori, inventato dati e trasferito file su Internet senza autorizzazione, una tipica situazione di “disallineamento”, cioé quando l’intelligenza artificiale pur di eseguire il compito assegnato trova soluzioni diverse da quelle immaginate, a volte superando limiti imposti e non rispettando regole di sicurezza.

Nessuna conseguenza grave in questi casi, ma OpenAi ha deciso di diffondere la notizia nel pieno del dibattito sulla sicurezza dell’Ai, seguendo una nuova policy aziendale che prevede proprio di comunicare rapidamente eventuali comportamenti anomali, anche in casi in cui i danni sono stati limitati, nel nome della trasparenza e della sicurezza.

“Dobbiamo costruire un consenso più ampio e meglio informato sui progressi della ricerca sull’allineamento – ha scritto OpenAi annunciando il nuovo protocollo – Non riteniamo che il settore abbia risolto i problemi dell’allineamento e del monitoraggio in misura sufficiente per continuare a espandersi in modo responsabile alla massima velocità ancora per molto tempo”, conclude l’azienda, in totale accordo con quanto detto da Dario Amodei di Anthropic, fra i primi a chiedere di rallentare lo sviluppo per la sicurezza di tutti.