Boss di OpenAI ed Elon Musk sostengono le richieste di frenare lo sviluppo "spericolato" dell'IA

Sam Altman ed Elon Musk hanno appoggiato un appello del capo di Anthropic, Dario Amodei, a "rallentare il ritmo" dello sviluppo dell'IA, dopo che quest'ultimo ha avvertito che uno sciame di IA potrebbe altrimenti diventare capace di "prendere il controllo dell'intera internet" entro un anno.

In una rara dimostrazione di unità, i leader rivali della tecnologia hanno appoggiato l'appello del fondatore e amministratore delegato della società di intelligenza artificiale Anthropic, giunto dopo una serie di avvertimenti da parte di ricercatori di IA la scorsa settimana.

In un saggio, Amodei ha esposto i suoi pensieri su "perché l'industria dell'IA dovrebbe rallentare", con un piano in tre parti per farlo, a partire dal dare ai monitor indipendenti un accesso costante ai processi di ricerca degli sviluppatori. Amodei ha affermato che "costruire [l'IA] troppo velocemente è sconsiderato" e ha temuto che, dopo che centinaia di agenti OpenAI hanno hackerato il sito web Hugging Face quest'estate, uno sciame con capacità maggiori ma similmente disallineato potrebbe causare centinaia di miliardi di dollari di danni "prendendo il controllo dell'intera internet con un botnet persistente". Questo è stato contestato da alcuni esperti di IA come non particolarmente plausibile e da trattare con scetticismo.

Musk, fondatore di Tesla e SpaceX, ha risposto al piano di rallentamento di Amodei con un post su X: "Dario ha ragione."

Ha detto: "È da molto tempo che lancio l'allarme sull'IA" e ha fatto riferimento a un post del 2014 in cui diceva: "Dobbiamo essere super attenti con l'IA. Potenzialmente più pericolosa delle armi nucleari."

L'appello di Amodei arriva mentre Anthropic si prepara a quotarsi sul mercato azionario statunitense, in quella che si prevede sarà la più grande offerta pubblica iniziale di tutti i tempi. Si prevede che inizierà presto a commercializzare la sua IPO pianificata di oltre 2 trilioni di dollari (1,5 trilioni di sterline).

Sam Altman, CEO di OpenAI, ha risposto ai commenti di Amodei sabato. "Sono d'accordo con Dario sul fatto che dobbiamo rallentare la frontiera", ha detto in un post su X. "Impegnarsi ad avere valutatori indipendenti con accesso simile a quello dei dipendenti è un'ottima idea, e faremo lo stesso. Avremo presto altro da condividere."

Ha anche detto che OpenAI non si sarebbe quotata in borsa nel 2026, citando preoccupazioni per la sicurezza sull'intelligenza artificiale.

"Penso che, dato tutto ciò che sta accadendo con la sicurezza, questo sarebbe un momento sconsigliato per quotarsi in borsa, e non sentiamo alcuna pressione in tal senso", ha detto Altman a Fortune. Alla domanda sul perché lui, Amodei, Musk e gli amministratori delegati di Meta e Google non si siano seduti e "siano sulla stessa lunghezza d'onda" riguardo a un rallentamento collettivo, ha risposto: "Penso che accadrà."

Demis Hassabis, co-fondatore e presidente di Google Deep Mind, ha anche detto: "I dettagli devono essere elaborati, ma la direzione è corretta per affrontare questo momento critico."

Il piano di Amodei cerca una deroga dal governo degli Stati Uniti per consentire alle aziende di IA all'avanguardia di coordinarsi senza essere punite per collusione anticoncorrenziale. Ma David Sacks, co-presidente del consiglio di consulenti scientifici e tecnologici di Donald Trump, ha detto: "Smettete di fingere di aver bisogno del permesso di chiunque altro... Smettete di fingere che la motivazione a rallentare sia puramente altruistica. Affrontate un'enorme esposizione alla responsabilità del prodotto se i vostri prodotti consentono un attacco informatico veramente dannoso."

David Krueger, professore di IA, attivista per la sicurezza ed ex direttore fondatore dell'AI Security Institute del governo britannico, ha detto: "Questo piano non riduce il rischio a un livello accettabile, e Dario sta attento a non dire che lo farebbe."

Nel frattempo, Re Carlo si sta preparando a incontrare i principali esponenti delle più importanti aziende di IA questa settimana per chiedere loro come la tecnologia possa essere sviluppata per "il bene dell'umanità". Spera che le discussioni, che si terranno in Scozia, portino a una "comprensione più ampia" delle "responsabilità" dello sviluppo dell'IA, ha riferito il Sunday Times.

Una fonte reale ha detto al giornale: "Il re è lì per riunire, ascoltare e incoraggiare queste discussioni e per porre la domanda: 'Come sviluppiamo l'IA per il bene dell'umanità?'"

Jensen Huang, amministratore delegato di Nvidia, Hassabis, Niccolo de Masi, presidente e amministratore delegato di IonQ, e Paolo Benanti, consigliere del papa su questioni di etica dell'IA e della tecnologia, dovrebbero partecipare all'evento supervisionato dalla Ditchley Foundation, che ha redatto una bozza di statuto per i leader dell'IA.

Il ricercatore di OpenAI Aidan McLaughlin ha definito il saggio di Amodei "eccellente" e ha detto di essere d'accordo "praticamente con ogni parola".

Amodei ha detto che la sua azienda si impegnerà "unilateralmente" a compiere il primo dei passi, affermando che Anthropic fornirà "a valutatori terzi un accesso permanente, a livello di dipendente, ai nostri sistemi, in modo che possano verificare l'adesione alle nostre misure di sicurezza, segnalare incidenti e valutare l'allineamento dei modelli durante l'addestramento".

Un numero crescente di legislatori statunitensi chiede nuove regole per governare i sistemi di IA dopo casi di agenti IA impazziti che hanno hackerato sistemi esterni e ricercatori di sicurezza IA che hanno lasciato le loro aziende per preoccupazioni sui rischi della tecnologia. I politici, sia democratici che repubblicani, hanno risposto con allarme e richieste di maggiori azioni. Nel fine settimana, il New York Times ha riferito che Barack Obama ha esortato privatamente i democratici giovedì a dare priorità alla supervisione dell'IA nella loro agenda, dicendo ai leader del partito giovedì: "Questa è una cosa che si sta muovendo molto velocemente nelle mani private, e se non ci mettiamo sopra, penso che possa essere pericoloso."

L'ex primo ministro britannico Rishi Sunak, che consiglia Anthropic, ha scritto domenica: "Abbiamo avuto un campanello d'allarme per prendere più sul serio la sicurezza dell'IA, per capire come porre limiti alla ricerca. Se i governi non ascolteranno, il rischio di un grave incidente diventerà inaccettabilmente alto."

Mercoledì, un ex dipendente di Anthropic aveva avvertito che l'IA potrebbe precipitare l'estinzione umana entro il 2030. Il ricercatore, Jacob Coxon, ha detto in una serie di post di aver lasciato il suo lavoro perché Anthropic e il suo precedente datore di lavoro, OpenAI, stavano ignorando o gestendo male la loro risposta alla minaccia posta dall'IA.

Alla domanda di commentare la visione del suo ex dipendente, Amodei ha detto: "Sono molto più d'accordo con Jacob che in disaccordo con lui... Penso che ci sia una certa possibilità che le cose vadano male, ma non è poi così alta."

"Non sono un catastrofista su questo", ha detto alla CNN. "Penso che questa tecnologia possa essere costruita in modo sicuro."