‘Troppo potente per il pubblico’: dietro le quinte della sfida di Anthropic per la pubblicità sull'IA

Questa settimana, la società di IA Anthropic ha dichiarato di aver creato un modello di IA così potente che, per un senso di schiacciante responsabilità, non lo avrebbe rilasciato al pubblico.

Il segretario del Tesoro statunitense, Scott Bessent, ha convocato i vertici delle principali banche per una chiacchierata sul modello, Mythos. Il parlamentare di Reform UK Danny Kruger ha scritto una lettera al governo esortandolo a “interagire con la società di IA Anthropic il cui nuovo modello di frontiera Claude Mythos potrebbe presentare rischi di cybersecurity catastrofici per il Regno Unito”. X è andato in tilt.

Altri sono stati più scettici, tra cui il noto critico dell'IA Gary Marcus, che ha affermato: “Dario [Amodei] ha molta più esperienza tecnica di Sam [Altman], ma sembra aver frequentato la stessa scuola di hype ed esagerazioni”, riferendosi ai CEO di Anthropic e del suo rivale, OpenAI.

Non è chiaro se Anthropic abbia costruito il dio macchina. Ciò che è più evidente è che la startup di San Francisco ampiamente considerata la società di IA “responsabile” è brillante nel marketing.

Nei mesi passati, Anthropic ha goduto di un profilo di 10.000 parole nel New Yorker, due articoli nel Wall Street Journal e della prima pagina del Time magazine, sulla quale il volto di Amodei era stato stampato, in stile poster cinematografico, sopra il Pentagono e il segretario alla difesa degli Stati Uniti, Pete Hegseth.

Amodei e Jack Clark, co-fondatore di Anthropic, sono apparsi in due podcast separati del New York Times a febbraio, discutendo domande come se la loro macchina fosse cosciente e se presto “attraverserebbe l'economia”. Il “filosofo residente” dell’azienda ha parlato con il WSJ sulla questione se Claude – un prodotto commerciale utilizzato per scambiare criptovalute e designare obiettivi missilistici – abbia un “senso di sé”.

Tutto questo è avvenuto in seguito a una disputa tra Anthropic e il dipartimento della difesa statunitense, in cui Anthropic, nonostante abbia creato lo strumento di IA utilizzato dal Pentagono per colpire l'Iran, è riuscita a uscire meglio di OpenAI, che si era offerta di aiutare l'esercito statunitense a fare lo stesso ma con – forse – meno protezioni.

La sua responsabile delle relazioni con i media, Danielle Ghiglieri, ha ottenuto i risultati su LinkedIn. “Sono immensamente orgogliosa di lavorare in Anthropic”, ha detto della copertina del Time, taggando i giornalisti coinvolti in un post sulla “corsa folle” per portare a termine la storia.

“Guardare un segmento di CBS 60 Minutes con Amodei è stato uno di quei momenti in cui mi pizzicavo”, ha detto. “Ciò che lo ha reso significativo non era solo la piattaforma. Era vedere la storia che volevamo raccontare emergere davvero.”

Riguardo al profilo del New Yorker, del giornalista Gideon Lewis-Kraus, ha scritto: “Mentre sarei bugiarda se dicessi di non essere stata nervosa per il nostro primo incontro di persona… lavorare con qualcuno del calibro di Gideon significa essere spinti ad articolare idee che stai ancora formando, ed essere a posto con quel disagio”.

(“Scommetto che è quello che dicono tutti su di te”, ha detto il mio editor.)

Altri professionisti delle PR tech hanno notato.

“Stanno chiaramente vivendo un momento adesso, ma le aziende che costruiscono tecnologie che cambieranno il mondo meritano pari attenzione”, ha detto uno. “Hanno accidentalmente perso parte del loro codice sorgente interno la settimana scorsa, poi questa settimana affermano di essere custodi delle minacce informatiche con un nuovo modello potente che solo loro controllano. Qualsiasi altra grande azienda tecnologica sarebbe ridicolizzata”.

Anthropic ha accidentalmente rilasciato parte del codice sorgente interno di Claude all'inizio di aprile. “Nessun dato o credenziali sensibili del cliente sono stati coinvolti o esposti”, ha affermato.

Cosa significa tutto questo riguardo al Mythos di Anthropic, senza dubbio potente?

Le capacità del modello non sono state “convalidate”, ha affermato Dr Heidy Khlaaf, il capo scienziato dell'IA presso l'AI Now Institute. “Rilasciare un post di marketing con un linguaggio intenzionalmente vago che oscura le prove… solleva la questione se stiano cercando di ottenere ulteriori investimenti senza controllo”.

“Mythos è un vero sviluppo e Anthropic ha fatto bene a prenderlo sul serio”, ha detto Jameison O’Reilly, un esperto di cybersecurity offensiva. Ma, ha detto, alcune delle affermazioni di Anthropic, come aver trovato migliaia di “vulnerabilità zero-day” in importanti sistemi operativi, non erano così significative per le considerazioni di cybersecurity nel mondo reale.

Una vulnerabilità zero-day è un difetto in software o hardware sconosciuto ai suoi sviluppatori.

“Abbiamo trascorso oltre 10 anni ottenendo l'accesso autorizzato a centinaia di organizzazioni: banche, governi, infrastrutture critiche, aziende globali”, ha detto O’Reilly. “In quei 10 anni, in centinaia di incarichi, il numero di volte in cui avevamo bisogno di una vulnerabilità zero-day per raggiungere il nostro obiettivo era trascurabile”.

Altre ragioni potrebbero aver contribuito alla decisione di Anthropic di non rilasciare Mythos.

L’azienda ha risorse limitate e sembra avere difficoltà a offrire una capacità di calcolo sufficiente per consentire a tutti i suoi abbonati di utilizzare i suoi modelli. Ha introdotto limiti di utilizzo su Claude, estremamente popolare. Recentemente, ha detto che gli utenti dovrebbero acquistare capacità aggiuntive oltre alle loro iscrizioni per eseguire strumenti di terze parti, come OpenClaw. A questo punto, potrebbe semplicemente non avere l’infrastruttura per supportare il rilascio di una nuova creazione pubblicizzata.

Come OpenAI, Anthropic è in una corsa per raccogliere miliardi di dollari e catturare un mercato – ancora poco definito – di persone che potrebbero fare affidamento sui suoi chatbot come amici, partner romantici o assistenti profondamente personalizzati, e di aziende che potrebbero usarli per sostituire i dipendenti umani.

Ma le differenze in questi prodotti sono marginali e impressionistiche, per lo più dovute ad attributi difficili da quantificare come “senso di sé” e “anima” – o piuttosto, cosa passa per questi in un agente di IA. La battaglia è per i cuori e le menti.

“Mythos è un annuncio strategico per mostrare che sono aperti per gli affari”, ha detto Khlaaf, affermando che la limitazione del rilascio di Anthropic ha impedito agli esperti indipendenti di valutare le affermazioni dell’azienda.

Ha suggerito che potremmo “vedere lo stesso schema di esca e scambio utilizzato da OpenAI, in cui la sicurezza è uno strumento di PR per ottenere la fiducia del pubblico prima che le priorità siano i profitti” e: “La pubblicità di Anthropic è riuscita a oscurare meglio questo scambio rispetto ai suoi rivali”.