La visione del Guardian su Anthropic’s Claude Mythos: quando l’IA trova ogni falla, chi controlla internet? | Editoriale

Anthropic ha annunciato questo mese il suo ultimo modello di IA, Claude Mythos, ma ha dichiarato che non sarebbe stato rilasciato pubblicamente, perché trasforma i computer in scene del crimine. L'azienda ha affermato che potrebbe trovare falle "zero-day" precedentemente sconosciute, sfruttarle e, in linea di principio, collegare queste debolezze per assumere il controllo di importanti sistemi operativi e browser web. Mythos lo ha fatto autonomamente, scrivendo codice e ottenendo privilegi. Le implicazioni sono significative. È come se un ladro potesse prendere di mira qualsiasi edificio, entrare, aprire ogni porta e svuotare ogni cassaforte.

L'azienda della Silicon Valley ha finora nominato 40 organizzazioni come partner nell'ambito del Project Glasswing per aiutare a organizzare una difesa, chiedendo loro di "patchare" le vulnerabilità prima che gli hacker abbiano la possibilità di sfruttarle. Sono tutte americane, al centro del sistema digitale guidato dagli Stati Uniti. Anthropic ha condiviso Mythos solo con la Gran Bretagna al di fuori degli Stati Uniti, consentendo all'AI Security Institute di testare modelli all'avanguardia. Dopo averlo visto da vicino, i ministri britannici hanno avvertito: l'IA sta per rendere gli attacchi informatici molto più facili e veloci, e la maggior parte delle aziende non è pronta. Le banche in Europa probabilmente lo testeranno per prime.

Questo potrebbe non essere un momento troppo presto. Questa settimana sono emersi rapporti di accessi non autorizzati, sollevando la questione se qualsiasi azienda privata possa essere ritenuta affidabile con una capacità del genere. Mythos non crea necessariamente un nuovo tipo di minaccia informatica. Trasforma una debolezza latente in un rischio sistemico. L'hacking è tradizionalmente stato difficile e dispendioso in termini di tempo, richiedendo competenze che poche persone possiedono. Ma gli strumenti di IA si stanno diffondendo rapidamente, mettendo le violazioni di sistema alla portata di molti, non solo di esperti.

Anche un bracconiere può essere trasformato in un guardiacaccia. Mozilla ha testato Mythos sul suo browser Firefox: ha trovato 10 volte più falle di prima, e le ha corrette. Fondamentalmente, nessuna di esse era qualcosa che un umano non potesse individuare. Ciò che cambia è che l'IA scopre le "vulnerabilità informatiche" in modo rapido, economico e su larga scala.

L'abbraccio del governo degli Stati Uniti ad Anthropic segna un cambiamento. A febbraio, il Pentagono ha definito l'azienda un "rischio per la sicurezza" e l'ha esclusa da lucrosi accordi dopo che questa si è rifiutata di consentire l'uso della sua tecnologia per la sorveglianza di massa o le armi autonome. OpenAI ha ottenuto il contratto invece. Anthropic, con il suo chatbot Claude, si è a lungo proposta come l'alternativa etica tra i suoi concorrenti, sebbene la sua immagine sia stata intaccata da un accordo di pirateria da 1,5 miliardi di dollari l'anno scorso.

Mythos è potente, ma la PR di Anthropic ha plasmato la narrazione tanto quanto la tecnologia. C'è anche una questione su quanto sia realmente avanzato Mythos. I ricercatori hanno dimostrato che modelli più piccoli e meno costosi distribuiti su larga scala possono compiere imprese simili. Quella che sembra una svolta potrebbe riflettere un più ampio cambiamento in tutto il settore. La Casa Bianca ritiene che Anthropic abbia un valore strategico, invitandola nuovamente nel gruppo e segnalando un passaggio dal trattare le aziende di IA come appaltatori a partner. Ciò solleva una preoccupazione più profonda: se il controllo delle infrastrutture critiche da parte di aziende private sia saggio, soprattutto se attori meno responsabili acquisiscono leva tecnica.

Chiaramente, chiunque – stato o azienda – crei i modelli di IA più potenti otterrà vantaggi geopolitici sia sugli amici che sui nemici. Senza un quadro di coordinamento internazionale sulla cybersecurity, tuttavia, si rischia di non avere un solo internet sicuro, ma una serie di internet concorrenti, ognuno dei quali "patcha" il proprio sistema e non si fida completamente degli altri. Non sarebbe più un bene comune globale. Invece, il web sarebbe diviso in alleanze di sicurezza, custodito più strettamente, mentre qualcosa di più ampio scivolerebbe via silenziosamente.

-
**Hai un'opinione sulle questioni sollevate in questo articolo? Se desideri inviare una risposta di massimo 300 parole via email per essere presa in considerazione per la pubblicazione nella nostra sezione lettere, clicca qui.**