I leader finanziari avvertono su Mythos mentre le banche del Regno Unito si preparano a utilizzare un potente strumento AI di Anthropic

Le banche britanniche avranno accesso, nelle prossime settimane, a un potente strumento di intelligenza artificiale che è stato ritenuto troppo pericoloso per essere rilasciato al pubblico, mentre una serie di importanti figure del settore finanziario ha lanciato un avvertimento sul suo impatto.

Anthropic, che finora ha limitato il rilascio del nuovo modello a un piccolo gruppo di aziende principalmente statunitensi, tra cui Amazon, Apple e Microsoft, ha dichiarato che lo estenderà alle istituzioni finanziarie del Regno Unito nei prossimi giorni.

"Questo avverrà a breve, nelle prossime settimane", ha affermato Pip White, responsabile delle operazioni di Anthropic per il Regno Unito, l'Irlanda e il nord Europa, in un'intervista a Bloomberg TV. "Come ci si aspetterebbe, l'interazione che ho avuto con i CEO del Regno Unito nell'ultima settimana è stata significativa."

Anthropic, l'azienda dietro la famiglia di strumenti AI Claude, ha affermato che il suo ultimo modello, Mythos, pone un rischio senza precedenti a causa della sua capacità di esporre le vulnerabilità dei sistemi IT.

"I modelli di intelligenza artificiale hanno raggiunto un livello di capacità di codifica in cui possono superare tutti tranne gli esseri umani più esperti nell'individuazione e nello sfruttamento delle vulnerabilità del software", ha affermato Anthropic in un post sul blog all'inizio del mese. "Le conseguenze – per le economie, la sicurezza pubblica e la sicurezza nazionale – potrebbero essere gravi."

I ministri delle finanze, i dirigenti e i regolatori hanno discusso delle potenziali minacce mentre si sono riuniti questa settimana a Washington per gli incontri primaverili del Fondo Monetario Internazionale e della Banca Mondiale, affrontando anche le preoccupazioni sulle ripercussioni globali derivanti dalla guerra israelo-palestinese con l'Iran.

Il ministro delle finanze canadese, François-Philippe Champagne, ha detto alla BBC: "Certamente è abbastanza seria da giustificare l'attenzione di tutti i ministri delle finanze... La differenza con lo stretto di Hormuz è che sappiamo dove si trova e sappiamo quanto è grande.

"Il problema che stiamo affrontando con Anthropic è che è uno sconosciuto sconosciuto. Richiede molta attenzione in modo da avere delle salvaguardie e dei processi in atto per garantire la resilienza del nostro sistema finanziario."

Andrew Bailey, il governatore della Banca d'Inghilterra che presiede anche il Financial Stability Board dei regolatori globali, ha detto: "È una sfida molto seria per tutti noi. Ci ricorda quanto velocemente si muove il mondo dell'intelligenza artificiale."

Tuttavia, ha detto che i regolatori devono considerare se, e quanto duramente, reprimere la tecnologia, poiché i governi cercano di ottenere i benefici economici dell'intelligenza artificiale. "Qual è il momento ottimale per definire le regole della strada?" ha chiesto Bailey. "Se si agisce troppo presto si a) rischia di mancare il bersaglio e b) si rischia di distorcere l'evoluzione, e se si agisce troppo tardi le cose possono sfuggire di mano."

Il presidente della Banca Centrale Europea, Christine Lagarde, ha detto: "Lo sviluppo che abbiamo visto con Anthropic e Mythos è un buon esempio di un'azienda responsabile che improvvisamente pensa: 'Ah, potrebbe essere davvero buono' - ma se finisce nelle mani sbagliate, potrebbe essere davvero male.

"Tutti sono desiderosi di avere un quadro di riferimento entro il quale operare", ha detto Lagarde a Bloomberg TV. Ma ha aggiunto: "Non credo che ci sia un quadro di governance che sia lì per gestire queste cose. Dobbiamo lavorare su questo."