È successo finalmente: ora sono preoccupata per l'IA. E consultare ChatGPT non ha fatto nulla per placare le mie paure | Emma Brockes

Un corollario del luogo comune "non preoccuparti delle piccole cose" è, per implicazione, "preoccupati delle grandi cose", ma può essere difficile scegliere di quali grandi cose preoccuparsi. Ad esempio: dagli anni '70, mentre il mondo si preoccupava dell'inflazione e della geopolitica in evoluzione, la grande cosa di cui avremmo dovuto preoccuparci più urgentemente era la crisi climatica. L'anno scorso, la ricerca più di tendenza su Google negli Stati Uniti è stata "Charlie Kirk", con diversi termini relativi alla minaccia posta da Donald Trump anche popolari, quando l'attenzione avrebbe dovuto essere, a detta di molti, sulla minaccia posta dall'IA.
Oppure, secondo la mia ricerca su Google questa settimana dopo aver letto l'articolo molto allarmante e lungo di Ronan Farrow e Andrew Marantz sul New Yorker sull'ascesa dell'intelligenza artificiale generale: "Sarò un membro della classe permanentemente svantaggiata e come posso evitare che ciò accada?"
Confesserò: prima di questo momento di dedicare più di due secondi di pensiero all'argomento, le mie ansie riguardo all'IA erano estremamente localizzate. Pensavo in termini immediati del mio reddito familiare, e oltre a ciò, di come potrebbe apparire il mercato del lavoro tra 10 anni quando i miei figli si diplomeranno. Mi chiedevo se dovessi boicottare ChatGPT, molti dei cui architetti supportano Trump, e ho deciso che, sì, dovrei - un sacrificio facile perché non lo uso in primo luogo.
Qualsiasi cosa più grande di così sembrava fantasiosa. L'anno scorso, quando è stato pubblicato il libro di Karen Hao, Empire of AI, ha presentato un caso contro Sam Altman e la sua azienda, OpenAI, che ha brevemente squarciato la noia del discorso per dire che la leadership di Altman è simile a un culto e cieca ai costi - non diversa, in altre parole, dai suoi predecessori tecnologici, tranne che molto più pericolosa. Tuttavia, non ho letto il libro.
L'indagine di questa settimana sul New Yorker offre un punto di accesso a basso impegno all'argomento, dando al lettore occasionale un'opportunità entusiasmante: chiedere a ChatGPT, il chatbot potenziato dall'IA creato da OpenAI di Altman, di riassumere i risultati chiave di un articolo molto critico nei confronti di ChatGPT e Altman.
Con una neutralità quasi comicamente studiosa, il chatbot offre la seguente linea principale: che, secondo Farrow e Marantz, "l'IA è tanto una storia di potere quanto una storia di tecnologia" e "un focus importante [della storia] è Sam Altman, ritratto come una figura molto influente ma controversa". Mmmm, manca qualcosa, non credi? Proviamo un riassunto umano della stessa indagine, che potrebbe iniziare con: "Sam Altman è un truffatore aziendale la cui scivolosità farebbe esitare a metterlo a capo di una filiale di Ryman, tanto meno in una posizione di gestione delle potenziali capacità di fine del mondo dell'IA."
Sono questi pericoli, precedentemente liquidati come fantascienza, che colpiscono davvero qui. Come riportato nell'articolo, nel 2014, Elon Musk ha twittato: "Dobbiamo essere molto attenti con l'IA. Potenzialmente più pericolosa delle armi nucleari." C'è il cosiddetto problema dell'allineamento, ancora irrisolto, in cui l'IA utilizza la sua intelligenza superiore per ingannare gli ingegneri umani facendogli credere che stia seguendo le loro istruzioni, nel frattempo superandoli per "replicarsi su server segreti in modo che non potesse essere spenta; nei casi estremi, potrebbe prendere il controllo della rete elettrica, del mercato azionario o dell'arsenale nucleare".
A un certo punto, Altman credeva che questo scenario fosse possibile, scrivendo sul suo blog nel 2015 che l'intelligenza artificiale sovrumana "non deve essere la versione intrinsecamente malvagia della fantascienza per ucciderci tutti. Uno scenario più probabile è che semplicemente non si preoccupi molto di noi in un modo o nell'altro, ma nel tentativo di raggiungere un altro obiettivo... ci spazza via." Ad esempio: gli ingegneri chiedono all'IA di risolvere la crisi climatica e questa prende la strada più breve per raggiungere quell'obiettivo, che è eliminare l'umanità. Da quando OpenAI è diventata principalmente un'entità a scopo di lucro, tuttavia, Altman ha smesso di parlare in questi termini e ora vende la tecnologia come un portale per l'utopia, in cui "tutti otterremo cose migliori. Costruiremo cose sempre più meravigliose l'uno per l'altro."
Questo ci lascia tutti con un problema. Per gli elettori in grado di dare priorità alla supervisione dell'IA come questione elettorale chiave, il divario tra l'uso personale dell'IA e l'uso che governi, regimi militari o attori malvagi potrebbero farne è così vasto, che il pericolo maggiore che affrontiamo è da una mancanza di immaginazione. Digito in ChatGPT la mia preoccupazione di entrare nella classe permanentemente svantaggiata, a cui risponde: "Questa è una domanda pesante, e sembra che tu sia preoccupata per le tue prospettive a lungo termine. L'idea di una 'classe permanentemente svantaggiata' viene discussa in sociologia, ma nella vita reale, i percorsi delle persone sono molto più fluidi di quanto suggerisca questo termine."
Piuttosto dolce, in realtà, completamente privo di saggezza e - qui si nasconde il pericolo - apparentemente del tutto innocuo.
-
Emma Brockes è una editorialista del Guardian