‘For mektig for allmennheten’: Innsikt i Anthropics forsøk på å vinne AI-PR-krigen

Denne uken sa AI-selskapet Anthropic at de hadde skapt en AI-modell som var så kraftig at de, ut fra en følelse av overveldende ansvar, ikke ville slippe den ut til allmennheten.

USAs finansminister, Scott Bessent, innkalte lederne for store banker til en prat om modellen, Mythos. Reform UK-parlamentarikeren Danny Kruger skrev et brev til regjeringen og oppfordret den til å «engasjere seg med AI-selskapet Anthropic hvis nye frontmodell Claude Mythos kan utgjøre katastrofale cybersikkerhetsrisikoer for Storbritannia». X gikk amok.

Andre var mer skeptiske, inkludert den anerkjente AI-kritikeren Gary Marcus, som sa: «Dario [Amodei] har langt mer teknisk kompetanse enn Sam [Altman], men ser ut til å ha gått på samme skole for hype og overdrivelse», med henvisning til administrerende direktører i Anthropic og dets rival, OpenAI.

Det er uklart om Anthropic har bygget maskinguden. Det som er mer åpenbart, er at startup-selskapet i San Francisco, som ofte blir sett på som det «ansvarlige» AI-selskapet, er briljant til markedsføring.

I løpet av de siste månedene har Anthropic hatt glede av en 10 000-ords profil i The New Yorker, to artikler i The Wall Street Journal og forside på Time magazine, hvor Amodeis ansikt var preget, i stil med en filmplakat, over Pentagon og USAs forsvarsminister, Pete Hegseth.

Amodei og Anthropics medgrunnlegger, Jack Clark, deltok i to separate New York Times-podcaster i februar, og diskuterte spørsmål som om deres maskin var bevisst, og om den kanskje snart ville «rive gjennom økonomien». Selskapets «resident filosof» har snakket med WSJ om hvorvidt Claude – et kommersielt produkt som brukes til å handle kryptovaluta og utpeke missil-mål – har en «følelse av seg selv».

Dette har skjedd samtidig som det har vært en krangel mellom Anthropic og USAs forsvarsdepartement, hvor Anthropic, til tross for at de har skapt AI-verktøyet som brukes av Pentagon til å slå til mot Iran, har klart å komme ut bedre enn OpenAI, som tilbød å hjelpe det amerikanske militæret med å gjøre det samme, men kanskje med færre sikkerhetsbarrierer.

Deres medieansvarlige, Danielle Ghiglieri, har oppnådd seire på LinkedIn. «Jeg er uendelig stolt over å jobbe i Anthropic», sa hun om Tima-forsiden, og tagget journalistene som var involvert i et innlegg om «den gale jakten» for å få historien over målstreken.

Å se et CBS 60 Minutes-segment med Amodei «var et av disse klem-meg-øyeblikkene», sa hun. «Det som gjorde det meningsfylt, var ikke bare plattformen. Det var å se den historien vi ønsket å fortelle, faktisk komme frem.»

Om The New Yorker-profilen, av journalisten Gideon Lewis-Kraus, skrev hun: «Jeg ville lyve hvis jeg sa jeg ikke var nervøs for vårt første møte ansikt til ansikt ... å jobbe med noen av Gideons kaliber betyr å bli presset til å artikulere ideer du fortsatt er i ferd med å forme, og å være OK med den ubehaget.»

(«Jeg vedder på at det er det de alle sier om deg», sa redaktøren min.)

Andre tech-PR-folk har lagt merke til det.

«De har tydeligvis et øyeblikk akkurat nå, men selskaper som bygger teknologi som vil endre verden, fortjener like stor granskning», sa en. «De lekket ved et uhell sin egen kildekode forrige uke, og denne uken hevder de forvaltning over cybersikkerhetstrusler med en ny kraftig modell som bare de kontrollerer. Ethvert annet stort teknologiselskap ville blitt latterliggjort.»

Anthropic slapp ved et uhell en del av Claudes interne kildekode i begynnelsen av april. «Ingen sensitive kundeopplysninger eller legitimasjon var involvert eller eksponert», sa de.

Hva betyr alt dette om Anthropics utvilsomt kraftige Mythos?

Modellens kapasiteter var ikke «bekreftet», sa Dr. Heidy Khlaaf, sjefs-AI-forsker ved AI Now Institute. «Å publisere et markedsføringspost med tilsiktet vagt språk som skjuler bevis ... reiser spørsmål om de prøver å skaffe ytterligere investeringer uten granskning.»

«Mythos er en reell utvikling, og Anthropic hadde rett i å ta det alvorlig», sa Jameison O’Reilly, en ekspert på offensiv cybersikkerhet. Men han sa at noen av Anthropics påstander, som at de fant tusenvis av «zero-day sårbarheter» i store operativsystemer, ikke var så betydningsfulle for reelle cybersikkerhetshensyn.

En zero-day sårbarhet er en feil i programvare eller maskinvare som er ukjent for utviklerne.

«Vi har brukt over 10 år på å få autorisert tilgang til hundrevis av organisasjoner – banker, myndigheter, kritisk infrastruktur, globale selskaper», sa O’Reilly. «I løpet av disse 10 årene, på tvers av hundrevis av engasjementer, var antall ganger vi trengte en zero-day sårbarhet for å oppnå vårt mål, forsvinnende små.»

Andre grunner kan ha bidratt til Anthropics beslutning om å ikke slippe Mythos.

Selskapet har begrensede ressurser, og ser ut til å slite med å tilby nok datakapasitet til å la alle sine abonnenter bruke modellene sine. De har innført bruksgrenser på den populære Claude. Nylig sa de at brukere måtte kjøpe ekstra kapasitet i tillegg til sine abonnementer for å kjøre tredjepartsverktøy, som OpenClaw. På dette punktet har de kanskje rett og slett ikke infrastrukturen til å støtte utgivelsen av en hypet ny kreasjon.

Som OpenAI er Anthropic i et kappløp for å skaffe milliarder av dollar og ta en markedsandel – fortsatt vagt definert – av mennesker som kanskje lener seg på sine chatbots som venner, romantiske partnere eller dypt personlige assistenter, og av selskaper som kanskje bruker dem til å erstatte menneskelige ansatte.

Men forskjellene i disse produktene er marginale og impressionistiske, hovedsakelig ned til vanskelig-kvantifiserbare attributter som «følelse av seg selv» og «sjel» – eller snarere, hva som foregir disse i en AI-agent. Kampen er for hjerter og sinn.

«Mythos er en strategisk kunngjøring for å vise at de er åpne for business», sa Khlaaf, og påpekte at Anthropics begrensning av utgivelsen hindret uavhengige eksperter i å evaluere selskapets påstander.

Hun antydet at vi kanskje «ser nøyaktig den samme lokke- og bytte-spillboken som ble brukt av OpenAI, der sikkerhet er et PR-verktøy for å vinne offentlig tillit før fortjeneste prioriteres» og: «Anthropic PR har klart å skjule denne byttehandelen bedre enn sine rivaler.»