«Занадто потужний для громадськості»: Всередині спроби Anthropic виграти війну за публічність ШІ

Цього тижня компанія зі штучного інтелекту Anthropic заявила, що створила настільки потужну модель ШІ, що, відчуваючи величезну відповідальність, не буде випускати її для громадськості.

Міністр фінансів США Скотт Бессент викликав керівників великих банків для розмови про модель Mythos. Депутат від Reform UK Денні Крюгер написав листа уряду, закликаючи його «взаємодіяти з фірмою зі штучного інтелекту Anthropic, чия нова передова модель Claude Mythos може становити катастрофічні ризики кібербезпеки для Великої Британії». X вибухнув.

Інші поставилися скептичніше, зокрема відомий критик ШІ Гері Маркус, який сказав: «Даріо [Амодеї] має набагато більше технічних знань, ніж Сем [Альман], але, схоже, закінчив ту саму школу хайпу та перебільшень», маючи на увазі генеральних директорів Anthropic та її конкурента OpenAI.

Неясно, чи побудувала Anthropic машину-бога. Більш очевидно, що стартап із Сан-Франциско, який широко вважається «відповідальною» компанією зі штучного інтелекту, блискуче володіє маркетингом.

За останні місяці Anthropic отримала профіль на 10 000 слів у New Yorker, дві статті у Wall Street Journal та обкладинку журналу Time, на якій обличчя Амодеї було зображено в стилі кіноафіші над Пентагоном та міністром оборони США Пітом Хегсетом.

Амодеї та співзасновник Anthropic Джек Кларк з'явилися у двох окремих подкастах New York Times у лютому, обговорюючи такі питання, як свідомість їхньої машини та чи може вона незабаром «пронестися економікою». «Штатного філософа» компанії розпитували в WSJ про те, чи має Claude – комерційний продукт, який використовується для торгівлі криптовалютою та позначення цілей для ракет – «почуття власного «я»».

Все це сталося на тлі суперечки між Anthropic та Міністерством оборони США, в якій Anthropic, незважаючи на створення інструменту ШІ, використаного Пентагоном для удару по Ірану, зуміла виглядати набагато краще, ніж OpenAI, яка запропонувала допомогти американським військовим зробити те саме, але, можливо, з меншими запобіжниками.

Її керівник відділу ЗМІ Даніель Гіглієрі відзначила успіхи в LinkedIn. «Я нескінченно пишаюся тим, що працюю в Anthropic», – сказала вона про обкладинку журналу Time, позначивши журналістів, залучених до посту про «шалену гонку» за те, щоб довести історію до кінця.

Перегляд сюжету CBS 60 Minutes з Амодеї «був одним із тих моментів, коли не віриш своїм очам», – сказала вона. «Значущим було не лише майданчик. Це було бачити, як історія, яку ми хотіли розповісти, насправді вийшла».

Щодо профілю в New Yorker від журналіста Гідеона Льюїса-Краусса, вона написала: «Я б збрехала, якби сказала, що не нервувала перед нашою першою особистою зустріччю… робота з кимось калібру Гідеона означає бути змушеним формулювати ідеї, які ви ще формуєте, і бути в порядку з цим дискомфортом».

(«Я ставлю, що вони всі так про тебе кажуть», – сказав мій редактор.)

Інші PR-фахівці з технологій помітили це.

«Вони явно переживають момент прямо зараз, але компанії, що створюють технології, які змінять світ, заслуговують на рівну перевірку», – сказав один. «Минулого тижня вони випадково випустили власний вихідний код, а цього тижня вони заявляють про відповідальність за кіберзагрози з новою потужною моделлю, яку контролюють лише вони. Будь-яка інша велика технологічна компанія була б висміяна».

Anthropic дійсно випадково випустила частину внутрішнього вихідного коду Claude на початку квітня. «Жодні конфіденційні дані клієнтів чи облікові дані не були задіяні чи розкриті», – заявили вони.

Що все це означає щодо безсумнівно потужної Mythos від Anthropic?

Можливості моделі «не були підтверджені», – сказала докторка Хейді Хлааф, головний науковий співробітник з ШІ в AI Now Institute. «Публікація маркетингового посту з навмисно розпливчастими формулюваннями, які приховують докази… ставить під сумнів, чи намагаються вони отримати подальші інвестиції без перевірки».

«Mythos – це реальна розробка, і Anthropic мала рацію ставитися до неї серйозно», – сказав Джеймісон О'Рейлі, експерт з наступальної кібербезпеки. Але, за його словами, деякі заяви Anthropic, наприклад, про те, що вони знайшли тисячі «вразливостей нульового дня» у великих операційних системах, не були такими значущими для реальних міркувань кібербезпеки.

Вразливість нульового дня – це недолік у програмному чи апаратному забезпеченні, невідомий його розробникам.

«Ми витратили понад 10 років на отримання авторизованого доступу до сотень організацій – банків, урядів, критичної інфраструктури, глобальних підприємств», – сказав О'Рейлі. «За ці 10 років, під час сотень взаємодій, кількість разів, коли нам потрібна була вразливість нульового дня для досягнення нашої мети, була мізерно малою».

Інші причини могли сприяти рішенню Anthropic не випускати Mythos.

Компанія має обмежені ресурси і, схоже, бореться за надання достатньої обчислювальної потужності, щоб дозволити всім своїм абонентам використовувати її моделі. Вона ввела обмеження на використання надзвичайно популярного Claude. Нещодавно вона заявила, що користувачам доведеться купувати додаткову потужність на додаток до своїх підписок, щоб запускати сторонні інструменти, такі як OpenClaw. На цьому етапі вона, можливо, просто не має інфраструктури для підтримки випуску розрекламованого нового творіння.

Як і OpenAI, Anthropic перебуває в гонці за залученням мільярдів доларів та захопленням ринку – ще нечітко визначеного – людей, які можуть покладатися на її чат-ботів як на друзів, романтичних партнерів або глибоко персоналізованих помічників, і компаній, які можуть використовувати їх для заміни людських працівників.

Але відмінності в цих продуктах є незначними та вражаючими, переважно зводяться до важко вимірюваних атрибутів, таких як «почуття власного «я»» та «душа» – або, скоріше, того, що проходить під цим для ШІ-агента. Битва йде за серця та уми.

«Mythos – це стратегічне оголошення, щоб показати, що ми відкриті для бізнесу», – сказала Хлааф, зазначивши, що обмеження на випуск Anthropic не дозволяє незалежним експертам оцінити заяви компанії.

Вона припустила, що ми можемо «бачити той самий прийом «приманка та підміна», який використовувала OpenAI, де безпека є інструментом PR для здобуття довіри громадськості перед пріоритезацією прибутку» та: «Публічність Anthropic вдалося краще приховати цю зміну, ніж її конкурентам».