Що таке Claude Mythos і які ризики він несе?

Протягом останніх тижнів світ штучного інтелекту гудів у зв’язку з заявами, зробленими провідною компанією Anthropic, щодо її нової моделі Claude Mythos.

Компанія стверджує, що виявила, що інструмент може перевершувати людей у деяких завданнях з хакінгу та кібербезпеки, що викликало обговорення серед регуляторів, законодавців і фінансових установ щодо небезпек, які він може становити для цифрових послуг.

Кілька технологічних гігантів отримали доступ до Mythos через ініціативу під назвою Project Glasswing, призначену для зміцнення стійкості до Mythos.

Але інші зазначають, що в інтересах Anthropic запропонувати, що її інструмент має можливості, яких раніше не було, тобто – як завжди з ШІ – завдання розрізнити обґрунтовані заяви та хайп може бути складним.

Що таке Claude Mythos?

Mythos є однією з останніх моделей Anthropic, розробленою як частина її ширшої системи ШІ під назвою Claude. Вона охоплює ШІ-асистента компанії та сім’ю моделей, конкуруючи з ChatGPT від OpenAI та Gemini від Google.

Вона була розкрита Anthropic на початку квітня як "Mythos Preview".

Дослідники, які тестують, як моделі ШІ обробляють певні запити або завдання, відомі як "червоні команди", повідомили у звіті, що Mythos "вражаюче здатний до завдань комп’ютерної безпеки".

Вони виявили, що інструмент може знаходити дрімотні помилки в коді віком десятиліття і легко експлуатувати їх.

Тому, замість того, щоб широко розповсюджувати його для користувачів Claude, Anthropic надав 12 технологічним компаніям доступ через Project Glasswing, який вона описала як "зусилля для захисту найважливішого програмного забезпечення у світі".

До них належать гігант хмарних обчислень Amazon Web Services, виробники пристроїв Apple, Microsoft і Google, а також виробники чипів Nvidia і Broadcom.

Crowdstrike, чиє програмне оновлення викликало серйозну глобальну зупинку в липні 2024 року, також є серед партнерів проекту, згідно з Anthropic, яка також надіслала Mythos понад 40 організаціям, відповідальним за критичне програмне забезпечення.

У відео, опублікованому разом із запуском Project Glasswing, глава Anthropic Даріо Амодеї сказав, що запропонував співпрацювати з посадовцями уряду США, щоб "допомогти захиститися від ризику цих моделей".

Чому є занепокоєння?

Anthropic стверджує, що під час тестування виявила, що модель має високу кваліфікацію для завдань кібербезпеки та хакінгу, перевершуючи людей.

"Mythos Preview вже виявив тисячі помилок високої тяжкості, включаючи деякі в кожній основній операційній системі та веб-браузері", - стверджувала Anthropic 7 квітня.

"Враховуючи темпи прогресу ШІ, незабаром такі можливості поширяться, потенційно за межі акторів, які прагнуть розгортати їх безпечно".

Вона зазначила, що може знаходити - без значного нагляду - критичні помилки, які потребують негайних дій у старих системах, включаючи одну вразливість, яка існувала в системі протягом 27 років, і пропонувати способи їх експлуатації.

Деякі міністри фінансів, керівники центральних банків і фінансисти з того часу висловили серйозні занепокоєння з цього приводу, побоюючись, що модель може підірвати безпеку фінансових систем.

Міністр фінансів Канади Франсуа-Філіп Шампань сказав BBC, що Mythos обговорювався на зустрічі Міжнародного валютного фонду (МВФ) у Вашингтоні цього тижня.

"Безумовно, це достатньо серйозно, щоб заслуговувати на увагу всіх міністрів фінансів", - сказав він, описуючи технологію як "невідомий невідомий".

Керівник Банку Англії Ендрю Бейлі сказав BBC "ми зараз змушені дуже уважно дивитися, що може означати це останнє розробка ШІ для ризику кіберзлочинності".

Тим часом Європейський Союз заявив, що також обговорює з Anthropic свої занепокоєння щодо Mythos.

Що кажуть експерти з кібербезпеки про це?

Сіаран Мартін, колишній глава Національного центру кібербезпеки Великобританії, сказав BBC на початку цього тижня, що заява про те, що Mythos може виявляти критичні вразливості набагато швидше, ніж інші моделі ШІ, "дійсно шокувала людей".

"Друга річ у тому, що навіть з відомими слабкостями, але організації, можливо, не виправили їх, або не захищені належним чином, це просто дуже хороший хакер", - сказав він.

Багато незалежних аналітиків і експертів з кібербезпеки ще не мали можливості протестувати його самостійно, і деякі залишаються скептичними щодо продуктивності Mythos.

Інститут безпеки ШІ Великобританії нещодавно дійшов висновку, що, хоча це дуже потужна модель, її найбільша загроза буде проти погано захищених, вразливих систем.

"Ми не можемо з упевненістю сказати, чи зможе Mythos Preview атакувати добре захищені системи", - сказали його дослідники.

Отже, якщо є хороша кібербезпека, теоретично, ця модель, сподіваємося, буде зупинена.

Чи варто нам хвилюватися?

Побоювання щодо ШІ не нові.

Нові моделі та інструменти з’являються постійно, і часто супроводжуються обіцянками революціонізувати наше життя, як у кращому, так і в гіршому сенсі.

Використання цієї суміші страху та захоплення ШІ та його майбутнього впливу також стало відмінною рисою сектору та його маркетингових стратегій у останні роки.

У випадку з Mythos ми все ще не знаємо достатньо, щоб знати, чи обґрунтовані ці надії чи страхи, або чи вони більше є відображенням хайпу навколо галузі.

В обох випадках, згідно з NSCS, найважливіше, що ми можемо зробити зараз, - це не панікувати, а зосередитися на необхідності правильно організувати базову кібербезпеку.

Врешті-решт, більшості хакерів не потрібні супер-ШІ інструменти, щоб зламати системи, коли набагато простіші атаки часто достатньо.

"Для деяких це апокаліптична подія, для інших це здається великим хайпом", - сказав Мартін BBC.

Але він сказав, що незалежно від того, чи це інструмент, чи наступні, створені Anthropic або його конкурентами, поряд з ризиком є можливість побудувати безпечніший онлайн-світ.

"У середньостроковій перспективі є можливість використовувати ці інструменти для виправлення багатьох основних вразливостей в Інтернеті", - сказав він.

Підпишіться на нашу розсилку Tech Decoded, щоб слідкувати за провідними історіями та тенденціями в технологіях. Ви не в Великобританії? Підпишіться тут.