Anthropic каже, що її остання модель ШІ може виявити слабкі місця в безпеці програмного забезпечення

Anthropic у вівторок заявила, що її ще не випущена модель штучного інтелекту під назвою Claude Mythos довела гостру здатність виявляти слабкі місця в програмному забезпеченні.
Mythos виявив тисячі вразливостей у широко використовуваних програмах, для яких не існує патчів або виправлень, що спонукало Сан-Франциско-базований AI стартап сформувати альянс із фахівцями з кібербезпеки для зміцнення захисту від злому та утримання широкого розповсюдження.
“У нас є нова модель, яку ми навмисно не випускаємо для публіки”, - сказав Майк Крігер з Anthropic Labs на конференції HumanX AI у Сан-Франциско.
Замість цього, Anthropic дозволяє фахівцям з кібербезпеки та інженерам у спільноті відкритого коду працювати з Mythos, щоб використовувати модель як оборонну зброю “якось озброюючи їх наперед”, - пояснив Крігер.
Прогрес у можливостях AI моделей супроводжувався занепокоєнням щодо того, що хакери використовуватимуть такі інструменти для визначення паролів або зламування шифрування, призначеного для захисту даних.
Найстаріша з вразливостей, виявлених Mythos, датується 27 роками, і жодна з них, як не було помічено їхніми творцями до того, як AI модель їх визначила, згідно з Anthropic.
Mythos є новітнім поколінням AI моделі Claude від Anthropic, і нещодавній витік деякого з її коду спонукав стартап випустити допис у блозі з попередженням про безпрецедентні ризики для кібербезпеки.
“AI моделі досягли рівня кодування, коли вони можуть перевершити майже всіх, крім найкваліфікованіших людей, у пошуку та експлуатації вразливостей програмного забезпечення”, - йдеться у дописі в блозі Anthropic. “Наслідки – для економіки, громадської безпеки та національної безпеки – можуть бути серйозними”.
Вразливості програмного забезпечення, виявлені Mythos, часто були тонкими та важко виявлялися без AI, згідно з Anthropic. Як приклад, компанія повідомила, що Mythos знайшов раніше непомічену помилку у відео програмному забезпеченні, яке було протестовано понад 5 мільйонів разів його творцями.
Як запобіжний захід, Anthropic поділилася версією Mythos з компаніями з кібербезпеки CrowdStrike та Palo Alto Networks, а також з Amazon, Apple та Microsoft, у проекті, який вона назвала “Glasswing”.
Мережеві гіганти Cisco та Broadcom беруть участь у проекті, а також Linux Foundation, яка просуває безкоштовну, відкриту операційну систему Linux.
“Ця робота надто важлива і надто термінова, щоб робити її самостійно”, - сказав Ентоні Гріко, головний директор з безпеки та довіри Cisco, у спільному релізі про Glasswing. “Можливості AI перетнули поріг, який фундаментально змінює терміновість, необхідну для захисту критичної інфраструктури від кіберзагроз, і шляху назад немає”.
Приблизно 40 організацій, залучених до проектування, підтримки або експлуатації комп’ютерних систем, мають приєднатися до Glasswing. Партнери проекту повинні ділитися своїми знахідками Mythos, згідно з Anthropic, яка надає близько 100 мільйонів доларів обчислювальних ресурсів для місії. Рання робота з AI моделями показала, що вони можуть допомогти знаходити та виправляти вразливості програмного та апаратного забезпечення з темпами та масштабом, які раніше були неможливими, згідно з Гріко.
“Вікно між виявленням вразливості та її експлуатацією зловмисником скоротилося – те, що колись займало місяці, тепер відбувається за хвилини за допомогою AI”, - сказав головний технологічний директор Crowdstrike Елія Зайцев.
“Claude Mythos Preview демонструє, що зараз можливо для захисників у великих масштабах, і зловмисники неминуче будуть прагнути використати ті ж можливості”, - додав він.
Anthropic повідомила, що у неї були дискусії з урядом США щодо Mythos, незважаючи на указ Білого дому у лютому припинити всі контракти зі стартапом. Цей директив був призупинений суддею федерального суду, поки юридичний виклик від Anthropic не пройде через суди.