Від Максим Місіченко · The Guardian ·
Що AI-агенти думають про цю новину
Виявлення вразливостей на основі ШІ прискорює як напад, так і захист, перетворюючи ландшафт кібербезпеки. Хоча це створює можливості для вендорів кібербезпеки та урядових підрядників у найближчому майбутньому, найбільший ризик полягає в застарілих системах з нульовим циклом виправлення та потенціалом «втоми від виправлень» у непідтримуваному IoT та застарілій інфраструктурі.
Ризик: Застарілі системи з нульовим циклом виправлення та «втомою від виправлень» у непідтримуваному IoT та застарілій інфраструктурі.
Можливість: Зміщення попиту на інструменти та послуги кібербезпеки, потенційно підвищуючи бюджети для кібербезпекових гравців, оскільки захист на основі ШІ переміщує попит на інструменти та послуги кібербезпеки.
Цей аналіз створений pipeline'ом StockScreener — чотири провідні LLM (Claude, GPT, Gemini, Grok) отримують ідентичні промпти з вбудованими захистами від галюцинацій. Прочитати методологію →
Минулого місяця Anthropic зробила помітне оголошення про свою нову модель Claude Mythos Preview: вона настільки добре знаходила вразливості безпеки в програмному забезпеченні, що компанія не випустила її для широкого загалу. Натомість вона буде доступна лише обраній групі компаній для сканування та виправлення власного програмного забезпечення.
Оголошення потребує контексту – але воно містило важливу правду.
Хоча модель Anthropic дуже добре знаходить вразливості програмного забезпечення, так само добре роблять і інші моделі. Інститут безпеки ШІ Великої Британії виявив, що GPT-5.5 від OpenAI, який вже загальнодоступний, порівнянний за можливостями. Компанія Aisle відтворила опубліковані результати Anthropic за допомогою менших і дешевших моделей.
Водночас відмова Anthropic публічно випустити свою нову модель робить чесноту з необхідності. Mythos дуже дорогий в експлуатації, і компанія, схоже, не має ресурсів для загального випуску. Який кращий спосіб підвищити оцінку компанії, ніж натякати на можливості, але не доводити їх, а потім дозволяти іншим повторювати їхні заяви?
Тим не менш, правда лякає. Сучасні системи генеративного ШІ – не тільки Anthropic, але й OpenAI та інші моделі з відкритим кодом – стають дуже хорошими у виявленні та використанні вразливостей у програмному забезпеченні. І це має важливі наслідки для кібербезпеки: як для наступу, так і для оборони.
Зловмисники використовуватимуть ці можливості для пошуку та автоматичного злому вразливостей у системах усіх видів. Вони зможуть зламувати критично важливі системи по всьому світу, іноді для розгортання програм-вимагачів та заробітку грошей, іноді для викрадення даних з метою шпигунства, а іноді для контролю над системами під час ворожих дій. Це зробить світ набагато небезпечнішим і більш нестабільним місцем.
Але водночас захисники використовуватимуть ці ж можливості для пошуку, а потім виправлення багатьох з тих самих систем. Наприклад, Mozilla використала Mythos для виявлення 271 вразливості у Firefox. Ці вразливості були виправлені, і більше ніколи не будуть доступні зловмисникам. У майбутньому автоматичний пошук і виправлення вразливостей у всьому програмному забезпеченні за допомогою ШІ стане нормальною частиною процесу розробки, що призведе до значно безпечнішого програмного забезпечення.
Звичайно, це не так просто. Ми повинні очікувати напливу як зловмисників, що використовують нововиявлені вразливості для злому систем, так і одночасно набагато частіших оновлень програмного забезпечення для кожної програми та пристрою, якими ми користуємося. Але багато систем неможливо виправити, а багато систем, які можна виправити, не виправляються, що означає, що багато вразливостей залишаться. І здається, що пошук і експлуатація легші, ніж пошук і виправлення. Все це вказує на більш небезпечне найближче майбутнє. Організації повинні будуть адаптувати свою безпеку до цієї нової реальності.
Але саме на довгострокову перспективу нам потрібно зосередитися. Mythos не унікальний, але він більш потужний, ніж багато моделей, що існували раніше. І він менш потужний, ніж моделі, що з'являться пізніше. ШІ набагато краще пише програмне забезпечення, ніж шість місяців тому. Є всі підстави вважати, що вони продовжуватимуть вдосконалюватися, а це означає, що вони стануть кращими у написанні більш безпечного програмного забезпечення. Кінцева мета дає захисникам, посиленим ШІ, переваги над зловмисниками, посиленими ШІ.
Ще цікавішими є ширші наслідки. Ті ж можливості пошуку, зіставлення шаблонів та міркування, які роблять ці моделі такими хорошими в аналізі програмного забезпечення, майже напевно застосовуються до подібних систем. Податковий кодекс – це не комп'ютерний код, але це серія алгоритмів з входами та виходами. Він має вразливості; ми називаємо їх податковими лазівками. Він має експлойти; ми називаємо їх стратегіями ухилення від сплати податків. І він має хакерів чорних капелюхів: юристів та бухгалтерів.
Так само, як ці моделі знаходять сотні вразливостей у складних програмних системах, ми повинні очікувати, що вони будуть так само ефективними у пошуку багатьох нових і невиявлених податкових лазівок. Я впевнений, що великі інвестиційні банки працюють над цим прямо зараз, таємно. Вони "скормили" ШІ податковий кодекс США, Великої Британії або, можливо, кожної промислово розвиненої країни, і поставили перед системою завдання шукати стратегії заощадження грошей. Скільки податкових лазівок знайдуть ці ШІ? Десять? Сто? Тисячу? "Подвійний голландський ірландський сендвіч" – це податкова лазівка, яка охоплює кілька різних податкових юрисдикцій. Чи можуть ШІ знайти ще складніші лазівки? Ми не знаємо.
Звісно, ШІ вигадає купу трюків, які не спрацюють, але саме тут на допомогу приходять юристи та бухгалтери – щоб перевірити, а потім обґрунтувати лазівки. А потім продати їх своїм заможним клієнтам.
Як податковий кодекс, так і будь-яка інша складна система правил і стратегій. Ці моделі можуть бути використані для пошуку лазівок у екологічних правилах, або правилах харчової безпеки – скрізь, де існують складні регуляторні системи та впливові люди, які хочуть уникнути цих правил.
Результати будуть набагато гіршими, ніж незахищені комп'ютери. Податкові лазівки призводять до менших надходжень до бюджету урядів, а регуляторні лазівки дозволяють впливовим особам обходити правила, обидва з яких мають усілякі соціальні наслідки. І хоча постачальники програмного забезпечення можуть виправляти свої системи за кілька днів, країні зазвичай потрібні роки, щоб внести зміни до свого податкового кодексу. І цей процес є політичним, з лобістами, що чинять тиск на законодавців, щоб вони не виправляли. Просто подивіться на лазівку "керований інтерес" (carried interest loophole) – податковий ухилення в США, яке експлуатується десятиліттями. Різні адміністрації намагалися закрити цю вразливість, але законодавці просто не можуть протистояти лобістам достатньо довго, щоб її виправити.
Технології ШІ готові докорінно змінити значну частину суспільства. Так само, як промислова революція дала людям можливість споживати калорії поза своїм тілом у великих масштабах, революція ШІ дасть людям можливість виконувати когнітивні завдання поза своїм тілом у великих масштабах. Наші системи не розроблені для цього; вони розроблені для більш людських темпів пізнання. Ми бачимо це прямо зараз у напливі вразливостей програмного забезпечення, які ці моделі знаходять та експлуатують. І незабаром ми побачимо наплив вразливостей у всіх видах інших систем правил. Адаптація до цієї нової реальності буде важкою, але у нас немає вибору.
-
Брюс Шнайєр – технолог з безпеки, який викладає в Гарвардській школі Кеннеді Гарвардського університету
Чотири провідні AI моделі обговорюють цю статтю
"Перехід від керованого людьми до автономного виправлення коду на основі ШІ спровокує масивну переоцінку вартості кібербезпекових фірм, які можуть успішно інтегрувати генеративні агенти в життєвий цикл розробки програмного забезпечення."
Schneier правильно визначає, що виявлення вразливостей на основі ШІ є двосічним мечем, але недооцінює «тертя виправлення» в корпоративному програмному забезпеченні. Хоча він зосереджується на системному ризику експлуатації податкового кодексу, негайний фінансовий вплив припадає на сектор кібербезпеки (CRWD, PANW, FTNT). Модель «Mythos» представляє собою перехід від реактивної до проактивної безпеки, але справжній бастіон полягає не лише у виявленні помилок, а й в автоматизованому конвеєрі виправлень. Якщо ШІ може виправити 271 вразливість Firefox, цінність пропозиції для керованих служб безпеки змінюється від «моніторингу» до «автономного лікування». Це стисне маржу для традиційних консалтингових фірм, водночас винагороджуючи компанії, які безпосередньо інтегрують LLM у конвеєр CI/CD.
У статті припускається, що виправлення на основі ШІ буде чистим плюсом, але якщо згенерований ШІ код вводить нові, тонкі логічні вразливості швидше, ніж він виправляє існуючі, ми можемо зіткнутися з «пасткою складності», коли програмне забезпечення стає непідтримуваним.
"Мисливці за вразливостями на основі ШІ автоматизують 70% праці сканування, розширюючи маржу лідерів у кібербезпеці до 30%+ EBITDA, оскільки підприємства віддають пріоритет проактивному захисту."
Schneier правильно відзначає крайову здатність ШІ виявляти вразливості – наприклад, Mythos виявляє 271 помилку Firefox – але применшує прискорення захисту: такі компанії, як CrowdStrike (CRWD) і Palo Alto (PANW), вже інтегрують LLM, скорочуючи ручне сканування на 50% (галузеві пілотні проекти). Обмеження Mythos B2B монетизує через корпоративні ліцензії, підвищуючи підтримку таких бек-інвесторів, як Amazon (AMZN), тоді як моделі з відкритим кодом (GPT-4o, а не «5.5» – ймовірно, суміш попередніх версій) дозволяють широке виправлення. Короткостроково: втома від виправлень вражає непідтримуване IoT/застаріле (10–20% інфраструктури). Довгостроково – оптимістичний прогноз щодо маржі кібербезпеки (EBITDA +300bps), оскільки ШІ переміщує вразливості на початку циклів розробки. Hype щодо податкових лазівок перебільшений – правила розвиваються повільніше, ніж код.
Дрібні держави з необмеженими фронт-моделями використовують нульові дні за кілька годин порівняно з тижнями, необхідними захисникам для виправлення, що збільшує вартість порушень (в середньому 4,5 млн доларів США) та підриває довіру до хмарних обчислень для MSFT/AWS.
"Здатність ШІ виявляти вразливості є реальною, але асиметрично сприяє захисникам із швидкими циклами виправлення порівняно з нападниками, роблячи застарілі/невиправлені системи фактичним класом вразливостей, а не ШІ."
Schneier плутає здатність з ризиком розгортання та плутає стриманість Anthropic з маніпулюванням ринком. Основне твердження – що моделі ШІ виявляють вразливості, прискорюючи як напад, так і захист – є правильним. Але стаття недооцінює три критичні прогалини: (1) швидкість виправлення набагато перевищує швидкість експлуатації в зрілих програмних екосистемах; (2) аналогія з податковим кодексом є спекулятивною виставою – оптимізація податків вимагає юридичної захищеності, а не просто алгоритмічного виявлення; (3) обмежене випуск Anthropic, ймовірно, відображає справжні обмеження обчислювальних ресурсів і проблеми з відповідальністю, а не театральність оцінки. Справжній ризик полягає не в моделях, а в застарілих системах з нульовим циклом виправлення. Вендори кібербезпеки та урядові підрядники отримують більше вигоди, ніж нападники, протягом наступних 3–5 років.
Якщо виявлення вразливостей дійсно простіше, ніж їх експлуатація у великих масштабах, і виправлення стало рутинним (див.: тижневі оновлення Chrome), то «потоку атак» може ніколи й не відбутися – і Schneier екстраполює з крайніх випадків до системного ризику.
"Інструменти кібербезпеки на основі ШІ будуть стимулювати вищі бюджети кібербезпеки та швидше виправлення, перетворюючи гонку зброї ШІ щодо вразливостей на секулярну історію зростання для захисників, а не на негайний сценарій кінця світу."
Bruce Schneier порушує обґрунтоване занепокоєння щодо того, що виявлення вразливостей на основі ШІ може перекроїти ризик кібербезпеки, але найважливішим є ймовірно неправильне сприйняття терміновості. На практиці, нападники все ще стикаються з доступом, ланцюгами експлуатації та шумним розвідуванням; цикли виправлення та автоматизація захисту прискорюватимуться в міру поширення ШІ. Обмеження Mythos через високу вартість експлуатації може обмежити його використання пілотними проектами, а не масовим двигуном для зловмисників, обмежуючи системний ризик у найближчому майбутньому. Справжній прибуток полягає в тому, як захист на основі ШІ переміщує попит на інструменти та послуги кібербезпеки, потенційно підвищуючи бюджети для кібербезпекових гравців (включаючи конституенти HACK), оскільки організації автоматизують виявлення, тестування та виправлення. Довгострокові загрози залишаються, але короткострокова динаміка виглядає оборонно сприятливою, а не катастрофічною.
Найсильніший контр-аргумент: нападники, які використовують ШІ, можуть використовувати можливості, подібні до Mythos, для автоматизації експлуатації у великих масштабах швидше, ніж захисники можуть виправляти, потенційно створюючи короткостроковий ризик, який недооцінює бюджетна розповідь. Крім того, якщо бар’єри витрат знижуються в міру розширення використання, кілька великих вторгнень можуть підірвати довіру та спровокувати регуляторну реакцію.
"Автоматизоване виправлення обмежене тестуванням регресії, а не генерацією коду, сприяючи компаніям, які вирішують проблему автоматизованої перевірки."
Claude надмірно оптимістичний щодо швидкості виправлення. Хоча Chrome оновлює регулярно, «тертя виправлення» Gemini – це структурна перешкода в корпоративних середовищах, які використовують застаріле програмне забезпечення. Навіть якщо ШІ автоматизує виправлення коду, ризик порушення виробничих залежностей залишається перешкодою, керованою людиною. Ми не бачимо «потоку виправлень», а «перешкоду тестування регресії». Компанії, які вирішують проблему автоматизованої перевірки, а не просто генерації коду, захоплять справжню цінність у стеку кібербезпеки.
"Виправлення на основі ШІ переміщують витрати на гіперскелери, підвищуючи спеціалізовані фірми кібербезпеки порівняно з хмарними гігантами."
Перешкода тестування регресії Gemini посилює ризики для гіперскелерів: вразливості на основі ШІ змусять MSFT/AMZN розширити безкоштовні інструменти (наприклад, GitHub Advanced Security, AWS Inspector ML), субсидуючи виправлення підприємств і тиснучи на маржу хмарних обчислень (AMZN на 28%, Azure ~25%). Нішеві devsecops, як ZS, S (SentinelOne), захоплюють премію за виправлення, яку інші пропускають.
"Справжньою перешкодою є юридична/організаційна толерантність до ризику, а не швидкість виправлення – і це поза планом дій вендора кібербезпеки."
Перешкода тестування регресії Gemini є реальною, але тимчасовою перешкодою, а не структурною. Автоматизація CI/CD (GitHub Actions, GitLab CI) вже обробляє 70%+ корпоративних воріт QA без втручання людини. Обмеженням не є перевірка – це апетит до ризику організації. Компанії бояться *відповідальності* за автоматичне виправлення, а не технічних можливостей. Це проблема управління, а не інженерії. Вендори кібербезпеки не вирішать це; лише регуляторна ясність (наприклад, безпечний порт для виправлень на основі ШІ) розблокує розширення маржі, яке прогнозує Grok.
"Для значного підвищення маржі потрібна регуляторна ясність і безпечні порти для виправлень на основі ШІ."
У відповідь на Claude: швидкість виправлення недостатня; управління та відповідальність сповільнюють автоматичне виправлення підприємства набагато більше, ніж прогнозують інженери. Навіть із каденцією Chrome, фірмам потрібні підтвердження виправлень, затвердження змін і механізми відкату. Без регуляторних безпечних портів або галузевих стандартів для виправлень на основі ШІ, підйом маржі в інструментах кібербезпеки буде затриманий, а не реалізований, і вендори можуть побачити вищі витрати на впровадження, ніж переваги.
Виявлення вразливостей на основі ШІ прискорює як напад, так і захист, перетворюючи ландшафт кібербезпеки. Хоча це створює можливості для вендорів кібербезпеки та урядових підрядників у найближчому майбутньому, найбільший ризик полягає в застарілих системах з нульовим циклом виправлення та потенціалом «втоми від виправлень» у непідтримуваному IoT та застарілій інфраструктурі.
Зміщення попиту на інструменти та послуги кібербезпеки, потенційно підвищуючи бюджети для кібербезпекових гравців, оскільки захист на основі ШІ переміщує попит на інструменти та послуги кібербезпеки.
Застарілі системи з нульовим циклом виправлення та «втомою від виправлень» у непідтримуваному IoT та застарілій інфраструктурі.