Генеральний директор Anthropic попереджає про кібернетичну «мить небезпеки», оскільки ШІ виявляє тисячі вразливостей

Генеральний директор Anthropic Даріо Амодеї попередив у вівторок, що штучний інтелект створив вузьке вікно для світових технологічних компаній, урядів та банків для виправлення десятків тисяч програмних вразливостей, виявлених новітньою моделлю його компанії.

Ця модель ШІ, Mythos, була попередньо представлена ​​минулого місяця разом із повідомленням про те, що вона виявила багаторічні вразливості в критично важливому програмному забезпеченні.

Оскільки моделі ШІ від геополітичного супротивника Китаю "можливо, на шість-дванадцять місяців" відстають від продукту Anthropic, є "приблизно стільки часу" для вирішення цих проблем, сказав Амодеї.

Коментарі пролунали під час заходу Anthropic, де Амодеї ділив сцену з генеральним директором JPMorgan Chase Джеймі Даймоном і представив новий набір агентів, призначених для автоматизації фінансової роботи.

"Небезпека полягає просто в якомусь величезному збільшенні кількості вразливостей, кількості зломів, фінансових збитків, завданих програмами-вимагачами школам, лікарням, не кажучи вже про банки", - сказав Амодеї.

Anthropic обмежив Mythos кількома компаніями-партнерами через занепокоєння щодо того, що злочинці або ворожі держави могли б з ним зробити. Останні оновлення моделі компанії викликали резонанс на ринках, але Mythos викликав найбільше занепокоєння як у корпорацій, так і у політиків.

Масштаб потенційних кіберзломів зріс з кожним поколінням Claude, сказав Амодеї. Попередня модель Anthropic виявила приблизно 20 вразливостей у браузері Firefox. Mythos виявив майже 300, а загальна кількість по всьому програмному забезпеченню зараз становить десятки тисяч, сказав він.

Більшість вразливостей, виявлених Mythos, не були публічно розкриті, оскільки вони залишаються не виправленими, і "погані хлопці скористаються ними", якщо вони будуть виявлені, сказав Амодеї.

## 'Кращий світ'

Незважаючи на тривогу, і Амодеї, і Даймон також висловили умовний оптимізм.

"Це момент небезпеки, коли, якщо ми відреагуємо правильно, і я думаю, що ми зробили перші кроки, тоді ми зможемо мати кращий світ по той бік", - сказав Амодеї. "Є лише обмежена кількість помилок для пошуку".

Даймон також сказав, що хоча кіберзагрози були виправданими, ризики кібербезпеки, створені ШІ, є "перехідним періодом".

Щодо питання регулювання, Амодеї сказав, що нагляд за ШІ повинен нагадувати те, що робиться в автомобільній промисловості, забезпечуючи баланс між безпекою споживачів та дозволом галузі конкурувати.

"Ви не можете просто запустити автомобільну компанію без питання 'Чи є в цій штуці гальма?'", - сказав він. "Нам потрібно знайти процес, який дозволить галузі працювати оперативно, буде справедливим, але встановить запобіжники для найсерйозніших речей".

Захід компанії та її місце проведення з Даймоном, найвідомішим представником фінансової індустрії, здавалося, демонстрували лідерство Anthropic над OpenAI на ринку корпоративного ШІ, оскільки обидві компанії прямують до потенційних IPO.

Anthropic оголосив у вівторок про розширення своєї платформи фінансових послуг, включаючи 10 нових агентів ШІ для інвестиційного банкінгу та бек-офісної роботи, а також інтеграцію з різними програмами Microsoft Office. Компанія також заявила, що її остання загальнодоступна модель — Claude Opus 4.7 — лідирує за показниками для завдань фінансового аналізу.