Штучний інтелект, що використовується для злому, вибухнув до загрози промислового масштабу, каже Google

Лише за три місяці злом за допомогою штучного інтелекту перетворився з нової проблеми на загрозу промислового масштабу, згідно зі звітом Google.

Висновки групи розвідки загроз Google доповнюють інтенсивну глобальну дискусію про те, наскільки найновіші моделі ШІ надзвичайно вправні в кодуванні – і стають надзвичайно потужними інструментами для використання вразливостей у широкому спектрі програмних систем.

Згідно з ним, злочинні групи, а також пов'язані з державою актори з Китаю, Північної Кореї та Росії, широко використовують комерційні моделі – включаючи Gemini, Claude та інструменти від OpenAI – для вдосконалення та масштабування атак.

«Існує хибна думка, що гонка вразливостей ШІ неминуча. Реальність така, що вона вже почалася», – сказав Джон Халтквіст, головний аналітик групи.

«Зловмисники використовують ШІ для підвищення швидкості, масштабу та складності своїх атак. Це дозволяє їм тестувати свої операції, зберігати стійкість проти цілей, створювати краще шкідливе програмне забезпечення та робити багато інших покращень».

Минулого місяця компанія ШІ Anthropic відмовилася випустити одну зі своїх найновіших моделей, Mythos, після того, як заявила, що вона має надзвичайно потужні можливості та становить загрозу для урядів, фінансових установ та світу загалом, якщо потрапить не в ті руки.

Зокрема, Anthropic заявив, що Mythos виявив нульові вразливості у «кожній основній операційній системі та кожному основному веб-браузері» – термін для недоліку в продукті, раніше невідомого його розробникам.

Компанія заявила, що ці відкриття вимагали «суттєвих скоординованих оборонних дій у всій галузі».

Однак звіт Google виявив, що злочинна група нещодавно була на межі використання нульової вразливості для проведення кампанії «масової експлуатації» – і що ця група, схоже, використовувала велику мовну модель ШІ (LLM), яка не була Mythos.

Звіт також виявив, що групи «експериментували» з OpenClaw, інструментом ШІ, який став вірусним у лютому, пропонуючи своїм користувачам можливість передавати великі шматки свого життя агенту ШІ без обмежень і з неприємною тенденцією масово видаляти електронні скриньки.

Стівен Мердок, професор інженерії безпеки в Університетському коледжі Лондона, заявив, що інструмент ШІ може допомогти оборонній стороні в кібербезпеці – так само, як і хакерам.

«Ось чому я не панікую. Загалом ми досягли етапу, коли старий спосіб виявлення помилок зник, і тепер все буде за допомогою LLM. Знадобиться деякий час, перш ніж наслідки цього будуть розкриті», – сказав він.

Однак, якщо ШІ допомагає амбітним хакерам досягати своїх цілей продуктивності, залишаються сумніви щодо того, чи сприяє він ширшій економіці.

Ada Lovelace Institute (ALI), незалежний дослідницький орган з питань ШІ, застерігає від припущень про багатомільярдний приріст продуктивності державного сектору від ШІ. Уряд Великої Британії оцінив економію та переваги продуктивності від інвестицій державного сектору в цифрові інструменти та ШІ в розмірі 45 мільярдів фунтів стерлінгів.

У звіті, опублікованому в понеділок, ALI заявив, що більшість досліджень щодо збільшення продуктивності, пов'язаних з ШІ, стосуються економії часу або скорочення витрат, але не розглядають таких результатів, як кращі послуги або покращення добробуту працівників.

Інші проблемні аспекти таких досліджень включають: чи справді прогнози щодо ефективності, пов'язаної з ШІ, на робочому місці успішно реалізуються в реальному світі; заголовки, що приховують різні результати використання ШІ в різних завданнях; і неврахування впливу на зайнятість у державному секторі та надання послуг.

«Оцінки продуктивності, що формують важливі державні рішення щодо ШІ, іноді ґрунтуються на неперевірених припущеннях і спираються на методології, обмеження яких не завжди цінуються тими, хто використовує цифри в реальному світі», – йдеться у звіті ALI.

«Результатом є розрив між впевненістю, з якою представляються заяви про продуктивність, і міцністю доказів, що стоять за ними».

Рекомендації звіту включають: заохочення майбутніх досліджень до відображення невизначеності щодо впливу технології; забезпечення того, щоб державні відомства вимірювали вплив програм ШІ «з самого початку»; та підтримка довгострокових досліджень, які вимірюють приріст продуктивності протягом років, а не тижнів.