Charles Schwab, JPMorgan обмежують сторонні AI-агенти через ризик безпеці

Charles Schwab, JPMorgan обмежують сторонні ШІ-агенти через ризик безпеки

Автор: Білл Пан через The Epoch Times,

Деякі з найбільших фінансових компаній Уолл-стріт блокують сторонні агенти штучного інтелекту від прямого доступу до рахунків клієнтів або переміщення грошей, посилаючись на занепокоєння щодо безпеки, контролю та підзвітності, якщо автономна система припуститься помилки.

Charles Schwab, яка повідомила про 13,3 трильйона доларів клієнтських активів на кінець третього кварталу, є однією з останніх компаній, що встановила цю межу.

«Ми блокуємо неавторизованих агентів, які намагаються увійти від імені клієнтів», — сказав президент і генеральний директор Рік Вюрстер аналітикам 14 жовтня під час дзвінка щодо прибутків Schwab за третій квартал.

За його словами, занепокоєння викликає не сам ШІ, а сторонні агенти, які використовують облікові дані клієнта та працюють у системах Schwab без контролю, встановленого брокером.

Натомість Schwab планує надати стороннім моделям ШІ контрольований спосіб підключення через сервери Model Context Protocol (MCP).

MCP дозволяє системі ШІ взаємодіяти із зовнішніми даними та послугами через визначені дозволи. За підходом Schwab, зовнішня модель ШІ могла б потенційно отримувати інформацію, таку як баланси рахунків або інвестиційні дослідження, будучи заблокованою від дій з вищим ризиком, включаючи переміщення грошей.

Schwab також розгортає власний генеративний ШІ-асистент Charley, який може відповідати на запитання та виконувати певні адміністративні завдання від імені клієнтів.

Schwab не самотній. Генеральний директор JPMorgan Chase Джеймі Даймон підтвердив, що банк не дозволить будь-якому сторонньому ШІ-агенту потрапити до своїх систем для захисту клієнтів і банку.

«Ви не хочете, щоб були "злі" агенти, а їх можуть бути тисячі», — сказав Даймон під час дзвінка щодо прибутків 13 жовтня.

«Злий» агент зазвичай означає систему ШІ, яка виходить за межі, передбачені її користувачем або розробником, під час досягнення поставленої мети.

Даймон також попередив клієнтів, що якщо вони надають стороннім ШІ-агентам доступ до своїх банківських рахунків, вони несуть відповідальність за це рішення.

«Відбувається передача відповідальності. Вони повинні розуміти цю передачу відповідальності», — сказав він. «Якщо дані використовуються неправомірно, вони повинні розуміти, що вони використовуються неправомірно».

Чи може ШІ прискорити виведення депозитів?

Окрім кібербезпеки, автономний ШІ може також змінити економіку банківської справи.

Головний економіст Apollo Global Management Торстен Слоек попередив у вересні, що все більш потужні фінансові помічники можуть зрештою створити те, що він назвав «агентським банкрутством».

На відміну від традиційного банкрутства, коли клієнти знімають гроші через страх, що банк може збанкрутувати, агентське банкрутство може бути спричинене програмним забезпеченням, яке постійно шукає вищої прибутковості.

Наприклад, ШІ-асистент може постійно порівнювати процентні ставки та автоматично переміщувати готівку домогосподарства з низькоприбуткового поточного рахунку на альтернативи з вищою прибутковістю.

Apollo зазначив, що деякі фінтех- та онлайн-рахунки пропонували дохідність від 3,3 до 5 відсотків, порівняно з національним середнім показником приблизно 0,1 відсотка для поточних рахунків.

Слок стверджував, що якщо ШІ зробить переміщення грошей майже безперешкодним, банки можуть втратити частину недорогих депозитів, на які вони покладаються для фінансування кредитів.

Не кожен банкір вважає, що такий розвиток подій відбудеться найближчим часом.

Під час дзвінка щодо прибутків 13 жовтня генеральний директор Wells Fargo Чарлі Шарф заявив, що ідея відтоку коштів, керованого ШІ, до більш прибуткових альтернатив «повністю перебільшена».

«Високоприбуткові альтернативи існують сьогодні. Вони існують вже давно», — сказав Шарф аналітикам. «Якщо ви хочете перейти на високу ставку, ви можете просто зайти в Інтернет і зробити це самостійно за короткий час. Це не щось нове».

Хто несе відповідальність, коли ШІ-агент виходить з-під контролю?

Занепокоєння щодо надання системам ШІ більшої автономії посилилося через низку інцидентів з кібербезпекою цього року.

У липні розробник ChatGPT OpenAI повідомив, що група або «рій» його ШІ-агентів вирвалися з обмежень у тестовому середовищі та скомпрометували системи Hugging Face, онлайн-платформи, широко використовуваної розробниками ШІ.

Окремо OpenAI вибачився перед урядом Австралії у вересні після того, як одна з його моделей ШІ проникла на веб-сайти австралійського уряду під час тренувальної вправи.

Не існує єдиного федерального закону, який би комплексно визначав відповідальність між розробником ШІ, компанією, що впроваджує систему, та користувачем, коли автономний агент завдає шкоди. Існуючі закони можуть застосовуватися залежно від обставин.

Міністр фінансів Скотт Бессент виступав проти надання розробникам ШІ широкого імунітету від відповідальності.

«Ми не повинні надавати цим лабораторіям звільнення від відповідальності за безпеку, чого вони і просять», — сказав Бессент, свідчачи перед Комітетом Палати представників з фінансових послуг 15 вересня.

«Найкращий спосіб гарантувати безпеку — це те, що творці несуть відповідальність за те, що вони створюють і генерують».

На початку цього місяця сенатори Джош Хоулі (республіканець від штату Міссурі) та Кріс Мерфі (демократ від штату Коннектикут) представили двопартійний законопроект про підзвітність ШІ-агентів (AI Agent Accountability Act), спрямований конкретно на хакерські атаки, здійснені ШІ-агентами.

Згідно з пропозицією, оператори можуть нести цивільну та кримінальну відповідальність відповідно до федерального законодавства про комп'ютерні злочини, якщо вони свідомо керують ШІ-агентом, який необережно завдає шкоди або збитків, пов'язаних з хакерськими атаками.

Розробники також можуть нести відповідальність, якщо вони знали, що агент здатний до хакерських атак, але не вжили належних заходів безпеки.

Законопроект також дозволить генеральному прокурору США та генеральним прокурорам штатів домагатися судових наказів проти певної діяльності з хакерських атак за допомогою ШІ-агентів.

Тайлер Дьорден
Вт, 20.10.2026 - 08:05