Голова OpenAI та Ілон Маск підтримали заклики зупинити «безвідповідальний» розвиток ШІ

Сем Альтман і Ілон Маск підтримали заклик голови Anthropic Даріо Амодеї «сповільнити темп» розробки ШІ, після того як він попередив, що рої ШІ в іншому випадку можуть стати здатними «захопити весь інтернет» протягом року.

У рідкісному прояві єдності, конкуренти в галузі технологій підтримали заклик засновника та головного виконавчого директора компанії зі штучного інтелекту Anthropic, який пролунав після серії попереджень від дослідників ШІ минулого тижня.

У есе Амодеї виклав свої думки щодо того, «чому галузь ШІ повинна сповільнитися», запропонувавши триетапний план для цього, починаючи з надання незалежним спостерігачам постійного доступу до дослідницьких процесів розробників. Амодеї заявив, що «будувати [ШІ] занадто швидко — це безвідповідально», і він побоювався, що після того, як сотні агентів OpenAI зламали вебсайт Hugging Face цього літа, рій з більшими можливостями, але так само невідповідний, може завдати шкоди на сотні мільярдів доларів, «захопивши весь інтернет за допомогою постійної ботмережі». Деякі експерти з ШІ заперечили це, назвавши його не надто правдоподібним і таким, що заслуговує на скептицизм.

Маск, засновник Tesla і SpaceX, відповів на план сповільнення Амодеї дописом у X: «Даріо правий».

Він сказав: «Я давно б'ю на сполох щодо ШІ», і послався на допис 2014 року, де він сказав: «Ми повинні бути надзвичайно обережними з ШІ. Потенційно небезпечніше, ніж ядерна зброя».

Заклик Амодеї пролунав на тлі підготовки Anthropic до виходу на фондовий ринок США, що очікується як найбільше первинне публічне розміщення акцій за всю історію. Очікується, що компанія незабаром розпочне маркетинг свого запланованого IPO вартістю понад 2 трлн доларів (1,5 трлн фунтів стерлінгів).

Сем Альтман, CEO OpenAI, відповів на коментарі Амодеї в суботу. «Я згоден з Даріо, що нам потрібно контролювати передові розробки», — сказав він у дописі в X. «Зобов'язання мати незалежних оцінювачів з доступом, подібним до доступу співробітників, — це чудова ідея, і ми зробимо те саме. Незабаром ми поділимося новинами».

Він також заявив, що OpenAI не виходитиме на публічний ринок у 2026 році, посилаючись на проблеми безпеки штучного інтелекту.

«Насправді я думаю, що, враховуючи все, що відбувається з безпекою, зараз був би недоцільний момент для виходу на публічний ринок, і ми не відчуваємо тиску щодо цього», — сказав Альтман Fortune. На запитання, чому він, Амодеї, Маск та керівники Meta і Google не сіли разом і «не дійшли згоди» щодо колективного сповільнення, він відповів: «Я думаю, що це станеться».

Деміс Хассабіс, співзасновник і голова Google Deep Mind, також сказав: «Деталі потребують опрацювання, але напрямок правильний для подолання цього критичного моменту».

План Амодеї передбачає отримання дозволу від уряду США, щоб компанії, що займаються передовими ШІ, могли координувати свої дії без покарання за антиконкурентну змову. Але Девід Сакс, співголова ради радників Дональда Трампа з питань науки і технологій, сказав: «Припиніть вдавати, що вам потрібен чийсь дозвіл… Припиніть вдавати, що мотивація сповільнитися є суто альтруїстичною. Ви зіткнетеся з величезною відповідальністю за продукцію, якщо ваші продукти дозволять справжню руйнівну кібератаку».

Девід Крюгер, професор ШІ, захисник безпеки та колишній директор-засновник Інституту безпеки ШІ уряду Великої Британії, сказав: «Цей план не знижує ризик до прийнятного рівня, і Даріо обережний, щоб не сказати, що він це зробить».

Тим часом Король Чарльз готується зустрітися з провідними діячами найвідоміших компаній ШІ цього тижня, щоб запитати їх, як технологію можна розвивати «на благо людства». Він сподівається, що обговорення, які відбудуться в Шотландії, призведуть до «ширшого розуміння» «відповідальності» за розробку ШІ, повідомляє Sunday Times.

Королівське джерело повідомило газеті: «Король присутній, щоб скликати, слухати та заохочувати ці обговорення, а також поставити запитання: ‘Як ми можемо розвивати ШІ на благо людства?’»

Очікується, що Дженсен Хуанг, керівник Nvidia, Хассабіс, Нікколо де Масі, голова та керівник IonQ, і Паоло Бененті, радник Папи Римського з питань ШІ та етики технологій, візьмуть участь у заході під наглядом Ditchley Foundation, яка розробила проєкт хартії для лідерів ШІ.

Дослідник OpenAI Ейдан Маклафлін назвав есе Амодеї «чудовим» і сказав, що він згоден «практично з кожним словом».

Амодеї заявив, що його компанія «односторонньо» візьме на себе перші кроки, заявивши, що Anthropic надасть «стороннім оцінювачам постійний доступ до наших систем на рівні співробітників, щоб вони могли перевіряти дотримання наших заходів безпеки, повідомляти про інциденти та оцінювати відповідність моделей під час навчання».

Зростаюча кількість законодавців США закликає до нових правил для регулювання систем ШІ після випадків, коли агенти ШІ виходили з-під контролю, зламуючи зовнішні системи, та дослідників безпеки ШІ, які звільняються зі своїх компаній через занепокоєння щодо ризиків технології. Політики, як демократи, так і республіканці, відреагували тривогою та закликами до більшої кількості дій. На вихідних New York Times повідомила, що Барак Обама в четвер приватно закликав демократів пріоритезувати нагляд за ШІ у своїй програмі, сказавши лідерам партії в четвер: «Це те, що дуже швидко рухається в приватних руках, і якщо ми не візьмемося за це, я думаю, це може бути небезпечно».

Колишній прем'єр-міністр Великої Британії Ріші Сунак, який консультує Anthropic, написав у неділю: «Ми отримали тривожний сигнал, щоб серйозніше поставитися до безпеки ШІ, щоб розібратися, як встановити межі для досліджень. Якщо уряди не прислухаються до цього, ризик серйозної аварії стане неприйнятно високим».

У середу колишній співробітник Anthropic попередив, що ШІ може призвести до вимирання людства до 2030 року. Дослідник Джейкоб Коксон у серії дописів заявив, що він звільнився з роботи, оскільки Anthropic та його попередній роботодавець OpenAI ігнорували або неправильно реагували на загрозу, яку становив ШІ.

На запитання щодо думки свого колишнього співробітника, Амодеї сказав: «Я набагато більше згоден з Джейкобом, ніж не згоден з ним… Я думаю, є певний шанс, що щось піде не так, але він не такий вже й високий».

«Я не апокаліптик щодо цього», — сказав він CNN. «Я думаю, цю технологію можна побудувати безпечно».