Sen. Warren pyta Departament Obrony o czarną listę Anthropic, która „wydaje się być odwetem”

Senatorka Elizabeth Warren, D-Mass., stwierdziła, że decyzja Departamentu Obrony o zaklasyfikowaniu startupu zajmującego się sztuczną inteligencją Anthropic jako ryzyka w łańcuchu dostaw „wydaje się być odwetem”.
W formalnym liście do Sekretarza Obrony USA Pete'a Hegsetha w poniedziałek Warren zauważyła, że departament „mógł zdecydować się na rozwiązanie umowy z Anthropic lub kontynuowanie wykorzystywania jego technologii w niejawnych systemach”.
„Jestem szczególnie zaniepokojona tym, że Departament Obrony próbuje zmusić amerykańskie firmy do dostarczenia Departamentowi narzędzi do szpiegowania amerykańskich obywateli i wdrażania w pełni autonomicznych broni bez odpowiednich zabezpieczeń” – napisała Warren.
Amerykańscy senatorowie poszukują dalszych odpowiedzi od Departamentu Obrony w sprawie umów z firmami technologicznymi, podczas gdy wojna w Iranie trwa, a konflikt wchodzi w czwarty tydzień.
W dniach poprzedzających wojnę Departament Obrony i Anthropic popadli w konflikt, gdy departament dążył do nieograniczonego dostępu do swoich modeli do „wszystkich uzasadnionych celów”, podczas gdy Anthropic chciał zapewnienia, że jego modele nie będą wykorzystywane do w pełni autonomicznych broni ani do krajowego „masowego nadzoru”.
27 lutego Hegseth napisał, że polecił Departamentowi Obrony zastosowanie etykiety „ryzyko w łańcuchu dostaw” wobec firmy. Oficjalne zawiadomienie nadeszło tydzień później, gdy departament kontynuował wykorzystywanie modelu Claude firmy Anthropic w Iranie.
Anthropic złożył pozew przeciwko administracji Trumpa po tym, jak firma została umieszczona na czarnej liście i uznana za zagrożenie dla bezpieczeństwa narodowego USA. Wstępne przesłuchanie w tej sprawie zaplanowano na wtorek w Sądzie Dystryktowym USA dla Północnego Dystryktu Kalifornii.
Kilka godzin po umieszczeniu Anthropic na czarnej liście, OpenAI wkroczyło na scenę, ogłaszając umowę z Departamentem Obrony.
Firma stwierdziła, że jest przekonana, iż Departament Obrony nie wykorzysta jej systemów AI do masowego nadzoru ani w pełni autonomicznych broni ze względu na „stos bezpieczeństwa” OpenAI, istniejące przepisy i język umowy, który nie został w pełni udostępniony.
Jednak ani Altman, ani Departament Obrony nie byli w stanie uspokoić obaw ustawodawców, opinii publicznej i niektórych pracowników firm.
Warren szuka również odpowiedzi od dyrektora generalnego OpenAI, Sama Altmana.
W liście z poniedziałku Warren poprosiła Altmana o informacje dotyczące warunków jego umowy z Departamentem Obrony.
„Jestem zaniepokojona tym, że warunki tej umowy mogą zezwalać administracji Trumpa na wykorzystanie technologii OpenAI do prowadzenia masowego nadzoru nad Amerykanami i budowania śmiercionośnych autonomicznych broni, które mogłyby wyrządzić krzywdę cywilom przy niewielkim lub żadnym nadzorze ludzkim” – stwierdza list.
W zeszłym tygodniu Altman spotkał się z kilkoma ustawodawcami w Waszyngtonie, gdzie senator Mark Kelly, D-Ariz., podniósł „poważne pytania” dotyczące podejścia firmy do wojny i jej umowy z Departamentem Obrony.
„Ostatecznie nie można ocenić żadnych zabezpieczeń i zakazów, które mogą istnieć w umowie OpenAI z Departamentem Obrony, bez zobaczenia pełnej umowy, która nie została udostępniona ani przez Departament Obrony, ani przez OpenAI” – napisała Warren.
Dodała, że to, co zostało publicznie ujawnione, budzi poważne obawy dotyczące wykorzystania sztucznej inteligencji przez Departament Obrony.
Pomimo wezwań do udzielenia odpowiedzi, Demokraci w Senacie mają ograniczone możliwości wymuszenia działań, ponieważ Republikanie kontrolują Biały Dom i obie izby Kongresu.