Khanna przedstawi projekt ustawy o bezpieczeństwie AI z zakazem technologii "rekurencyjnej" do czasu wprowadzenia zabezpieczeń

Demokratyczny kongresmen z Doliny Krzemowej, Ro Khanna, przedstawi projekt ustawy regulującej sztuczną inteligencję, który obejmuje ścisłe standardy odpowiedzialności i zakaz "rekursywnie" samodoskonalącej się SI do czasu stworzenia przez rząd zabezpieczeń.

Projekt ustawy pojawia się w związku z naciskami na Waszyngton, aby uregulował SI, po tym jak czołowi dyrektorzy ostrzegli, że technologia może wymknąć się spod kontroli. Kongres w dużej mierze nic nie zrobił, aby uregulować technologię, która stanowi podstawę gospodarki, ale może spowodować katastrofalne szkody, jeśli coś pójdzie nie tak.

"Istnieje realne ryzyko cywilizacyjnego wyginięcia" – powiedział Khanna w poniedziałek w wywiadzie dla CNBC. "Istnieje ryzyko utraty kontroli, a następnie ryzyko niewłaściwego użycia, i musimy potraktować oba poważnie."

Projekt ustawy Khanny, którego podsumowanie zostało udostępnione wyłącznie CNBC, nosi nazwę "Human Control Over AI Act" (Ustawa o ludzkiej kontroli nad SI) i zakazywałby modeli, które rekursywnie samodoskonalą się lub autonomicznie modyfikują swoje podstawowe cele, mechanizmy kontroli, powstrzymania lub wyłączenia, dopóki nie istnieją federalne zabezpieczenia, a agencja nie zatwierdzi tych działań.

Ustawa powołałaby również nową agencję federalną do skupienia się na modelach SI firm OpenAI, Anthropic, Google DeepMind i xAI, ponieważ firmy te znajdują się w centrum uwagi w związku z szybko narastającymi obawami o bezpieczeństwo.

Agencja byłaby odpowiedzialna za tworzenie przepisów bezpieczeństwa, system licencyjny do zatwierdzania szkolenia i wdrażania modeli, audyty zaawansowanych modeli SI oraz ustalanie standardów bezpieczeństwa w celu ciągłego testowania i skutecznej kontroli ludzkiej.

Niezależni audytorzy byliby również zobowiązani do pracy w każdym laboratorium zajmującym się zaawansowanymi modelami i raportowania bezpośrednio do agencji. Agencja opracowałaby również standardy dotyczące środowisk testowych typu "sandbox"; "air gaps", czyli izolowania środowisk testowych od internetu; przycisków "kill switch"; oraz kontroli zapobiegających ucieczce modeli z laboratoriów i ich rozprzestrzenianiu się w Internecie. Byłaby również odpowiedzialna za regulację zaawansowanych chipów, z których korzystają laboratoria zajmujące się zaawansowanymi modelami, w tym mechanizmów monitorowania lub kontrolowania ich wykorzystania.

Ustawa przewidywałaby również nowe sankcje prawne za błędy w działaniu SI.

Kryminalizowałaby "zbrodnie przeciwko ludzkości" za wdrażanie modeli SI, które prowadzą do zniszczenia populacji cywilnych. Ustawa nakładałaby również kary kryminalne na pracowników firm SI, którzy wyłączają zabezpieczenia, przyciski "kill switch", systemy logowania lub kontroli, lub którzy świadomie wdrażają nieautoryzowany system.

Firmy SI byłyby również zobowiązane do posiadania rozległego ubezpieczenia od odpowiedzialności cywilnej w celu udostępniania swoich modeli.

Ustawa wzywa również administrację do dążenia do egzekwowalnych umów i ukierunkowanych kontroli eksportu, aby zniechęcić Chiny i innych przeciwników do rozwijania niebezpiecznych systemów SI.

Khanna powiedział, że projekt ustawy stanowi "najbardziej kompleksowe ustawodawstwo dotyczące bezpieczeństwa SI", jakie zostało zaproponowane. Powiedział, że jest on wzorowany na jego rozmowach z organizacjami zajmującymi się bezpieczeństwem SI, takimi jak niezależne organizacje non-profit Model Evaluation and Threat Research, Machine Intelligence Research Institute i Palisade Research, a nie na żądaniach dyrektorów dużych firm SI.

"Chcę, aby to był model, który da głos społeczności zajmującej się bezpieczeństwem SI" – powiedział Khanna. "Wierzę, że zostali niesprawiedliwie zignorowani jako science fiction i nie byli traktowani wystarczająco poważnie... to społeczność zajmująca się bezpieczeństwem SI, a nie dyrektorzy laboratoriów zajmujących się zaawansowanymi modelami, powinna kierować tą debatą."

Dołącza ona teraz do szeregu innych propozycji dotyczących bezpieczeństwa SI, w tym ustawy FRONTIER Act, dwupartyjnej propozycji kongresmenów Jaya Obernolte (republikanina z Kalifornii) i Lori Trahan (demokratki z Massachusetts), która umieściłaby niezależnych audytorów w laboratoriach zajmujących się zaawansowanymi modelami i pozwoliłaby rządowi na wyłączanie modeli, które mają potencjał katastrofalnego ryzyka.

Nie oczekuje się, że ustawy z Izby Reprezentantów zostaną poddane pod głosowanie do czasu wyborów śródokresowych, a Senat ma opuścić Waszyngton i nie wrócić do czasu po wyborach po tym tygodniu.