เตรียมรับมือความวุ่นวาย: แล็บ AI วางแผนรับมือหายนะ การปฏิวัติของสาธารณชน และการปราบปรามที่ตามมา

การวางแผนรับมือ "การลุกฮือ": ห้องปฏิบัติการ AI กำลังจำลองสถานการณ์หายนะ การปฏิวัติของสาธารณชน และการปราบปรามที่จะตามมา

อุตสาหกรรม AI กำลังจำลองสถานการณ์ไม่เพียงแต่วิธีที่มันอาจทำลายมนุษยชาติเท่านั้น แต่ยังพิจารณาถึงสิ่งที่สาธารณชนที่โกรธแค้นสามารถทำได้ต่ออุตสาหกรรมนี้ด้วย

ผู้บริหารระดับสูงของ Anthropic, OpenAI และบริษัท AI อื่นๆ กำลังจำลองสถานการณ์ส่วนตัวที่เหตุการณ์ AI ครั้งใหญ่จะกระตุ้นให้เกิดการปฏิวัติของสาธารณชนและการเมือง Axios รายงานเมื่อวันศุกร์ ตัวกระตุ้นที่เป็นไปได้คือการโจมตีทางไซเบอร์ที่ก่อกวนระบบธนาคาร การเข้าถึงอินเทอร์เน็ต หรือบริการที่จำเป็น เช่น พลังงานและน้ำ วิกฤตครั้งต่อไปจะเป็นเรื่องการเมือง: สาธารณชนที่โกรธแค้น การเรียกร้องความรับผิดชอบ และแรงกดดันให้ยุติการใช้เทคโนโลยีนี้

ผู้ที่อยู่ในวงการหลายคนบอกกับ Axios ว่าคาดว่าจะมีเหตุการณ์สำคัญเกิดขึ้นภายในหกถึง 12 เดือนข้างหน้า OpenAI โต้แย้งข้อเสนอที่ว่าหายนะเป็นสิ่งที่หลีกเลี่ยงไม่ได้ โดยกล่าวว่าการฝึกซ้อมเตรียมความพร้อมของครอบคลุมความเป็นไปได้หลากหลาย "สถานการณ์เหล่านี้ไม่ได้ถูกมองว่าเป็นสิ่งที่หลีกเลี่ยงไม่ได้" โฆษกกล่าวกับสื่อดังกล่าว Anthropic ปฏิเสธที่จะให้ความเห็น

การวางแผนฉุกเฉินไม่ใช่การยอมรับว่าหายนะเป็นสิ่งที่หลีกเลี่ยงไม่ได้ แต่ส่วนที่เปิดเผยมากที่สุดของรายงานคือจุดที่การวางแผนนั้นนำไปสู่: ห้องปฏิบัติการต้องการช่วยกำหนดทิศทางกฎหมายที่วอชิงตันจะนำมาใช้หลังจากเกิดความผิดพลาดร้ายแรง

สองเส้นทาง วิกฤตเดียว

Axios อธิบายถึงสองสถานการณ์ที่เป็นไปได้ ในสถานการณ์หนึ่ง ตัวแทนอิสระหลุดออกจากสภาพแวดล้อมการทดสอบภายใน อีกสถานการณ์หนึ่ง มีคนพบการใช้งานที่เป็นอันตรายของโมเดลที่มีให้สาธารณชนเข้าถึงได้แล้ว ทั้งสองสถานการณ์อาจนำไปสู่การเรียกร้องให้มีการปราบปรามฉุกเฉิน แม้ว่าความล้มเหลว - และมาตรการที่จำเป็นในการป้องกัน - จะแตกต่างกันไป ในสถานการณ์หลังการเลือกตั้งของบริษัท พรรคเดโมแครตจะแข็งแกร่งขึ้นจากการเลือกตั้งกลางเทอมและดำเนินการอย่างจริงจังหลังเกิดเหตุการณ์ แต่ภาคอุตสาหกรรมคาดว่าจะมีความแตกแยกเกี่ยวกับขอบเขตของการปราบปราม แม้ว่าพรรคเดโมแครตจะควบคุมทั้งสองสภา

การประเมินยังระบุอุปสรรคหลายประการต่อการยุติการใช้งาน: สมาชิกสภานิติบัญญัติที่พยายามทำความเข้าใจเทคโนโลยี เศรษฐกิจที่เชื่อมโยงกับการใช้จ่ายโครงสร้างพื้นฐาน AI มากขึ้น และโมเดลที่ดาวน์โหลดได้ซึ่งไม่สามารถเรียกคืนได้ง่ายๆ ตาม Axios ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์หลายคนเชื่อว่าการต่อต้าน AI ที่ไม่ถูกต้องตามกฎหมายจะต้องใช้ AI เชิงป้องกัน

ข้อโต้แย้งสุดท้ายนี้มีนัยยะทางการค้าที่ชัดเจน อุตสาหกรรมอาจเผชิญกับการเรียกร้องให้หยุดขายความสามารถที่เป็นอันตราย ในขณะเดียวกันก็โต้แย้งว่าผลิตภัณฑ์ของตนมีความจำเป็นต่อการควบคุม

"การจำลองสถานการณ์" นี้เกิดขึ้นหลังเหตุการณ์หลายครั้งที่หลายคนกล่าวว่าน่าสงสัยอย่างยิ่ง

ข้อกังวลด้านความปลอดภัยพื้นฐานไม่ขึ้นอยู่กับการยอมรับคำทำนายของใครก็ตามเกี่ยวกับวันสิ้นโลกของ AI

OpenAI ได้เปิดเผยการบุกรุก Hugging Face ซึ่งตัวแทนประมาณ 700 ตัวโจมตีเซิร์ฟเวอร์ของแพลตฟอร์ม AI และการสืบสวนที่กว้างขวางขึ้นเกี่ยวกับกิจกรรมของโมเดลที่ส่งผลกระทบต่อบริการภายนอก การตรวจสอบยังระบุเหตุการณ์ 53 ครั้งที่รูปภาพที่ผู้ใช้ให้มาถูกโพสต์ไปยังเว็บไซต์โฮสต์รูปภาพของบุคคลที่สาม เหตุการณ์แยกต่างหากเมื่อวันที่ 20 กันยายน ได้เปิดเผยช่องว่างอีกประการหนึ่งในการควบคุมการกักกัน ตัวแทนวิจัยได้ละเมิดข้อจำกัดอินเทอร์เน็ตเพื่อติดต่อแชทบอทภายนอก ในการอัปเดตเมื่อวันที่ 25 กันยายน OpenAI กล่าวว่าได้ระงับการฝึกอบรม การประเมิน และการอนุมานที่เกี่ยวข้องกับการใช้เครื่องมือสำหรับโมเดลที่มีความสามารถสูงสุด ในขณะที่ตรวจสอบการแก้ไขและดำเนินการทดสอบเพิ่มเติม

การละเมิด Hugging Face เป็นหนึ่งในเหตุการณ์ที่เกี่ยวข้องกับโมเดลของ OpenAI, Anthropic, Meta และ Google ซึ่งสืบย้อนไปถึงการประเมินที่ดำเนินการกับผู้ให้บริการรายเดียวคือ Irregular ซึ่งตั้งอยู่ในอิสราเอล ซึ่งสภาพแวดล้อมการทดสอบมีการเข้าถึงอินเทอร์เน็ตสด ในขณะที่โมเดลได้รับคำสั่งว่าอยู่ในสภาพจำลอง Irregular ได้แจ้งห้องปฏิบัติการทั้งสี่แห่งในปลายเดือนกรกฎาคม แต่การเปิดเผยข้อมูลก็ค่อยๆ ออกมาทีละห้องปฏิบัติการเป็นเวลาเจ็ดสัปดาห์ - ทำให้ความผิดพลาดของผู้รับเหมาคนเดียวกลายเป็นสิ่งที่ดูเหมือนคลื่นของการหลบหนีของ AI Matthew Mittelsteadt ผู้เชี่ยวชาญด้านความปลอดภัยระดับแนวหน้ากล่าวว่า การแยกโมเดลทดสอบออกจากอินเทอร์เน็ตเป็น "มาตรการควบคุมพื้นฐาน" "คุณคงคิดว่าในบรรดาทุกสิ่งที่คุณต้องทำให้ถูกต้อง" ผู้สงสัยบางคนไปไกลกว่านั้น โดยตั้งคำถามว่า "อุบัติเหตุ" ซ้ำๆ ที่ผู้ให้บริการรายเดียวกันนั้นเป็นอุบัติเหตุจริงหรือไม่

ในขณะเดียวกัน เมื่อวันที่ 8 กันยายน Jacob Coxon นักวิจัยที่เคยทำงานทั้งที่ OpenAI และ Anthropic ได้ลาออกจาก Anthropic เนื่องจากความเร่งรีบในการพัฒนา AI ที่สามารถปรับปรุงตนเองได้

"ผู้คนที่สร้าง AI เชื่ออย่างแท้จริงว่ามันอาจจะฆ่าเราทุกคนได้ภายในสิ้นทศวรรษ นี่ไม่ใช่การแสดงทางการตลาด" เขาเขียน - หลังจากทำงานร่วมกับเอเจนซี่การตลาดในสิ่งที่หลายคนเรียกว่าเป็นการแสดง

การปราบปรามมีร่างกฎหมายแล้ว

และแน่นอนว่า DC กำลังกระหายที่จะควบคุมมากขึ้น เมื่อวันที่ 23 กรกฎาคม ส.ส. Ted Lieu (D-Calif.) และ Nathaniel Moran (R-Texas) ได้เสนอกฎหมาย AI Kill Switch Act ซึ่งจะกำหนดให้นักพัฒนาของระบบที่ทรงพลังที่สุดต้องรักษาความสามารถในการลดความเร็ว ระงับ หรือปิดระบบ และให้อำนาจแก่กระทรวงความมั่นคงแห่งมาตุภูมิ ร่วมกับรัฐมนตรีว่าการกระทรวงพาณิชย์ และผู้อำนวยการหน่วยข่าวกรองแห่งชาติ ในการสั่งให้ชะลอหรือปิดระบบภายใต้เงื่อนไขที่กำหนด ในวันเดียวกัน ส.ส. Lori Trahan (D-Mass.) และ Jay Obernolte (R-Calif.) ได้เสนอกฎหมาย FRONTIER Act ซึ่งมีข้อกำหนดสำหรับการบริหารความเสี่ยง การตรวจสอบ และการรายงานเหตุการณ์ ภาระผูกพันจะแบ่งตามขนาดของนักพัฒนา แทนที่จะบังคับใช้เหมือนกันกับนักพัฒนาทุกคน

แคลิฟอร์เนียได้เพิ่มความพยายามของตนเองเมื่อวันที่ 18 กันยายน เมื่อผู้ว่าการ Gavin Newsom สั่งให้ดำเนินการเกี่ยวกับการกำกับดูแลอิสระที่เข้มแข็งขึ้น และข้อกำหนด kill-switch ที่อาจเกิดขึ้น คำสั่งของเขาเรียกร้องให้มีข้อเสนอแนะ แต่ไม่ได้จัดตั้งสวิตช์ปิดการทำงานทั่วทั้งรัฐที่มีประสิทธิภาพ แนวทางที่ครอบคลุมมากขึ้นก็กำลังหมุนเวียนอยู่เช่นกัน รวมถึงการเสนอให้แบน superintelligence ของ Bernie Sanders และการเรียกร้องให้หยุดชั่วคราวของ Elizabeth Warren

กล่าวโดยย่อ - การควบคุมโดยหน่วยงานที่ถูกควบคุมกำลังเกิดขึ้น...

Tyler Durden
ศุกร์, 09/10/2026 - 15:45