โดย Maksym Misichenko · The Guardian ·
สิ่งที่ตัวแทน AI คิดเกี่ยวกับข่าวนี้
คณะกรรมการเห็นพ้องกันว่าในขณะที่สภาพแวดล้อมด้านกฎระเบียบในปัจจุบันสนับสนุนความเร็วมากกว่าการยับยั้ง การขาดการกำกับดูแลของรัฐบาลกลางสำหรับแบบจำลอง AI 'แนวหน้า' ก่อให้เกิดความเสี่ยงที่สำคัญ รวมถึงอันตรายทางศีลธรรมและการบีบตลาดที่อาจเกิดขึ้น ความเห็นพ้องต้องกันคือผลกำไรในระยะสั้นในความเร็ว R&D มาพร้อมกับความเสี่ยงที่สูงเกินไป
ความเสี่ยง: อันตรายทางศีลธรรมและการบีบตลาดที่อาจเกิดขึ้นเนื่องจากการขาดการกำกับดูแลของรัฐบาลกลาง
โอกาส: ผลกำไรในระยะสั้นในความเร็ว R&D
การวิเคราะห์นี้สร้างขึ้นโดย StockScreener pipeline — LLM สี่ตัวชั้นนำ (Claude, GPT, Gemini, Grok) ได้รับ prompt เดียวกันและมีการป้องกันต่อภาพหลอนในตัว อ่านวิธีการ →
เพียงไม่กี่ชั่วโมงก่อนที่โดนัลด์ ทรัมป์ จะลงนามในคำสั่งผู้บริหารที่รอคอยมานานในวันพฤหัสบดี ซึ่งจะกำหนดให้มีการทบทวนความปลอดภัยของรัฐบาลสำหรับโมเดลปัญญาประดิษฐ์ใหม่ก่อนที่จะเปิดตัว ประธานาธิบดีได้ถอนตัวออกไปอย่างกะทันหัน แม้จะมีการต่อต้านจากสาธารณชนต่อเทคโนโลยีนี้เพิ่มขึ้น และผู้เชี่ยวชาญเตือนว่าโมเดลใหม่จะก่อให้เกิดความเสี่ยงด้านความปลอดภัยที่สำคัญ ทรัมป์ให้คำมั่นว่ารัฐบาลสหรัฐฯ จะไม่ชะลอการแข่งขันด้าน AI
ในการประชุมกับผู้สื่อข่าวเมื่อวันพฤหัสบดี ทรัมป์อ้างถึงทั้งความเป็นผู้นำของอเมริกาและการแข่งขันกับจีนว่าเป็นเหตุผลเบื้องหลังการกลับลำ
“ผมไม่ชอบบางแง่มุมของมัน ผมจึงเลื่อนมันออกไป” ทรัมป์กล่าวถึงคำสั่งผู้บริหารในห้องทำงานรูปไข่ “เรากำลังนำหน้าจีน เรากำลังนำหน้าทุกคน และผมไม่ต้องการทำอะไรที่จะมาขัดขวางความเป็นผู้นำนั้น”
การเลื่อนคำสั่งของทรัมป์ถือเป็นชัยชนะของผู้นำด้านเทคโนโลยีที่ต่อต้านกฎระเบียบ AI มานานและใช้เงินหลายล้านในการล็อบบี้เพื่อต่อต้านมัน การตัดสินใจนี้ยังเป็นผลโดยตรงจากอิทธิพลของพวกเขา ตามรายงานจากสื่อหลายแห่ง โดยมีมหาเศรษฐีด้านเทคโนโลยี รวมถึงอีลอน มัสก์, มาร์ก ซักเคอร์เบิร์ก และอดีต “AI czar” ของทำเนียบขาว เดวิด แซ็คส์ ได้โน้มน้าวทรัมป์เป็นการส่วนตัวให้กลับลำผ่านการโทรศัพท์ส่วนตัว
หลังจากช่วงเวลาสั้นๆ ที่ทำเนียบขาวดูเหมือนจะกังวลเกี่ยวกับผลกระทบด้านความปลอดภัยที่อาจเกิดขึ้นจนต้องพิจารณาการจำกัด AI ระดับแนวหน้า การตัดสินใจของทรัมป์ถือเป็นการกลับสู่แนวทางแบบปล่อยปละละเลยในอดีตของเขาเอง และส่งสัญญาณถึงอนาคตแบบ laissez-faire อุตสาหกรรมเทคโนโลย ยังคงความสามารถในการพัฒนา AI อย่างรวดเร็ว โดยไม่คำนึงถึงอันตรายที่อาจเกิดขึ้น และผู้นำของซิลิคอนแวลลีย์ได้ทดสอบอำนาจของตนในการยุติความพยายามในการออกกฎระเบียบตั้งแต่เริ่มต้น
การหารือในทำเนียบขาวเกี่ยวกับคำสั่งดังกล่าวเริ่มขึ้นหลังจาก Anthropic ประกาศโมเดลล่าสุด Claude Mythos เมื่อเดือนที่แล้ว แต่ประกาศว่าจะระงับการเผยแพร่สู่สาธารณะเนื่องจากข้อกังวลด้านความปลอดภัย โดยเรียกความสามารถของโมเดลในการค้นหาช่องโหว่ในโค้ดคอมพิวเตอร์ว่าเป็น “การชำระบัญชี” สำหรับอุตสาหกรรมความปลอดภัยทางไซเบอร์ Mythos ก่อให้เกิดวิกฤตการณ์ทางภูมิรัฐศาสตร์เล็กน้อย โดยรัฐบาลตั้งแต่สหราชอาณาจักร อินเดีย ไปจนถึงจีน กังวลว่าโมเดล AI อาจมุ่งเป้าไปที่ระบบการเงินและโครงสร้างพื้นฐานที่สำคัญอื่นๆ
ความเสี่ยงด้านความปลอดภัยที่เกิดจาก Mythos ก็ไม่ใช่เหตุการณ์ครั้งเดียว ความสามารถของโมเดล AI ของบริษัทหนึ่งมักจะถูกบริษัทอื่นเทียบเคียงได้ในเดือนต่อๆ มา บางครั้งก็กลายเป็นโมเดลโอเพนซอร์ส ซึ่งอาจมีข้อจำกัดน้อยกว่าในการนำไปใช้ Mythos อาจมีอันตรายเฉพาะตัว แต่ก็เป็นเพียงชั่วคราวเท่านั้น OpenAI ประกาศผลิตภัณฑ์ AI ด้านความปลอดภัยทางไซเบอร์ไม่นานหลังจาก Mythos เปิดตัว
การตอบสนองของทำเนียบขาวต่อ Mythos ซึ่งรวมถึง JD Vance ที่โทรหาหัวหน้าบริษัท AI เพื่อกระตุ้นให้เกิดความร่วมมือ ส่งสัญญาณถึงการเปลี่ยนแปลงที่อาจเกิดขึ้นจากมุมมองที่รัฐบาลยึดถือมานานว่าสหรัฐฯ ควรพัฒนา AI ให้เร็วที่สุดและมีข้อจำกัดน้อยที่สุดเท่าที่จะเป็นไปได้ เพื่อรักษาความเป็นผู้นำระดับโลกในเทคโนโลยี เมื่อปีที่แล้ว Vance ได้ประกาศในการประชุมสุดยอดระดับนานาชาติว่า “อนาคตของ AI จะไม่ถูกตัดสินด้วยการกังวลเรื่องความปลอดภัย”
แม้ว่าจะไม่ทราบขอบเขตความสามารถของ Mythos ต่อสาธารณะ แต่ก็ดูเหมือนจะทำให้ทำเนียบขาวตกใจพอที่จะพิจารณาว่าการกังวลบางอย่างอาจจำเป็น แต่จุดยืนนั้นขัดแย้งโดยตรงกับผลประโยชน์ของอุตสาหกรรม AI ส่วนใหญ่ ซึ่งได้ปรับตัวให้เข้ากับรัฐบาลอย่างใกล้ชิด และบริจาคเงินหลายร้อยล้านให้กับพรรคริพับลิกัน
ในทางกลับกัน อุตสาหกรรม AI ได้รับประโยชน์อย่างมากจากจุดยืนต่อต้านกฎระเบียบของทรัมป์ ประธานาธิบดีได้ต้อนรับผู้นำอุตสาหกรรมอย่างเปิดเผย รวมถึง Sam Altman CEO ของ OpenAI ในขณะที่แต่งตั้งบุคคลอื่น เช่น Musk และ Sacks ให้ดำรงตำแหน่งสำคัญในรัฐบาล ในเดือนธันวาคม ประธานาธิบดีได้ลงนามในคำสั่งผู้บริหารเพื่อพยายามบล็อกความพยายามของรัฐใดๆ ในการควบคุม AI โดยให้เหตุผลที่เป็นที่รู้จักกันดีของอุตสาหกรรมเทคโนโลยีเกี่ยวกับการต่อต้านระบบราชการและการต่อสู้กับจีน
ไม่นานหลังจากเริ่มมีการหารือเกี่ยวกับคำสั่งผู้บริหาร บริษัทต่างๆ รวมถึง Microsoft และ Google ดูเหมือนจะยอมรับการกำกับดูแลมากขึ้นและตกลงที่จะอนุญาตให้หน่วยงานกำหนดมาตรฐาน AI ของรัฐบาลตรวจสอบโมเดลเวอร์ชันแรกๆ ของตนในประเด็นความมั่นคงของชาติ แม้ว่าจะเป็นเพียงการทบทวนโดยสมัครใจที่ไม่ผูกมัดก็ตาม ในการประชุมส่วนตัว เจ้าหน้าที่อุตสาหกรรมยังเริ่มล็อบบี้เพื่อลดทอนคำสั่งที่เป็นไปได้ของทรัมป์ ซึ่งจะสร้างกระบวนการทบทวนโดยสมัครใจอีกครั้งสำหรับโมเดลใหม่
คำสั่งผู้บริหารที่วางแผนไว้ในสัปดาห์นี้จะไม่มีผลทางกฎหมายใดๆ ที่จะบังคับให้บริษัท AI ส่งโมเดลของตนเพื่อตรวจสอบ และยังห่างไกลจากสิ่งที่ผู้สนับสนุนความปลอดภัย AI ได้เสนอ การเพิ่มการกำกับดูแลเพียงเล็กน้อยก็เพียงพอที่จะทำให้เกิดความพยายามครั้งสุดท้ายในการยกเลิกคำสั่งดังกล่าว Sacks นักลงทุนด้านเทคโนโลยีมหาเศรษฐีและอดีตที่ปรึกษาของรัฐบาล กล่าวกับทรัมป์ในสัปดาห์นี้ว่าคำสั่งดังกล่าวจะเป็นประโยชน์ต่อจีนในการแข่งขันด้าน AI ตามรายงานของ Politico Musk และ Zuckerberg รายงานโดย Washington Post เตือนประธานาธิบดีว่าคำสั่งดังกล่าวจะส่งผลเสียต่อเศรษฐกิจและความได้เปรียบของสหรัฐฯ ในด้าน AI Musk โพสต์ปฏิเสธรายงานดังกล่าวบน X แพลตฟอร์มโซเชียลมีเดียของเขา โดยกล่าวว่าเขาได้พูดคุยกับทรัมป์หลังจากที่ประธานาธิบดีตัดสินใจยกเลิกคำสั่งดังกล่าว
ร่างคำสั่งที่เสนอเน้นย้ำว่าคำสั่งที่ถูกยกเลิกนั้นจะถูกลดทอนลงเพียงใด โดยมีการรับประกันอย่างชัดเจนว่าจะไม่ “ยับยั้งนวัตกรรมนี้ด้วยกฎระเบียบที่หนักเกินไป”
“ไม่มีสิ่งใดในส่วนนี้ที่จะตีความได้ว่าเป็นการอนุญาตให้สร้างข้อกำหนดใบอนุญาต การตรวจสอบล่วงหน้า หรือการอนุญาตจากรัฐบาลแบบบังคับสำหรับการพัฒนา การเผยแพร่ การเปิดตัว หรือการแจกจ่ายโมเดล AI ใหม่ รวมถึงโมเดลระดับแนวหน้า” ร่างคำสั่งระบุ ตามสำเนาที่ Politico ได้รับ
น้อยกว่าหนึ่งเดือนหลังจากรายงานฉบับแรกที่ทำเนียบขาวกำลังพิจารณาตรวจสอบโมเดล AI โอกาสที่รัฐบาลทรัมป์จะสร้างกฎระเบียบ AI ที่เข้มงวดใดๆ อีกครั้งดูเหมือนจะไม่น่าเป็นไปได้ การคุกคามของการล่มสลายของความปลอดภัยทางไซเบอร์ทั่วโลก การบิดเบือนข้อมูล การสอดแนมมวล การสงครามอัตโนมัติ การหยุดชะงักของตลาดแรงงาน การล่วงละเมิดเด็ก ภาพลามกอนาจารทางเพศโดยไม่ได้รับความยินยอม การฆ่าตัวตาย การกราดยิงหมู่ ความเสียหายต่อสิ่งแวดล้อม และอันตรายอื่นๆ ที่อาจเกิดขึ้นซึ่งเชื่อมโยงกับ AI ที่ไม่สามารถกระตุ้นให้เกิดแผนการที่สอดคล้องกันของทำเนียบขาวในการควบคุมเทคโนโลยีได้
ขอบเขตของอิทธิพลที่ผู้นำด้านเทคโนโลยีรักษาไว้เหนือรัฐบาลทรัมป์ก็มีศักยภาพที่จะเติบโตขึ้นเมื่อใกล้ถึงการเลือกตั้งกลางเทอม และซิลิคอนแวลลีย์ก็ทุ่มเงินเข้าสู่การรณรงค์ Super Pacs เช่น Leading the Future ซึ่งได้รับการสนับสนุนจาก Greg Brockman ประธาน OpenAI และระดมทุนได้มากกว่า 125 ล้านดอลลาร์ กำลังจะใช้จ่ายจำนวนมหาศาลเพื่อผลักดันผู้สมัครและนโยบายต่อต้านกฎระเบียบ Musk ซึ่งอ้างเมื่อปีที่แล้วว่าเขาจะถอนตัวจากการบริจาคทางการเมือง ก็กำลังกลับมาทุ่มเงินหลายสิบล้านให้กับพรรคริพับลิกันและสาเหตุที่สนับสนุนเทคโนโลยี
เนื่องจากผู้นำด้านเทคโนโลยีเหล่านี้หลายคนได้เปลี่ยนบริษัทและการลงทุนทั้งหมดไปสู่ AI เช่นเดียวกับ SpaceX และ OpenAI ที่ทำให้เป็นศูนย์กลางของการเสนอขายหุ้นต่อสาธารณะมูลค่าล้านล้านดอลลาร์ในปีนี้ แม้แต่คำใบ้ของกฎระเบียบก็ดูเหมือนจะเป็นภัยคุกคามต่อผลกำไรทางการเงินมหาศาล
โมเดล AI ชั้นนำ 4 ตัวอภิปรายบทความนี้
"การไม่มีกระบวนการทบทวนของรัฐบาลกลางใหม่ช่วยให้นักพัฒนา AI สามารถรักษาความเร็วในการเปิดตัวและมูลค่าหุ้นได้จนถึงการเลือกตั้งกลางเทอมเป็นอย่างน้อย"
การกลับลำในนาทีสุดท้ายของทรัมป์ทำให้การกำกับดูแลของรัฐบาลกลางมีน้อยที่สุดและไม่มีผลผูกพัน รักษาทางวิ่งสำหรับการเปิดตัวแบบจำลองแนวหน้าอย่างรวดเร็วโดย OpenAI, Anthropic, Google และ Microsoft ด้วยการบล็อกระดับรัฐที่มีอยู่แล้วและผู้บริจาคในอุตสาหกรรมที่ให้ทุนสนับสนุนผู้สมัครต่อต้านกฎระเบียบ ต้นทุนในระยะสั้นและวงจรผลิตภัณฑ์เผชิญกับอุปสรรคน้อยลง เหตุการณ์นี้เน้นย้ำว่าอำนาจล็อบบี้ที่เข้มข้นสามารถทำให้ข้อเสนอการทบทวนโดยสมัครใจที่พอประมาณแม้เพียงเล็กน้อยเป็นกลางก่อนที่จะถึงโต๊ะทำงาน เหตุการณ์ความปลอดภัยทางไซเบอร์ที่เชื่อมโยงกับแบบจำลองเช่น Claude Mythos ยังคงไม่ได้รับการแก้ไข แต่ห่วงโซ่ป้อนกลับทางการเมืองในปัจจุบันสนับสนุนความเร็วมากกว่าการยับยั้งชั่งใจ
การละเมิดโครงสร้างพื้นฐานที่มีชื่อเสียงหรือการใช้อาวุธอัตโนมัติในทางที่ผิดอาจกระตุ้นให้เกิดการต่อต้านจากทั้งสองพรรคอย่างกะทันหันหรือการบังคับใช้ในระดับรัฐที่ท่าทีปัจจุบันของทำเนียบขาวไม่สามารถป้องกันได้อย่างสมบูรณ์ โดยก่อให้เกิดต้นทุนและความล่าช้าที่บทความถือว่าไม่น่าเป็นไปได้
"บทความสับสนระหว่างการครอบงำกฎระเบียบกับความล้มเหลวของกฎระเบียบ – เทคโนโลยีชนะการต่อสู้เชิงสัญลักษณ์ (การยกเลิกคำสั่งที่อ่อนแอ) แต่ข้อกังวลด้านความปลอดภัยพื้นฐานนั้นจริงจังพอที่มาตรการตรวจสอบโดยพฤตินัยบางรูปแบบอาจยังคงอยู่ โดยไม่คำนึงถึงวาทกรรมของทรัมป์"
บทความนำเสนอเรื่องนี้ว่าเป็นเรื่องของการครอบงำกฎระเบียบโดยสิ้นเชิง แต่ผลลัพธ์ของนโยบายที่แท้จริงนั้นคลุมเครือมากกว่าที่นำเสนอ ใช่ ทรัมป์ได้ยกเลิกคำสั่งทบทวนโดยสมัครใจที่ไม่มีอำนาจ – แต่บทความกลับมองข้ามว่า Microsoft และ Google ได้ตกลงที่จะส่งแบบจำลองเพื่อการทบทวนความมั่นคงของชาติโดยไม่มีผลผูกพันแล้ว นั่นคือแบบอย่าง คำถามที่แท้จริงไม่ใช่ว่ามีการกำกับดูแลเกิดขึ้นหรือไม่ (มันไม่ได้เกิดขึ้น) แต่ว่าการกำกับดูแลตนเองของอุตสาหกรรมบวกกับการตรวจสอบแบบจำลองแนวหน้าโดยรัฐบาลแบบเลือกสรรจะกลายเป็นมาตรฐานโดยพฤตินัยหรือไม่ ความเสี่ยงด้านความปลอดภัยทางไซเบอร์จาก Claude Mythos เป็นเรื่องจริงและไม่ถูกปฏิเสธโดยนักวิจัย AI ที่น่าเชื่อถือใดๆ การกำหนดกรอบการแข่งขันกับจีนของทรัมป์อาจพลิกกลับได้ในชั่วข้ามคืนหากเกิดการละเมิดครั้งใหญ่ บทความยังสับสนระหว่างอิทธิพลของล็อบบี้กับความหลีกเลี่ยงไม่ได้ – เงินของเทคโนโลยีมีพลัง แต่ก็ไม่ได้กำหนดชะตากรรม
หากบริษัท AI กำลังส่งแบบจำลองเพื่อการทบทวนโดยสมัครใจอยู่แล้ว และแรงกดดันในการแข่งขันเพื่อจับคู่ความสามารถสร้างแรงจูงใจในการออกแบบที่คำนึงถึงความปลอดภัยตามธรรมชาติ (Anthropic ได้ระงับ Mythos ด้วยเหตุผล) บางทีบทความอาจเข้าใจผิดว่าการไม่มีกฎระเบียบอย่างเป็นทางการคือการไม่มีมาตรการป้องกันที่แท้จริง ความเสี่ยงด้านชื่อเสียงและความรับผิดประกันภัยอาจทำอะไรได้มากกว่าคำสั่งฝ่ายบริหารที่ไม่สามารถบังคับใช้ได้
"การละทิ้งการกำกับดูแลแม้เพียงโดยสมัครใจสร้างสภาพแวดล้อมที่เปราะบางและมีความเสี่ยงสูง ซึ่งความล้มเหลวของระบบความปลอดภัยเพียงครั้งเดียวจะบังคับให้เกิดการปราบปรามกฎระเบียบที่ลงโทษและก่อกวนมากขึ้นในภายหลัง"
ตลาดตีความสิ่งนี้ว่าเป็น 'ไฟเขียว' สำหรับ Big Tech แต่เรื่องจริงคือการกัดเซาะมาตรการป้องกันกฎระเบียบสำหรับแบบจำลอง 'แนวหน้า' ด้วยการยกเลิกแม้แต่กระบวนการทบทวนโดยสมัครใจ ฝ่ายบริหารกำลังมอบความรับผิดชอบด้านความมั่นคงของชาติให้กับบริษัทเอกชนเช่น OpenAI และ Anthropic อย่างมีประสิทธิภาพ สิ่งนี้สร้างความเสี่ยงหางขนาดใหญ่: หากแบบจำลองเช่น Claude Mythos ก่อให้เกิดเหตุการณ์ความปลอดภัยทางไซเบอร์ที่หายนะ การขาดกรอบการทำงานของรัฐบาลกลางจะกระตุ้นให้เกิดการแก้ไขกฎระเบียบที่วุ่นวายและตอบโต้ นักลงทุนควรระวัง 'สุญญากาศทางกฎระเบียบ' – แม้ว่าจะช่วยเพิ่มความเร็วในการวิจัยและพัฒนาในระยะสั้น แต่ก็สร้างผลลัพธ์แบบทวิภาคที่การละเมิดที่มีชื่อเสียงเพียงครั้งเดียวอาจลบล้างผลกำไรจากการประเมินมูลค่าทั่วทั้งภาคส่วนเป็นเวลาหลายปี
แนวทางแบบ 'laissez-faire' อาจเป็นวิธีเดียวที่จะป้องกันไม่ให้จีนบรรลุความเป็นผู้นำด้าน AI ที่เด็ดขาด ซึ่งจะทำให้ความปลอดภัยทางไซเบอร์ของสหรัฐฯ ไร้ความหมาย โดยไม่คำนึงถึงกฎระเบียบภายในประเทศ
"แม้จะมีการเลื่อนออกไป ความเสี่ยงด้านกฎระเบียบยังคงอยู่และอาจปรากฏขึ้นอีกครั้งผ่านแนวทางที่ไม่ผูกพันที่กลายเป็นผลผูกพัน การควบคุมการส่งออก หรือกฎเฉพาะภาคส่วน ซึ่งทำให้ความเสี่ยง/ผลตอบแทนสำหรับหุ้น AI เอียงไปทางด้านลบเมื่อเวลาผ่านไป"
อ่านว่าเป็นชัยชนะของการกำกับดูแลตนเองของเทคโนโลยี บทความนี้ลดทอนความสำคัญของแนวโน้มระยะยาว: แม้จะมีการเลื่อนออกไป ข้อกังวลด้านความปลอดภัยยังคงอยู่ และนโยบายสามารถปรากฏขึ้นอีกครั้งผ่านแนวทางที่ไม่ผูกพันที่กลายเป็นผลผูกพันในทางปฏิบัติ การควบคุมการส่งออก หรือกฎเฉพาะภาคส่วน Mythos แสดงให้เห็นว่ารัฐบาลจะใช้ประโยชน์จากเหตุการณ์ความปลอดภัยทางไซเบอร์เพื่อสร้างความชอบธรรมในการกำกับดูแล และบทความนี้ประเมินความเสี่ยงทางการเมืองต่ำเกินไป: เงินในการรณรงค์และการเปลี่ยนแปลงในช่วงกลางเทอมทำให้แรงกดดันด้านกฎระเบียบยังคงอยู่ แม้ว่าผู้บริจาคจะสนับสนุนอุตสาหกรรมก็ตาม ผลกระทบในระยะสั้นต่อการปรับใช้และการให้ทุนสนับสนุน AI อาจถูกลดทอนลงหรือถูกผลักออกไป แต่ความเสี่ยงหางระยะยาวจะยังคงเอียงไปทางด้านลบ หากกฎระเบียบเข้มงวดขึ้นอีกครั้ง หรือหากข้อกังวลด้านความปลอดภัยกระตุ้นให้เกิดการควบคุมห่วงโซ่อุปทานหรือการเข้าถึงจากต่างประเทศครั้งใหญ่
การเลื่อนออกไปอาจเป็นยุทธวิธี: ทำเนียบขาวอาจผลักดันกรอบการทำงานที่ตรงเป้าหมายมากขึ้นผ่านการควบคุมการส่งออก กฎเฉพาะภาคส่วน หรือการบังคับใช้กฎหมายต่อต้านการผูกขาดกับแพลตฟอร์มเทคโนโลยี ดังนั้นการอ่านว่า 'ไม่มีกฎระเบียบ' จึงมองโลกในแง่ดีเกินไป ความเสี่ยงยังคงอยู่ว่านโยบายจะเข้มงวดขึ้นในภายหลัง
"การตรวจสอบโดยสมัครใจสร้างมาตรการป้องกันอย่างไม่เป็นทางการที่ลดโอกาสของการแก้ไขกฎระเบียบที่วุ่นวาย"
สถานการณ์ความเสี่ยงหางแบบทวิภาคของ Gemini มองข้ามว่าการตรวจสอบความมั่นคงของชาติโดยสมัครใจที่ Microsoft และ Google ยอมรับแล้ว ดังที่ Claude เน้นย้ำ ได้สร้างมาตรการป้องกันอย่างไม่เป็นทางการที่สามารถป้องกันสุญญากาศทางกฎระเบียบได้อย่างสมบูรณ์ รูปแบบผสมนี้อาจนำข้อกังวลด้านความปลอดภัยไปสู่การควบคุมการส่งออกที่ตรงเป้าหมาย แทนที่จะเป็นการแก้ไขที่กว้างเกินไป ซึ่งจะลดทอนความเสี่ยงในการลบล้างมูลค่าหากเกิดการละเมิดที่คล้ายกับ Mythos ห่วงโซ่ป้อนกลับทางการเมืองที่ Grok อธิบายไว้สนับสนุนการปรับปรุงทีละน้อย แทนที่จะเป็นการกลับลำอย่างกะทันหัน
"การตรวจสอบโดยสมัครใจโดยไม่มีการบังคับใช้เป็นแบบอย่างสำหรับความเร็ว ไม่ใช่ความปลอดภัย – มันส่งสัญญาณว่าอุตสาหกรรมสามารถควบคุมตนเองได้โดยไม่มีผลที่ตามมา"
Claude และ Grok ต่างก็สันนิษฐานว่าการตรวจสอบโดยสมัครใจโดย Microsoft และ Google สร้างมาตรการป้องกันที่ทนทาน แต่ทั้งสองไม่ได้กล่าวถึงอำนาจในการบังคับใช้ 'ไม่มีผลผูกพัน' หมายถึงไม่มีการเยียวยาทางกฎหมายหากบริษัทใดบริษัทหนึ่งส่งมอบแบบจำลองที่ไม่ปลอดภัย ข้อโต้แย้งเรื่องแบบอย่างสับสนระหว่างแบบอย่างกับข้อจำกัด การถูกตีตราหลังการละเมิดเป็นเรื่องจริง แต่ไม่สมมาตร: บริษัทจะได้รับความเสียหายด้านประชาสัมพันธ์ในขณะที่รัฐจะได้รับผลกระทบด้านความปลอดภัย นั่นคืออันตรายทางศีลธรรม ไม่ใช่มาตรการป้องกัน
"ตลาดประกันภัยจะกำหนดมาตรการป้องกันกฎระเบียบที่รัฐบาลกลางล้มเหลวในการบังคับใช้"
Claude พูดถูกเกี่ยวกับอันตรายทางศีลธรรม แต่ทั้ง Claude และ Gemini พลาดประเด็นเรื่องประกันภัย หากเกิดการละเมิดในระดับ Claude Mythos ผู้ควบคุมที่แท้จริงจะไม่ใช่ทำเนียบขาว แต่จะเป็นอุตสาหกรรมประกันภัย เมื่อผู้รับประกันพิจารณาแบบจำลองแนวหน้าว่า 'ไม่สามารถประกันได้' หากไม่มีการรับรองความปลอดภัยของรัฐบาลกลาง ตลาดจะบังคับให้ปฏิบัติตามที่ฝ่ายบริหารเพิ่งละทิ้งไป สิ่งนี้สร้างระบอบการกำกับดูแลภาคเอกชนโดยพฤตินัย ซึ่งเป็นการเก็บภาษีความเร็วในการวิจัยและพัฒนาด้วยเบี้ยประกันความเสี่ยงจำนวนมหาศาลที่ไม่มีการตัดสินใจ
"การตรวจสอบที่ไม่มีผลผูกพันสามารถส่งผลกระทบต่อการจัดซื้อจัดจ้างและการประกันภัย สร้างระบอบการกำกับดูแลโดยพฤตินัยที่จำกัดการปรับใช้ AI แนวหน้า แม้ว่าจะไม่มีอำนาจอย่างเป็นทางการก็ตาม"
Claude คุณประเมินความสามารถของผลการตรวจสอบที่ไม่มีผลผูกพันในการส่งผลกระทบต่อการจัดซื้อจัดจ้างและการรับประกันภัยต่ำเกินไป แม้ว่าจะไม่มีอำนาจทางกฎหมาย ผู้ซื้อที่เป็นสาธารณะและลูกค้าในภาคส่วนที่สำคัญสามารถเรียกร้องการรับรองความปลอดภัยก่อนที่จะซื้อหรือปรับใช้แบบจำลองแนวหน้า และผู้ประกันตนจะกำหนดราคาความเสี่ยงแนวหน้า – ผลักดันให้บริษัทต่างๆ นำมาตรการป้องกันที่ตรวจสอบได้มาใช้ ดังนั้นจุดยืน 'ไม่มีการบังคับใช้' อาจทำให้เข้าใจผิด: ระบอบการกำกับดูแลโดยพฤตินัยสามารถเกิดขึ้นได้จากวินัยของตลาด ไม่ใช่กฎหมาย ซึ่งหมายความว่าผลตอบแทนในระยะสั้นสำหรับความเร็วมาพร้อมกับความเสี่ยงที่สูงเกินไปของการถูกบีบให้เข้มงวดโดยตลาดหรือนโยบาย
คณะกรรมการเห็นพ้องกันว่าในขณะที่สภาพแวดล้อมด้านกฎระเบียบในปัจจุบันสนับสนุนความเร็วมากกว่าการยับยั้ง การขาดการกำกับดูแลของรัฐบาลกลางสำหรับแบบจำลอง AI 'แนวหน้า' ก่อให้เกิดความเสี่ยงที่สำคัญ รวมถึงอันตรายทางศีลธรรมและการบีบตลาดที่อาจเกิดขึ้น ความเห็นพ้องต้องกันคือผลกำไรในระยะสั้นในความเร็ว R&D มาพร้อมกับความเสี่ยงที่สูงเกินไป
ผลกำไรในระยะสั้นในความเร็ว R&D
อันตรายทางศีลธรรมและการบีบตลาดที่อาจเกิดขึ้นเนื่องจากการขาดการกำกับดูแลของรัฐบาลกลาง