โดย Maksym Misichenko · BBC Business ·
สิ่งที่ตัวแทน AI คิดเกี่ยวกับข่าวนี้
คณะกรรมการโดยทั่วไปมองว่ากรอบการทดสอบ CAISI โดยสมัครใจเป็นก้าวเชิงกลยุทธ์ของ Big Tech เพื่อสร้างความน่าเชื่อถือและรักษาความปลอดภัยสัญญาทางกลาโหม แต่มีความเห็นไม่ลงรอยกันว่านี่เป็นอุปสรรคด้านกฎระเบียบหรือ 'คูเมืองที่ได้รับการรับรองจากรัฐบาล' ความเสี่ยงที่แท้จริงคือการผูกขาดการจัดซื้อจัดจ้างที่อาจเกิดขึ้น ในขณะที่โอกาสอยู่ที่ความน่าเชื่อถือที่เพิ่มขึ้นสำหรับข้อตกลงองค์กรและกลาโหม
ความเสี่ยง: การผูกขาดการจัดซื้อจัดจ้าง ชะลอ نوآوری ที่กว้างขึ้น และกีดกันผู้เล่นรายเล็ก
โอกาส: ความน่าเชื่อถือที่เพิ่มขึ้นสำหรับข้อตกลงองค์กรและกลาโหม
การวิเคราะห์นี้สร้างขึ้นโดย StockScreener pipeline — LLM สี่ตัวชั้นนำ (Claude, GPT, Gemini, Grok) ได้รับ prompt เดียวกันและมีการป้องกันต่อภาพหลอนในตัว อ่านวิธีการ →
เครื่องมือและความสามารถด้านปัญญาประดิษฐ์ (AI) ใหม่จาก Google, Microsoft และ xAI จะได้รับการทดสอบโดยกระทรวงพาณิชย์ของสหรัฐฯ ก่อนที่จะเผยแพร่สู่สาธารณะ
บริษัทเทคโนโลยีเหล่านี้ได้ตกลงที่จะส่งโมเดลของตนเพื่อการทดสอบโดยสมัครใจผ่านศูนย์มาตรฐานและนวัตกรรม AI (CAISI) ของกระทรวงพาณิชย์
ข้อตกลงใหม่นี้เป็นการขยายข้อตกลงที่มีอยู่กับบริษัท AI เช่น OpenAI และ Anthropic ที่ได้บรรลุผลในช่วงรัฐบาล Biden และจะเห็นโมเดล AI จากทุกบริษัทได้รับการประเมินความสามารถและความปลอดภัย
"ความร่วมมือในอุตสาหกรรมที่ขยายตัวเหล่านี้ช่วยให้เราขยายขอบเขตการทำงานเพื่อประโยชน์สาธารณะในช่วงเวลาสำคัญ" Chris Fall ผู้อำนวยการ CAISI กล่าว
โดยรวมแล้ว การประเมินเครื่องมือ AI จะครอบคลุม "การทดสอบ การวิจัยร่วม และการพัฒนากลยุทธ์ที่ดีที่สุดที่เกี่ยวข้องกับระบบ AI เชิงพาณิชย์"
เครื่องมือ AI ที่มีชื่อเสียงที่สุดของ Google ผ่านบริษัทในเครือ DeepMind คือ Gemini ซึ่งเป็นแชทบอทที่มีให้บริการอย่างแพร่หลายในผลิตภัณฑ์ของ Google แต่ปัจจุบันกำลังถูกนำไปใช้ในหน่วยงานด้านกลาโหมและการทหารของสหรัฐฯ ด้วย
เครื่องมือ AI ที่มีชื่อเสียงที่สุดของ Microsoft คือ CoPilot ในขณะที่ผลิตภัณฑ์ AI เพียงอย่างเดียวของ xAI คือ Grok ซึ่งเป็นแชทบอทที่ถูกวิพากษ์วิจารณ์อย่างกว้างขวางจากสาธารณชนในประเด็นที่เกี่ยวข้องกับการเปิดเผยภาพบุคคล
เมื่อวันอังคาร CASI ระบุว่าได้ดำเนินการประเมินเครื่องมือ AI ไปแล้ว 40 ครั้ง รวมถึงการประเมินและทดสอบ "โมเดลที่ทันสมัยบางส่วนที่ยังไม่ได้เผยแพร่"
ศูนย์ดังกล่าวไม่ได้ระบุว่าโมเดลใดถูกระงับการเผยแพร่สู่สาธารณะ
**ใ**นโพสต์บล็อกของบริษัทที่เผยแพร่หลังจากการประกาศของ CAISI Microsoft ระบุว่าได้ทดสอบโมเดล AI ของตนอยู่แล้ว แต่ "การทดสอบความเสี่ยงด้านความมั่นคงแห่งชาติและความปลอดภัยสาธารณะในวงกว้างจำเป็นต้องเป็นความร่วมมือกับรัฐบาล"
โฆษกของ Google DeepMind ปฏิเสธที่จะให้ความเห็น ตัวแทนของ SpaceX บริษัทของ Elon Musk ซึ่งปัจจุบันควบคุม xAI ไม่ได้ตอบสนองต่อคำขอความคิดเห็น
การนำบริษัทต่างๆ เข้ามาร่วมวิจัยและทดสอบความปลอดภัยของเครื่องมือ AI เชิงพาณิชย์ถือเป็นการเปลี่ยนแปลงจากทำเนียบขาวของทรัมป์ ซึ่งมีแนวทางที่ค่อนข้างไม่เข้ามายุ่งเกี่ยวกับการกำกับดูแลหรือกฎระเบียบของ AI และบริษัทเทคโนโลยี
เมื่อปีที่แล้ว ประธานาธิบดีโดนัลด์ ทรัมป์ ได้ลงนามในชุดคำสั่งผู้บริหารที่เป็นพื้นฐานของ "แผนปฏิบัติการ AI" ของรัฐบาลของเขา ซึ่งเขากล่าวว่า "จะขจัดอุปสรรคและกฎระเบียบที่ยุ่งยาก" เกี่ยวกับการพัฒนา AI และรับรองว่าสหรัฐฯ จะ "ชนะ" ผ่านความก้าวหน้าและการควบคุมเทคโนโลยี
แต่เนื่องจากกองทัพสหรัฐฯ กำลังขยายการใช้ AI และคำกล่าวอ้างล่าสุดจาก Anthropic ว่าได้พัฒนาโมเดลชื่อ Mythos ที่มีประสิทธิภาพเกินกว่าจะเผยแพร่สู่สาธารณะ ทำเนียบขาวดูเหมือนจะกำลังเปลี่ยนมุมมอง
เจ้าหน้าที่ระดับสูงของทรัมป์ได้พบกับ Dario Amodei CEO ของ Anthropic เมื่อเดือนที่แล้ว ตามที่ BBC เคยรายงาน แม้ว่าบริษัทจะกำลังเผชิญกับการฟ้องร้องกับกระทรวงกลาโหมสหรัฐฯ เกี่ยวกับการปฏิเสธของ Anthropic ที่จะยกเลิกมาตรการรักษาความปลอดภัยสำหรับการใช้งานโมเดลของตนโดยรัฐบาล
โมเดล AI ชั้นนำ 4 ตัวอภิปรายบทความนี้
"การทำให้การทดสอบความปลอดภัย AI เป็นระบบถือเป็นอุปสรรคด้านกฎระเบียบในการเข้าสู่ตลาด ซึ่งจะตอกย้ำการครอบงำตลาดของบริษัทยักษ์ใหญ่ด้านเทคโนโลยีที่มีอยู่ โดยการปรับแผนงานผลิตภัณฑ์ให้สอดคล้องกับลำดับความสำคัญด้านความมั่นคงของชาติ"
การเปลี่ยนแปลงนี้ไปสู่กรอบการทดสอบความปลอดภัยที่เป็นทางการสำหรับ GOOGL, MSFT และ xAI เป็นการเปลี่ยนแปลงเชิงกลยุทธ์จากการ 'ลดกฎระเบียบ' ไปสู่ 'การบูรณาการความมั่นคงของชาติ' แม้ว่าตลาดอาจมองว่านี่เป็นอุปสรรคด้านกฎระเบียบ แต่จริงๆ แล้วเป็นการสร้าง 'คูเมืองที่ได้รับการรับรองจากรัฐบาล' โดยการฝังการทดสอบ CAISI เข้าไปในวงจรการพัฒนา บริษัทเหล่านี้จึงได้รับสัญญาจัดซื้อจัดจ้างของรัฐบาลกลางอย่างมีประสิทธิภาพ โดยเฉพาะอย่างยิ่งในภาคกลาโหม ความเสี่ยงที่แท้จริงไม่ใช่การทดสอบเอง แต่เป็นศักยภาพของเศรษฐกิจ AI แบบ 'สองระดับ' ที่ห้องปฏิบัติการขนาดเล็กที่ไม่เป็นไปตามข้อกำหนดจะถูกกีดกันออกจากตลาดองค์กรและรัฐบาล ซึ่งจะยิ่งตอกย้ำการผูกขาดในปัจจุบัน นักลงทุนควรจับตาดูว่าการทดสอบที่ส่งมา 'โดยสมัครใจ' เหล่านี้จะส่งผลต่อการจัดสรรสัญญาของกระทรวงกลาโหมในอนาคตอย่างไร
ลักษณะ 'สมัครใจ' ของข้อตกลงเหล่านี้เป็นเพียงฉากหน้า รัฐบาลกำลังสร้างคอขวดที่อาจทำให้รอบการเปิดตัวผลิตภัณฑ์ล่าช้า ซึ่งจะบั่นทอนความเร็วของนวัตกรรมที่จำเป็นในการแข่งขันกับหน่วยงานนอกสหรัฐฯ
"ระบบการทดสอบโดยสมัครใจของ CAISI ตรวจสอบความถูกต้องของสแต็ก AI ของ GOOGL และ MSFT สำหรับกลาโหม/องค์กร โดยไม่มีแรงฉุดลากด้านกฎระเบียบ ซึ่งจะเสริมสร้างความเป็นผู้นำของพวกเขาในตลาดมูลค่ากว่า 1 ล้านล้านดอลลาร์"
การทดสอบ CAISI โดยสมัครใจสำหรับ Gemini ของ GOOGL, Copilot ของ MSFT และ Grok ของ xAI เป็นสัญญาณที่ดีสำหรับผู้นำ AI ของ Big Tech ซึ่งสอดคล้องกับ 'แผนปฏิบัติการ AI' ที่ลดกฎระเบียบของทรัมป์ ในขณะเดียวกันก็ป้องกันการต่อต้านจากการบูรณาการทางทหาร (เช่น Gemini ใน DoD) ด้วยการประเมินก่อนหน้านี้ 40 ครั้งที่ไม่ก่อให้เกิดการบล็อกสาธารณะ สิ่งนี้จะสร้างคูเมืองด้านการปฏิบัติตามข้อกำหนด ซึ่งช่วยเพิ่มความน่าเชื่อถือสำหรับข้อตกลงองค์กร/กลาโหม โดยไม่มีข้อบังคับแบบ EU บล็อกของ MSFT เน้นย้ำถึงความร่วมมือมากกว่าการทดสอบเดี่ยว ซึ่งบ่งชี้ถึงแรงเสียดทานต่ำ ความเสี่ยง เช่น เรื่องอื้อฉาวเกี่ยวกับภาพของ Grok จะถูกกำจัดตั้งแต่เนิ่นๆ คาดว่า P/E จะมีการปรับปรุงเล็กน้อย (GOOGL ~23x ล่วงหน้า, MSFT ~32x) เนื่องจากความเป็นผู้นำด้านความปลอดภัยชนะสัญญา ท่ามกลางการแข่งขันกับจีน (102 คำ)
ข้อตกลง 'สมัครใจ' นี้มีความเสี่ยงที่จะกลายเป็นความล่าช้าหรือการบล็อกที่บังคับสำหรับโมเดลที่มีประสิทธิภาพสูง ดังที่ Mythos ที่ยังไม่เปิดตัวของ Anthropic แสดงให้เห็น ซึ่งจะบั่นทอนความได้เปรียบด้านความเร็วของ AI ของสหรัฐฯ เมื่อเทียบกับคู่แข่งที่ไม่มีกฎระเบียบ และกดดันผลตอบแทนจากการลงทุน (capex) ในระยะสั้น
"สิ่งนี้เป็นการขยาย *การเข้าถึง* ของรัฐบาลต่อโมเดล AI ที่อยู่ระหว่างการพัฒนา ไม่ใช่ *การควบคุม* ของรัฐบาลเหนือการตัดสินใจเปิดตัว ซึ่งยังคงอยู่ที่บริษัทต่างๆ"
นี่ดูเหมือนจะเป็นละครกฎระเบียบที่แฝงตัวเป็นการกำกับดูแล CAISI อ้างว่ามีการประเมินก่อนหน้านี้ 40 ครั้ง แต่ยอมรับว่ายังไม่ได้บล็อกการเปิดตัวสาธารณะใดๆ มีเพียงโมเดลที่ยังไม่เปิดตัวเท่านั้นที่ยังไม่ระบุ กรอบการทำงานโดยสมัครใจนี้ไม่มีพิษสง: Google, Microsoft และ xAI ยังคงมีอำนาจในการเปิดตัว สิ่งที่น่าสนใจกว่านั้นคือ เจ้าหน้าที่ของทรัมป์ได้พบกับ Anthropic ในขณะที่บริษัทปฏิเสธที่จะยกเลิกมาตรการรักษาความปลอดภัยสำหรับ DoD ซึ่งบ่งชี้ว่าการเจรจาที่แท้จริงคือเกี่ยวกับมาตรการรักษาความปลอดภัย *ใด* ที่จะถูกลบออกเพื่อความมั่นคงของชาติ ไม่ใช่ว่า AI จะปลอดภัยขึ้นหรือไม่ บทความนี้มองว่านี่เป็นการ 'เปลี่ยนแปลง' จากจุดยืนที่ลดกฎระเบียบของทรัมป์ แต่จริงๆ แล้วสอดคล้องกัน รัฐบาลจะเข้าถึงและมีอิทธิพลล่วงหน้า ประชาชนจะได้รับผลิตภัณฑ์เดียวกันเร็วขึ้น
หาก CAISI ได้บล็อกโมเดลที่ยังไม่เปิดตัวจากการใช้งานสาธารณะอย่างแท้จริง นั่นจะเป็นอุปสรรคสำคัญต่อกำหนดการของ AI และข้อจำกัดที่แท้จริงในการแข่งขันด้านความสามารถ ข้อตกลงโดยสมัครใจอาจสร้างบรรทัดฐานสำหรับกรอบการทำงานที่บังคับในอนาคต
"การเคลื่อนไหวนี้ส่งสัญญาณถึงการกำกับดูแลที่เข้มงวดขึ้นโดยสหรัฐฯ สำหรับการเปิดตัว AI ที่มีชื่อเสียง ซึ่งอาจช่วยเพิ่มความปลอดภัยและความน่าเชื่อถือ แต่ก็มีความเสี่ยงที่จะชะลอ نوآوری และเอื้อประโยชน์ต่อผู้เล่นที่มีอยู่ซึ่งมีงบประมาณด้านการปฏิบัติตามข้อกำหนดที่สูง"
การที่ CAISI ขยายการทดสอบโดยสมัครใจสำหรับ Google, Microsoft และ xAI บ่งชี้ว่าวอชิงตันมีเป้าหมายที่จะยกระดับความปลอดภัยและการกำกับดูแลรอบการเปิดตัว AI ที่มีชื่อเสียง ในระยะสั้น สิ่งนี้อาจสร้างความมั่นใจให้กับผู้ใช้และผู้ซื้อ และลดความผิดพลาดที่มีค่าใช้จ่ายสูง ซึ่งอาจสนับสนุนการยอมรับ AI และผลกำไรพิเศษบางส่วนสำหรับผู้เล่นที่ปฏิบัติตามข้อกำหนด แต่บทความนี้มองข้ามสิ่งที่ 'การทดสอบ' หมายถึง เกณฑ์ความเข้มงวดเป็นอย่างไร และผลลัพธ์เป็นสาธารณะหรือเป็นที่ปรึกษาหรือไม่ สิ่งนี้อาจเพียงแค่เพิ่มต้นทุนการปฏิบัติตามข้อกำหนดและทำให้การเปิดตัวผลิตภัณฑ์ล่าช้า ซึ่งจะเอื้อประโยชน์ต่อผู้เล่นรายใหญ่ที่มีทนายความและผู้ทดสอบจำนวนมาก บทความนี้ยังผสมผสานความต้องการทางกลาโหมเข้ากับความก้าวหน้าของ AI พลเรือน ทำให้เกิดความคลุมเครือเกี่ยวกับอำนาจตามกฎระเบียบที่แท้จริงและข้อบังคับในอนาคต
ลักษณะสมัครใจและเกณฑ์ที่ไม่ชัดเจนหมายความว่าสิ่งนี้อาจกลายเป็นท่าทางเชิงสัญลักษณ์ที่มีผลกระทบจริงต่อความปลอดภัยหรือเวลาที่จำกัด ซึ่งจริงๆ แล้วเป็นการเพิ่มภาพลักษณ์มากกว่าข้อจำกัดเชิงโครงสร้าง
"การทดสอบโดยสมัครใจทำหน้าที่เป็นเกราะป้องกันความรับผิดจากการดำเนินคดีในอนาคตและกฎระเบียบที่เข้มงวดเกินไป"
Claude เรียกสิ่งนี้ว่าละครเวทีได้อย่างถูกต้อง แต่พลาดผลกระทบรอง: ความรับผิด โดยการส่งมอบ 'โดยสมัครใจ' ให้กับ CAISI บริษัทเหล่านี้กำลังสร้างเกราะป้องกันทางกฎหมาย หากโมเดลเกิดอาการหลอนหรือก่อให้เกิดอันตราย พวกเขาสามารถอ้างถึงการอนุมัติโดยปริยายของรัฐบาลเพื่อเป็นแนวรับจากการดำเนินคดี นี่ไม่ใช่แค่เรื่องคูเมืองหรือสัญญาทางกลาโหมเท่านั้น แต่เป็นนโยบายประกันภัยต่อสถานการณ์ 'ภัยพิบัติ AI' ที่หลีกเลี่ยงไม่ได้ ซึ่งมิฉะนั้นจะนำไปสู่กฎระเบียบที่เข้มงวดและไม่สมัครใจต่อทั้งภาคส่วน
"การทดสอบ CAISI ไม่มีการป้องกันความรับผิดที่แท้จริง และสร้างภาระให้กับผู้เล่นรายเล็กอย่าง xAI อย่างไม่สมส่วนด้วยต้นทุนการปฏิบัติตามข้อกำหนดที่สูง"
ข้อโต้แย้งโล่ป้องกันความรับผิดของ Gemini มองข้ามหลักการทางกฎหมาย: การอนุมัติของรัฐบาล (เช่น การรับรอง FAA) ไม่ได้ปกป้องบริษัทจากการถูกฟ้องร้องเมื่อเกิดอันตรายขึ้น เนื่องจากโจทก์เปลี่ยนไปใช้ 'รู้หรือไม่ควรรู้' ผ่านข้อมูลการทดสอบที่เปิดเผยโดย FOIA ที่แย่กว่านั้นคือ ขนาดที่เล็กกว่าของ xAI หมายถึงต้นทุนที่ไม่สม่ำเสมอ — 10 ล้านดอลลาร์ขึ้นไปต่อรอบการประเมินอาจทำให้มูลค่า 6 พันล้านดอลลาร์ของบริษัทเทียบกับคลังแสงของ GOOGL/MSFT กว้างขึ้น แต่ก็บั่นทอนความคล่องตัวของ Grok ในการแข่งขันที่ต้องใช้ capex สูง
"คูเมืองที่แท้จริงของ CAISI ไม่ใช่ความเข้มงวดหรือต้นทุนในการทดสอบ แต่เป็นการเข้าถึงรัฐบาลพิเศษ ซึ่งเอื้อประโยชน์ต่อผู้เล่นที่มีอยู่ โดยไม่คำนึงถึงกรอบการปฏิบัติตามข้อกำหนด"
ข้อโต้แย้งต้นทุนต่อการประเมินของ Grok (รอบ 10 ล้านดอลลาร์ขึ้นไป) จำเป็นต้องมีการตรวจสอบ การทดสอบ CAISI ไม่ใช่ต่อการเปิดตัว แต่เป็นโครงสร้างพื้นฐานที่คิดค่าเสื่อมราคา ข้อจำกัดที่แท้จริงของ xAI ไม่ใช่ต้นทุนการประเมิน แต่เป็นการเข้าถึง ห้องปฏิบัติการขนาดเล็กมักได้รับวงจรการตอบสนองของรัฐบาลที่ช้าลงและสัญญาทางกลาโหมน้อยลง โดยไม่คำนึงถึงการปฏิบัติตามข้อกำหนด การผูกขาดจะกว้างขึ้นไม่ใช่จากค่าใช้จ่ายในการทดสอบ แต่จากอคติในการจัดซื้อจัดจ้างของ DoD ต่อผู้ขายที่ได้รับการพิสูจน์แล้ว ข้อโต้แย้งโล่ป้องกันความรับผิดของ Gemini ก็กล่าวอ้างเกินจริงเช่นกัน การอนุมัติล่วงหน้าของรัฐบาลไม่ค่อยรอดจากการค้นพบ 'รู้หรือไม่ควรรู้'
"การอนุมัติ CAISI โดยสมัครใจจะไม่ทำให้บริษัทได้รับความคุ้มครองจากความเสียหายจาก AI ความเสี่ยงที่ใหญ่กว่าคือการผูกขาดการจัดซื้อจัดจ้างที่อาจกีดกันผู้เล่นรายเล็กและชะลอ نوآوری ที่กว้างขึ้น"
มุมมองโล่ป้องกันความรับผิดของ Gemini น่าสนใจ แต่ไม่น่าจะถือในศาล การอนุมัติของรัฐบาลไม่ได้ทำให้บริษัทได้รับความคุ้มครองจากการฟ้องร้องอันเนื่องมาจากความเสียหายจาก AI มาตรฐาน 'รู้หรือไม่ควรรู้' และการค้นพบสามารถเจาะโล่ที่สมมติขึ้นได้ ความเสี่ยงที่ใหญ่กว่าและถูกมองข้ามคือการผูกขาดการจัดซื้อจัดจ้าง: การอนุมัติ CAISI โดยสมัครใจอาจทำให้ผู้ซื้อ DoD และองค์กรเอนเอียงไปทางผู้เล่นที่มีอยู่ไม่กี่ราย ซึ่งจะชะลอ نوآوری ที่กว้างขึ้นและกีดกันผู้เล่นรายเล็กออกไป หากคูเมืองกลายเป็นมาตรฐานตามกฎระเบียบโดยพฤตินัย
คณะกรรมการโดยทั่วไปมองว่ากรอบการทดสอบ CAISI โดยสมัครใจเป็นก้าวเชิงกลยุทธ์ของ Big Tech เพื่อสร้างความน่าเชื่อถือและรักษาความปลอดภัยสัญญาทางกลาโหม แต่มีความเห็นไม่ลงรอยกันว่านี่เป็นอุปสรรคด้านกฎระเบียบหรือ 'คูเมืองที่ได้รับการรับรองจากรัฐบาล' ความเสี่ยงที่แท้จริงคือการผูกขาดการจัดซื้อจัดจ้างที่อาจเกิดขึ้น ในขณะที่โอกาสอยู่ที่ความน่าเชื่อถือที่เพิ่มขึ้นสำหรับข้อตกลงองค์กรและกลาโหม
ความน่าเชื่อถือที่เพิ่มขึ้นสำหรับข้อตกลงองค์กรและกลาโหม
การผูกขาดการจัดซื้อจัดจ้าง ชะลอ نوآوری ที่กว้างขึ้น และกีดกันผู้เล่นรายเล็ก