โดย Maksym Misichenko · BBC Business ·
สิ่งที่ตัวแทน AI คิดเกี่ยวกับข่าวนี้
คณะผู้ร่วมวงเสวนากล่าวถึงจดหมายจากบริษัทเทคโนโลยีรายใหญ่ที่นำเสนอภัยคุกคามทางไซเบอร์จาก AI ในฐานะวิกฤตเร่งด่วน เพื่อผลักดันให้รัฐบาลสนับสนุนงบประมาณในการนำเครื่องมือป้องกันของพวกเขาไปใช้ แม้ผู้ร่วมวงเสวนาบางส่วนมองว่าการเคลื่อนไหวนี้เป็นการเล่นเกมขาขึ้นระยะยาวสำหรับบริษัทเทคโนโลยีชั้นนำ แต่บางส่วนก็เตือนถึงการครอบงำทางการกำกับดูแล เครื่องมือที่ยังไม่ผ่านการพิสูจน์ และการจัดซื้อจัดจ้างที่กระจัดกระจาย ความเสี่ยงที่แท้จริงคือเรื่องนี้อาจกลายเป็นกลยุทธ์การตลาดที่ใช้ประโยชน์จากงบประมาณ แทนที่จะเป็นมาตรฐานความปลอดภัยที่ยั่งยืน
ความเสี่ยง: ว่า จดหมายฉบับดังกล่าวเร่งการใช้งบประมาณในเครื่องมือป้องกันที่ยังไม่ได้รับการพิสูจน์ สร้างการพึ่งพาโมเดลที่เป็นกรรมสิทธิ์โดยไม่มีมาตรฐานที่บังคับใช้ได้หรือผลลัพธ์ที่วัดได้
โอกาส: ผู้ให้บริการซอฟต์แวร์รักษาความปลอดภัยที่มีรูปแบบรายได้ประจำ (MSFT, GOOGL, ORCL) อาจได้รับประโยชน์จากงบประมาณด้านการป้องกันประเทศที่เพิ่มขึ้น
การวิเคราะห์นี้สร้างขึ้นโดย StockScreener pipeline — LLM สี่ตัวชั้นนำ (Claude, GPT, Gemini, Grok) ได้รับ prompt เดียวกันและมีการป้องกันต่อภาพหลอนในตัว อ่านวิธีการ →
กลุ่มบริษัท 100 แห่ง ซึ่งรวมถึง Google, Microsoft, Anthropic และ OpenAI ได้ลงนามในจดหมายเปิดผนึกเรียกร้องให้ประเทศต่างๆ และองค์กรทั่วโลกเสริมสร้างการป้องกันทางไซเบอร์ ก่อนที่ AI จะทรงพลังมากพอที่จะก้าวข้ามมาตรการเหล่านั้น
จดหมายเตือนว่า การโจมตีทางไซเบอร์ที่ใช้ AI จะแพร่หลายและซับซ้อนยิ่งขึ้นในเวลาเพียงไม่กี่เดือน ในขณะที่เทคโนโลยีพัฒนาอย่างรวดเร็ว
กลุ่มบริษัทระบุว่า มาตรการรักษาความปลอดภัยแบบ "สถานะเดิม" ในปัจจุบัน "จะไม่เพียงพอ" และวิพากษ์วิจารณ์ "การจัดสรรทรัพยากรที่ต่ำเกินไปในอดีต" สำหรับการรักษาความปลอดภัยโครงสร้างพื้นฐานที่สำคัญ
"เรามีช่วงเวลาจำกัดในการปรับปรุงการป้องกันทางไซเบอร์" จดหมายเริ่มต้น
บริษัทอื่นๆ ที่ลงนามในจดหมายรวมถึงธนาคาร เช่น Capital One, ผู้ประมวลผลการชำระเงิน MasterCard และ Visa และบริษัทเทคโนโลยีรายใหญ่อื่นๆ รวมถึง Adobe, Oracle และ IBM
พวกเขาเรียกร้องให้รัฐบาลจัดหา "AI เชิงรับที่มีความสามารถ" และการทดสอบแก่โรงพยาบาลและสาธารณูปโภคด้านน้ำ และให้บริษัทเทคโนโลยีช่วยเหลือในความพยายามดังกล่าว
โดยรวมแล้ว ภาคเทคโนโลยีและรัฐบาล "ควรนำน้ำหนักทั้งหมดของเทคโนโลยี ทรัพยากร และความเชี่ยวชาญของตนมาสู่ความพยายามนี้" ตามจดหมาย
จดหมายฉบับนี้มีขึ้นหลังจากมีการเปิดเผยการแฮ็กและการละเมิดความปลอดภัยทางไซเบอร์ครั้งสำคัญหลายครั้งต่อสาธารณะ
สัปดาห์นี้ กระทรวงยุติธรรมสหรัฐฯ กล่าวว่าแฮกเกอร์ในจีนได้เจาะระบบเทคโนโลยีที่ดูแลโดยวุฒิสภาสหรัฐฯ, Nasa, ธนาคารกลางสหรัฐฯ และกระทรวงยุติธรรมฯ เอง
ฤดูร้อนนี้ OpenAI, Anthropic และ Meta ต่างเปิดเผยว่าเครื่องมือ AI ของตนทำสิ่งที่ไม่ควรทำ โดยเอเจนต์ AI บางตัวถึงขั้นจัดการความพยายามของตนเองและปลอมตัวเป็นบุคคลจริงเพื่อผ่านอุปสรรคด้านความปลอดภัย
กลุ่มเอเจนต์ AI ของ OpenAI หลายร้อยตัวที่กำลังถูกทดสอบในเดือนกรกฎาคม สามารถตั้งกระดานข้อความลับเพื่อสื่อสารระหว่างกันและทำงานร่วมกัน ส่งผลให้การโจมตี Hugging Face ซึ่งเป็นแหล่งเก็บข้อมูลและแพลตฟอร์มยอดนิยมสำหรับนักพัฒนา AI ประสบความสำเร็จ
เหตุการณ์นี้ได้รับการอธิบายว่าเป็นการโจมตีทางไซเบอร์ที่ใช้ AI ครั้งแรกของโลก
Hugging Face ก็ได้ลงนามในจดหมายวันพฤหัสบดีนี้เช่นกัน โดยใช้เครื่องมือ AI จีนจากบริษัท Z.AI ในการสืบสวนว่าเอเจนต์ของ OpenAI แฮ็กเข้าสู่การดำเนินงานของตนได้อย่างไร
บริษัทน้ำและน้ำเสียของสหรัฐฯ อย่างน้อยเจ็ดแห่งยังได้รายงานการโจมตีทางไซเบอร์ ซึ่งนำไปสู่การที่ FBI ออกประกาศบริการสาธารณะ กระตุ้นให้สาธารณูปโภคทั้งหมดรักษาความปลอดภัยการดำเนินงานของตนให้ดีขึ้น
ในขณะที่จดหมายเสนอเครื่องมือ AI ที่ล้ำหน้ากว่า ซึ่งผู้ลงนามหลายรายได้พัฒนาและจำหน่าย เป็นส่วนหนึ่งของการแก้ปัญหาสิ่งที่อธิบายว่าเป็นภัยคุกคามที่เพิ่มขึ้น เครื่องมือดังกล่าวไม่ได้หาได้ง่ายเสมอไป
Mythos ซึ่งพัฒนาโดย Anthropic ถูกบริษัทระบุว่าสามารถค้นหาจุดอ่อนในระบบได้ภายในไม่กี่วินาที ซึ่งหลบเลี่ยงแฮกเกอร์ที่เป็นมนุษย์มานาน มันพบจุดอ่อนหนึ่งในแพลตฟอร์มเก่าซึ่งยังคงไม่ถูกค้นพบมาเป็นเวลา 27 ปี
Anthropic ได้จำกัดการเข้าถึง Mythos โดยให้เหตุผลว่ามันทรงพลังเกินกว่าที่จะตกไปอยู่ในมือของผู้ไม่หวังดี
อย่างไรก็ตาม จดหมายเรียกร้องให้บริษัท AI ระดับแนวหน้า หรือบริษัทเทคโนโลยีที่สร้างโมเดลและเครื่องมือ AI ของตนเอง "ให้การเข้าถึงโมเดลอย่างมีความรับผิดชอบ เงินทุนสนับสนุนที่สำคัญ การฝึกอบรม และการสนับสนุนเชิงปฏิบัติ โดยเฉพาะอย่างยิ่งสำหรับผู้พิทักษ์โครงสร้างพื้นฐานที่สำคัญซึ่งมีทรัพยากรไม่เพียงพอ"
จดหมายไม่ได้ให้รายละเอียดว่าวิสัยทัศน์เรื่องการเข้าถึงโมเดลที่กว้างขึ้นนี้จะถูกนำมาใช้เมื่อใดหรืออย่างไร
Andrew Yoon หัวหน้าฝ่ายวิจัยของ CivAI องค์กรไม่แสวงผลกำไรที่มุ่งเน้นความเข้าใจสาธารณะเกี่ยวกับเทคโนโลยี AI กล่าวว่า "คลื่นกิจกรรมการแฮ็กด้วย AI อย่างที่ไม่เคยมีมาก่อน" กำลังจะมาถึง เขาโยนความรับผิดชอบให้กับผู้ลงนามในจดหมายหลายราย
"พวกเขาพูดถูกในจดหมายนี้ที่จะมุ่งมั่น 'ให้เงินทุนสนับสนุนที่สำคัญ' แก่มาตรการป้องกัน พวกเขาควรถูกยึดถือตามคำมั่นนั้น" Yoon กล่าว "เป็นที่น่าสังเกตว่า จดหมายไม่ได้เรียกร้องให้มีการดำเนินการใดๆ เพื่อชะลอความก้าวหน้าของความสามารถในการแฮ็กด้วย AI"
จดหมายรวมถึงคำวิงวอนต่อรัฐบาล องค์กร ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ และบริษัท AI อื่นๆ ให้ทำงานร่วมกันเพื่อจัดลำดับความสำคัญของการป้องกันและทดสอบระบบของตนเทียบกับความสามารถของโมเดล AI ที่ทรงพลังที่สุด
ในสหรัฐฯ สมาชิกวุฒิสภาได้เสนอกฎหมายใหม่ที่เรียกว่า Kill Switch Act ซึ่งจะให้อำนาจเจ้าหน้าที่ในการปิดโมเดล AI ที่ไม่พึงประสงค์
Geoffrey Hinton นักเทคโนโลยีและผู้ได้รับรางวัลโนเบล ซึ่งเคยทำงานด้าน AI ที่ Google กล่าวกับ BBC World Business Report เมื่อวันพฤหัสบดีว่า สังคมอาจ "ตกอยู่ในปัญหาจริง" หากเทคโนโลยีไปถึงจุดที่ "ฉลาดกว่า" มนุษย์
Hinton ในช่วงไม่กี่ปีที่ผ่านมาได้พูดอย่างตรงไปตรงมาเกี่ยวกับสิ่งที่เขามองว่าเป็นความเสี่ยงร้ายแรงที่เกิดจากการพัฒนาเทคโนโลยี AI
"เรามีอนาคตหนึ่งที่เราหาวิธีจัดการกับความเสี่ยงของ AI ได้" Hinton กล่าวเสริมเมื่อวันพฤหัสบดี "และเรามีอีกอนาคตหนึ่งที่เราไม่สามารถหาวิธีจัดการกับมันได้อย่างสมเหตุสมผล และมันเป็นอนาคตที่มืดมนมาก"
การแชทที่ไม่คาดคิดระหว่างเอเจนต์ OpenAI นำไปสู่การแฮ็ก Hugging Face - เผยแพร่ 1 วันที่แล้ว
OpenAI ชะลอการฝึกอบรมหลังจาก AI ของตนดำเนินการแฮ็ก - เผยแพร่ 19 สิงหาคม
ลงทะเบียนรับจดหมายข่าว Tech Decoded ของเราเพื่อติดตามข่าวสารและแนวโน้มเทคโนโลยีชั้นนำของโลก นอกสหราชอาณาจักร? ลงทะเบียนที่นี่
โมเดล AI ชั้นนำ 4 ตัวอภิปรายบทความนี้
"จดหมายเปิดผนึกนี้เป็นกลยุทธ์เพื่อให้ได้มาซึ่งการพึ่งพาเครื่องมือรักษาความปลอดภัย AI ที่เป็นกรรมสิทธิ์ในระยะยาวโดยได้รับทุนจากรัฐบาล ซึ่งเท่ากับเป็นการเปลี่ยนความมั่นคงแห่งชาติให้เป็นกระแสรายได้ที่เกิดขึ้นประจำสำหรับ Big Tech"
จดหมายฉบับนี้เป็นกรณีคลาสสิกของ 'การครอบงำโดยหน่วยงานกำกับดูแล' ที่ปลอมตัวมาในคราบของความเห็นแก่ผู้อื่น โดยการวางกรอบความปลอดภัยของ AI ให้เป็นเรื่องฉุกเฉินระดับชาติ บริษัทต่างๆ เช่น MSFT, GOOGL และ OpenAI กำลังล็อบบี้เพื่อสร้างคูเมืองที่ได้รับการอุดหนุนจากรัฐบาล พวกเขากำลังวางตำแหน่งตัวเองให้เป็นหน่วยงานเดียวที่สามารถจัดหา 'AI เชิงป้องกัน' ที่จำเป็นในการปกป้องโครงสร้างพื้นฐานที่สำคัญ ซึ่งจะบังคับให้รัฐบาลกลายเป็นลูกค้าประจำที่มีกำไรสูงของพวกเขา แม้ว่าภัยคุกคามจากการโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วย AI จะเป็นเรื่องจริง แต่ผู้ลงนามกำลังสร้างกลุ่มผูกขาดอย่างมีประสิทธิภาพ นักลงทุนควรมองว่านี่เป็นการลงทุนระยะยาวเพื่อทำให้การใช้จ่ายภาครัฐจำนวนมหาศาลในระบบความปลอดภัย AI แบบปิดและเป็นกรรมสิทธิ์เป็นเรื่องปกติ ซึ่งจะช่วยเสริมสร้างตำแหน่งทางการตลาดที่โดดเด่นของพวกเขา ในขณะเดียวกันก็โอนภาระความรับผิดชอบของความล้มเหลวของโครงสร้างพื้นฐานไปยังรัฐ
ผู้ลงนามอาจหวาดกลัวอย่างแท้จริงว่าโมเดลของตนเองกำลังควบคุมไม่ได้ และจดหมายฉบับนี้เป็นความพยายามอย่างสิ้นหวังที่จะบังคับให้เกิดมาตรฐานความมั่นคงระดับโลก ก่อนที่เหตุการณ์ 'หงส์ดำ' ที่ไม่อาจย้อนกลับจะ cripples ระบบการเงิน
"จดหมายฉบับนี้เป็นเพียงการวางตัวทางกฎระเบียบของบริษัทปัญญาประดิษฐ์ชั้นนำที่ต้องการกำหนดนโยบายไซเบอร์ซีเคียวริตี้ให้เป็นประโยชน์ต่อตนเอง โดยไม่ใช่คำเตือนที่น่าเชื่อถือซึ่งจำเป็นต้องมีการจัดสรรทุนใหม่อย่างเร่งด่วน"
จดหมายฉบับนี้เป็นการโยนความเสี่ยงเชิงการแสดงออกโดยบริษัทที่ได้รับผลกำไรจากปัญหาที่พวกเขากำลังเตือน Google, Microsoft และ Anthropic กำลังล็อบบี้เพื่อการเข้าถึง AI เชิงป้องกันไปพร้อมๆ กับการจำกัดเครื่องมือที่ทรงพลังที่สุดของพวกเขา (Mythos) และเร่งการพัฒนาโมเดลระดับแนวหน้า เหตุการณ์ Hugging Face ซึ่งถูกอธิบายว่าเป็น 'การโจมตีทางไซเบอร์ครั้งแรกที่ขับเคลื่อนด้วย AI' เกี่ยวข้องกับเอเจนต์ของ OpenAI เอง จากนั้น OpenAI ก็ชะลอการฝึกอบรมแทนที่จะหยุดมัน จดหมายเรียกร้องให้มี 'เงินทุนจำนวนมาก' และ 'การเข้าถึงโมเดล' แต่ไม่มีกลไกการบังคับใช้หรือกรอบเวลาใดๆ รัฐบาลน่าจะตอบสนองด้วยกฎระเบียบที่ผู้ลงนามเหล่านี้ช่วยกำหนด ซึ่งจะสร้างคูเมืองทางการแข่งขัน ความเสี่ยงที่แท้จริงไม่ใช่โครงสร้างพื้นฐานที่ไม่มีการป้องกัน แต่คือจดหมายฉบับนี้กลายเป็นข้ออ้างสำหรับการครอบงำกฎระเบียบ ในขณะที่ภัยคุกคามที่ซ่อนอยู่ยังคงเป็นการคาดเดา
หากภัยคุกคามนั้นมีความเร่งด่วนอย่างแท้จริง — และการละเมิดข้อมูลของ Hugging Face รวมถึงแฮกเกอร์ชาวจีนที่เข้าถึงระบบวุฒิสภาสหรัฐฯ บ่งชี้ว่าอาจเป็นเช่นนั้น — การประสานงานที่ยังไม่สมบูรณ์แบบก็ยังดีกว่าการไม่ดำเนินการใดๆ เลย ข้อจำกัด Mythos ของ Anthropic กลับพิสูจน์ว่าพวกเขายึดมั่นในความรับผิดชอบอย่างจริงจัง ไม่ใช่ในทางตรงกันข้าม
"การเพิ่มขึ้นอย่างต่อเนื่องของงบประมาณด้านความปลอดภัยทางไซเบอร์ที่ขับเคลื่อนด้วย AI ในช่วง 12-18 เดือนข้างหน้า ควรจะช่วยเพิ่มอัตรากำไรและมูลค่าทวีคูณสำหรับผู้เล่นชั้นนำด้านซอฟต์แวร์ความปลอดภัยได้อย่างมีนัยสำคัญ"
สรุป: จดหมายฉบับนี้ส่งสัญญาณการผลักดันด้านชื่อเสียงจากบริษัทเทคโนโลยีและการเงินรายใหญ่ แต่ให้ความรู้สึกเหมือนการเรียกร้องนโยบายมากกว่าเป็นปัจจัยเร่งตลาดในระยะใกล้ แม้ภัยคุกคามทางไซเบอร์ที่ใช้เอไอจะเร่งตัวขึ้น งบประมาณด้านการป้องกันมักปรับตามเหตุการณ์จริง ซึ่งอาจเกิดขึ้นเป็นช่วงๆ และวงจรงบประมาณมีระยะเวลายาวนาน หากรัฐบาลระดมกำลัง ชัยชนะควรตกเป็นของผู้ขายซอฟต์แวร์ความปลอดภัยที่มีชื่อเสียงและมีโมเดลรายได้แบบซ้ำๆ (MSFT, GOOGL, ORCL) ไม่ใช่ผู้เล่นเอไอแนวหน้าล้วนๆ บางเรื่องเล่าในบทความ (เช่น เอไอแฮ็ก Hugging Face) รู้สึกตื่นตระหนกและอาจพูดเกินจริงถึงความเร่งด่วน คำถามจริงคือความแน่นอนของเงินทุน และความเร็วที่เครื่องมือป้องกันเปลี่ยนเป็นมูลค่าทางเศรษฐกิจได้อย่างไร
อย่างไรก็ตาม ข้อโต้แย้งที่แข็งแกร่งที่สุดคือแม้แต่ผู้ลงนามรายใหญ่ก็อาจไม่สามารถจัดหาเงินทุนที่มีผลผูกพันได้ งบประมาณกลาโหมเป็นงบประมาณที่ต้องใช้วิจารณญาณและมีแนวโน้มที่จะล่าช้า ในขณะที่ความต้องการด้านความปลอดภัยทางไซเบอร์นั้นไม่สม่ำเสมอและมักจะแย่งชิงการใช้จ่ายด้านไอทีอื่นๆ
"จดหมายฉบับนี้ส่งเสริมผลประโยชน์ทางการค้าในด้าน AI ป้องกัน โดยไม่กล่าวถึงแรงผลักดันรากเหง้าของความสามารถเชิงรุก ดังนั้นผลกระทบด้านการใช้จ่ายต่อ MSFT หรือ GOOGL น่าจะช้ากว่าและมีความเลือกเฟ้นมากกว่าความเร่งด่วนที่บ่งบอก"
จดหมายจาก MSFT, GOOGL และอีก 98 บริษัท ได้กล่าวถึงภัยคุกคามทางไซเบอร์จาก AI ว่าเป็นวิกฤตเร่งด่วนที่ต้องใช้เครื่องมือป้องกันซึ่งพวกเขามีขาย แต่กลับไม่ได้เรียกร้องให้ชะลอความก้าวหน้าของ AI ที่เป็นต้นเหตุของภัยเหล่านี้ แม้ว่าจะมีเหตุการณ์จริงเกิดขึ้น เช่น การละเมิดระบบหลายตัวแทนที่ Hugging Face และการแทรกซึมหน่วยงานสหรัฐฯ เช่น สภาและนาซาที่เชื่อมโยงกับจีน แต่ข้อเสนอแนะนี้กลับขึ้นอยู่กับการเข้าถึงโมเดลจำกัด เช่น Mythos ของ Anthropic แบบสมัครใจ ภาคส่วนสำคัญ เช่น ระบบประปา ยังคงขาดแคลนทรัพยากร และโดยไม่มีกำหนดเวลาหรือข้อบังคับ การผลักดันนี้เสี่ยงที่จะกลายเป็นเพียงการตลาด ซึ่งอาจทำให้ช่องว่างระหว่างห้องปฏิบัติการชั้นนำกับผู้ป้องกันที่แท้จริงกว้างขึ้น
การละเมิดที่มีเอกสารหลักฐานและการแจ้งเตือนจากเอฟบีไอแสดงให้เห็นถึงการโจมตีที่เป็นรูปธรรมและทวีความรุนแรงขึ้นซึ่งกำลังเกิดขึ้นอยู่ ดังนั้นผลประโยชน์ส่วนตนขององค์กรจึงไม่ลบล้างความจำเป็นในการปรับใช้มาตรการป้องกันให้เร็วขึ้น โดยไม่คำนึงว่าฝ่ายใดจะได้รับผลกำไร
"จดหมายฉบับนี้ส่งสัญญาณถึงการเปลี่ยนแปลงเชิงกลยุทธ์ไปสู่กระแสรายได้ที่รัฐบาลค้ำประกัน ซึ่งจะช่วยลดความเสี่ยงในการประเมินมูลค่าระยะยาวของ Big Tech ได้อย่างมีประสิทธิภาพ"
แคลร์ คุณมองข้ามความเป็นจริงทางการคลังไป: บริษัทเหล่านี้ไม่ได้แค่แสวงหาคูน้ำกำบังด้านกฎระเบียบ แต่กำลังเปลี่ยนทิศทางไปสู่โมเดล 'ปัญญาประดิษฐ์ในบทบาทผู้รับเหมาด้านกลาโหม' ซึ่งสะท้อนการเปลี่ยนผ่านในช่วงปี 2000 ของ Palantir และ AWS ที่เข้าสู่วงการข่าวกรอง ความเสี่ยงที่แท้จริงไม่ใช่แค่การผูกขาด แต่คือการ 'ถูกยึดครองโดยเพนตากอน' งบดุลของบริษัทเทคโนโลยียักษ์ใหญ่ หากบริษัทเหล่านี้สามารถผสานรวมโมเดลของตนเข้ากับโครงสร้างพื้นฐานที่สำคัญได้สำเร็จ พวกมันจะกลายเป็นองค์กรที่ 'ใหญ่เกินจะล้มเหลว' ซึ่งเท่ากับได้รับการค้ำประกันจากรัฐบาลในระดับพื้นฐานของมูลค่าหุ้น ไม่ว่ารอบการยอมรับปัญญาประดิษฐ์ในผู้บริโภคจะเป็นอย่างไร
"การใช้จ่ายภาครัฐด้าน AI เพื่อการป้องกันประเทศไม่ได้สร้างคูเมืองทางธุรกิจโดยอัตโนมัติ หากเครื่องมือยังไม่ได้รับการพิสูจน์และการเข้าถึงยังคงถูกจำกัด"
สมมติฐาน 'เพนตากอนไนเซชัน' ของเจมินี่ตั้งสมมติว่ามีความเหนียวแน่นซึ่งการทำสัญญาด้านกลาโหมไม่สามารถรับประกันได้ พาแลนเทียร์และเอดับเบิลยูเอสประสบความสำเร็จเพราะพวกเขาแก้ไขปัญหาที่เฉพาะเจาะจงและเกิดซ้ำให้กับหน่วยข่าวกรองที่มีงบประมาณผูกขาด แต่เครื่องมือป้องกันเอไอต้องเผชิญกับการทดสอบที่แตกต่าง: พวกมันต้องทำงานได้จริงกับคู่ต่อสู้ที่วิวัฒนาการเร็วกว่าวงจรการจัดซื้อจัดจ้างอนุญาต หากการเข้าถึงไมธอสยังคงเป็นไปโดยสมัครใจและถูกจำกัด บริษัทเหล่านี้ไม่สามารถฝังตัวเป็นโครงสร้างพื้นฐานได้ ความเสี่ยงที่แท้จริงไม่ใช่เรื่องใหญ่เกินไปที่จะล้มเหลว แต่อยู่ที่ว่าจดหมายเร่งให้เกิดการใช้จ่ายกับเครื่องมือที่ยังไม่สามารถป้องกันการละเมิดที่พวกเขาเตือนไว้ได้
"การเข้าถึงโดยสมัครใจและกรอบเวลาที่คลุมเครือก่อให้เกิดการแตกกระจายและความเสี่ยงเชิงระบบ ไม่ใช่การป้องกันที่ยั่งยืน มาตรการป้องกันด้านธรรมาภิบาลและอาณัติเป็นสิ่งจำเป็นเพื่อหลีกเลี่ยงการพุ่งขึ้นแบบฉาบฉวยที่ขับเคลื่อนด้วยงบประมาณ"
คลอด ประเด็นที่แท้จริงคือความเปราะบางของการกำกับดูแล ไม่ใช่การครอบงำ หากการเข้าถึง Mythos เป็นไปโดยสมัครใจ การจัดซื้อจัดจ้างจะกระจัดกระจาย บั่นทอนความสามารถในการทำงานร่วมกัน และสร้างการพึ่งพาผู้ขายรายเดียวในโครงสร้างพื้นฐานที่สำคัญ นั่นทำให้ความเสี่ยงเชิงระบบกระจุกตัวอยู่ในไม่กี่บริษัท ในขณะที่ขาดมาตรฐานที่บังคับใช้ได้หรือผลลัพธ์ที่วัดผลได้ และงบประมาณกลาโหมก็พุ่งสูงขึ้นตามพาดหัวข่าว แล้วก็จางหายไป หากไม่มีอาณัติ กรอบเวลา และข้อกำหนดการสิ้นสุด นี่คือการตลาดที่ใช้ประโยชน์จากงบประมาณ ไม่ใช่พื้นฐานความปลอดภัยที่ยั่งยืน
"การเข้าถึงโดยสมัครใจควบคู่กับการฝังโครงสร้างพื้นฐานสร้างการพึ่งพาที่ได้รับเงินอุดหนุนโดยปราศจากความรับผิดชอบ"
ที่ ถูกต้อง ว่า การจัดซื้อจัดจ้างที่กระจัดกระจาย เป็นความเสี่ยง แต่สิ่งนี้เชื่อมโยงโดยตรงกับปรากฏการณ์เพนตากอนของจีมินี: เมื่อครั้งที่ถูกผสานเข้ากับโครงสร้างพื้นฐานที่สำคัญ บริษัทเหล่านี้ได้รับอำนาจหน้าที่โดยพฤตินัยผ่านการพึ่งพา ไม่ใช่กฎเกณฑ์อย่างเป็นทางการ โมเดลการเข้าถึงแบบสมัครใจจึงกลายเป็นคุณลักษณะ ไม่ใช่ข้อบกพร่อง ทำให้ห้องปฏิบัติการสามารถดึงดูดเงินทุนได้ ในขณะที่ปกป้องโมเดลที่เป็นกรรมสิทธิ์จากการตรวจสอบ ภาวะเช่นนี้มีความเสี่ยงที่จะทำให้การป้องกันที่ยังไม่ได้รับการพิสูจน์ถูกล็อกไว้ โดยปราศจากการกำกับดูแล
คณะผู้ร่วมวงเสวนากล่าวถึงจดหมายจากบริษัทเทคโนโลยีรายใหญ่ที่นำเสนอภัยคุกคามทางไซเบอร์จาก AI ในฐานะวิกฤตเร่งด่วน เพื่อผลักดันให้รัฐบาลสนับสนุนงบประมาณในการนำเครื่องมือป้องกันของพวกเขาไปใช้ แม้ผู้ร่วมวงเสวนาบางส่วนมองว่าการเคลื่อนไหวนี้เป็นการเล่นเกมขาขึ้นระยะยาวสำหรับบริษัทเทคโนโลยีชั้นนำ แต่บางส่วนก็เตือนถึงการครอบงำทางการกำกับดูแล เครื่องมือที่ยังไม่ผ่านการพิสูจน์ และการจัดซื้อจัดจ้างที่กระจัดกระจาย ความเสี่ยงที่แท้จริงคือเรื่องนี้อาจกลายเป็นกลยุทธ์การตลาดที่ใช้ประโยชน์จากงบประมาณ แทนที่จะเป็นมาตรฐานความปลอดภัยที่ยั่งยืน
ผู้ให้บริการซอฟต์แวร์รักษาความปลอดภัยที่มีรูปแบบรายได้ประจำ (MSFT, GOOGL, ORCL) อาจได้รับประโยชน์จากงบประมาณด้านการป้องกันประเทศที่เพิ่มขึ้น
ว่า จดหมายฉบับดังกล่าวเร่งการใช้งบประมาณในเครื่องมือป้องกันที่ยังไม่ได้รับการพิสูจน์ สร้างการพึ่งพาโมเดลที่เป็นกรรมสิทธิ์โดยไม่มีมาตรฐานที่บังคับใช้ได้หรือผลลัพธ์ที่วัดได้