ปัญญาประดิษฐ์จะไม่ทำให้มนุษยชาติสูญสิ้น... ใช่ไหม? – พอดแคสต์

“ข้อจำกัดด้านนโยบายและความปลอดภัย—ไม่ใช่ความเสี่ยงต่อการดำรงอยู่—จะครอบงำผลการดำเนินงานด้านตราสารทุนของ AI ในระยะใกล้”

การเตือนภัยเกี่ยวกับความเสี่ยงของ AI ในวันนี้ได้ให้ความสำคัญกับสถานการณ์ที่อาจสิ้นสุดความเป็นมนุษย์มากเกินไป กลไกทางการเงินที่สำคัญกว่าคือการตอบสนองเชิงนโยบาย ต้นทุนด้านความปลอดภัย และวัฏจักรการลงทุน (capex) สำหรับการประมวลผลบนคลาวด์ มากกว่าการมาถึงของหายนะจาก AI ในไม่ช้า ผลตอบแทนที่เพิ่มขึ้นในระยะสั้นควรมาจากผลกำไรด้านผลิตภาพและผลประกอบการที่เพิ่มขึ้นสำหรับบริษัทที่นำ AI มาใช้ แต่ความเสี่ยงที่สำคัญคือการต่อต้านจากกฎระเบียบ การควบคุมการส่งออก และการตรวจสอบความปลอดภัยที่บังคับใช้ ซึ่งอาจเพิ่มต้นทุนส่วนเพิ่มและชะลอการใช้งาน บทความนี้มองข้ามว่าความก้าวหน้าส่วนใหญ่เป็นไปอย่างค่อยเป็นค่อยไป โดยมีกรอบเวลาที่ไม่แน่นอนสำหรับ AGI ใดๆ และตลาดจะให้รางวัลแก่ ROIs ที่ชัดเจนจากการลงทุนใน AI (แพลตฟอร์มคลาวด์ เซมิคอนดักเตอร์ และซอฟต์แวร์สำหรับองค์กร) ความเสี่ยงด้านธรรมาภิบาลยังคงมีอยู่จริง แต่ไม่ใช่ภัยคุกคามต่อการดำรงอยู่ของมนุษย์ในปัจจุบัน

“เรื่องเล่าความเสี่ยงที่อาจคุกคามการดำรงอยู่ (existential risk narratives) กำลังถูกใช้เป็นอาวุธโดยผู้เล่นรายเดิมในตลาด เพื่อสร้างปราการกีดกันทางการค้า (regulatory moats) และให้เหตุผลกับการลงทุนด้านทุนที่สูงเกินกว่าจะยั่งยืนได้”

การมุ่งเน้นไปที่ความเสี่ยงต่อการดำรงอยู่เป็นการเบี่ยงเบนความสนใจทางยุทธวิธีจากความเสี่ยงที่เกิดขึ้นทันทีและจับต้องได้: การครอบงำโดยหน่วยงานกำกับดูแลและการจัดสรรเงินทุนผิดพลาด ในขณะที่พาดหัวข่าวให้ความสนใจกับสถานการณ์ 'คนเหล็ก' ประเด็นที่แท้จริงคือค่าใช้จ่าย R&D จำนวนมหาศาล ซึ่งมักจะเกิน 20-30% ของรายได้สำหรับบริษัทอย่าง $MSFT หรือ $GOOGL โดยไม่มีเส้นทางที่ชัดเจนในการสร้างรายได้จากต้นทุนการอนุมาน ด้วยการวางกรอบ AI ให้เป็นภัยคุกคามต่อการดำรงอยู่ ผู้มีอำนาจเดิมกำลังล็อบบี้อย่างมีประสิทธิภาพเพื่อกฎระเบียบ 'ความปลอดภัย' ที่ทำหน้าที่เป็นคูเมือง เพิ่มอุปสรรคในการเข้าสู่ตลาดสำหรับคู่แข่งโอเพนซอร์ส นี่ไม่ใช่เกี่ยวกับการสิ้นสุดของมนุษยชาติ แต่เกี่ยวกับการเปลี่ยนการเล่าเรื่องเพื่อปกป้องกลุ่มผู้ขายน้อยราย ในขณะเดียวกันก็ให้เหตุผลสำหรับอัตราการเผาผลาญเงินหลายพันล้านดอลลาร์ในปัจจุบัน

“บทความนี้ทำให้ข้ออ้างเกี่ยวกับความเสี่ยงเชิงอัตถิภาวนิยมที่ไม่สามารถพิสูจน์ได้สับสนกับความเสี่ยงด้านกฎระเบียบในระยะใกล้ที่แท้จริง แต่ไม่ได้ให้กรอบเวลาด้านนโยบายที่ชัดเจนหรือตัวเร่งปฏิกิริยาของตลาดให้ดำเนินการ”

บทความนี้ผสมปนเประหว่างปัญหาสองประการที่แตกต่างกัน: ความเสี่ยงต่อการดำรงอยู่ของ AI (คำถามวิจัยระยะยาวที่ถูกต้องตามกฎหมาย) กับความล้มเหลวของการกำกับดูแลกิจการในระยะใกล้ การอ้างความเสี่ยงต่อการสูญพันธุ์ 10% เป็นการคาดเดาที่พิสูจน์ไม่ได้ซึ่งแต่งกายเป็นความเชี่ยวชาญ—ไม่มีการเปิดเผยวิธีการ ไม่มีกระบวนการตรวจสอบโดยผู้ทรงคุณวุฒิ สัญญาณที่แท้จริงคือความสนใจด้านกฎระเบียบที่เปลี่ยนจาก 'ความเร็วของนวัตกรรม' ไปสู่ 'การกำกับดูแลด้านความปลอดภัย' ซึ่งจะเพิ่มต้นทุนการปฏิบัติตามข้อกำหนดสำหรับห้องปฏิบัติการ AI และจะเอื้อประโยชน์ต่อผู้ที่อยู่ในธุรกิจเดิมซึ่งมีเงินทุนเพียงพอที่จะรับภาระได้ เรื่องราวการลาออกและเกร็ดเล็กเกร็ดน้อยเกี่ยวกับ 'การสูญเสียการควบคุม' นั้นคลุมเครือ หากไม่มีรายละเอียด พวกมันก็เป็นเพียงการแสดง สิ่งที่สำคัญคือ: การเปลี่ยนแปลงนี้ส่งผลต่อกรอบเวลาของนโยบายหรือการจัดหาเงินทุนหรือไม่? ยังไม่ชัดเจนจากบทความนี้

“การตรวจสอบด้านความปลอดภัยที่เพิ่มขึ้นมีแนวโน้มที่จะก่อให้เกิดต้นทุนด้านกฎระเบียบ ซึ่งจะชะลอการเพิ่มขึ้นของขีดความสามารถและบีบอัดค่าหลายเท่าสำหรับผู้พัฒนา AI ชั้นนำ”

ความสนใจของสาธารณชนกำลังเปลี่ยนไปสู่ความเสี่ยงต่อการดำรงอยู่ของ AI ซึ่งรวมถึงโอกาส 10% ที่มนุษยชาติจะสูญสิ้นไปภายในทศวรรษ บ่งชี้ถึงแรงกดดันด้านกฎระเบียบที่ใกล้เข้ามาต่อการฝึกอบรมและการใช้งานโมเดล การเปลี่ยนแปลงของเรื่องเล่านี้อาจเพิ่มต้นทุนการปฏิบัติตามข้อกำหนด จำกัดการเข้าถึงการประมวลผล และยืดระยะเวลาการพัฒนาสำหรับห้องปฏิบัติการที่ล้ำสมัย บทความนี้ลดทอนความสำคัญของข้อกังวลดังกล่าวที่อาจเอื้อประโยชน์ต่อผู้เล่นที่จัดตั้งขึ้นซึ่งมีทรัพยากรสำหรับการตรวจสอบ ในขณะที่ทำให้คู่แข่งรายย่อยช้าลง ผลกระทบของตลาดอันดับสอง ได้แก่ การปรับมูลค่าหุ้นที่เกี่ยวข้องกับ AI ใหม่ หากรัฐบาลกำหนดข้อบังคับด้านความปลอดภัยหรือจำกัดการใช้งานก่อนปี 2025 ตัวคูณการประเมินมูลค่าในภาคส่วนนี้ได้รวมสมมติฐานการเติบโตที่ก้าวร้าวซึ่งมองข้ามแรงเสียดทานเหล่านี้ไปแล้ว