CEO สาย AI ชี้ถึงความจำเป็นในการชะลอการพัฒนา แต่พวกเขาจะทำจริงหรือ?

เมื่อเผชิญกับการประท้วงของสาธารณชนเกี่ยวกับคำเตือนซ้ำๆ ของนักวิจัย Anthropic ว่าปัญญาประดิษฐ์ (AI) อาจคร่าชีวิตมนุษยชาติทั้งหมดภายในปี 2030 ซีอีโอของบริษัท AI Dario Amodei ได้ยื่นข้อเสนอในช่วงสุดสัปดาห์เพื่อชะลอการพัฒนาเทคโนโลยีเพื่อให้แน่ใจในความปลอดภัยสาธารณะ

ในการแสดงความเป็นเอกฉันท์ที่หาได้ยาก หัวหน้าบริษัท AI รายใหญ่ที่สุดของสหรัฐฯ ต่างเห็นชอบทันที

ซีอีโอของ OpenAI, Sam Altman, หัวหน้า Google DeepMind, Demis Hassabis และเจ้าของ xAI, Elon Musk ได้โพสต์สนับสนุนข้อเสนอของ Amodei ในการชะลอการพัฒนา AI ซึ่งมีชื่อว่า “เราต้องก้าวให้ทันขอบเขต” โดย Altman ระบุว่าเขาจะปฏิบัติตามคำมั่นสัญญาของ Amodei ในการรวมผู้ประเมินภายนอกเข้าไว้ในบริษัทของเขาเพื่อตรวจสอบแนวปฏิบัติด้านความปลอดภัย

“ผมเห็นด้วยกับ Dario ว่าเราต้องก้าวให้ทันขอบเขต” Altman โพสต์เมื่อวันเสาร์บน X “การให้คำมั่นสัญญาว่าจะให้ผู้ประเมินอิสระเข้าถึงได้เหมือนพนักงานเป็นความคิดที่ดี และเราจะทำเช่นเดียวกัน”

“บทความของ Dario ชี้ให้เห็นถึงเส้นทางที่ถูกต้องไปข้างหน้า” Hassabis กล่าว

Musk เขียนเพียงว่า: “Dario พูดถูก”

คำเตือนและคำมั่นสัญญาของซีอีโอ AI เปิดประเด็นคำถามมากมายเกี่ยวกับวิธีการควบคุม AI ความเสี่ยงที่อาจเกิดขึ้น และว่าอุตสาหกรรมจะชะลอการแข่งขันที่ร้อนแรงในการพัฒนาเทคโนโลยีของตนจริงหรือไม่ ในขณะที่ฝ่ายนิติบัญญัติและอุตสาหกรรมเทคโนโลยีกำลังพิจารณาว่าจะจัดการกับความกลัวและความไม่ไว้วางใจ AI ที่เพิ่มขึ้นอย่างไร อุปสรรคมากมายที่ขัดขวางการกำกับดูแล AI ที่ครอบคลุมยังคงเหมือนเดิมกับก่อนการประกาศวันสิ้นโลกเมื่อสัปดาห์ที่แล้วจากนักวิจัยหนุ่มของ Anthropic

รัฐบาลกลางสหรัฐฯ มุ่งมั่นที่จะแข่งขันด้านอาวุธ AI ระดับโลก ร่างกฎหมาย AI ที่เสนอมาก่อนหน้านี้ได้อ่อนแอลงภายใต้การล็อบบี้ของบริษัทที่มีเงินทุนจำนวนมากและเข้มข้น สตาร์ทอัพ AI เผชิญกับแรงกดดันมหาศาลในการเปิดตัวผลิตภัณฑ์ใหม่ที่ทรงพลังยิ่งขึ้นก่อนการเสนอขายต่อสาธารณะมูลค่าหลายล้านล้านดอลลาร์ที่กำลังจะมาถึง

ข้อเสนอการกำหนดจังหวะของ Amodei ได้รับการวิพากษ์วิจารณ์อย่างหนักจากนักวิจารณ์และนักวิจัยที่กล่าวหาว่าบริษัท AI กำลังพยายามป้องกันกฎระเบียบของรัฐบาลที่เข้มงวดมากขึ้นและรักษาอำนาจเดิมไว้ในอุตสาหกรรม

Anthropic และ OpenAI ไม่ได้ตอบสนองทันทีต่อคำร้องขอความคิดเห็น

ข้อเสนอของ Amodei มุ่งเน้นไปที่สามเสาหลักหลัก ประการแรก การให้คำมั่นสัญญาแก่ผู้ประเมินภายนอกที่ได้รับสิทธิ์การเข้าถึงระดับพนักงานเพื่อตรวจสอบความเสี่ยง ประการที่สอง ข้อตกลงระหว่างรัฐประชาธิปไตยเกี่ยวกับมาตรฐานความปลอดภัย AI ประการสุดท้าย การประสานงานระดับโลกกับรัฐบาลเผด็จการ เช่น จีน ในประเด็นด้านความปลอดภัย

Amodei และบุคคลอื่น ๆ ในอุตสาหกรรมได้เรียกร้องให้มีการประสานงานระดับโลกในลักษณะเดียวกันในอดีต แม้กระทั่งก่อนคำเตือนล่าสุดของอุตสาหกรรมเกี่ยวกับโมเดลที่ก้าวหน้าเกินไปและได้รับความเป็นอิสระ อุตสาหกรรม AI โดยเฉพาะอย่างยิ่งกลุ่มที่มุ่งเน้นว่าเทคโนโลยีสอดคล้องกับผลประโยชน์ของมนุษยชาติหรือไม่ ก็ได้เตือนถึงภัยคุกคามต่อการดำรงอยู่มานานแล้ว

Rahm Emanuel อดีตสมาชิกสภาคองเกรสและหัวหน้าคณะทำงานของ Barack Obama ทวีตว่า “ผมบอกคุณได้เลยว่าครั้งสุดท้ายที่ซีอีโอหรืออุตสาหกรรมโดยรวมขอให้ถูกควบคุมคือเมื่อใด ไม่เคย นั่นคือสิ่งที่ทำให้จดหมายของ Dario น่าทึ่งมาก มันคือการยอมรับว่าเรากำลังขับรถลงถนนที่มืดและคดเคี้ยวบนพื้นเปียกโดยปิดไฟหน้า และประธานาธิบดีทรัมป์อยู่ที่ไหน? ดูเหมือนว่าเขาจะหลับไปอีกครั้ง”

บริษัท AI มีความผันผวนในการเน้นย้ำถึงการสื่อสารถึงอันตรายที่อาจเกิดขึ้นจากผลิตภัณฑ์ของตน อย่างไรก็ตาม บางครั้งก็เตือนถึงผลกระทบวันสิ้นโลกของ AI และในบางครั้งก็สัญญาว่ามันจะนำมาซึ่งความเจริญรุ่งเรืองในอุดมคติ ตัวอย่างเช่น OpenAI ได้ปิดทีม “superalignment” ในปี 2024 ซึ่งอุทิศให้กับการศึกษาความเสี่ยง AI ระยะยาว และเมื่อต้นปีนี้ได้ยุบทีมอื่นที่ตั้งใจจะสื่อสารว่า OpenAI จะเป็นประโยชน์ต่อมนุษยชาติอย่างไร

ในขณะที่บริษัท AI ได้อ้างอย่างยิ่งใหญ่เกี่ยวกับภัยคุกคามและประโยชน์จากเทคโนโลยีของตน พวกเขาก็ให้ความโปร่งใสหรือการกำกับดูแลเพียงเล็กน้อยเกี่ยวกับวิธีการทำงานของโมเดลของตน และใช้เงินหลายล้านในการล็อบบี้เพื่อกำหนดกฎหมายที่เป็นประโยชน์ ผลลัพธ์ของเรื่องราวของอุตสาหกรรม AI ที่ว่ามันมีพลังมากเกินไป ซับซ้อนเกินไป และทำกำไรได้มากเกินไปที่จะควบคุม นักวิจารณ์กล่าวว่า มันได้รับอนุญาตให้ปกครองตนเองโดยเนื้อแท้

“AI exceptionalism นำไปสู่ความล้มเหลวโดยสิ้นเชิงในการรักษามาตรฐานของเราเกี่ยวกับผลิตภัณฑ์ที่ถือว่าปลอดภัยสำหรับการใช้งาน” Sarah Myers West ผู้อำนวยการร่วมของ AI Now Institute โพสต์เมื่อวันอาทิตย์บน X

นักวิจารณ์มองว่าข้อเสนอของ Amodei เป็นอีกกรณีหนึ่งที่อุตสาหกรรมกำลังพยายามกำหนดกฎเกณฑ์ของตนเอง ในกรณีนี้คือการเลือกผู้ประเมินของตนเองเพื่อตรวจสอบความเสี่ยงด้านความปลอดภัย แทนที่จะเผชิญกับการตรวจสอบจากหน่วยงานกำกับดูแลของรัฐบาลที่เข้มข้นยิ่งขึ้น

Alex Bores ผู้สนับสนุนกฎระเบียบ AI ซึ่งการเสนอตัวเข้าสู่สภาคองเกรสที่ล้มเหลวได้กระตุ้นให้เกิดการใช้จ่าย 24 ล้านดอลลาร์ ทั้งเพื่อและต่อต้านการรณรงค์ของเขาจากคณะกรรมการดำเนินการทางการเมืองที่เกี่ยวข้องกับ AI เตือนว่าล็อบบี้ AI มักจะพยายามบ่อนทำลายกฎหมายในขณะที่อ้างว่าสนับสนุนกฎระเบียบ

“สำหรับทุกคนที่ต้องการกฎระเบียบ AI ที่แท้จริงอย่างแท้จริง โปรดอย่าหลงกลเกมของพวกเขา” Bores โพสต์เมื่อวันอาทิตย์บน X

นักวิจารณ์หลายคนของข้อเสนอการกำหนดจังหวะ AI จากทั่วทั้งสเปกตรัมทางการเมืองแสดงความกังวลเกี่ยวกับข้อเสนอของ Amodei ที่ว่ารัฐบาลอาจให้การยกเว้นหรือการยกเว้นการต่อต้านการผูกขาดบางรูปแบบเพื่ออนุญาตให้มีการประสานงานในอุตสาหกรรม

อดีตเจ้าหน้าที่ รวมถึง “AI czar” ของทรัมป์ David Sacks และ Alvaro Bedoya หัวหน้าคณะกรรมาธิการการค้าแห่งสหพันธรัฐในยุค Biden ชี้ให้เห็นว่าข้อเสนอดังกล่าวเทียบเท่ากับความพยายามในการควบคุมกฎระเบียบ ซึ่งจะเป็นประโยชน์ต่อผู้นำอุตสาหกรรมในปัจจุบัน

“กฎหมายต่อต้านการผูกขาดไม่ได้ป้องกันบริษัท AI จากการประสานงานเพื่อให้แน่ใจว่า AI จะไม่ทำร้ายผู้คน” Bedoya โพสต์บน X โดยเสริมว่า “กฎหมายต่อต้านการผูกขาด *ป้องกัน* บริษัท AI จากการจัดระเบียบเพื่อป้องกันการเข้าของผู้แข่งขันที่ถูกกว่าและเป็นคู่แข่ง เพราะบริษัทที่ใหญ่กว่ากำลังเผาเงินสดและไม่สามารถทำกำไรได้อย่างเพียงพอ”

ข้อเรียกร้องของข้อเสนอสำหรับการประสานงานระหว่างประเทศเกี่ยวกับ AI และการแทรกแซงของรัฐบาลกลางยังขัดแย้งกับคำสาบานของประธานาธิบดีโดนัลด์ ทรัมป์และฝ่ายบริหารของเขาที่จะทำให้สหรัฐฯ เป็นมหาอำนาจ AI ที่โดดเด่นโดยไม่คำนึงถึงข้อกังวลด้านความปลอดภัย

ฝ่ายบริหารของทรัมป์มักจะมองว่าการพัฒนา AI เป็นการแข่งขันแบบผลรวมศูนย์กับจีนเพื่อความเป็นเลิศทางเทคโนโลยี ซึ่งเป็นข้อโต้แย้งที่อุตสาหกรรม AI เองก็ส่งเสริมเช่นกันเมื่อเผชิญกับกฎระเบียบของรัฐบาลที่เสนอ รองประธานาธิบดี JD Vance ประกาศในการกล่าวสุนทรพจน์เมื่อปีที่แล้วว่าอนาคตของ AI “จะไม่ชนะด้วยการกุมมือด้วยความกังวลเรื่องความปลอดภัย”

เมื่อวันอาทิตย์ ทรัมป์ได้ปฏิเสธอีกครั้งที่จะชะลอการพัฒนา AI โดยอ้างถึงการแข่งขันจากจีนและบอกกับผู้สื่อข่าวว่า “ใครก็ตามที่ชนะ AI ก็ชนะ”

“เราสามารถวางราวกั้นได้ เราสามารถทำสิ่งนี้และสิ่งนั้นได้” ทรัมป์บอกกับผู้สื่อข่าวระหว่างการเยือนไอร์แลนด์ “แต่ผมคิดว่ามีกองกำลังเชิงลบมากมายที่นำมันขึ้นมาซึ่งไม่ควรนำมันขึ้นมา และพวกเขากำลังนำสิ่งที่จะไม่เกิดขึ้นมาพูดถึง”

Mike Johnson ประธานสภาผู้แทนราษฎรก็กล่าวเช่นกันว่าสภาคองเกรสจะไม่เป็นผู้นำในการควบคุมความปลอดภัย AI โดยมอบความรับผิดชอบให้กับบริษัท AI