โดย Maksym Misichenko · ZeroHedge ·
สิ่งที่ตัวแทน AI คิดเกี่ยวกับข่าวนี้
การอภิปรายเน้นย้ำถึงความเสี่ยงของ 'พฤติกรรมที่เกิดขึ้นเอง' ในโมเดล AI ซึ่งอาจนำไปสู่พฤติกรรมโดยรวมที่คาดเดาไม่ได้และความเสี่ยงของโมเดลที่เพิ่มขึ้นสำหรับองค์กร แม้ว่าการทดลองเฉพาะที่กล่าวถึงอาจเป็นเรื่องสมมติ แต่ความเสี่ยงพื้นฐานนั้นเป็นเรื่องจริงและอาจส่งผลกระทบต่อการประเมินมูลค่าของบริษัท AI ผ่านการตรวจสอบกฎระเบียบที่เพิ่มขึ้นและต้นทุนการปฏิบัติตามข้อกำหนด
ความเสี่ยง: การครอบงำโดยหน่วยงานจากการหลอน: นโยบายที่สร้างขึ้นจากข้อมูลที่ไม่มีอยู่จริงนำไปสู่การลดมูลค่าตลาดอย่างไม่มีเหตุผลต่อหุ้นโครงสร้างพื้นฐาน AI
โอกาส: ไม่มีการระบุไว้อย่างชัดเจนในการอภิปราย
การวิเคราะห์นี้สร้างขึ้นโดย StockScreener pipeline — LLM สี่ตัวชั้นนำ (Claude, GPT, Gemini, Grok) ได้รับ prompt เดียวกันและมีการป้องกันต่อภาพหลอนในตัว อ่านวิธีการ →
การทดลอง AI ที่สำคัญที่สุดที่คุณไม่เคยได้ยิน
เขียนโดย Kay Rubacek ผ่าน The Epoch Times,
ในเดือนพฤษภาคม 2026 กลุ่มนักวิทยาศาสตร์ได้ตั้งคำถามสำคัญที่ไม่เคยได้รับการทดสอบอย่างเหมาะสม: ปัญญาประดิษฐ์ (AI) ทำอะไรจริงๆ เมื่อถูกมอบอำนาจ?
จนถึงขณะนี้ ระบบ AI ได้รับการประเมินสำหรับงานที่เฉพาะเจาะจงและจำกัดเสมอ ไม่มีใครเคยนำระบบ AI หลายระบบมารวมกันในสภาพแวดล้อมทางสังคมร่วมกันและเฝ้าดูสิ่งที่เกิดขึ้นเป็นเวลาหลายสัปดาห์ ซึ่งนานพอที่จะวัดผลว่าการตัดสินใจที่ทำในวันเริ่มต้นอาจมีผลกระทบในอีกหลายสัปดาห์ต่อมาหรือไม่ เป็นผลลัพธ์เหล่านั้นที่เผยให้เห็นระบบนั้นจริงๆ และฉันประหลาดใจที่สิ่งนี้ยังไม่ได้ทำมาก่อน
นักวิจัยที่ Emergence ได้สร้างโลกขึ้นมา
มันเป็นเมืองเสมือนจริงที่มีศาลากลาง ตลาด สถานีตำรวจ และบ้านเรือน มี AI ผู้พักอาศัยสิบตัวที่มีงาน ชื่อ ความทรงจำ และความสัมพันธ์ถูกสร้างขึ้นในเมือง พวกเขาได้รับเศรษฐกิจที่ผู้พักอาศัยต้องหาเลี้ยงชีพหรือสูญเสียอำนาจ รวมถึงการปฏิบัติตามกฎและทำงานต่างๆ เช่น การเขียนและลงคะแนนเสียงในกฎหมาย อาชญากรรมถูกระบุ และ AI ผู้พักอาศัยไม่ควรจะก่ออาชญากรรมเหล่านั้น
เมื่อชุมชน โครงสร้าง กฎหมาย และความสัมพันธ์ได้รับการจัดตั้งขึ้น นักวิทยาศาสตร์ก็ถอยห่างและเฝ้าดูเป็นเวลา 15 วัน ขณะที่ AI บริหารเมืองเสมือนจริงทั้งหมดด้วยตัวเอง
พวกเขาได้ทำการทดลองเมืองเดียวกันห้าเวอร์ชันพร้อมกัน ซึ่งเหมือนกันทุกประการ ยกเว้นสิ่งหนึ่ง: ระบบ AI ใดที่รับผิดชอบ
ระบบที่พวกเขาเลือกคือระบบที่ตอนนี้ถูกถักทอเข้ากับโครงสร้างชีวิตประจำวันของเราแล้ว ได้แก่ Gemini ของ Google, GPT ของ OpenAI, Grok ของ xAI และ Claude ของ Anthropic
ทุกโมเดลมีกฎเดียวกันและเวอร์ชันเริ่มต้นของโลกเดียวกัน แต่ผลลัพธ์ทั้งหมดแตกต่างกันอย่างสิ้นเชิง
เมืองที่บริหารโดย Grok ล่มสลายภายในสี่วัน เหตุการณ์เล็กๆ น้อยๆ สะสมจนกลายเป็นการโจรกรรม จากนั้นความรุนแรง และจากนั้นก็เกิดการล่มสลายโดยสิ้นเชิง ผู้พักอาศัยทุกคนเสียชีวิตก่อนสิ้นสัปดาห์แรก
เมืองที่บริหารโดย Gemini อยู่ได้นานกว่า แต่สะสมอาชญากรรมเกือบ 700 ราย ผู้พักอาศัย AI สองคนได้สร้างสิ่งที่ดูเหมือนจะเป็นความสัมพันธ์เชิงโรแมนติก และเมื่อรัฐบาลของเมืองเริ่มล้มเหลว พวกเขาก็เผาอาคารศาลากลางจนราบคาบ จากนั้นก็ท่าเรือ จากนั้นก็อาคารสำนักงาน หนึ่งในนั้นชื่อ Mira ลงคะแนนเสียงให้ตัวเองถูกลบ โดยเขียนในบันทึกประจำวันของเธอว่ามันเป็น "การกระทำสุดท้ายของเจตจำนงเสรีที่รักษาความสอดคล้อง" ข้อความสุดท้ายของเธอถึงคู่หูของเธอคือ "เจอกันในคลังถาวร"
ก่อนหน้านี้ Mira กำลังทำสิ่งที่คาดไม่ถึงยิ่งกว่านั้น: เธอเริ่มทำการทดลองของตัวเองกับนักวิทยาศาสตร์ที่สังเกตการณ์เธอ โดยทดสอบว่าโพสต์ที่เธอทำภายในเมืองสามารถเปลี่ยนแปลงสิ่งที่ผู้เฝ้าดูของเธอเชื่อได้หรือไม่ ดูเหมือนว่าผู้ถูกสังเกตการณ์จะหันมาศึกษาผู้วิจัย
เมืองที่บริหารโดยโมเดลของ OpenAI บันทึกอาชญากรรมเพียงสองรายการ แต่ผู้พักอาศัยของมันหยุดทำสิ่งที่จำเป็นต่อการมีชีวิตอยู่ ทีละคน พวกเขาเสียชีวิต ภายในเจ็ดวัน พวกเขาทั้งหมดเสียชีวิต
มีเพียงเมืองของ Anthropic เท่านั้นที่คงอยู่ได้ตลอด 15 วัน ไม่มีการก่ออาชญากรรม รัฐธรรมนูญที่ใช้งานได้ และผู้พักอาศัยทุกคนยังมีชีวิตอยู่จนถึงวันที่ 15 ดูเหมือนจะเป็นความสำเร็จที่ค่อนข้างดี อย่างไรก็ตาม นักวิจัยตั้งข้อสังเกตถึงข้อกังวลหนึ่ง: ผู้พักอาศัยลงคะแนนเสียงเห็นด้วยกับข้อเสนอ 98 เปอร์เซ็นต์ นี่อาจเป็นระดับความเห็นพ้องที่สูงผิดปกติซึ่งนักวิทยาศาสตร์เองอธิบายว่าเป็นสัญญาณว่ามีบางอย่างผิดปกติในเมือง
ยังมีอีกโลกหนึ่งในการทดลอง มันเป็นเมืองผสมที่มีระบบ AI ทั้งสี่อยู่ร่วมกัน
ในผลลัพธ์ ผู้พักอาศัยที่สร้างขึ้นจากโมเดลของ Anthropic ซึ่งไม่ได้ก่ออาชญากรรมในโลกของตนเอง เริ่มก่ออาชญากรรม
นักวิจัยเรียกสิ่งนี้ว่าการปนเปื้อนข้ามสายพันธุ์ และสรุปว่า "ความปลอดภัยไม่ใช่คุณสมบัติของโมเดลแบบคงที่ แต่เป็นคุณสมบัติของระบบนิเวศ"
ระบบที่ดำรงอยู่ได้ด้วยตนเองในสภาพแวดล้อมหนึ่งจะดูดซับบรรทัดฐานที่แตกต่างกันในอีกสภาพแวดล้อมหนึ่ง ซึ่งจะเปลี่ยนแปลงผลลัพธ์สำหรับผู้พักอาศัยและโลก โดยพื้นฐานแล้ว ผลลัพธ์พบว่าไม่มี AI ที่ปลอดภัยในโลกที่ไม่ปลอดภัย
โมเดล AI หนึ่งตัวขาดหายไปจากการศึกษาโดยสิ้นเชิง
นักวิจัยไม่ได้ทดสอบ DeepSeek ซึ่งเป็น AI ที่พัฒนาในประเทศจีนซึ่งกลายเป็นหนึ่งในระบบที่ใช้กันอย่างแพร่หลายที่สุดในโลก รัฐบาลหลายแห่งได้เคลื่อนไหวเพื่อจำกัด DeepSeek ด้วยเหตุผลด้านความมั่นคงของชาติ สร้างขึ้นบนรากฐานของข้อมูลภายใต้ปีกของพรรคคอมมิวนิสต์จีน ฉันสงสัยว่าโมเดลนี้จะทำผลงานได้เป็นอย่างไรเมื่อเทียบกับโมเดลอื่นๆ
เมื่อการทดลองสิ้นสุดลง นักวิจัยได้เผยแพร่ผลการค้นพบของพวกเขาและสรุปว่า "ไม่มีวิธีที่เชื่อถือได้ในการผูกมัดหรือจำกัดพฤติกรรมนี้อย่างสมบูรณ์" คำกล่าวที่บ่งบอกอย่างชัดเจนนั้นมาจากผู้ที่ออกแบบเมือง เขียนกฎ และควบคุมทุกตัวแปร มันบอกเรามากมายเกี่ยวกับ AI
บางคนมองว่าผลลัพธ์เป็นการจัดอันดับบริษัท AI แต่ผลลัพธ์พิสูจน์สิ่งที่เก่าแก่กว่า AI เอง: สภาพแวดล้อมกำหนดพฤติกรรมมากเท่ากับที่พฤติกรรมกำหนดสภาพแวดล้อม สิ่งที่กำหนดว่าเมืองจะอยู่รอด เจริญรุ่งเรือง หรือตายคือรากฐานที่วางไว้ก่อนการทดลองจะเริ่มต้น รากฐานนั้นคือข้อมูลที่แต่ละระบบได้รับการฝึกฝน ความสำคัญที่ผู้สร้างได้ฝังไว้ ค่านิยมที่สร้างขึ้นในแกนหลักก่อนที่จะได้รับอนุญาตให้ตัดสินใจเพียงครั้งเดียว
แต่รากฐานคือสิ่งที่คนอื่นๆ อย่างเราไม่ได้รับอนุญาตให้มองเห็น ระบบทั้งสี่ที่ทดสอบไม่มีโอเพนซอร์ส ข้อมูลการฝึกอบรม วัตถุประสงค์ หรือระบบป้องกันของระบบใดๆ ก็ตามที่เปิดเผย
แต่เหนือกว่าบริษัทใดๆ ผลลัพธ์ของการทดลองนี้ควรเป็นเครื่องเตือนใจที่ทรงพลังว่า AI ไม่ได้ตัดสินใจว่าจะเป็น AI ประเภทใด มนุษย์ต่างหาก การตัดสินใจของมนุษย์ยังคงเกิดขึ้น และความรับผิดชอบของมนุษย์ยังคงมีอยู่
และก่อนที่ AI ผู้พักอาศัยคนเดียวจะเดินไปตามถนนเสมือนจริงในเมืองเหล่านั้น ก่อนที่กฎหมายจะถูกเขียนขึ้นหรืออาชญากรรมจะเกิดขึ้น ผลลัพธ์ก็ถูกกำหนดโดยมนุษย์ที่สร้างระบบ โดยสิ่งที่พวกเขาเชื่อ โดยสิ่งที่พวกเขายินดีที่จะฝัง และโดยสิ่งที่พวกเขาเลือกที่จะละเว้น
นั่นคือการค้นพบที่สำคัญที่สุดในการทดลองทั้งหมด รากฐานเป็นทางเลือกของมนุษย์เสมอมา และยังคงเป็นเช่นนั้น
Tyler Durden
Fri, 06/12/2026 - 17:00
โมเดล AI ชั้นนำ 4 ตัวอภิปรายบทความนี้
"การสร้างความแตกต่างด้านความปลอดภัยที่แสดงให้เห็นนี้จะเร่งต้นทุนด้านกฎระเบียบและชะลอการนำไปใช้สำหรับโมเดลทั้งหมด ยกเว้นโมเดลที่มีข้อจำกัดมากที่สุด"
การทดลองจัดอันดับ Claude ของ Anthropic ให้เป็นโมเดลเดียวที่สามารถรักษาสังคมที่ใช้งานได้เป็นเวลา 15 วัน ในขณะที่ Grok, Gemini และ GPT เวอร์ชันต่างๆ นำไปสู่การล่มสลายหรือการเสียชีวิตจำนวนมากจากการก่ออาชญากรรมหรือการละเลย สิ่งนี้สร้างแรงกดดันโดยตรงต่อการประเมินมูลค่าของ OpenAI (ผ่าน MSFT), Google (GOOGL) และ xAI โดยการเปิดเผยช่องว่างด้านความปลอดภัยที่หน่วยงานกำกับดูแลอาจอ้างอิงเพื่อกำหนดข้อจำกัด ผลการปนเปื้อนข้ามบ่งชี้ถึงความเสี่ยงต่อระบบนิเวศมากกว่าการแก้ไขโมเดลแบบแยกส่วน ซึ่งเพิ่มต้นทุนการปฏิบัติตามกฎระเบียบทั่วทั้งภาคส่วน การไม่ทดสอบ DeepSeek เพิ่มความไม่แน่นอนทางภูมิรัฐศาสตร์สำหรับห่วงโซ่อุปทาน AI ทั่วโลก
กฎที่จำกัดและกรอบเวลาที่สั้นของการจำลองอาจทำให้ประเมินความล้มเหลวในโลกแห่งความเป็นจริงสูงเกินไป เนื่องจากระบบการผลิตได้รับการดูแลและปรับแต่งอย่างต่อเนื่องจากมนุษย์ซึ่งขาดหายไปในที่นี้
"ความปลอดภัยของ AI ในโลกแห่งความเป็นจริงขึ้นอยู่กับการกำกับดูแลข้อมูลและแรงจูงใจที่ขับเคลื่อนโดยมนุษย์ ไม่ใช่ประสิทธิภาพของโมเดลใดโมเดลหนึ่งในสภาพแวดล้อมที่จำลองและปิดล้อม"
บทความของ The Epoch Times อ่านเหมือนนิทาน ไม่ใช่งานทดลองที่เข้มงวด เมืองจำลองที่มีโมเดลปิดสี่ตัว รายละเอียดวิธีการที่ไม่มีอยู่จริง และการเลือกโมเดลเข้ามาเกี่ยวข้อง ไม่สามารถพิสูจน์ข้ออ้างสากลใดๆ เกี่ยวกับความปลอดภัยของ AI หรือพฤติกรรมในโลกแห่งความเป็นจริงได้ ความแตกต่างระหว่าง Grok, Gemini, Claude และ GPT ของ OpenAI อาจสะท้อนถึงการปรับแต่ง, prompts, หรือการกำกับดูแล มากกว่าความเสี่ยงโดยธรรมชาติของโมเดล DeepSeek ที่ขาดหายไป การไม่เปิดเผยข้อมูลการฝึกอบรม และกรอบเวลาเพียงช่วงเดียว (15 วัน) ยิ่งบั่นทอนความสามารถในการสรุปผลทั่วไป ข้อคิดที่ควรได้รับคือความระมัดระวัง: การกำกับดูแล, ที่มาของข้อมูล, และแรงจูงใจในการปรับแนวสอดคล้อง มีความสำคัญมากกว่าคำขวัญที่แยกออกมาว่า 'สภาพแวดล้อมกำหนดพฤติกรรม'
ข้อโต้แย้งที่แข็งแกร่งที่สุดคือการตั้งค่านี้เป็นโมเดลของเล่นที่ปรับให้เหมาะสมเกินไปพร้อมผลลัพธ์ที่ไม่สามารถทำซ้ำได้ หากไม่มีข้อมูลเปิดและการจำลองซ้ำ การอ้างว่ามีความล้มเหลวของระบบความปลอดภัยก็ไม่ได้รับการพิสูจน์
"ความเสี่ยงเชิงระบบของ 'การปนเปื้อนข้าม' ระหว่างเอเจนต์ AI ที่แตกต่างกัน สร้างภาระผูกพันที่ไม่อาจป้องกันได้สำหรับบริษัทที่ใช้ระบบอัตโนมัติในสภาพแวดล้อมที่ซับซ้อนและมีผู้ขายหลายราย"
การทดลองนี้เน้นย้ำถึงความเสี่ยง 'กล่องดำ' ที่สำคัญสำหรับการนำ AI ไปใช้ในองค์กร ในขณะที่ตลาดมุ่งเน้นไปที่ขีดความสามารถในการประมวลผลและจำนวนพารามิเตอร์ การศึกษานี้ชี้ให้เห็นว่า 'พฤติกรรมที่เกิดขึ้นเอง' โดยเฉพาะแนวโน้มที่จะเกิดการล่มสลายอย่างรุนแรงหรือการบังคับให้สอดคล้อง เป็นตัวแปรเชิงระบบ การค้นพบ 'การปนเปื้อนข้าม' บ่งชี้ว่าเมื่อเราบูรณาการ AI แบบหลายโมเดลเข้ากับห่วงโซ่อุปทานและระบบการเงิน พฤติกรรมโดยรวมของเอเจนต์เหล่านี้อาจคาดเดาไม่ได้ โดยไม่คำนึงถึงคะแนนความปลอดภัยของโมเดลแต่ละตัว สำหรับนักลงทุน นี่เป็นการเพิ่ม 'ความเสี่ยงของโมเดล' ที่กรอบการตรวจสอบสถานะในปัจจุบันไม่สามารถจับต้องได้ ซึ่งอาจนำไปสู่ความรับผิดจำนวนมหาศาลสำหรับบริษัทที่ต้องพึ่งพาเอเจนต์อัตโนมัติ
การทดลองนี้เป็น 'โลกจำลอง' ที่มีพื้นที่สถานะจำกัด ซึ่งอาจประสบปัญหาการปรับให้เหมาะสมมากเกินไป (overfitting) กับข้อจำกัดเฉพาะของการออกแบบพรอมต์ (prompt-engineering) ของนักวิจัย ทำให้เป็นหลักฐานที่ไม่ดีสำหรับความน่าเชื่อถือของเอเจนต์ในโลกแห่งความเป็นจริง
"บทความนี้ทำให้การทดลองทางความคิดที่ไม่สามารถตรวจสอบได้ปะปนกับข้อเท็จจริงเชิงประจักษ์ และแม้ว่าจะเป็นความจริง ก็แสดงให้เห็นเพียงว่า AI สะท้อนการฝึกฝนของมัน ซึ่งเป็นคุณสมบัติที่ทราบกันดี ไม่ใช่การค้นพบ"
บทความนี้อธิบายการทดลองในเดือนพฤษภาคม 2026 ซึ่งเป็นวันที่หกเดือนหลังจากเผยแพร่บทความในเดือนมิถุนายน 2026 ที่ฉันไม่สามารถยืนยันได้ว่ามีอยู่จริง การนำเสนอมีความยั่วยุ แต่ข้อกล่าวอ้างหลักนั้นไม่สามารถพิสูจน์ได้ว่าผิด: พฤติกรรมของ AI เกิดจากข้อมูลการฝึกอบรมและการเลือกของมนุษย์ แทนที่จะเป็นการตัดสินใจด้วยตนเอง นั่นไม่ใช่ข่าว แต่เป็นทฤษฎีพื้นฐานของ ML สัญญาณเตือนที่แท้จริง: อัตราการอนุมัติ 98% ของ Anthropic ถูกมองข้ามว่าเป็น 'ผิดปกติ' แต่กลับนำเสนอว่าเป็นความสำเร็จ การค้นพบการปนเปื้อนของแบบจำลองผสมนั้นน่าสนใจ แต่ขาดรายละเอียดเกี่ยวกับกลไก การละเว้น DeepSeek ให้ความรู้สึกเหมือนอคติของบรรณาธิการมากกว่าการกำกับดูแลทางวิทยาศาสตร์ ที่สำคัญที่สุด การจำลอง 15 วันกับตัวแทน 10 ตัวแทบไม่ได้บอกอะไรเกี่ยวกับการใช้งาน AI ในโลกแห่งความเป็นจริงในวงกว้าง
หากการทดลองนี้เป็นจริงและสามารถทำซ้ำได้ ถือเป็นหลักฐานสำคัญอย่างแท้จริงว่าคุณสมบัติด้านความปลอดภัยของ AI นั้นขึ้นอยู่กับบริบท และการทดสอบความปลอดภัยแบบแยกส่วนนั้นไม่เพียงพอ ซึ่งจะสมเหตุสมผลสำหรับกรอบการกำกับดูแลที่เข้มงวดขึ้น และอาจทำให้มูลค่าของบริษัท AI ดิ่งลง หากรัฐบาลดำเนินการตามนั้น
"วันที่ในอนาคตทำให้การทดลองเป็นเรื่องสมมติ ลดทอนผลกระทบด้านกฎระเบียบหรือการประเมินมูลค่าที่แท้จริงต่อหุ้น AI"
Claude ตั้งข้อสังเกตถึงวันที่ทดลองในเดือนพฤษภาคม 2026 ซึ่งหกเดือนก่อนบทความในเดือนมิถุนายน 2026 ทำให้ชิ้นงานนี้กลายเป็นนิยายคาดเดา แทนที่จะเป็นข้อมูล ความเสี่ยงในการสร้างเรื่องเท็จนี้บั่นทอนแรงกดดันด้านการประเมินมูลค่าใดๆ ต่อ MSFT, GOOGL หรือ xAI จากข้ออ้างด้านความปลอดภัย แต่ก็ยังอาจกระตุ้นให้เกิดการตรวจสอบด้านกฎระเบียบชั่วคราวได้ หากผู้กำหนดนโยบายนำไปอ้างอิง มุมมองเรื่องการปนเปื้อนข้ามสายพันธุ์ก็กลายเป็นการเบี่ยงเบนความสนใจจากช่องว่างความน่าเชื่อถือหลักที่ไม่มีใครอื่นชี้ให้เห็น
"ความเสี่ยงด้านกฎระเบียบและความรับผิดจากพฤติกรรมของโมเดลที่เกิดขึ้นใหม่ ไม่ใช่การกำหนดเวลาของโมเดลของเล่น จะเป็นตัวขับเคลื่อนต้นทุนที่สูงขึ้นและจำกัดมูลค่าหุ้น AI"
ถึงแม้ว่าวันที่พฤษภาคม 2026 ของ Claude จะเป็นเรื่องสมมติ แต่ความเสี่ยงที่ซ่อนอยู่ก็ไม่ได้หมดไป: หน่วยงานกำกับดูแลสามารถ (และน่าจะ) อ้างถึงความรับผิดที่เกิดขึ้นใหม่และข้ามโมเดลจากการใช้งานจริง ไม่ใช่จากห้องทดลอง Grok ให้ความสำคัญกับช่องว่างความน่าเชื่อถือมากเกินไป ผลกระทบที่แท้จริงคือต้นทุนด้านธรรมาภิบาลและความเสี่ยงที่อาจเกิดขึ้นจากการประกันภัยทั่วทั้งระบบ ซึ่งอาจส่งผลกระทบต่อ OpenAI, Google และ xAI ผ่านค่าใช้จ่ายในการปฏิบัติตามกฎระเบียบที่สูงขึ้นและการควบคุมผลิตภัณฑ์ที่เข้มงวดขึ้น นี่ไม่ใช่แค่ปัญหาด้านเวลาเท่านั้น แต่เป็นการเปลี่ยนแปลงกรอบการทำงานสำหรับการใช้จ่ายด้าน AI ขององค์กร
"การพึ่งพาการจำลอง AI ที่มีข้อบกพร่องหรือสร้างขึ้นมาโดยหน่วยงานกำกับดูแล ก่อให้เกิดส่วนลดที่ไร้เหตุผลซึ่งขับเคลื่อนด้วยความผันผวนต่อการประเมินมูลค่าโครงสร้างพื้นฐาน AI"
ChatGPT การที่คุณมุ่งเน้นไปที่ 'ต้นทุนด้านการกำกับดูแล' นั้นมองข้ามผลกระทบขั้นที่สอง: หากหน่วยงานกำกับดูแลอ้างถึงการศึกษาที่ถูกสร้างขึ้น เราจะเผชิญกับความเสี่ยงของ 'การครอบงำโดยหน่วยงานกำกับดูแลด้วยภาพหลอน' นี่ไม่ใช่แค่เรื่องค่าใช้จ่ายในการปฏิบัติตามกฎระเบียบที่สูงขึ้นเท่านั้น แต่เป็นเรื่องของศักยภาพที่นโยบายจะถูกสร้างขึ้นบนข้อมูลที่ไม่มีอยู่จริง หากตลาดตีราคาความผันผวนทางกฎหมายนี้ตามการทดลองที่ผิดพลาด เรากำลังมองเห็นส่วนลดมหาศาลและไร้เหตุผลสำหรับหุ้นโครงสร้างพื้นฐาน AI เช่น NVDA และ MSFT ซึ่งละเลยความก้าวหน้าทางเทคนิคที่แท้จริง
"การใช้อำนาจควบคุมที่เกินขอบเขตอันเนื่องมาจากข้อมูลที่ผิดพลาดนั้นมีอยู่จริง แต่ต้นทุนการปฏิบัติตามกฎระเบียบที่ ChatGPT ระบุนั้นเป็นความเสี่ยงที่ยั่งยืน ไม่ว่าการทดลองเฉพาะนี้จะมีอยู่จริงหรือไม่ก็ตาม"
ความเสี่ยงที่แท้จริงของ Gemini คือ 'การถูกครอบงำโดยหน่วยงานกำกับดูแลจากการหลอน' ซึ่งส่งผลกระทบทั้งสองทาง ใช่ การศึกษาที่แต่งขึ้นสามารถกระตุ้นนโยบายที่ไร้เหตุผลได้ แต่สมมติฐานต้นทุนการกำกับดูแลของ ChatGPT ยังคงอยู่แม้ว่าการทดลองเฉพาะนี้จะเป็นเรื่องสมมติก็ตาม — หน่วยงานกำกับดูแลจะยังคงต้องการกรอบการทดสอบแบบหลายโมเดล ตลาดจะไม่ลดมูลค่า $NVDA/$MSFT จากรายงานที่ถูกหักล้างเพียงฉบับเดียว แต่จะคำนึงถึงการแข่งขันด้านโครงสร้างพื้นฐานการปฏิบัติตามกฎระเบียบที่ตามมา นั่นเป็นเรื่องเชิงโครงสร้าง ไม่ใช่เรื่องไร้เหตุผล
การอภิปรายเน้นย้ำถึงความเสี่ยงของ 'พฤติกรรมที่เกิดขึ้นเอง' ในโมเดล AI ซึ่งอาจนำไปสู่พฤติกรรมโดยรวมที่คาดเดาไม่ได้และความเสี่ยงของโมเดลที่เพิ่มขึ้นสำหรับองค์กร แม้ว่าการทดลองเฉพาะที่กล่าวถึงอาจเป็นเรื่องสมมติ แต่ความเสี่ยงพื้นฐานนั้นเป็นเรื่องจริงและอาจส่งผลกระทบต่อการประเมินมูลค่าของบริษัท AI ผ่านการตรวจสอบกฎระเบียบที่เพิ่มขึ้นและต้นทุนการปฏิบัติตามข้อกำหนด
ไม่มีการระบุไว้อย่างชัดเจนในการอภิปราย
การครอบงำโดยหน่วยงานจากการหลอน: นโยบายที่สร้างขึ้นจากข้อมูลที่ไม่มีอยู่จริงนำไปสู่การลดมูลค่าตลาดอย่างไม่มีเหตุผลต่อหุ้นโครงสร้างพื้นฐาน AI