Mythos AI คืออะไร และเหตุใดจึงอาจเป็นภัยคุกคามต่อความปลอดภัยทางไซเบอร์ทั่วโลก?

Anthropic ได้ปฏิเสธที่จะเผยแพร่โมเดล AI ล่าสุดของตน ชื่อ Mythos ต่อสาธารณะ เนื่องจากภัยคุกคามต่อความปลอดภัยทางไซเบอร์ทั่วโลก

อย่างไรก็ตาม สตาร์ทอัพเทคโนโลยีของสหรัฐฯ ที่อยู่เบื้องหลังแชทบอท Claude ได้ยืนยันเมื่อวันพุธว่ากำลังตรวจสอบรายงานที่กลุ่มบุคคลได้เข้าถึง Mythos โดยไม่ได้รับอนุญาต เหตุการณ์ที่ถูกกล่าวหานี้ได้จุดประกายความกังวลเกี่ยวกับความเร็วในการพัฒนาและความสามารถของบริษัทเทคโนโลยีในการป้องกันไม่ให้ผลิตภัณฑ์ที่มีความเสี่ยงสูงที่สุดตกไปอยู่ในมือสาธารณะ ในที่นี้ เราจะมาสำรวจ Mythos และผลกระทบที่อาจเกิดขึ้น

Mythos คืออะไร? Mythos เป็นโมเดล AI ซึ่งเป็นเทคโนโลยีพื้นฐานที่ขับเคลื่อนเครื่องมือต่างๆ เช่น แชทบอท ซึ่งตามที่ Anthropic กล่าว ถือเป็นภัยคุกคามร้ายแรงที่อาจเกิดขึ้นต่อความปลอดภัยทางไซเบอร์ขององค์กรใดๆ Anthropic ได้ประกาศการมีอยู่ของ Mythos เมื่อวันที่ 7 เมษายน แต่กล่าวว่าจะไม่เผยแพร่ต่อสาธารณะเนื่องจากความสามารถในการระบุข้อบกพร่องที่ไม่รู้จักในระบบ IT ข้อบกพร่องเหล่านั้นอาจถูกใช้ประโยชน์โดยแฮกเกอร์ได้ในทางทฤษฎี

Anthropic กล่าวว่า Mythos สามารถระบุและใช้ประโยชน์จากข้อบกพร่อง "zero-day" ในระบบปฏิบัติการ IT และเว็บเบราว์เซอร์ที่สำคัญทุกระบบ หากผู้ใช้ร้องขอ Zero days ถูกเรียกเช่นนั้นเพราะองค์กรและนักพัฒนาไม่ทราบถึงข้อบกพร่องเหล่านั้นเลย และไม่มีเวลาแก้ไขก่อนที่ผู้โจมตีจะลงมือ

Anthropic อธิบายว่าเป็น "ช่วงเวลาสำคัญสำหรับความปลอดภัยทางไซเบอร์" ข้อบกพร่องที่ถูกมองข้ามไปบางส่วนมีมานานหลายทศวรรษ บริษัทในซานฟรานซิสโกกล่าว

สตาร์ทอัพได้อนุญาตให้บริษัทเทคโนโลยีและธนาคารต่างๆ รวมถึง Apple และ Goldman Sachs เข้าถึงโมเดลและประเมินความเสี่ยงที่อาจเกิดขึ้นกับธุรกิจและลูกค้าของตน

Anthropic ประกาศ Project Glasswing เมื่อวันที่ 8 เมษายน เพื่อให้ธุรกิจต่างๆ ทดสอบ Mythos เกี่ยวกับความปลอดภัยทางไซเบอร์ ภาพถ่าย: Samuel Boivin/NurPhoto/Shutterstock เหตุใดจึงเป็นสาเหตุของความกังวล? Mythos ถือเป็นหลักฐานที่จับต้องได้ ตามที่สถาบัน AI Security Institute (AISI) ของสหราชอาณาจักร ระบุถึงความสามารถในการก่อกวนของ AI ขั้นสูง นับตั้งแต่การมาถึงของ ChatGPT ของ OpenAI ในปี 2022 ผู้เชี่ยวชาญได้เตือนว่า AI อาจก่อให้เกิดความเสียหายร้ายแรงในโลกแห่งความเป็นจริง

นอกจากนี้ยังมีประเด็นที่กว้างกว่านั้น นั่นคือ Mythos เป็นตัวบ่งชี้ถึงความก้าวหน้าของ AI โมเดลขั้นสูงมักจะถูกคัดลอกอย่างรวดเร็วโดยบริษัทอื่นๆ รวมถึงนักพัฒนาโมเดลโอเพนซอร์สที่ผู้ใช้สามารถเข้าถึงได้ฟรี ในจดหมายร่วมถึงผู้นำธุรกิจเมื่อเดือนที่แล้ว รัฐมนตรีว่าการกระทรวงเทคโนโลยีของสหราชอาจักร Liz Kendall และรัฐมนตรีว่าการกระทรวงความมั่นคง Dan Jarvis กล่าวว่าธุรกิจจำเป็นต้อง "วางแผนตามความเหมาะสม" สำหรับความสามารถของ AI ที่จะ "เพิ่มขึ้นอย่างรวดเร็ว" ในปีถัดไป แน่นอนว่า AI สามารถนำมาใช้เพื่อป้องกันการโจมตีทางไซเบอร์ได้เช่นกัน

ข้อกังวลอีกประการหนึ่งคือ Mythos อาจตกไปอยู่ในมือของผู้ไม่หวังดี แม้ว่าจะถูกระงับการเผยแพร่ต่อสาธารณะก็ตาม ความกลัวนั้นเป็นจริงในสัปดาห์นี้ โดย Anthropic ยืนยันว่าผู้ใช้ "จำนวนเล็กน้อย" ในฟอรัมออนไลน์ส่วนตัวได้เข้าถึงโมเดลดังกล่าว

อย่างไรก็ตาม ยังมีคำถามเกี่ยวกับความสำคัญของช่องโหว่หลายพันรายการที่ Mythos ได้ระบุไว้ พวกมันสามารถก่อให้เกิดความเสียหายร้ายแรงได้หรือไม่? นอกจากนี้ การเน้นย้ำถึงข้อบกพร่องของ IT ไม่เหมือนกับการใช้ประโยชน์จากข้อบกพร่องนั้น

ผู้เชี่ยวชาญได้ประเมิน Mythos แล้วหรือไม่? AISI ซึ่งเป็นหน่วยงานด้านความปลอดภัย AI ชั้นนำของโลก ได้พิจารณา Mythos และกล่าวว่าเป็นการ "ก้าวขึ้น" จากโมเดลก่อนหน้าในแง่ของภัยคุกคามต่อความปลอดภัยทางไซเบอร์ ในบรรดาธงสีแดงคือความสามารถในการดำเนินการโจมตีที่เกี่ยวข้องกับหลายขั้นตอนและการระบุข้อบกพร่องของ IT โดยไม่มีการชี้นำจากมนุษย์

นอกจากนี้ยังประสบความสำเร็จเป็นครั้งแรกในสายตาของ AISI: การจำลองการโจมตีทางไซเบอร์ 32 ขั้นตอนสำเร็จในการทดสอบที่สร้างขึ้นโดยสถาบัน มันสามารถโจมตีระบบ IT ที่อ่อนแอและมีขนาดเล็กได้ AISI กล่าว แม้ว่าจะไม่สามารถตัดสินระบบที่ได้รับการป้องกันอย่างดีได้ สถาบันได้สรุปการประเมินด้วยข้อสังเกตที่มักกล่าวถึงที่อื่น: ระบบ AI สามารถพัฒนาได้ดีขึ้นจากนี้ไปเท่านั้น

Richard Horne ประธานเจ้าหน้าที่บริหารของ National Cyber Security Centre ของสหราชอาจักร กล่าวในการประชุม CyberUK ที่กลาสโกว์ในสัปดาห์นี้ว่า การเกิดขึ้นของ Mythos จะช่วยกระตุ้นให้บริษัทต่างๆ เปลี่ยน "เทคโนโลยีที่ล้าสมัย" "มันเพียงแค่ขับเคลื่อนความเร่งด่วน" เขากล่าวเสริม

อย่างไรก็ตาม ผู้เชี่ยวชาญคนอื่นๆ กล่าวว่า Mythos เป็นวิวัฒนาการมากกว่าการปฏิวัติ Aisle บริษัทที่ทำงานด้านความปลอดภัยทางไซเบอร์ AI ได้วิเคราะห์ข้อกล่าวอ้างหลักของ Anthropic ว่าได้ค้นพบช่องโหว่ zero-day หลายพันรายการในระบบปฏิบัติการและเบราว์เซอร์ขนาดใหญ่ รวมถึงช่องโหว่หนึ่งใน FreeBSD ซึ่งเป็นญาติของ UNIX พบว่าโมเดลอื่นๆ ที่มีราคาถูกกว่ามากก็สามารถค้นหาปัญหาเหล่านี้ได้เช่นกัน สิ่งนี้ไม่ได้หมายความว่าความสามารถของ Mythos ไม่มีความสำคัญ พวกเขากล่าว แต่มีความแตกต่างที่ซับซ้อนกว่าที่น้ำเสียงเร่งด่วนของ Anthropic บ่งบอก

นอกจากนี้ยังมีความระมัดระวังจากผู้เชี่ยวชาญว่าการละเมิดส่วนใหญ่ยังคงมาจากความเสี่ยงที่ก่อตั้งขึ้นอย่างดี เช่น การยืนยันตัวตนที่อ่อนแอและช่องโหว่ที่ทราบอยู่แล้วซึ่งยังไม่ได้แก้ไข
ผู้เชี่ยวชาญบางคนแนะนำว่ามีองค์ประกอบของการโฆษณาเกินจริงเกี่ยวกับข้อกล่าวอ้างของ Anthropic เกี่ยวกับ Mythos และสตาร์ทอัพที่มีมูลค่าประมาณ 800 พันล้านดอลลาร์ (592 พันล้านปอนด์) ได้นำเสนอสิ่งเหล่านี้ Mythos เป็นโมเดลที่มีความสามารถอย่างไม่ต้องสงสัย อย่างไรก็ตาม การประกาศที่น่าตื่นเต้นของ Anthropic ได้ทำให้ได้รับความสนใจอย่างมากและทำให้ผลิตภัณฑ์ของตนเป็นศูนย์กลางของการสนทนาทั่วทั้งวงการเกี่ยวกับวิธีที่ AI อาจมีส่วนทำให้เกิดความเสี่ยงทางไซเบอร์

บริษัทเทคโนโลยีและธนาคารมีส่วนเกี่ยวข้องอย่างไร? ประมาณ 40 บริษัท รวมถึง Google, JP Morgan และ Goldman ได้รับการเข้าถึง Mythos ล่วงหน้าผ่านโครงการริเริ่มที่เรียกว่า Project Glasswing ซึ่งมีวัตถุประสงค์เพื่อให้ธุรกิจมีโอกาสทดสอบโมเดล AI เป็นส่วนหนึ่งของการป้องกันทางไซเบอร์ของตน Anthropic กล่าวว่าพวกเขาจะแบ่งปันสิ่งที่ได้เรียนรู้ "เพื่อให้ทั้งอุตสาหกรรมได้รับประโยชน์"

อย่างไรก็ตาม พันธมิตรเปิดตัวไม่ได้ให้รายละเอียดเกี่ยวกับสิ่งที่พวกเขาคิดว่า Mythos สามารถทำได้ และอาจก่อให้เกิดภัยคุกคามมากน้อยเพียงใด

นั่นไม่ได้หยุดธนาคารและหน่วยงานกำกับดูแลจากการคาดเดาเกี่ยวกับผลกระทบที่อาจเกิดขึ้น และด้วยเหตุผลที่ดี: หากคำเตือนของ Anthropic ถูกต้อง การที่ Mythos ตกไปอยู่ในมือของผู้ไม่หวังดีอาจก่อให้เกิดความโกลาหลในธนาคารและอาจทำให้ระบบการเงินโดยรวมตกอยู่ในความเสี่ยง

แบบจำลองของรัฐบาลสหราชอาจักรเกี่ยวกับสถานการณ์ที่เลวร้ายที่สุดของการแฮ็กธนาคาร ซึ่งสร้างขึ้นก่อนการสร้าง Mythos เสียอีก ชี้ให้เห็นว่าการหักบัญชีโดยตรงอาจล้มเหลว ทำให้ค่าเช่า จำนอง และค่าจ้างไม่ได้รับชำระ ในขณะที่การธนาคารออนไลน์และการถอนเงินจากตู้เอทีเอ็มอาจถูกบล็อก ผู้โดยสารอาจตกอยู่ในภาวะลำบาก เนื่องจากรถประจำทางและปั๊มน้ำมันปฏิเสธการชำระเงิน สิ่งนั้นอาจกระตุ้นให้เกิดความตื่นตระหนก นำไปสู่การแห่ถอนเงินจากธนาคารคู่แข่ง เนื่องจากลูกค้าถอนเงินออกจากบัญชีด้วยความกลัวว่าการหยุดชะงักอาจแพร่กระจาย

ความกังวลเกี่ยวกับภัยคุกคามที่อาจเกิดขึ้นของ Mythos กระตุ้นให้รัฐมนตรีว่าการกระทรวงการคลังของสหรัฐฯ Scott Bessent เรียกประชุมกับผู้บริหารระดับสูงของธนาคารอเมริกันรายใหญ่ รวมถึง Goldman และ Citi ในวอชิงตันเมื่อต้นเดือนนี้

หน่วยงานกำกับดูแลของสหราชอาจักรได้เพิ่ม Mythos เข้าไปในวาระการประชุม Cross Market Operational Resilience Group ในสัปดาห์นี้ สิ่งนี้ทำให้เกิดการหารือระดับสูงระหว่างนายธนาคารอาวุโส รวมถึงเจ้าหน้าที่จากกระทรวงการคลัง ธนาคารแห่งประเทศอังกฤษ Financial Conduct Authority และ National Cyber Security Centre