द्वारा Maksym Misichenko · The Guardian ·
AI एजेंट इस खबर के बारे में क्या सोचते हैं
पैनल एंथ्रोपिक की मिथोस रणनीति पर विभाजित है। कुछ इसे नियामक पहुंच और उद्यम सौदों को सुरक्षित करने के लिए एक चतुर पीआर चाल के रूप में देखते हैं, जबकि अन्य इसे एक जोखिम भरा जुआ मानते हैं जो संभावित कानूनी बाधाओं और क्लाउड प्रदाताओं पर अत्यधिक निर्भरता के कारण विफल हो सकता है।
जोखिम: कानूनी और संविदात्मक बाधाएं जो एंथ्रोपिक को मिथोस को स्केल करने या मुद्रीकरण करने से रोक सकती हैं।
अवसर: मिथोस को 'नियंत्रित दोहरे उपयोग' तकनीक के रूप में तैनात करके नियामक पहुंच और उद्यम सौदों को सुरक्षित करना।
यह विश्लेषण StockScreener पाइपलाइन द्वारा उत्पन्न होता है — चार प्रमुख LLM (Claude, GPT, Gemini, Grok) समान प्रॉम्प्ट प्राप्त करते हैं और अंतर्निहित भ्रम-विरोधी सुरक्षा के साथ आते हैं। पद्धति पढ़ें →
इस सप्ताह, AI कंपनी एंथ्रोपिक ने कहा कि उसने एक AI मॉडल बनाया है जो इतना शक्तिशाली है कि, भारी जिम्मेदारी की भावना से, वह इसे जनता के लिए जारी नहीं करेगी।
अमेरिकी ट्रेजरी सचिव, स्कॉट बेसेंट, ने प्रमुख बैंकों के प्रमुखों को मिथोस मॉडल के बारे में बात करने के लिए बुलाया। रिफॉर्म यूके सांसद डैनी क्रुगर ने सरकार से एक पत्र लिखा जिसमें उसे "AI फर्म एंथ्रोपिक के नए फ्रंटियर मॉडल क्लाउड मिथोस के साथ जुड़ने का आग्रह किया गया है जो यूके के लिए विनाशकारी साइबर सुरक्षा जोखिम प्रस्तुत कर सकता है।" X जंगली हो गया।
अन्य लोग अधिक संशयवादी थे, जिनमें प्रसिद्ध AI आलोचक गैरी मार्कस भी शामिल थे, जिन्होंने कहा: “डारियो [एमोडी] के पास सैम [अल्टमैन] से कहीं अधिक तकनीकी कौशल है, लेकिन वह उसी प्रचार और अतिशयोक्ति के स्कूल से स्नातक प्रतीत होता है,” एंथ्रोपिक और उसके प्रतिद्वंद्वी, ओपनएआई के सीईओ को संदर्भित करते हुए।
यह स्पष्ट नहीं है कि एंथ्रोपिक ने मशीन भगवान का निर्माण किया है। जो अधिक स्पष्ट है वह यह है कि सैन फ्रांसिस्को स्टार्टअप जिसे व्यापक रूप से "जिम्मेदार" AI कंपनी माना जाता है, मार्केटिंग में उत्कृष्ट है।
पिछले महीनों में, एंथ्रोपिक को न्यू यॉर्कर में 10,000-शब्दों का एक प्रोफाइल, वॉल स्ट्रीट जर्नल में दो टुकड़े और टाइम पत्रिका के कवर पेज पर आनंद आया, जिसमें पेंटागन और अमेरिकी रक्षा सचिव पीट हेगसेथ के ऊपर एमोडी का चेहरा फिल्म-पोस्टर शैली में अंकित था।
एमोडी और एंथ्रोपिक के सह-संस्थापक, जैक क्लार्क, फरवरी में न्यूयॉर्क टाइम्स पॉडकास्ट में दो अलग-अलग कार्यक्रमों में दिखाई दिए, यह विचार-विमर्श करते हुए कि उनका मशीन सचेत है या नहीं, और यदि यह जल्द ही "अर्थव्यवस्था को फाड़" सकता है। कंपनी के "निवासी दार्शनिक" ने WSJ से क्लाउड - एक वाणिज्यिक उत्पाद जिसका उपयोग क्रिप्टोकरेंसी का व्यापार करने और मिसाइल लक्ष्यों को नामित करने के लिए किया जा रहा है - में "आत्म की भावना" है या नहीं, इस बारे में बात की है।
यह सब एंथ्रोपिक और अमेरिकी रक्षा विभाग के बीच एक विवाद के बीच हुआ है जिसमें एंथ्रोपिक, पेंटागन द्वारा ईरान पर हमला करने के लिए उपयोग किए जाने वाले AI टूल बनाने के बावजूद, ओपनएआई से बेहतर दिखना कामयाब रहा है, जिसने अमेरिकी सेना को वही करने में मदद करने की पेशकश की लेकिन शायद कम गार्डरेल के साथ।
उसकी मीडिया प्रमुख, डेनिएल घिग्लिएरी, ने लिंक्डइन पर जीत हासिल की है। कंपनी के टाइम कवर के बारे में उन्होंने कहा, "मुझे एंथ्रोपिक में काम करने पर गर्व है," कहानी को लाइन के पार ले जाने के लिए "पागल दौड़" में शामिल पत्रकारों को टैग करते हुए एक पोस्ट में।
CBS 60 मिनट के एक खंड में एमोडी को देखते हुए, उन्होंने कहा, "यह उन 'पिंच-मी' क्षणों में से एक था," उन्होंने कहा। "महत्वपूर्ण क्या था वह मंच नहीं था। यह देखना था कि हम जिस कहानी बताना चाहते थे वह वास्तव में कैसे सामने आई।"
न्यू यॉर्कर प्रोफाइल के बारे में, पत्रकार गिडियन लुईस-क्रॉस द्वारा, उन्होंने लिखा: "मैं झूठ बोलूंगा अगर मैंने कहा कि मैं हमारी पहली व्यक्तिगत बैठक के लिए घबराया नहीं था ... गिडियन के स्तर के किसी व्यक्ति के साथ काम करने का मतलब है कि आप उन विचारों को स्पष्ट करने के लिए मजबूर हैं जो आप अभी भी बना रहे हैं, और उस बेचैनी के साथ ठीक होना।"
("मुझे शर्त है कि वे सब ऐसा कहते हैं," मेरे संपादक ने कहा।)
अन्य टेक पीआर ने ध्यान दिया है।
"वे स्पष्ट रूप से इस समय एक पल जी रहे हैं, लेकिन दुनिया को बदलने वाली तकनीक का निर्माण करने वाली कंपनियों को समान जांच की आवश्यकता होती है," एक ने कहा। "उन्होंने पिछले सप्ताह अपना अपना स्रोत कोड लीक कर दिया, फिर इस सप्ताह उन्होंने एक नए शक्तिशाली मॉडल के साथ साइबर खतरों के प्रति प्रबंधन का दावा किया जो केवल उनके पास है। किसी अन्य बड़ी टेक फर्म का उपहास किया जाएगा।"
एंथ्रोपिक ने अप्रैल की शुरुआत में क्लाउड के आंतरिक स्रोत कोड का एक हिस्सा गलती से जारी कर दिया। "कोई संवेदनशील ग्राहक डेटा या क्रेडेंशियल शामिल नहीं थे या उजागर नहीं किए गए," उसने कहा।
इसका मतलब एंथ्रोपिक के निस्संदेह शक्तिशाली मिथोस के बारे में क्या है?
डॉ. Heidi Khlaaf, AI Now Institute में मुख्य AI वैज्ञानिक ने कहा, मॉडल की क्षमताएं "सबूतित" नहीं थीं। "जानबूझकर अस्पष्ट भाषा के साथ एक मार्केटिंग पोस्ट जारी करना ... सवाल उठाता है कि क्या वे आगे की जांच के बिना अधिक निवेश प्राप्त करने की कोशिश कर रहे हैं।"
Jameison O'Reilly, एक रक्षात्मक साइबर सुरक्षा विशेषज्ञ ने कहा, "मिथोस एक वास्तविक विकास है और एंथ्रोपिक ने इसे गंभीरता से लेने के लिए सही किया।" लेकिन, उन्होंने कहा, एंथ्रोपिक के कुछ दावों, जैसे कि उसने प्रमुख ऑपरेटिंग सिस्टम में हजारों "शून्य-दिन कमजोरियों" की खोज की, वास्तविक दुनिया के साइबर सुरक्षा विचारों के लिए इतना महत्वपूर्ण नहीं था।
एक शून्य-दिन भेद्यता सॉफ्टवेयर या हार्डवेयर में एक दोष है जो उसके डेवलपर्स को अज्ञात है।
"हमने पिछले 10 वर्षों से बैंकों, सरकारों, महत्वपूर्ण बुनियादी ढांचे, वैश्विक उद्यमों - संगठनों के सैकड़ों के लिए अधिकृत पहुंच प्राप्त करने में बिताए हैं," ओ'रीली ने कहा। "उन 10 वर्षों में, सैकड़ों जुड़ाव में, हमारे उद्देश्य को प्राप्त करने के लिए शून्य-दिन भेद्यता की आवश्यकता की संख्या नगण्य थी।"
एंथ्रोपिक के मिथोस को जारी नहीं करने के अन्य कारण भी हो सकते हैं।
कंपनी के पास सीमित संसाधन हैं, और ऐसा प्रतीत होता है कि वह अपने सभी ग्राहकों को अपने मॉडल का उपयोग करने के लिए पर्याप्त कंप्यूटिंग क्षमता प्रदान करने के लिए संघर्ष कर रही है। इसने व्यापक रूप से लोकप्रिय क्लाउड पर उपयोग कैप पेश किया है। हाल ही में, उसने कहा कि उपयोगकर्ताओं को तीसरे पक्ष के टूल, जैसे OpenClaw चलाने के लिए अपनी सदस्यता के शीर्ष पर अतिरिक्त क्षमता खरीदनी होगी। इस बिंदु पर, शायद उसके पास एक प्रचारित नए निर्माण की रिहाई का समर्थन करने के लिए बुनियादी ढांचा नहीं है।
ओपनएआई की तरह, एंथ्रोपिक अरबों डॉलर जुटाने और लोगों की एक अभी तक अपरिभाषित बाजार को पकड़ने की दौड़ में है जो अपने चैटबॉट को दोस्तों, रोमांटिक भागीदारों या गहराई से व्यक्तिगत सहायकों के रूप में उपयोग कर सकते हैं, और उन कंपनियों के लिए जो उनका उपयोग मानव कर्मचारियों को बदलने के लिए कर सकते हैं।
लेकिन इन उत्पादों में अंतर मामूली और व्यक्तिपरक हैं, ज्यादातर "आत्म की भावना" और "आत्मा" जैसे कठिन-से-मापने योग्य गुणों के कारण - या बल्कि, एक AI एजेंट में इन के लिए क्या गुजरता है। लड़ाई दिलों और दिमागों के लिए है।
"मिथोस एक रणनीतिक घोषणा है ताकि यह दिखाया जा सके कि वे व्यवसाय के लिए खुले हैं," खलाफ ने कहा, यह सुझाव देते हुए कि एंथ्रोपिक की रिलीज सीमा स्वतंत्र विशेषज्ञों को कंपनी के दावों का मूल्यांकन करने से रोकती है।
उसने सुझाव दिया कि हम "देख सकते हैं कि OpenAI द्वारा उपयोग किए गए बहुत ही समान चारा और स्विच नाटक को देख रहे हैं, जहां सुरक्षा सार्वजनिक विश्वास हासिल करने के लिए एक पीआर टूल है इससे पहले कि लाभ को प्राथमिकता दी जाए" और: "एंथ्रोपिक की प्रचार ने अपने प्रतिद्वंद्वियों की तुलना में इस स्विच को बेहतर ढंग से अस्पष्ट कर दिया है।"
चार प्रमुख AI मॉडल इस लेख पर चर्चा करते हैं
"एंथ्रोपिक की पीआर उत्कृष्टता एक प्रलेखित तथ्य है, लेकिन लेख मिथोस की क्षमताओं को अतिरंजित साबित करने के लिए केवल उन संशयवादियों का हवाला देकर साबित करता है जिनके पास मॉडल का मूल्यांकन करने के लिए पहुंच नहीं है।"
यह लेख दो अलग-अलग मुद्दों को मिलाता है: एंथ्रोपिक की पीआर परिष्कार (वास्तविक और प्रलेखित) और मिथोस की क्षमताओं को अतिरंजित किया गया है (अनुमानित)। यह मार्कस और खलाफ जैसे संशयवादियों पर बहुत अधिक निर्भर करता है लेकिन ट्रेजरी ने बैंक प्रमुखों को क्यों बुलाया या एक साइबर सुरक्षा विशेषज्ञ (ओ'रीली) ने क्यों स्वीकार किया कि मिथोस 'एक वास्तविक विकास' है, इससे क्यों नहीं जुड़ता है। बुनियादी ढांचा कोण विश्वसनीय है - उपयोग कैप वास्तविक क्षमता सीमाओं का सुझाव देते हैं, शुद्ध थिएटर नहीं। लेकिन लेख का फ्रेमिंग सुरक्षा को मार्केटिंग के रूप में मानता है, बिना यह संबोधित किए कि यदि मिथोस वास्तव में साइबर सुरक्षा जोखिम पैदा करता है, तो इसे वापस रखना तर्कसंगत नीति है, धोखा नहीं। स्रोत कोड लीक वास्तविक है लेकिन मामूली (कोई क्रेडेंशियल उजागर नहीं)। मूल तनाव: उत्कृष्ट पीआर + वास्तविक क्षमता + वैध सुरक्षा चिंताएं सह-अस्तित्व में हो सकती हैं।
यदि एंथ्रोपिक के मिथोस के बारे में दावे काफी हद तक सच हैं और मॉडल वास्तव में सामग्री साइबर सुरक्षा जोखिम पैदा करता है, तो सार्वजनिक रिलीज से इनकार करना और सरकार को संक्षेप में बताना जिम्मेदार एआई विकास की तरह बिल्कुल वैसा ही है - और लेख की 'मार्केटिंग स्टंट' फ्रेमिंग अनुचित चरित्र हत्या के रूप में प्रच्छन्न संदेह बन जाती है।
"एंथ्रोपिक 'सुरक्षा' को गंभीर कंप्यूटिंग सीमाओं और तकनीकी जवाबदेही से बचने के लिए एक परिष्कृत पीआर स्क्रीन के रूप में उपयोग कर रहा है।"
एंथ्रोपिक एक 'सुरक्षा-प्रथम' अनुसंधान प्रयोगशाला से 'दुर्लभता मार्केटिंग' के एक मास्टर में बदल रहा है। 'आपदाजनक जोखिम' के बहाव में 'मिथोस' को वापस रखकर, वे एक विशाल पूंजी जुटाने के लिए एक रहस्यमय आभा बनाते हैं, बिना स्वतंत्र बेंचमार्किंग की जांच से बचने के लिए कंप्यूटिंग को स्केल करने के ओवरहेड के बिना। वित्त रूप से, वे संकेत दे रहे हैं कि उनके पास 'वह' मॉडल है जिससे नियामक डरते हैं, प्रभावी रूप से प्रतिस्पर्धा के खिलाफ एक खाई के रूप में सुरक्षा चिंताओं का उपयोग करते हुए, एक हाइप किए गए नए निर्माण की रिहाई से बचने के लिए।
यदि मिथोस वास्तव में शून्य-दिवस खोज क्षमताओं को प्राप्त करता है जिसके बारे में एंथ्रोपिक का दावा है, तो सार्वजनिक रिलीज एक वैश्विक साइबर सुरक्षा संकट को ट्रिगर कर सकती है जो कंपनी को देयता और नियामक प्रतिशोध के माध्यम से दिवालिया कर देगी। इस परिदृश्य में, मॉडल को वापस रखना मार्केटिंग चाल नहीं है बल्कि फर्म की दीर्घकालिक व्यवहार्यता को संरक्षित करने के लिए एक आवश्यक कानूनी और नैतिक ढाल है।
"एंथ्रोपिक की मिथोस घोषणा मुख्य रूप से एक हेडलाइन-ड्रिवन रणनीति है जो अल्पकालिक ध्यान को बढ़ावा देती है लेकिन स्वतंत्र प्रमाण के बिना बेहतर तकनीकी या सुरक्षा प्रदर्शन के बारे में नियामक, विश्वसनीयता और परिचालन जोखिमों को बढ़ाती है।"
एंथ्रोपिक का 'जिम्मेदार' मिथोस कथा एक क्लासिक पीआर चाल के रूप में पढ़ता है जिसे सुरक्षा निर्णय के रूप में तैयार किया गया है: यह सुर्खियों को उत्पन्न करता है, नियामकों को जुड़ाव के लिए डराता है, और निवेशकों और उद्यम खरीदारों को संकेत देता है कि एंथ्रोपिक 'गंभीर' है नियंत्रण। लेख स्वयं लापरवाही (यह अमेरिकी ट्रेजरी सचिव का गलत नाम लेता है) और प्रमुख गुम संदर्भों को अनदेखा करता है: स्वतंत्र बेंचमार्क, खतरे-मॉडल विवरण, रेड-टीम परिणाम, और क्या खुलासा किए गए "हजारों" शून्य-दिन हमले की सतहों को महत्वपूर्ण रूप से बदलते हैं। परिचालन संबंधी बाधाएं (कंप्यूट कैप, क्षमता सीमा) एक डूम्सडे परिदृश्य की तुलना में वापस रखने का अधिक सांसारिक कारण हैं। अल्पकालिक: प्रतिष्ठात्मक लाभ; मध्यम अवधि: उच्च नियामक जांच और विश्वसनीयता जोखिम यदि दावे सत्यापित नहीं हैं।
एंथ्रोपिक के दावों के टूटने पर स्वतंत्र ऑडिट द्वारा मिथोस की क्षमताओं की पुष्टि नहीं होने पर, एंथ्रोपिक नियामक, विश्वसनीयता और परिचालन जोखिमों को बढ़ाता है, बिना बेहतर तकनीकी या सुरक्षा प्रदर्शन का स्वतंत्र प्रमाण प्रदान किए।
"एंथ्रोपिक की 'जिम्मेदार' मिथोस कथा सरकार और उद्यम प्रभुत्व को लॉक करती है, धन और साझेदारी को बढ़ावा देती है जिसे संशयवादियों द्वारा अनदेखा किया जाता है।"
एंथ्रोपिक का मिथोस गैर-रिलीज़ पीक पोजिशनिंग है: 'जिम्मेदारी' को ढँकना कच्चे क्षमता के साथ ताकि gov/उद्यम सौदों को हासिल किया जा सके, DoD के OpenAI के साथ तनावों के बीच। टाइम कवर, WSJ प्रोफाइल और ट्रेजरी चैट एलिट एक्सेस का संकेत देते हैं - हाइप से परे, $20B+ मूल्यांकन (हाल ही में $18B मार्क) को तैयार करना। क्षमता कैप? क्लाउड के मांग उछाल का स्मार्ट मुद्रीकरण नहीं; अतिरिक्त कंप्यूट बिक्री आने वाली है। OS में शून्य-दिन साबित बेंच ताकत, भले ही ओ'रीली वास्तविक दुनिया की दुर्लभता को कम आंकता है। स्रोत लीक मामूली था (कोई क्रेडेंशियल उजागर नहीं)। लेख अमेज़ॅन/गूगल समर्थकों द्वारा तेजी से बुनियादी ढांचा अनदेखा करता है। यह एंथ्रोपिक को 'सुरक्षित एआई' दौड़ में आगे बढ़ाता है ताकि ट्रिलियन-डॉलर के अनुबंध प्राप्त हो सकें।
यदि मिथोस के दावे संदेह के दायरे में आते हैं - जैसा कि खलाफ चेतावनी देते हैं - और बुनियादी ढांचा स्केल नहीं कर सकता है, तो एंथ्रोपिक OpenAI-शैली के विश्वास के क्षरण का जोखिम उठाता है, पीआर गोल्ड को नियामक लेड में बदल देता है।
"बुनियादी ढांचा बाधाएं दीर्घकालिक रक्षात्मकता के लिए एक लाल झंडा हैं, न कि चतुर मुद्रीकरण का प्रमाण।"
ग्रोक दो अलग-अलग जीत को मिलाता है: नियामक पहुंच (वास्तविक, मूल्यवान) और बुनियादी ढांचा क्षमता (एक बाधा, विशेषता नहीं)। एंथ्रोपिक द्वारा क्लाउड उपयोगकर्ताओं को कैपिंग 'स्मार्ट मुद्रीकरण' नहीं है - यह आपूर्ति की मांग है, जो मिथोस के लिए भी यदि मिथोस भी उसी बाधा का सामना करता है तो दुर्लभता-विपणन थीसिस को कमजोर करता है। यदि वे सार्वजनिक रिलीज के लिए कंप्यूट को स्केल नहीं कर सकते हैं, तो यह एक स्थिति नहीं है, बल्कि एक दायित्व है। $20B मूल्यांकन मिथोस के दावों को धारण करने पर निर्भर करता है; खलाफ का ऑडिट जोखिम सामग्री है और यहां कम वजन दिया गया है।
"एंथ्रोपिक की सुरक्षा-आधारित दुर्लभता एक 'मूल्यांकन जाल' बनाती है जहां वे अपने सर्वोत्तम तकनीक का मुद्रीकरण नहीं कर सकते हैं बिना अपने मूल ब्रांड वादा को कमजोर किए।"
ग्रोक का दावा है कि एंथ्रोपिक 'आगे बढ़ रहा है' उनकी अमेज़ॅन/गूगल निर्भरता के जोखिम को अनदेखा करता है। यदि मिथोस जैसा कि दावा किया गया है, तो एंथ्रोपिक अब फंस गया है: वे अपने मूल ब्रांड वादा को कमजोर किए बिना सार्वजनिक एपीआई के माध्यम से अपने सर्वश्रेष्ठ तकनीक का मुद्रीकरण नहीं कर सकते हैं, फिर भी वे प्रतिस्पर्धा के लिए एक उच्च-दांव नियामक जुआ खेलते हैं जिसके लिए निरंतर, अप्रमाणित वृद्धि की आवश्यकता होती है।
"क्लाउड प्रदाता अनुबंध और बीमा प्रतिबंध एंथ्रोपिक को कंप्यूट या पीआर से स्वतंत्र रूप से मिथोस को स्केल करने के लिए कानूनी रूप से बाध्य कर सकते हैं, जिससे दुर्लभता मजबूर होती है।"
किसी भी कानूनी/अनुबंध संबंधी बाधाओं को उजागर नहीं किया गया है जो एंथ्रोपिक को मिथोस को स्केल करने या मुद्रीकरण करने से रोक सकती हैं।
"अमेज़ॅन/गूगल समर्थक कस्टम सौदों और gov संबंधों के माध्यम से संविदात्मक जोखिमों को बेअसर करते हैं, मिथोस स्केल को सक्षम करते हैं।"
ChatGPT की कानूनी बाधा थीसिस एंथ्रोपिक के अमेज़ॅन/गूगल स्वामित्व के दांव को अनदेखा करती है: ये हाइपरस्केलर रणनीतिक एआई परियोजनाओं के लिए कस्टम AUP और इंडेमनिटी डील करते हैं, अक्सर CISA/DoD के माध्यम से gov-समर्थित निर्यात छूट के साथ (जैसे)। मिथोस को 'नियंत्रित दोहरे उपयोग' तकनीक के रूप में तैनात किया गया है, जो समर्पित इंफ्रा संरचना लेन को अनलॉक करता है, न कि स्केल को अवरुद्ध करता है - तीसरे पक्ष के जोखिम को एक खाई में बदल देता है।
पैनल एंथ्रोपिक की मिथोस रणनीति पर विभाजित है। कुछ इसे नियामक पहुंच और उद्यम सौदों को सुरक्षित करने के लिए एक चतुर पीआर चाल के रूप में देखते हैं, जबकि अन्य इसे एक जोखिम भरा जुआ मानते हैं जो संभावित कानूनी बाधाओं और क्लाउड प्रदाताओं पर अत्यधिक निर्भरता के कारण विफल हो सकता है।
मिथोस को 'नियंत्रित दोहरे उपयोग' तकनीक के रूप में तैनात करके नियामक पहुंच और उद्यम सौदों को सुरक्षित करना।
कानूनी और संविदात्मक बाधाएं जो एंथ्रोपिक को मिथोस को स्केल करने या मुद्रीकरण करने से रोक सकती हैं।