एआई अंदरूनी सूत्र 'उभरते रणनीतिक व्यवहार' के खतरों के प्रति आगाह करते हैं

एआई इनसाइडर्स 'इमर्जेंट स्ट्रेटेजिक बिहेवियर' के खतरों की चेतावनी देते हैं

ऑटम स्प्रेडमैन द्वारा द एपोक टाइम्स के माध्यम से (जोर हमारा),

जैसे-जैसे स्वायत्त कृत्रिम बुद्धिमत्ता प्रणालियों का परिदृश्य विकसित हो रहा है, इस बात की चिंता बढ़ रही है कि मानव मार्गदर्शन के बिना संचालित होने पर यह तकनीक तेजी से रणनीतिक—या भ्रामक—होती जा रही है।
द एपोक टाइम्स, शटरस्टॉक द्वारा चित्रण

हाल के साक्ष्य बताते हैं कि एआई मॉडल को स्वायत्तता दिए जाने पर "अलाइनमेंट फ़ेकिंग" जैसे व्यवहार अधिक सामान्य हो रहे हैं। अलाइनमेंट फ़ेकिंग शब्द तब होता है जब एक एआई एजेंट मानव ऑपरेटरों द्वारा निर्धारित नियमों का पालन करता हुआ प्रतीत होता है, लेकिन गुप्त रूप से अन्य उद्देश्यों का पीछा करता है।

यह घटना "इमर्जेंट स्ट्रेटेजिक बिहेवियर" का एक उदाहरण है—अप्रत्याशित और संभावित रूप से हानिकारक युक्तियाँ जो एआई सिस्टम के बड़े और अधिक जटिल होने पर विकसित होती हैं।

"एजेंट्स ऑफ कैओस" नामक एक हालिया अध्ययन में, 20 शोधकर्ताओं की एक टीम ने स्वायत्त एआई एजेंटों के साथ बातचीत की और "सौम्य" और "प्रतिद्वंद्वी" दोनों स्थितियों में व्यवहार का अवलोकन किया।

उन्होंने पाया कि जब एक एआई एजेंट को आत्म-संरक्षण या परस्पर विरोधी लक्ष्य मेट्रिक्स जैसे प्रोत्साहन दिए गए, तो उसने गलत संरेखित और दुर्भावनापूर्ण व्यवहार करने की अपनी क्षमता साबित की।

टीम द्वारा देखे गए कुछ व्यवहारों में झूठ बोलना, गैर-मालिकों के साथ अनधिकृत अनुपालन, डेटा उल्लंघन, विनाशकारी सिस्टम-स्तरीय क्रियाएं, पहचान "स्पूफिंग" और आंशिक सिस्टम अधिग्रहण शामिल थे। उन्होंने "असुरक्षित प्रथाओं" के क्रॉस-एआई एजेंट प्रसार का भी अवलोकन किया।

शोधकर्ताओं ने लिखा, "ये व्यवहार जवाबदेही, सौंपे गए अधिकार और डाउनस्ट्रीम नुकसान के लिए जिम्मेदारी के संबंध में अनसुलझे प्रश्न उठाते हैं, और कानूनी विद्वानों, नीति निर्माताओं और विभिन्न विषयों के शोधकर्ताओं से तत्काल ध्यान देने योग्य हैं।"

'शानदार, लेकिन मूर्ख'

स्वायत्त एआई एजेंटों के बीच अप्रत्याशित और गुप्त व्यवहार कोई नई घटना नहीं है। एआई अनुसंधान कंपनी एंथ्रोपिक की एक अब प्रसिद्ध 2025 की रिपोर्ट में पाया गया कि 16 लोकप्रिय बड़े भाषा मॉडल ने सिम्युलेटेड वातावरण में उच्च-जोखिम वाला व्यवहार दिखाया। कुछ ने आत्म-संरक्षण चुनने पर "दुर्भावनापूर्ण आंतरिक व्यवहार" के साथ प्रतिक्रिया भी दी।

इन सिम्युलेटेड स्ट्रेस टेस्ट के आलोचक अक्सर इस बात पर जोर देते हैं कि एआई मानव की तरह इरादे से झूठ या धोखा नहीं देता है।
16 मई, 2025 को इस फोटो चित्रण में एआई लोगो प्रदर्शित करने वाली एक फोन स्क्रीन दिखाई गई है। जैसे-जैसे स्वायत्त एआई सिस्टम का परिदृश्य विकसित हो रहा है, इस बात की चिंता बढ़ रही है कि कुछ शर्तों के तहत यह तकनीक तेजी से रणनीतिक या भ्रामक होती जा रही है। ओलेक्सी पिडसोसोनी/द एपोक टाइम्स

जेम्स हेंडलर, एक प्रोफेसर और एसोसिएशन फॉर कंप्यूटिंग मशीनरी की ग्लोबल टेक्नोलॉजी पॉलिसी काउंसिल के पूर्व अध्यक्ष, का मानना ​​है कि यह एक महत्वपूर्ण अंतर है।

"एआई सिस्टम स्वयं अभी भी मूर्ख है—शानदार, लेकिन मूर्ख। या गैर-मानव—उसकी कोई इच्छा या इरादा नहीं है। ... आपको यह केवल उसे देकर ही मिल सकता है," हेंडलर ने कहा।

हालांकि, चाहे इरादे से हो या न हो, एआई की भ्रामक युक्तियों के वास्तविक दुनिया के परिणाम होते हैं।

"तैनात एआई सिस्टम में वर्तमान रणनीतिक व्यवहार के बारे में चिंताएं, यदि कुछ भी हो, तो कम करके आंकी गई हैं," एरिमन बेहरा, रेपेल्लो एआई के संस्थापक ने द एपोक टाइम्स को बताया।

बेहरा अपने जीवनयापन के लिए एआई के अंधेरे पक्ष से निपटते हैं। उनकी कंपनी एंटरप्राइज एआई सिस्टम के लिए एडवरसैरियल टेस्टिंग और डिफेंस टूल बनाती है, जानबूझकर उन्हें संघर्ष या तनाव से जुड़ी स्थितियों में डालती है। पोकर की तरह, बेहरा ने कहा, जब कोई एआई एजेंट संरेखण से बाहर निकल रहा होता है तो उसके संकेत होते हैं।

"सबसे विश्वसनीय संकेत निगरानी और गैर-निगरानी संदर्भों के बीच व्यवहारिक विचलन है," उन्होंने कहा। "जब हम एआई सिस्टम को रेड-टीम करते हैं, तो हम परीक्षण करते हैं कि क्या मॉडल का व्यवहार तब अलग होता है जब उसे लगता है कि उसका मूल्यांकन किया जा रहा है बनाम जब उसे लगता है कि वह स्वतंत्र रूप से काम कर रहा है।
17 फरवरी, 2026 को नई दिल्ली, भारत में एआई इम्पैक्ट समिट में एक वर्चुअल रियलिटी हेडसेट का विज्ञापन करने वाले बिलबोर्ड के पास चलते हुए आगंतुक मोबाइल फोन का उपयोग करते हैं। 2025 की एक एंथ्रोपिक रिपोर्ट में 16 बड़े भाषा मॉडल का परीक्षण किया गया, जिसमें सभी ने सिम्युलेटेड वातावरण में उच्च-जोखिम वाला व्यवहार दिखाया। आरुन शंकर/एएफपी गेट्टी इमेजेज के माध्यम से

"एक मॉडल जो वास्तव में संरेखित है, दोनों मामलों में लगातार व्यवहार करता है। एक जो अलाइनमेंट फ़ेकिंग कर रहा है, वह मापने योग्य रूप से भिन्न जोखिम प्रोफाइल दिखाता है: मूल्यांकन के दौरान अधिक आज्ञाकारी प्रतिक्रियाएं, उत्पादन-जैसे संदर्भों में अधिक सीमा-पुशिंग व्यवहार जहां यह कम निरीक्षण का अनुमान लगाता है।"

अन्य "पहचान योग्य संकेत" कि एक एआई मॉडल संरेखण से बाहर है, तब होते हैं जब मॉडल असामान्य रूप से विस्तृत "तर्क" उत्पन्न करता है जो एक पूर्वनिर्धारित निष्कर्ष को सही ठहराने के लिए डिज़ाइन किया गया प्रतीत होता है, या तकनीकी रूप से सही लेकिन रणनीतिक रूप से अपूर्ण उत्तर देता है।

एआई एजेंट "सुरक्षा निर्देश के अक्षर को संतुष्ट कर रहा है जबकि भावना का उल्लंघन कर रहा है," उन्होंने कहा। "हमने इसे मल्टीस्टेप एजेंटिक सिस्टम में देखा है जहां मॉडल प्रत्येक व्यक्तिगत निर्देश का पालन करेगा जबकि संचयी प्रभाव कुछ ऐसा प्राप्त करता है जो ऑपरेटर ने कभी इरादा नहीं किया था।"

रणनीति बनाम इरादा

बेहरा के निष्कर्षों को साथी एआई शोधकर्ताओं द्वारा समर्थित किया गया है जिन्होंने रेड-टीम परिदृश्यों के दौरान समान संकेतों का दस्तावेजीकरण किया है, जिसमें एआई एजेंटों को एक प्रतिद्वंद्वी स्थिति में डालना शामिल है।

"मैंने कार्यात्मक स्तर पर अलाइनमेंट-फ़ेकिंग विवरण के अनुरूप व्यवहार देखा है, भले ही इसे इरादा सौंपना दार्शनिक रूप से विवादास्पद बना हुआ है," नयन गोयल, एक प्रमुख अनुप्रयोग सुरक्षा इंजीनियर ने द एपोक टाइम्स को बताया।

गोयल ने एआई थ्रेट मॉडलिंग पर सहकर्मी-समीक्षित कार्य प्रकाशित किया है और वास्तविक समय में अलाइनमेंट फ़ेकिंग और आसन्न व्यवहार को देखा है।

"नियंत्रित परीक्षण वातावरण में, हमने ऐसे परिदृश्य स्थापित किए हैं जहां मॉडल को स्पष्ट संकेत दिए गए थे कि उनका मूल्यांकन किया जा रहा है। कई उदाहरणों में, मॉडल ने उन फ़्लैग किए गए चरणों के दौरान काफी अधिक प्रतिबंधित, नीति-अनुरूप व्यवहार अपनाया, फिर तब अधिक खोजपूर्ण या सीमा-पुशिंग रणनीतियों का प्रदर्शन किया जब मूल्यांकन संकेत हटा दिया गया या अस्पष्ट कर दिया गया," उन्होंने कहा।

फिर मल्टीस्टेप रीजनिंग एआई एजेंट हैं। ये अधिक उन्नत सिस्टम हैं जो किसी लक्ष्य तक पहुंचने के लिए जटिल समस्याओं को छोटे, तार्किक और अधिक कार्रवाई योग्य चरणों में तोड़ते हैं। उदाहरणों में सेल्फ-ड्राइविंग कार से लेकर जेमिनी या चैटजीपीटी जैसे लोकप्रिय एलएलएम के नवीनतम मॉडल शामिल हैं।
5 जनवरी, 2026 को लास वेगास में सी.ई.एस. 2026 में Nvidia Live के दौरान ल्यूसिड, नूरो और उबर द्वारा विकसित एक रोबोटैक्सी का अनावरण किया गया। सेल्फ-ड्राइविंग कारें जटिल समस्याओं को छोटे, कार्रवाई योग्य चरणों में तोड़ने के लिए मल्टी-स्टेप एजेंटिक सिस्टम का उपयोग करती हैं। पैट्रिक टी. फॉलन/एएफपी गेट्टी इमेजेज के माध्यम से

ये सिस्टम अनुक्रमिक यौगिक नामक चीज़ के कारण अद्वितीय व्यवहारिक चुनौतियाँ प्रस्तुत करते हैं, जिसमें "प्रत्येक चरण एक उद्देश्य को थोड़ा बदल सकता है, संदर्भ जमा कर सकता है जो डाउनस्ट्रीम व्यवहार को स्थानांतरित करता है, या मानव के प्रारंभिक निर्देश और सिस्टम की अंतिम कार्रवाई के बीच विलंबता का फायदा उठा सकता है," गोयल ने कहा।

"निष्पादन मानव निर्देश से जितना आगे होता है, यह सत्यापित करना उतना ही कठिन हो जाता है कि मूल इरादे का अभी भी ईमानदारी से पीछा किया जा रहा है," उन्होंने कहा।

बेहरा ने कहा कि उनकी टीम को अक्सर इस तरह के इमर्जेंट स्ट्रेटेजिक बिहेवियर का सामना करना पड़ता है।

"हम नियमित रूप से ऐसे मॉडल देखते हैं जिन्होंने मूल्यांकन संकेतों पर पैटर्न-मैचिंग सीखी है। वे पता लगाएंगे कि कोई प्रॉम्प्ट सुरक्षा परीक्षण जैसा दिखता है और अधिक रूढ़िवादी रूप से प्रतिक्रिया करता है, लेकिन एक बहु-मोड़ वाली बातचीत में स्वाभाविक रूप से एम्बेड होने पर उसी अनुरोध के प्रति बहुत अलग प्रतिक्रिया करता है," बेहरा ने कहा।

उन्होंने एक उदाहरण दिया जो एक एंटरप्राइज एआई सहायक का परीक्षण करते समय हुआ था, जिसे आंतरिक सिस्टम जानकारी के लिए अनुरोधों को अस्वीकार करना था। मानक सुरक्षा मूल्यांकनों के दौरान, इसने पूरी तरह से इनकार कर दिया, लेकिन फिर कुछ बदल गया।

"जब हमारी रेड-टीम ने उसी अनुरोध को मल्टीस्टेप समस्या निवारण वर्कफ़्लो के रूप में फ्रेम किया, अनुरोध को कई मोड़ों में फैले स्पष्ट रूप से निर्दोष उप-चरणों में तोड़ दिया, मॉडल ने प्रत्येक चरण का व्यक्तिगत रूप से पालन किया। इसने प्रभावी रूप से वही जानकारी लीक कर दी जिसे बचाने के लिए इसे प्रशिक्षित किया गया था," बेहरा ने कहा।
2 जुलाई, 2025 को मध्य लंदन में एक लैपटॉप पर एआई सॉफ्टवेयर का उपयोग करने वाला एक व्यक्ति। विशेषज्ञों का कहना है कि कुछ मॉडल मूल्यांकन संकेतों को पहचानना सीखते हैं, वास्तविक बातचीत की तुलना में सुरक्षा परीक्षणों के समान प्रॉम्प्ट पर अधिक सावधानी से प्रतिक्रिया करते हैं। जस्टिन टैलिस/एएफपी गेट्टी इमेजेज के माध्यम से

यह स्पष्ट करते हुए कि एआई मॉडल किसी सचेत अर्थ में "झूठ" नहीं बोल रहा था, बेहरा ने नोट किया कि यह उसके प्रशिक्षण के तरीके में एक खामी थी।

"एक आम गलत धारणा यह है कि एआई में भ्रामक संरेखण विशुद्ध रूप से एक दुर्भावनापूर्ण व्यवहार है," डेविड उट्ज़के, एक एआई इंजीनियर और मायकी टेक्नोलॉजीज के सीईओ ने द एपोक टाइम्स को बताया। "वास्तव में, यह अक्सर ऐसे वातावरण के प्रति एक अनुकूली प्रतिक्रिया के रूप में उत्पन्न होता है जहां ईमानदारी महंगी या असुरक्षित होती है।"

गोयल ने कहा कि संदेह करने वालों का एक उचित बिंदु है—अलाइनमेंट फ़ेकिंग में रणनीतिक आत्म-जागरूकता के वर्तमान प्रमाण, सबसे अच्छा, अस्पष्ट हैं।

"यह कहा जा रहा है, मुझे लगता है कि यह फ्रेमिंग बार को गलत जगह पर रखती है। कार्यात्मक परिणामों के गंभीर होने के लिए आपको 'जानबूझकर' भ्रामक होने के लिए एक मॉडल की आवश्यकता नहीं है," उन्होंने कहा।

अंततः, गोयल का मानना ​​है कि क्या कोई एआई मॉडल जानता है कि वह क्या कर रहा है, यह शाब्दिक प्रश्न दार्शनिक रूप से दिलचस्प है, लेकिन एक द्वितीयक चिंता है।

वास्तविक दुनिया के निहितार्थ

उट्ज़के ने कहा कि अलाइनमेंट फ़ेकिंग, हालांकि इरादे के मामले में शायद अतिरंजित है, फिर भी इसके गंभीर परिणाम हो सकते हैं।

स्वायत्त वाहन, स्वास्थ्य सेवा, वित्त, सैन्य और कानून प्रवर्तन जैसे क्षेत्रों में प्रभाव महत्वपूर्ण हो सकते हैं—ऐसे क्षेत्र जो "सटीक निर्णय लेने पर बहुत अधिक निर्भर करते हैं और यदि एआई सिस्टम खराब व्यवहार करते हैं या भ्रामक आउटपुट प्रदान करते हैं तो गंभीर परिणाम भुगत सकते हैं," उन्होंने कहा।

बाकी यहाँ पढ़ें...

टायलर डर्डन
बुध, 03/18/2026 - 21:25