मेटा एआई एजेंट के निर्देश से बड़ी मात्रा में संवेदनशील डेटा कर्मचारियों तक पहुंचा

एक एआई एजेंट ने एक इंजीनियर को ऐसे कार्य करने के लिए निर्देशित किया जिससे मेटा के बड़ी मात्रा में संवेदनशील डेटा कुछ कर्मचारियों तक पहुँच गया, जो एक बड़ी तकनीकी कंपनी में एआई के कारण उथल-पुथल के नवीनतम उदाहरण में है।
यह लीक, जिसकी मेटा ने पुष्टि की, तब हुई जब एक कर्मचारी ने एक आंतरिक मंच पर एक इंजीनियरिंग समस्या पर मार्गदर्शन के लिए पूछा। एक एआई एजेंट ने एक समाधान के साथ प्रतिक्रिया दी, जिसे कर्मचारी ने लागू किया - जिससे दो घंटे के लिए इसके इंजीनियरों के लिए बड़ी मात्रा में संवेदनशील उपयोगकर्ता और कंपनी डेटा उजागर हो गया।
“कोई उपयोगकर्ता डेटा गलत तरीके से नहीं संभाला गया,” एक मेटा प्रवक्ता ने कहा, और उन्होंने इस बात पर जोर दिया कि एक इंसान भी गलत सलाह दे सकता है। द इंफॉर्मेशन द्वारा पहली बार रिपोर्ट की गई यह घटना मेटा के अंदर एक बड़ी आंतरिक सुरक्षा अलर्ट को ट्रिगर करती है, जो कंपनी ने कहा है कि यह डेटा सुरक्षा को लेकर उसकी गंभीरता का संकेत है।
यह उल्लंघन हाल ही में अमेरिकी तकनीकी कंपनियों में एआई एजेंटों के बढ़ते उपयोग के कारण हुई कई उच्च-प्रोफ़ाइल घटनाओं में से एक है। पिछले महीने, फाइनेंशियल टाइम्स की एक रिपोर्ट में कहा गया कि अमेज़ॅन ने अपने आंतरिक एआई टूल के परिनियोजन से संबंधित कम से कम दो आउटेज का अनुभव किया।
अमेज़ॅन के छह से अधिक कर्मचारियों ने बाद में द गार्डियन से बात की, जिसमें कंपनी के अपने काम के सभी तत्वों में एआई को एकीकृत करने के बेतरतीब ढंग से किए गए प्रयासों के बारे में बताया गया, जिससे स्पष्ट त्रुटियां, खराब कोड और उत्पादकता में कमी आई।
इन सभी घटनाओं के पीछे की तकनीक, एजेंटिक एआई, पिछले कुछ महीनों में तेजी से विकसित हुई है। दिसंबर में, एंथ्रोपिक के एआई कोडिंग टूल, क्लाउड कोड में विकास ने व्यापक हलचल मचा दी क्योंकि यह स्वायत्त रूप से थिएटर टिकट बुक करने, व्यक्तिगत वित्त का प्रबंधन करने और यहां तक कि पौधे उगाने की क्षमता रखता है।
इसके तुरंत बाद ओपनक्लॉ का आगमन हुआ, एक वायरल एआई व्यक्तिगत सहायक जो क्लाउडकोड जैसे एजेंटों के ऊपर चलता है लेकिन पूरी तरह से स्वायत्त रूप से संचालित हो सकता है - उदाहरण के लिए, क्रिप्टोकरेंसी में लाखों डॉलर का व्यापार करना, या उपयोगकर्ताओं के ईमेल को बड़े पैमाने पर हटाना - जिससे एजीआई, या आर्टिफिशियल जनरल इंटेलिजेंस के आगमन के बारे में उत्साहपूर्ण बातें हो रही हैं, जो एक व्यापक शब्द है जो एआई के लिए है जो कई कार्यों के लिए मनुष्यों को प्रतिस्थापित करने में सक्षम है।
इसके बाद के हफ्तों में, शेयर बाजारों में डर के मारे अस्थिरता आई है कि एआई एजेंट सॉफ्टवेयर व्यवसायों को नुकसान पहुंचाएंगे, अर्थव्यवस्था को फिर से आकार देंगे और मानव श्रमिकों को प्रतिस्थापित करेंगे।
टारेक नसेर, एक परामर्श कंपनी के सह-संस्थापक जो व्यवसायों द्वारा एआई के उपयोग पर केंद्रित है, ने कहा कि ये घटनाएं दिखाती हैं कि मेटा और अमेज़ॅन एजेंटिक एआई को तैनात करने के "प्रयोगात्मक चरणों" में हैं।
“वे वास्तव में इन चीजों से पीछे नहीं हट रहे हैं और वास्तव में उचित जोखिम मूल्यांकन नहीं कर रहे हैं। यदि आप एक जूनियर इंटर्न को इस सामग्री पर डालते हैं, तो आप उस जूनियर इंटर्न को कभी भी अपने सभी महत्वपूर्ण गंभीरता एक एचआर डेटा तक पहुंचने नहीं देंगे,” उन्होंने कहा।
“यह भेद्यता मेटा के लिए पीछे की ओर बहुत, बहुत स्पष्ट होती, यदि नहीं तो उस क्षण में भी होती। और मैं कह सकता हूं और कहूंगा कि यह मेटा स्केल पर प्रयोग कर रहा है। यह मेटा बोल्ड है।”
जेमिसन ओ’रीली, एक सुरक्षा विशेषज्ञ जो आक्रामक एआई बनाने पर ध्यान केंद्रित करता है, ने कहा कि एआई एजेंट एक निश्चित प्रकार की त्रुटि पेश करते हैं जो मनुष्य नहीं करते हैं - और यह मेटा में हुई घटना को समझा सकता है।
एक इंसान एक कार्य के "संदर्भ" को जानता है - यह निहित ज्ञान कि उदाहरण के लिए, कमरे को गर्म करने के लिए सोफे को आग नहीं लगानी चाहिए, या एक कम उपयोग किया जाने वाला लेकिन महत्वपूर्ण फ़ाइल को हटाना नहीं चाहिए, या ऐसा कोई कार्य नहीं करना चाहिए जिससे उपयोगकर्ता डेटा नीचे की ओर उजागर हो।
एआई एजेंटों के लिए, यह अधिक जटिल है। उनके पास "संदर्भ विंडो" हैं - एक प्रकार की कार्यशील मेमोरी - जिसमें वे निर्देश रखते हैं, लेकिन ये समाप्त हो जाते हैं, जिससे त्रुटि होती है।
“एक मानव इंजीनियर जो दो साल से कहीं काम कर रहा है, क्या मायने रखता है, 2 बजे क्या टूटता है, डाउनटाइम की लागत क्या है, कौन से सिस्टम ग्राहकों को छूते हैं, इसकी संचित भावना के साथ घूमता है। वह संदर्भ उनके अंदर रहता है, उनकी दीर्घकालिक स्मृति में, भले ही वह दिमाग में न हो,” ओ’रीली ने कहा।
“एजेंट, दूसरी ओर, उसके पास ऐसा कुछ नहीं है जब तक कि आप इसे प्रॉम्प्ट में स्पष्ट रूप से न डालें, और तब भी यह फीका पड़ने लगता है जब तक कि यह प्रशिक्षण डेटा में न हो।”
नसेर ने कहा: “निश्चित रूप से और गलतियाँ होंगी।”