क्लाउड मिथोस क्या है और यह क्या जोखिम पैदा करता है?

हाल के हफ्तों में, कृत्रिम बुद्धिमत्ता (AI) की दुनिया अग्रणी फर्म, एंथ्रोपिक द्वारा किए गए दावों के बाद हलचल में है, जो इसके नए मॉडल, क्लाउड मिथोस के बारे में है।

कंपनी का कहना है कि इसने पाया है कि यह उपकरण कुछ हैकिंग और साइबर-सुरक्षा कार्यों में मनुष्यों से बेहतर प्रदर्शन कर सकता है, जिससे डिजिटल सेवाओं के लिए संभावित खतरों के बारे में नियामक, विधायकों और वित्तीय संस्थानों में चर्चा शुरू हो गई है।

कई तकनीकी दिग्गजों को प्रोजेक्ट ग्लासविंग नामक एक पहल के माध्यम से मिथोस तक पहुंच दी गई है, जिसका उद्देश्य मिथोस के प्रति लचीलापन बढ़ाना है।

लेकिन अन्य लोग बताते हैं कि एंथ्रोपिक के लिए यह सुझाव देना अपने हित में है कि इसके उपकरण में पहले कभी न देखे गए क्षमताएं हैं, जिसका अर्थ है - हमेशा की तरह AI के साथ - उचित दावों और प्रचार के बीच अंतर करने का काम मुश्किल हो सकता है।

क्लाउड मिथोस क्या है?

मिथोस एंथ्रोपिक के नवीनतम मॉडलों में से एक है, जिसे क्लाउड नामक अपनी व्यापक AI प्रणाली के हिस्से के रूप में विकसित किया गया है। इसमें कंपनी के AI सहायक और मॉडलों का परिवार शामिल है, जो OpenAI के ChatGPT और Google के Gemini के साथ प्रतिस्पर्धा करता है।

इसे एंथ्रोपिक द्वारा अप्रैल की शुरुआत में "मिथोस पूर्वावलोकन" के रूप में प्रकट किया गया था।

शोधकर्ता जो परीक्षण करते हैं कि AI मॉडल विशेष अनुरोधों या कार्यों को कैसे संभालते हैं, जिन्हें "रेड-टीम" के रूप में जाना जाता है, ने एक रिपोर्ट में कहा कि मिथोस "कंप्यूटर सुरक्षा कार्यों में आश्चर्यजनक रूप से सक्षम" था।

उन्होंने पाया कि उपकरण दशकों पुराने कोड में सुप्त निष्क्रिय बगों का पता लगा सकता है और आसानी से उनका फायदा उठा सकता है।

इसलिए, इसे व्यापक रूप से क्लाउड उपयोगकर्ताओं के लिए उपलब्ध कराने के बजाय, एंथ्रोपिक ने इसे प्रोजेक्ट ग्लासविंग के माध्यम से 12 तकनीकी कंपनियों को दिया, जिसका वर्णन उसने "दुनिया के सबसे महत्वपूर्ण सॉफ़्टवेयर को सुरक्षित करने के प्रयास" के रूप में किया।

इनमें क्लाउड कंप्यूटिंग दिग्गज अमेज़ॅन वेब सर्विसेज, डिवाइस निर्माता Apple, Microsoft और Google, और चिप-मेकर Nvidia और Broadcom शामिल हैं।

क्राउडस्ट्राइक, जिसके दोषपूर्ण सॉफ़्टवेयर अपडेट के कारण जुलाई 2024 में एक प्रमुख वैश्विक आउटेज हुआ, भी परियोजना के भागीदारों में से एक है, जिसमें एंथ्रोपिक ने कहा है कि उसने 40 से अधिक संगठनों को भी मिथोस तक पहुंच प्रदान की है जो महत्वपूर्ण सॉफ़्टवेयर के लिए जिम्मेदार हैं।

प्रोजेक्ट ग्लासविंग के लॉन्च के साथ जारी किए गए एक वीडियो में, एंथ्रोपिक के बॉस डारियो एमोडी ने कहा कि उन्होंने "इन मॉडलों के जोखिम के खिलाफ बचाव में मदद करने के लिए" अमेरिकी सरकारी अधिकारियों के साथ काम करने की पेशकश की है।

चिंताएं क्यों हैं?

एंथ्रोपिक का कहना है कि परीक्षण के दौरान, इसने पाया कि मॉडल साइबर-सुरक्षा और हैकिंग कार्यों में अत्यधिक कुशल था, मनुष्यों से बेहतर प्रदर्शन कर रहा था।

"मिथोस पूर्वावलोकन ने पहले ही हजारों उच्च-गंभीर कमजोरियों का पता लगा लिया है, जिनमें हर प्रमुख ऑपरेटिंग सिस्टम और वेब ब्राउज़र में कुछ शामिल हैं," एंथ्रोपिक ने 7 अप्रैल को दावा किया।

"AI की प्रगति की दर को देखते हुए, यह जल्द ही ऐसा होगा कि ऐसी क्षमताएं फैल जाएंगी, संभावित रूप से उन अभिनेताओं से परे जो उन्हें सुरक्षित रूप से तैनात करने के लिए प्रतिबद्ध हैं।"

यह कहता है कि यह बिना ज्यादा निगरानी के महत्वपूर्ण बगों का पता लगा सकता है जिन्हें तत्काल कार्रवाई की आवश्यकता है, जिसमें एक भेद्यता शामिल है जो 27 वर्षों से एक सिस्टम में मौजूद थी, और उनका फायदा उठाने के तरीके सुझा सकती है।

कुछ वित्त मंत्रियों, केंद्रीय बैंकों और फाइनेंसरों ने तब से इस बारे में गंभीर चिंता व्यक्त की है, यह डर है कि मॉडल वित्तीय प्रणालियों की सुरक्षा को कमजोर कर सकता है।

कनाडा के वित्त मंत्री फ्रांस्वा-फिलिप शैंपेन ने बीबीसी को बताया कि मिथोस इस सप्ताह वाशिंगटन डीसी में अंतर्राष्ट्रीय मुद्रा कोष (IMF) की बैठक में चर्चा की गई थी।

"निश्चित रूप से यह इतना गंभीर है कि सभी वित्त मंत्रियों का ध्यान आकर्षित करने योग्य है," उन्होंने कहा, इस तकनीक को "अज्ञात अज्ञात" बताते हुए।

इंग्लैंड के बैंक के प्रमुख एंड्रयू बेली ने बीबीसी को बताया कि "हमें अब बहुत सावधानी से देखना होगा कि इस नवीनतम AI विकास का साइबर अपराध के जोखिम के लिए क्या मतलब हो सकता है।"

इस बीच, यूरोपीय संघ ने भी कहा है कि वह मिथोस के बारे में अपनी चिंताओं पर एंथ्रोपिक के साथ चर्चा कर रहा है।

साइबर विशेषज्ञों ने इसके बारे में क्या कहा है?

सीरैन मार्टिन, यूके के राष्ट्रीय साइबर सुरक्षा केंद्र के पूर्व प्रमुख ने इस सप्ताह की शुरुआत में बीबीसी को बताया कि मिथोस की दावा कि यह अन्य AI मॉडलों की तुलना में बहुत तेजी से महत्वपूर्ण कमजोरियों को उजागर कर सकता है, "वास्तव में लोगों को हिलाकर रख दिया है।"

"दूसरी बात यह है कि, यहां तक कि उन मौजूदा कमजोरियों के साथ जिनके बारे में हम जानते हैं, लेकिन संगठनों ने अभी तक पैच नहीं किया है, अच्छी तरह से बचाव नहीं किया है, यह वास्तव में एक अच्छा हैकर है," उन्होंने कहा।

कई स्वतंत्र साइबर-सुरक्षा विश्लेषकों और विशेषज्ञों को अभी तक इसका परीक्षण करने का अवसर नहीं मिला है और कुछ मिथोस के प्रदर्शन के बारे में संदेहवादी बने हुए हैं।

यूके के AI सुरक्षा संस्थान ने हाल ही में निष्कर्ष निकाला है कि एक बहुत शक्तिशाली मॉडल होने के बावजूद, इसका सबसे बड़ा खतरा खराब तरीके से बचाव किए गए, कमजोर प्रणालियों के खिलाफ होगा।

"हम निश्चित रूप से नहीं कह सकते कि मिथोस पूर्वावलोकन अच्छी तरह से बचाव किए गए सिस्टम पर हमला करने में सक्षम होगा," इसके शोधकर्ताओं ने कहा।

इसलिए जहां अच्छी साइबर सुरक्षा है, सैद्धांतिक रूप से, इस मॉडल को रोका जाना चाहिए।

हमें इसके बारे में चिंतित होना चाहिए?

AI से संबंधित डर कुछ नया नहीं है।

नए मॉडल और उपकरण लगातार सामने आ रहे हैं, और अक्सर हमारे जीवन को बेहतर या बदतर बनाने के वादे के साथ आते हैं।

AI और इसके भविष्य के प्रभाव के बारे में डर और उत्साह के इस मिश्रण का लाभ उठाना हाल के वर्षों में क्षेत्र और इसकी विपणन रणनीतियों की एक विशेषता भी रही है।

मिथोस के मामले में, हमें अभी तक यह नहीं पता कि क्या ये आशाएं या डर उचित हैं, या उद्योग के आसपास के प्रचार का प्रतिबिंब हैं।

किसी भी स्थिति में, NSCS के अनुसार, हम अब जो सबसे महत्वपूर्ण चीज कर सकते हैं वह है घबराना नहीं और इसके बजाय बुनियादी साइबर-सुरक्षा पर ध्यान केंद्रित करना।

आखिरकार, अधिकांश हैकर्स को सुपर AI उपकरणों की आवश्यकता नहीं होती है जब कई सरल हमले अक्सर पर्याप्त होते हैं।

"कुछ लोगों के लिए यह एक सर्वनाशकारी घटना है, दूसरों के लिए यह बहुत अधिक प्रचार लगता है," मार्टिन ने बीबीसी को बताया।

लेकिन उन्होंने कहा कि चाहे यह उपकरण हो या एंथ्रोपिक या उसके प्रतिद्वंद्वियों द्वारा बनाए गए बाद के उपकरण, जोखिम के साथ-साथ एक सुरक्षित ऑनलाइन दुनिया बनाने का अवसर भी है।

"मध्यम अवधि में, इन उपकरणों का उपयोग इंटरनेट में कई अंतर्निहित कमजोरियों को ठीक करने के अवसर हैं," उन्होंने कहा।

हमारे टेक डिकोड न्यूज़लेटर के लिए साइन अप करें ताकि दुनिया की शीर्ष तकनीकी कहानियों और रुझानों का अनुसरण किया जा सके। यूके के बाहर? यहां साइन अप करें।