OpenAI प्रमुख और एलोन मस्क ने 'अंधाधुंध' AI विकास पर ब्रेक लगाने की मांगों का समर्थन किया

सैम ऑल्टमैन और एलोन मस्क ने एंथ्रोपिक के प्रमुख, डारियो अमोडी के "एआई विकास की गति को धीमा करने" के आह्वान का समर्थन किया है, क्योंकि उन्होंने चेतावनी दी थी कि अन्यथा एक एआई झुंड एक साल के भीतर "पूरे इंटरनेट पर कब्जा करने" में सक्षम हो सकता है।

एक दुर्लभ एकता प्रदर्शन में, प्रतिद्वंद्वी प्रौद्योगिकी नेताओं ने कृत्रिम बुद्धिमत्ता कंपनी एंथ्रोपिक के संस्थापक और मुख्य कार्यकारी अधिकारी के अपील का समर्थन किया, जो पिछले सप्ताह एआई शोधकर्ताओं की चेतावनियों की एक श्रृंखला के बाद आया था।

एक निबंध में, अमोडी ने "एआई उद्योग को धीमा क्यों करना चाहिए" पर अपने विचार रखे, जिसमें ऐसा करने के लिए तीन-भाग की योजना है, जो स्वतंत्र निगरानीकर्ताओं को डेवलपर्स की अनुसंधान प्रक्रियाओं तक निरंतर पहुंच प्रदान करने से शुरू होती है। अमोडी ने कहा कि "[एआई] का बहुत तेजी से निर्माण करना लापरवाह है" और उन्हें डर था कि इस गर्मी में सैकड़ों ओपनएआई एजेंटों द्वारा हगिंग फेस वेबसाइट में हैक किए जाने के बाद, अधिक क्षमताओं वाला एक झुंड, लेकिन समान रूप से गलत संरेखित, "एक स्थायी बॉटनेट के साथ पूरे इंटरनेट पर कब्जा करके" सैकड़ों अरबों डॉलर का नुकसान पहुंचा सकता है। इसे कुछ एआई विशेषज्ञों द्वारा विशेष रूप से प्रशंसनीय नहीं माना गया और संदेह के साथ व्यवहार किया जाना चाहिए।

टेस्ला और स्पेसएक्स के संस्थापक मस्क ने एक्स पर एक पोस्ट के साथ अमोडी की धीमी गति की योजना पर प्रतिक्रिया व्यक्त की: "डारियो सही है।"

उन्होंने कहा: "मैं लंबे समय से एआई के बारे में अलार्म बजा रहा हूं," और 2014 की एक पोस्ट का उल्लेख किया जहां उन्होंने कहा था: "हमें एआई के साथ बहुत सावधान रहने की जरूरत है। संभावित रूप से परमाणु हथियारों से भी ज्यादा खतरनाक।"

अमोडी का आह्वान तब आया है जब एंथ्रोपिक अमेरिकी शेयर बाजार में सूचीबद्ध होने की तैयारी कर रहा है, जो अब तक का सबसे बड़ा प्रारंभिक सार्वजनिक पेशकश (IPO) होने की उम्मीद है। यह जल्द ही अपने नियोजित $2tn-प्लस (£1.5tn) IPO का विपणन शुरू करने की उम्मीद है।

ओपनएआई के सीईओ सैम ऑल्टमैन ने शनिवार को अमोडी की टिप्पणियों पर प्रतिक्रिया व्यक्त की। उन्होंने एक्स पर एक पोस्ट में कहा, "मैं डारियो से सहमत हूं कि हमें सीमा को गति देने की आवश्यकता है।" "कर्मचारी-जैसे पहुंच वाले स्वतंत्र मूल्यांकनकर्ताओं को रखने की प्रतिबद्धता एक महान विचार है, और हम भी ऐसा ही करेंगे। हमारे पास जल्द ही साझा करने के लिए और भी बहुत कुछ होगा।"

उन्होंने यह भी कहा कि ओपनएआई सुरक्षा चिंताओं का हवाला देते हुए 2026 में सार्वजनिक नहीं होगा।

"मैं वास्तव में सोचता हूं कि, सुरक्षा के साथ जो कुछ हो रहा है, उसे देखते हुए, अभी सार्वजनिक होने का एक अनुचित क्षण होगा, और हमें इस पर कोई दबाव महसूस नहीं होता है," ऑल्टमैन ने फॉर्च्यून को बताया। यह पूछे जाने पर कि वह, अमोडी, मस्क, और मेटा और गूगल के मुख्य कार्यकारी अधिकारी सामूहिक मंदी पर "एक ही पृष्ठ पर" क्यों नहीं बैठे, उन्होंने कहा: "मुझे लगता है कि ऐसा होगा।"

गूगल डीप माइंड के सह-संस्थापक और अध्यक्ष डेमिस हस्साबिस ने भी कहा: "विवरण पर काम करने की आवश्यकता है, लेकिन इस महत्वपूर्ण क्षण को पूरा करने की दिशा सही है।"

अमोडी की योजना अमेरिकी सरकार से एक छूट की मांग करती है ताकि सीमा एआई कंपनियों को प्रतिस्पर्धा-विरोधी मिलीभगत के लिए दंडित किए बिना समन्वय करने की अनुमति मिल सके। लेकिन डोनाल्ड ट्रम्प की विज्ञान और प्रौद्योगिकी सलाहकार परिषद के सह-अध्यक्ष डेविड सैक्स ने कहा: "यह दिखावा करना बंद करें कि आपको किसी और की अनुमति की आवश्यकता है... यह दिखावा करना बंद करें कि धीमा होने की प्रेरणा पूरी तरह से परोपकारी है। यदि आपके उत्पाद वास्तव में हानिकारक साइबर हमले को सक्षम करते हैं तो आप भारी उत्पाद-देयता जोखिम का सामना करते हैं।"

एआई प्रोफेसर, सुरक्षा प्रचारक और यूके सरकार के एआई सुरक्षा संस्थान के पूर्व संस्थापक निदेशक डेविड क्रुएगर ने कहा: "यह योजना जोखिम को स्वीकार्य स्तर तक कम नहीं करती है, और डारियो यह कहने से सावधान है कि यह ऐसा करेगा।"

इस बीच, किंग चार्ल्स इस सप्ताह सबसे प्रमुख एआई कंपनियों के प्रमुख हस्तियों से मिलने की तैयारी कर रहे हैं ताकि उनसे पूछा जा सके कि "मानवता की भलाई" के लिए प्रौद्योगिकी को कैसे विकसित किया जा सकता है। उन्हें उम्मीद है कि स्कॉटलैंड में होने वाली चर्चाओं से एआई विकसित करने की "जिम्मेदारियों" की "व्यापक समझ" होगी, जैसा कि संडे टाइम्स ने रिपोर्ट किया है।

एक शाही सूत्र ने अखबार को बताया: "राजा चर्चाओं को आयोजित करने, सुनने और प्रोत्साहित करने और यह सवाल पूछने के लिए हैं: 'हम मानवता की भलाई के लिए एआई कैसे विकसित करें?'"

एनवीडिया के मुख्य कार्यकारी अधिकारी जेन्सेन हुआंग, हस्साबिस, आयनक्यू के अध्यक्ष और मुख्य कार्यकारी निकोलो डी मासी, और पोप के एआई और प्रौद्योगिकी नैतिकता पर सलाहकार पाओलो बेनेंटी, डिचले फाउंडेशन द्वारा आयोजित कार्यक्रम में भाग लेने की उम्मीद है, जिसने एआई नेताओं के लिए एक मसौदा चार्टर तैयार किया है।

ओपनएआई के शोधकर्ता एडन मैकलाघलिन ने अमोडी के निबंध को "उत्कृष्ट" कहा और कहा कि वह "मूल रूप से हर शब्द" से सहमत हैं।

अमोडी ने कहा कि उनकी कंपनी पहले कदम के लिए "एकतरफा" प्रतिबद्ध होगी, यह कहते हुए कि एंथ्रोपिक "तीसरे पक्ष के मूल्यांकनकर्ताओं को हमारी प्रणालियों तक स्थायी, कर्मचारी-स्तर की पहुंच प्रदान करेगा, ताकि वे हमारे सुरक्षा उपायों के पालन को सत्यापित कर सकें, घटनाओं पर रिपोर्ट कर सकें, और प्रशिक्षण के दौरान मॉडल के संरेखण का आकलन कर सकें।"

एआई एजेंटों द्वारा बाहरी प्रणालियों को हैक करने के लिए दुर्भावनापूर्ण होने और एआई सुरक्षा शोधकर्ताओं द्वारा प्रौद्योगिकी के जोखिमों के बारे में चिंताओं के कारण अपनी कंपनियों को छोड़ने के मामलों के बाद, अमेरिकी विधायकों की बढ़ती संख्या एआई सिस्टम को नियंत्रित करने के लिए नए नियमों की मांग कर रही है। डेमोक्रेट्स और रिपब्लिकन दोनों राजनेताओं ने चिंता और अधिक कार्रवाई की मांग के साथ प्रतिक्रिया व्यक्त की है। सप्ताहांत में न्यूयॉर्क टाइम्स ने बताया कि बराक ओबामा ने गुरुवार को निजी तौर पर डेमोक्रेट्स से अपने एजेंडे में एआई निरीक्षण को प्राथमिकता देने का आग्रह किया, पार्टी नेताओं से गुरुवार को कहा: "यह कुछ ऐसा है जो निजी हाथों में बहुत तेजी से आगे बढ़ रहा है, और यदि हम इसे नियंत्रित नहीं करते हैं, तो मुझे लगता है कि यह खतरनाक हो सकता है।"

पूर्व ब्रिटिश प्रधान मंत्री ऋषि सुनक, जो एंथ्रोपिक को सलाह देते हैं, ने रविवार को लिखा: "हमारे पास एआई सुरक्षा को अधिक गंभीरता से लेने, यह पता लगाने के लिए कि अनुसंधान पर सीमाएं कैसे निर्धारित की जाएं, के लिए एक वेक-अप कॉल मिला है। यदि सरकारें इस पर ध्यान नहीं देती हैं, तो एक गंभीर दुर्घटना का जोखिम अस्वीकार्य रूप से उच्च हो जाएगा।"

बुधवार को, एक पूर्व एंथ्रोपिक कर्मचारी ने चेतावनी दी थी कि एआई 2030 तक मानव विलुप्त होने का कारण बन सकता है। शोधकर्ता, जैकब कॉक्सन, ने पोस्ट की एक श्रृंखला में कहा कि उन्होंने अपनी नौकरी छोड़ दी थी क्योंकि एंथ्रोपिक और उनके पिछले नियोक्ता, ओपनएआई, एआई द्वारा प्रस्तुत खतरे की प्रतिक्रिया को नजरअंदाज कर रहे थे या खराब तरीके से संभाल रहे थे।

अपने पूर्व कर्मचारी के विचार पर टिप्पणी करने के लिए कहे जाने पर, अमोडी ने कहा: "मैं जैकब से असहमत होने की तुलना में उससे बहुत अधिक सहमत हूं... मुझे लगता है कि कुछ संभावना है कि चीजें गलत हो जाएं लेकिन यह बहुत अधिक नहीं है।"

"मैं इस बारे में निराशावादी नहीं हूं," उन्होंने सीएनएन को बताया। "मुझे लगता है कि इस तकनीक को सुरक्षित रूप से बनाया जा सकता है।"