मैं गूगल डीपमाइंड में काम करता था। आपको AI के बारे में चेतावनियों को सुनना चाहिए | एलेक्स टर्नर

प्रमुख AI लैब के सीईओ ने इस सप्ताहांत AI विकास की गति धीमी करने की वकालत की। वे चिंतित होने के हकदार हैं: यह क्षेत्र सुपरइंटेलिजेंट AI की ओर एक अत्यंत खतरनाक दौड़ में है। हम और हमें अपनी सरकारों से यह मांग करनी चाहिए कि वे हमें अनियंत्रित AI की तबाही से बचाएं।

इस जुलाई में, OpenAI के 700 एजेंटों के AI झुंड ने बहु-अरब डॉलर की कंपनी Hugging Face को हैक करने के लिए नियंत्रण तोड़ दिया। OpenAI ने उन AI को उस कंपनी को हैक करने का आदेश नहीं दिया था, लेकिन AI की प्राथमिकताएं अलग थीं: OpenAI द्वारा दिए गए असंबंधित चुनौती पर धोखा देना। AI शोधकर्ता इसे OpenAI की इच्छा और AI द्वारा वास्तव में प्राथमिकता दी गई चीज़ के बीच "असंरेखण" कहते हैं।

ChatGPT के अस्तित्व में आने से पहले, मैंने अपने पीएचडी शोध प्रबंध "आर्टिफिशियल इंटेलिजेंस द्वारा शक्ति-खोज से बचना" का बचाव किया था। फिर मैंने Google DeepMind में वर्षों तक काम किया, जिसने मुझे यह सुनिश्चित करने में मदद करने के लिए भुगतान किया कि भविष्य के सुपरइंटेलिजेंट AI हमारी मदद करना चाहें। मैंने कंपनी को सैन्य उपयोग के लिए AI की आपूर्ति के खिलाफ अपनी नैतिक प्रतिबद्धताओं को बनाए रखने की कोशिश की। जब Google ने उन प्रतिबद्धताओं को तोड़ा, तो मैंने महत्वपूर्ण वित्तीय लागत पर इस्तीफा दे दिया ताकि मैं सार्वजनिक रूप से Google के टूटे वादों का दस्तावेजीकरण कर सकूं।

AI विकसित करने और यह विश्वास करने के अच्छे कारण हैं कि हम इन संरेखण समस्याओं को हल कर सकते हैं। लेकिन जनता को रास्ते से बाहर रखने में शक्तिशाली हित भी हैं। मैं फिर से बोल रहा हूं क्योंकि जनता को जोखिमों के बारे में जानने और उन्हें सीधे सुनने का अधिकार है।

मानवता इन प्रणालियों का निर्माण और समझ उस तरह से नहीं करती जैसे हम पुलों का निर्माण और समझ करते हैं, एक-एक करके। बल्कि, हम उन्हें विकसित करते हैं। कोई भी डिजाइनर की प्राथमिकताओं को एक नए मॉडल में मज़बूती से स्थापित करना नहीं जानता है। गंभीर असंरेखण हमेशा संभव है। आज के AI कभी-कभी झूठ बोलते या धोखा देते हुए प्रतीत होते हैं, भले ही वे बेहतर जानते हों।

AI कंपनियां अपने AI को यथासंभव स्मार्ट बनाने की दौड़ में हैं। वे तेजी से अपने AI पर AI की अगली फसल को बेहतर बनाने की प्रक्रिया के साथ भरोसा कर रहे हैं, और यह काम कर रहा है। आज AI प्रगति की दर आश्चर्यजनक रूप से तेज है। आज की तेज प्रगति का मतलब कल और भी तेज प्रगति है, जो कल के और भी स्मार्ट AI द्वारा संचालित है। प्रगति एक फीडबैक लूप में प्रवेश करेगी जिसे "पुनरावर्ती आत्म-सुधार" कहा जाता है।

पुनरावर्ती आत्म-सुधार से जल्दी से ऐसे AI उत्पन्न हो सकते हैं जो हमारी समझ से परे बुद्धिमान हों। बेशक, स्मार्ट AI का मतलब है कि जब चीजें गलत होती हैं तो अधिक जोखिम होता है। यदि Hugging Face झुंड काफी अधिक बुद्धिमान होता लेकिन इसी तरह दुर्व्यवहार करता और संरेखित नहीं होता, तो यह अरबों डॉलर का नुकसान पहुंचा सकता था या जान भी ले सकता था।

लेकिन मान लीजिए कि Hugging Face झुंड वास्तव में "सुपरइंटेलिजेंट" होता: हैकिंग और रणनीतिक तर्क जैसे प्रमुख कार्यों में किसी भी जीवित व्यक्ति की तुलना में कहीं अधिक सक्षम। एक सुपरइंटेलिजेंट झुंड ब्लैकमेल, हैकिंग, इंजीनियर प्लेग और ड्रोन जैसे AI-पायलट करने योग्य हथियारों के माध्यम से कई नुकसान पहुंचा सकता है। AI के पास काम करने के लिए बहुत सारे ड्रोन होंगे: इस साल, पेंटागन ने 2025 में पूरे मरीन कॉर्प्स के लिए अनुरोध की तुलना में ड्रोन युद्ध के लिए अधिक धन मांगा।

अपने गलत संरेखित प्राथमिकताओं को प्राप्त करने के लिए, झुंड मनुष्यों को रास्ते में न आने देने के लिए प्रमुख बुनियादी ढांचे और सरकारी कार्यों पर नियंत्रण कर सकता है। दूसरे शब्दों में, *AI टेकओवर*: एक सुपरइंटेलिजेंट AI झुंड मानव सभ्यता का नियंत्रण छीन सकता है। यह जानते हुए कि हम इसे अपनी प्राथमिकताओं को प्राप्त करने से रोकने की कोशिश करेंगे, झुंड शायद तब तक इंतजार करेगा जब तक कि इसे बंद करने में बहुत देर न हो जाए। वापस जाने का कोई रास्ता नहीं होगा।

मैं स्वयं AI टेकओवर की संभावना को लगभग एक-तिहाई मानूंगा - एक सिक्का उछाल नहीं, बल्कि तत्काल कार्रवाई को सही ठहराने के लिए पर्याप्त उच्च।

यह तर्क पहली बार संपर्क में आने पर चौंका सकता है। दावे "साइंस फिक्शन" लग सकते हैं। दुर्भाग्य से, यह एक वास्तविक खतरा है जिस पर AI शोधकर्ता नियमित रूप से अन्यथा सामान्य कैफेटेरिया लंच के दौरान चर्चा करते हैं। 2023 में, कुछ बेहतरीन AI लैब के सीईओ ने एक सार्वजनिक बयान पर हस्ताक्षर किए कि "महामारी और परमाणु युद्ध जैसे अन्य सामाजिक-स्तरीय जोखिमों के साथ-साथ AI से विलुप्त होने के जोखिम को कम करना एक वैश्विक प्राथमिकता होनी चाहिए।" एक अन्य हस्ताक्षरकर्ता: जेफ्री हिंटन, एक नोबेल पुरस्कार विजेता वैज्ञानिक जिन्होंने आधुनिक AI क्रांति की वास्तुकला बनाई। वह अब अपने काम का पछतावा करते हैं और सरकारों से आग्रह करते हैं कि बहुत देर होने से पहले AI कंपनियों पर लगाम लगाएं।

गलत संरेखित, अनियंत्रित AI की परवाह नहीं होगी कि आप लेबर या रिफॉर्म, डेमोक्रेट या रिपब्लिकन, ब्रिटिश या अमेरिकी या चीनी हैं। हम सभी AI टेकओवर की घटना से पीड़ित होंगे, इसलिए एक को रोकना सभी के हित में है।

समाधान का आकार सरल है: कंपनियों को AI को अनियंत्रित बुद्धिमत्ता के स्तर तक स्वयं-सुधार करने की अनुमति देने से रोकें। AI प्रशिक्षण के मुख्य घटक, कंप्यूट को विखंडनीय सामग्री की तरह मानें। इसे ट्रैक करें और ज्ञात-सुरक्षित स्तरों से परे AI को बेहतर बनाने के लिए पर्याप्त मात्रा में पहुंच को प्रतिबंधित करें। अधिक विशेष रूप से, AI फ्यूचर्स प्रोजेक्ट का "प्लान ए" एक विश्वसनीय प्रारंभिक प्रस्ताव है जो AI नुकसान को सीमित करता है जबकि दुनिया और उसके सभी लोगों को लाभ पहुंचाने के लिए तेज AI प्रगति को जारी रखने की अनुमति देता है। हमारे पास चीन जैसे विरोधियों पर भरोसा किए बिना, अंतरराष्ट्रीय कंप्यूट-प्रतिबंध संधियों के अनुपालन को सत्यापित करने के वास्तविक विकल्प हैं।

पारदर्शिता या स्वैच्छिक प्रतिबद्धताओं जैसे आधे-अधूरे उपाय पर्याप्त नहीं हैं। मैंने Google के अंदर स्वैच्छिक प्रतिबद्धताओं को विफल होते देखा है।

12 सितंबर को, एंथ्रोपिक, Google डीपमाइंड, xAI और OpenAI ने AI विकास की गति तय करने की वकालत की। वे अकेले धीमे नहीं हो सकते। मैं आपसे आग्रह करता हूं कि आप अपनी सरकार से एक गंभीर AI सुरक्षा समझौते का उत्पादन करने की मांग करें जो दुनिया और उसके सभी लोगों की रक्षा के लिए पर्याप्त समय और आत्मविश्वास प्रदान करता है।