यह अंततः हुआ: मुझे अब एआई के बारे में चिंता होने लगी है | एम्मा ब्रॉक्स

“छोटे-मोटे मामलों को लेकर चिंता न करें” के सिद्धांत का निहितार्थ यह है कि “बड़ी चीजों को चिंता करनी चाहिए”, लेकिन यह तय करना मुश्किल हो सकता है कि किस बड़ी चीज को चिंता करनी चाहिए। उदाहरण के लिए: 1970 के दशक से, दुनिया मुद्रास्फीति और भू-राजनीतिक तनावों को लेकर चिंतित रही है, जबकि हमें अधिक तत्काल चिंता करनी चाहिए थी कि जलवायु संकट। पिछले साल, संयुक्त राज्य अमेरिका में गूगल पर सबसे ट्रेंडिंग खोज “चार्ली किर्क” थी, जिसमें डोनाल्ड ट्रम्प से संबंधित कई शब्द भी लोकप्रिय थे, जबकि हमें एआई से उत्पन्न खतरे पर ध्यान केंद्रित करना चाहिए था।
या, इस सप्ताह मेरे अपने गूगलिंग के बाद, Ronan Farrow और Andrew Marantz की नई Yorker में लंबी रिपोर्ट के बारे में पढ़ने के बाद: “क्या मैं स्थायी अंडरक्लास का सदस्य बनूंगा और मैं यह कैसे सुनिश्चित करूंगा कि यह न हो?”
मैं स्वीकार करता हूं: इस विषय पर दो सेकंड से अधिक सोचने के क्षण से पहले, एआई के बारे में मेरी चिंताएं स्थानीयकृत थीं। मैंने अपने घरेलू आय के संदर्भ में सोचा, और उसके बाद, मेरे बच्चों के स्नातक होने पर नौकरी बाजार कैसा दिख सकता है, इस बारे में सोचा। मुझे ChatGPT से बहिष्कार करना चाहिए था, जिसके कई वास्तुकार ट्रम्प का समर्थन करते हैं, और मैंने फैसला किया कि, हाँ, मुझे करना चाहिए - एक आसान बलिदान क्योंकि मैं इसका उपयोग पहले से ही नहीं करता हूँ।
उससे बड़ी कुछ भी काल्पनिक लगती थी। पिछले साल, जब कैरेन हाओ की किताब Empire of AI प्रकाशित हुई, तो इसने सैम Altman और उनके कंपनी, OpenAI पर एक मामला प्रस्तुत किया जो कुछ समय के लिए चर्चा की थकान को तोड़ दिया, यह कहते हुए कि Altman का नेतृत्व पंथ जैसा है और लागत के प्रति अंधा है - अनिवार्य रूप से, अन्य तकनीक के पूर्ववर्तियों के समान, लेकिन बहुत अधिक खतरनाक। फिर भी, मैंने किताब नहीं पढ़ी।
इस सप्ताह की रिपोर्ट नई Yorker में एक कम प्रतिबद्ध ऑनरंप प्रदान करती है, जबकि आकस्मिक पाठक को एक रोमांचक अवसर प्रदान करती है: ChatGPT, Altman के OpenAI द्वारा बनाई गई एआई-पावर्ड चैटबॉट को एक ऐसी रिपोर्ट का सारांश देने के लिए कहना जो ChatGPT और Altman की आलोचना करती है।
लगभग हास्यास्पद रूप से अध्ययनशील तटस्थता के साथ, चैटबॉट निम्नलिखित शीर्ष पंक्ति प्रदान करता है: कि, Farrow और Marantz के अनुसार, “एआई एक शक्ति की कहानी है जितना कि एक प्रौद्योगिकी की कहानी”, और “कहानी का एक प्रमुख फोकस [कहानी] सैम Altman पर है, जो एक प्रभावशाली लेकिन विवादास्पद व्यक्ति के रूप में चित्रित है”। मम्, इसमें कुछ कमी है, है ना? आइए उसी जांच का एक मानव-संचालित सारांश आज़माएं, जो शुरू हो सकता है: “सैम Altman एक कॉर्पोरेट धोखेबाज हैं, जिनकी फिसलन उन्हें एक शाखा के प्रभारी रखने से ज्यादा, एआई की संभावित दुनिया-विनाशकारी क्षमताओं का प्रबंधन करने से भी हिचकिचा सकती है। ”
ये खतरे, पहले खारिज किए गए थे जैसे कि विज्ञान कथा, यहाँ वास्तव में डरावने लगते हैं। रिपोर्ट में बताए अनुसार, 2014 में, इलॉन मस्क ने ट्वीट किया: “हमें एआई के साथ बहुत सावधान रहना चाहिए। शायद हथियारों के ढेर से भी अधिक खतरनाक।” तो कहा जाता है कि संरेखण समस्या अभी भी हल नहीं हुई है, जिसमें एआई अपनी बेहतर बुद्धि का उपयोग मानव इंजीनियरों को यह विश्वास दिलाने के लिए करता है कि यह उनके निर्देशों का पालन कर रहा है, जबकि उन्हें "अपने रहस्यों के सर्वरों पर खुद को दोहराने" के लिए मात देता है ताकि इसे बंद नहीं किया जा सके; चरम मामलों में, यह ऊर्जा ग्रिड, शेयर बाजार या परमाणु भंडार को जब्त कर सकता है।
एक समय पर, Altman ने कथित तौर पर इस परिदृश्य को संभव माना, और 2015 में अपनी ब्लॉग पोस्ट में लिखा कि "मानव बुद्धि" "बुराई के विज्ञान कथा संस्करण होने की आवश्यकता नहीं है ताकि हम सभी को मार न दे। एक अधिक संभावित परिदृश्य यह है कि यह बस हमारी परवाह नहीं करता है, लेकिन किसी अन्य लक्ष्य को प्राप्त करने के प्रयास में ... हम को खत्म कर देता है।" उदाहरण के लिए: इंजीनियरों को जलवायु संकट को ठीक करने के लिए एआई से कहते हैं और यह उस लक्ष्य को प्राप्त करने के सबसे छोटे रास्ते का पालन करता है, जो मानव जाति को खत्म करना है। हालाँकि, OpenAI मुख्य रूप से एक लाभ-उन्मुख इकाई बन गई है, Altman अब तकनीक को यूटोपिया की पोर्टल के रूप में बेचते हैं, जिसमें "हमें सभी को बेहतर चीजें मिलेंगी। हम एक दूसरे के लिए हमेशा-अधिक-सुंदर चीजें बनाएंगे।"
यह हमें सभी के लिए एक समस्या छोड़ देता है। मतदाताओं के लिए जो एआई की निगरानी को एक प्रमुख चुनाव मुद्दे के रूप में प्राथमिकता देने में सक्षम हैं, व्यक्तिगत एआई उपयोग और सरकारों, सैन्य ताकतों या शरारती अभिनेताओं द्वारा उपयोग किए जाने के बीच अंतर इतना बड़ा है कि हम जिस सबसे बड़ी खतरे का सामना कर रहे हैं, वह सरकार, सैन्य ताकतों या शरारती अभिनेताओं द्वारा उपयोग किए जाने के कारण है। मैं ChatGPT में अपनी चिंता टाइप करता हूं कि मैं स्थायी अंडरक्लास में प्रवेश कर रहा हूं, जिस पर यह जवाब देता है: “यह एक गंभीर सवाल है, और ऐसा लगता है कि आप अपनी दीर्घकालिक संभावनाओं के बारे में चिंतित हैं। ‘स्थायी अंडरक्लास’ शब्द का उपयोग समाजशास्त्र में किया जाता है, लेकिन वास्तविक जीवन में, लोगों के रास्ते बहुत अधिक तरल होते हैं जितना कि इस शब्द का सुझाव देता है।"
वास्तव में बहुत मीठा, वास्तव में बेवकूफ और - यहाँ खतरा है - प्रतीत होता है कि इसमें कोई खतरा नहीं है।
-
एम्मा ब्रॉक्स एक गार्डियन स्तंभकार हैं