हत्यारे रोबोटों के बारे में स्टीफन हॉकिंग गलत क्यों हैं?
निकोल कोबी
जब एलोन मस्क और स्टीफन हॉकिंग जैसी प्रतिभाएं किसी चीज़ पर प्रतिबंध लगाने की मांग करती हैं, तो इससे असहमत होना मुश्किल होता है। जब वे हत्यारे रोबोटों पर प्रतिबंध लगाने की मांग कर रहे हैं, तो उनके फैसले पर सवाल उठाना और भी कठिन है। फिर भी, मैं यहां यह कहने जा रहा हूं कि वे और उनके हजारों चतुर सहयोगी गलत हैं।
संबंधित देखें
स्पष्ट होने के लिए, मैं उनकी चेतावनी के सार से असहमत नहीं हूं। शिक्षाविदों और व्यापारिक नेताओं के समूह ने एक खुले पत्र में तर्क दिया कि स्वायत्त हथियार, वे जो "मानवीय हस्तक्षेप के बिना लक्ष्य का चयन करते हैं और उन पर हमला करते हैं", वर्षों के भीतर संभव हैं, नहीं दशक। उनका तर्क है कि यह एक चिंता का विषय है, क्योंकि वे युद्धों में अपने जीवन को जोखिम में डालने के लिए आवश्यक मानव सैनिकों की संख्या को कम कर सकते हैं, लेकिन वे "युद्ध में जाने की सीमा" को भी कम कर सकते हैं।
"हालांकि प्रतिबंध के खिलाफ बहस करना कठिन है, यह अंततः निरर्थक है: सरकारें इसे तोड़ देंगी, प्रौद्योगिकी के हर दूसरे हानिकारक पहलू पर प्रतिबंध की तरह।"
पत्र में लिखा है, "आज मानवता के लिए मुख्य सवाल यह है कि क्या वैश्विक एआई हथियारों की दौड़ शुरू की जाए या इसे शुरू होने से रोका जाए।" “यदि कोई प्रमुख सैन्य शक्ति एआई हथियार विकास को आगे बढ़ाती है, तो वैश्विक हथियारों की दौड़ वस्तुतः अपरिहार्य है, और इस तकनीकी प्रक्षेपवक्र का अंतिम बिंदु स्पष्ट है: स्वायत्त हथियार कल के कलाश्निकोव बन जाएंगे। परमाणु हथियारों के विपरीत, उन्हें महंगे या मुश्किल से प्राप्त होने वाले कच्चे माल की आवश्यकता नहीं होती है, इसलिए बड़े पैमाने पर उत्पादन के लिए वे सभी महत्वपूर्ण सैन्य शक्तियों के लिए सर्वव्यापी और सस्ते हो जाएंगे।
वास्तव में भयावह है, और हालांकि प्रतिबंध के खिलाफ बहस करना कठिन है, यह अंततः निरर्थक है: सरकारें इसे तोड़ देंगी, प्रौद्योगिकी के हर दूसरे हानिकारक पहलू पर प्रतिबंध की तरह। हॉकिंग और उनके दोस्तों के खुले पत्र या यहां तक कि अंतरराष्ट्रीय कानून के कारण दुनिया की सेनाएं स्वचालित हथियार विकसित करना बंद नहीं करेंगी।
“जिन्होंने जासूसी पर कहानियाँ प्रकाशित कीं उन्हें सनकी कहकर खारिज कर दिया गया। अब हम जानते हैं कि उनका "व्यामोह" ऐसा कुछ नहीं था।
उदाहरण के लिए जासूसी को ही लीजिए। वर्षों, दशकों तक, सुरक्षा शोधकर्ता, तकनीकी विशेषज्ञ और यहां तक कि पत्रकार भी नागरिकों की जासूसी करने के लिए बड़े पैमाने पर इंटरनेट संचार का उपयोग करने की अनिवार्यता की ओर इशारा करते रहे हैं। जिन लोगों ने इचेलोन जैसे जासूसी कार्यक्रमों पर कहानियाँ प्रकाशित कीं, उन्हें सनकी कहकर ख़ारिज कर दिया गया। अब स्नोडेन के खुलासे साबित करते हैं कि उनका "व्यामोह" ऐसा कुछ भी नहीं था।
अंत में, यह पत्र शोधकर्ताओं के स्वयं के अपराध बोध को शांत करने के अलावा और कुछ नहीं करता है कि वे किस तकनीक के मालिक हैं इमारत का उपयोग अनैतिक कार्यों के लिए किया जाएगा - जब यह अनिवार्य रूप से होता है, तो वे कम से कम कह सकते हैं कि उन्होंने ऐसा करने की कोशिश की हमे चेतावनी देते है। जैसा कि पत्र में कहा गया है: "जिस तरह अधिकांश रसायनज्ञों और जीवविज्ञानियों को रासायनिक या जैविक हथियार बनाने में कोई दिलचस्पी नहीं है, उसी तरह अधिकांश एआई शोधकर्ताओं को भी निर्माण में कोई दिलचस्पी नहीं है।" एआई हथियार - और नहीं चाहते कि ऐसा करके अन्य लोग उनके क्षेत्र को कलंकित करें, संभावित रूप से एआई के खिलाफ एक बड़ी सार्वजनिक प्रतिक्रिया पैदा होगी जो इसके भविष्य के सामाजिक प्रभाव को कम कर देगी। फ़ायदे।"
तो इतना अधिक मूर्ख व्यक्ति इन चतुर लोगों से क्या करने की अपेक्षा करता है? उन्होंने सैन्य रणनीतिकारों से भरे बंद कमरों में बहस छोड़ने के बजाय, समस्या की पहचान करके और उसके बारे में बात करके पहला कदम उठाया है। लेकिन अब समय आ गया है कि आगे बढ़ें और कार्रवाई करें, न कि तब तक इंतजार करें जब तक एआई लड़ाकू विमान सामान्य न हो जाएं। 
"आप इतने समझदार हैं कि समस्या को दुनिया भर में लोगों के कत्लेआम के रूप में फैलने से पहले ही समझ लें, लेकिन पत्र लिखने से ज्यादा कुछ करें।"
फिर से, निगरानी पर ध्यान दें: स्नोडेन के खुलासे के बाद, शोधकर्ताओं ने निगरानी विरोधी उपकरण लाने के प्रयासों को दोगुना कर दिया। अब स्नूप को रोकने के लिए डिज़ाइन किए गए स्मार्टफ़ोन हैं, जैसे कि ब्लैकफ़ोन; अधिक वेबसाइटें पूर्ण एन्क्रिप्शन में चली गई हैं; और यहां तक कि टोर के पीछे की तकनीक में भी सुधार किया जा रहा है, जिसका अर्थ है कि यह जल्द ही निगरानी से बचने के लिए सर्फिंग का वास्तविक तरीका बन सकता है। काश, हमें ऐसे काम का मूल्य पहले ही पता चल जाता।
तो, उस पत्र के हस्ताक्षरकर्ताओं के लिए: आप इतने समझदार हैं कि समस्या को दुनिया भर में लोगों के कत्लेआम से पहले ही समझ लें, लेकिन पत्र लिखने से ज्यादा कुछ करें। हत्यारे रोबोटों से बचाव के लिए, स्वचालित ड्रोनों को जीवित प्राणियों को निशाना बनाने से रोकने के लिए, या हमें ऐसे आतंक से बचाने के लिए सिस्टम लेकर आएं। मेरा छोटा मस्तिष्क कल्पना भी नहीं कर सकता कि इसमें क्या शामिल है, लेकिन मैं सख्त तौर पर चाहता हूं कि ऐसी सुरक्षा मौजूद रहे - क्योंकि मुझे पूरा यकीन है कि एआई हथियार को हत्या से रोकने के लिए एक कड़े शब्दों वाले पत्र से अधिक समय लगेगा लोग।
इसे आगे पढ़ें: रोबोट को मारने वाली मशीनें - क्या वे विद्रोह करेंगी?
इमेजिस: हत्यारे रोबोटों को रोकने का अभियान और एलडब्ल्यूपी कोमुंकासिओ क्रिएटिव कॉमन्स के अंतर्गत उपयोग किया जाता है
