विशेषज्ञों के एक समूह के अनुसार, भेदभाव और खराब निर्णय लेने से बचने के लिए कृत्रिम बुद्धिमत्ता और अन्य स्वचालित प्रणालियों पर नजर रखने के लिए एक निगरानी संस्था बनाई जानी चाहिए।
ए प्रतिवेदन लंदन में एलन ट्यूरिंग इंस्टीट्यूट और ऑक्सफोर्ड विश्वविद्यालय की एक टीम ने एक समर्पित स्वतंत्र निकाय बनाने का आह्वान किया है इसकी जांच और निगरानी करने के लिए स्थापित किया गया है कि ये सिस्टम कैसे निर्णय लेते हैं, जिनमें से कई किसी व्यक्ति पर व्यापक प्रभाव डाल सकते हैं आजीविका।
एआई एल्गोरिदम के आर्थिक मूल्य के कारण, इन प्रणालियों के पीछे के तकनीकी विवरण उद्योग के भीतर एक गुप्त रहस्य हैं और सार्वजनिक रूप से शायद ही कभी चर्चा की जाती है। शोधकर्ताओं के अनुसार, हालांकि एक स्वतंत्र निकाय उन व्यक्तियों का प्रतिनिधित्व करने में सक्षम होगा जो महसूस करते हैं कि एआई सेवा द्वारा उनके साथ भेदभाव किया गया है।
संबंधित देखें
"हम जो देखना चाहते हैं वह एक विश्वसनीय तृतीय पक्ष है, शायद एक नियामक या पर्यवेक्षी निकाय, जिसके पास जांच करने की शक्ति होगी और ऑडिट एल्गोरिदम ताकि वे अंदर जा सकें और देख सकें कि सिस्टम वास्तव में पारदर्शी और निष्पक्ष है या नहीं, ”शोधकर्ता सैंड्रा ने कहा वाचर.
टीम, जिसमें ब्रेंट मिटेलस्टेड और लुसियानो फ्लोरिडी भी शामिल हैं, का तर्क है कि हालांकि लोग हैं एआई द्वारा किए गए किसी भी त्रुटिपूर्ण निर्णय को चुनौती देने में सक्षम, वर्तमान सुरक्षात्मक कानून पुराने हो चुके हैं और अकुशल.
यूके डेटा प्रोटेक्शन एक्ट व्यक्तियों को एआई के नेतृत्व वाले निर्णयों को चुनौती देने में सक्षम बनाता है, हालांकि कंपनियों को ऐसी जानकारी जारी करने की ज़रूरत नहीं है जिसे वे व्यापार रहस्य मानते हैं। इसमें वर्तमान में विशेष रूप से शामिल है कि कैसे एक एआई एल्गोरिदम अपने निर्णय पर पहुंचा है, जिससे लोगों को अंधेरे में छोड़ दिया गया है क्यों उनके क्रेडिट कार्ड आवेदन को अस्वीकार कर दिया गया होगा या गलती से चुनावी रजिस्टर से हटा दिया गया होगा।
नया सामान्य डेटा संरक्षण विनियमन (जीडीपीआर) कानून एआई निर्णय लेने में अधिक पारदर्शिता जोड़ने का वादा करते हुए, 2018 में यूरोपीय सदस्य देशों और यूके में पहुंचेगा। हालाँकि शोधकर्ताओं का तर्क है कि इससे "दंतहीन" होने का जोखिम है और संभावित पीड़ितों को पर्याप्त कानूनी निश्चितता नहीं मिलेगी।
"एक विचार है कि जीडीपीआर एआई के लिए जवाबदेही और पारदर्शिता प्रदान करेगा, लेकिन इसकी बिल्कुल भी गारंटी नहीं है," मित्तेलस्टेड ने कहा। "यह सब इस बात पर निर्भर करता है कि भविष्य में राष्ट्रीय और यूरोपीय अदालतें इसकी व्याख्या कैसे करती हैं।"
रिपोर्ट के अनुसार, एक तीसरा पक्ष व्यापार रहस्यों को लीक करने पर कंपनी की चिंताओं और व्यक्तियों को यह जानने के अधिकार के बीच संतुलन बना सकता है कि उनके साथ उचित व्यवहार किया गया है।
रिपोर्ट में जर्मनी और ऑस्ट्रिया के मामलों को देखा गया, जिन्हें एआई के उपयोग के आधार पर निर्णय लेने के लिए सबसे मजबूत कानून माना जाता है। ज्यादातर मामलों में, कंपनियों को एल्गोरिदम की निर्णय प्रक्रिया के बारे में केवल सामान्य जानकारी सौंपने की आवश्यकता होती थी।
वाचर ने कहा, "अगर एल्गोरिदम वास्तव में लोगों के जीवन को प्रभावित कर सकता है, तो हमें किसी प्रकार की जांच की आवश्यकता है ताकि हम देख सकें कि एल्गोरिदम वास्तव में किसी निर्णय पर कैसे पहुंचा।"
सोशल मीडिया क्षेत्र में एआई विकसित करने का माइक्रोसॉफ्ट का हालिया प्रयास उस समय विफल हो गया जब उसका Tay चैटबॉट, बातचीत की नकल करने के लिए डिज़ाइन किया गया, "हिटलर ने कुछ भी गलत नहीं किया" जैसे संदेशों को ट्वीट करने में हेरफेर किया गया था।
दिसंबर 2016 में, एक शर्मनाक घटना घटी जब एआई-संचालित पहचान प्रणाली ने एक 22 वर्षीय एशियाई व्यक्ति का पासपोर्ट आवेदन अस्वीकार कर दिया, क्योंकि इससे यह तय हो गया कि उसके पास उसका पासपोर्ट है बंद आंखों से।
