एआई कानून को एल्गोरिथम निर्णय लेने वाली प्रणालियों में पूर्वाग्रह को संबोधित करना चाहिए

Posted on

एआई अपनाने की अवस्था में आपका उद्यम कहां खड़ा है? पता लगाने के लिए हमारे एआई सर्वेक्षण में भाग लें।


जून की शुरुआत में, सीमा अधिकारियों ने शरण चाहने वालों के “प्रसंस्करण को कारगर बनाने” के लिए यूएस-मेक्सिको सीमा पर मोबाइल ऐप सीबीपी वन को “चुपचाप तैनात” किया। जबकि ऐप मैन्युअल डेटा प्रविष्टि को कम करेगा और प्रक्रिया को गति देगा, यह विवादास्पद चेहरे की पहचान तकनीकों पर भी निर्भर करता है और अमेरिका में प्रवेश करने से पहले शरण चाहने वालों पर संवेदनशील जानकारी संग्रहीत करता है। यहां मुद्दा कृत्रिम बुद्धि का उपयोग नहीं है, लेकिन एआई पूर्वाग्रह और डेटा गोपनीयता सहित प्रौद्योगिकी में नागरिक अधिकारों के बिडेन प्रशासन के चुनाव पूर्व वादे के संबंध में इसका क्या अर्थ है।

जब जनवरी में डेमोक्रेट्स ने सदन और सीनेट दोनों पर नियंत्रण कर लिया, तो दर्शक आशावादी थे कि एक संघीय गोपनीयता विधेयक और एल्गोरिथम निर्णय लेने वाली प्रणालियों में पूर्वाग्रह को रोकने के लिए कानून की भूख थी। इलेक्ट्रॉनिक गोपनीयता सूचना केंद्र (ईपीआईसी) के समान न्याय वर्क्स फेलो बेन विंटर्स ने कहा, यह लंबे समय से अतिदेय है, जो एआई और आपराधिक न्याय प्रणाली से संबंधित मामलों पर काम करता है। “अमेरिका में एआई कानून की वर्तमान स्थिति निराशाजनक है, [with] एआई से संबंधित अधिकांश कानून लगभग पूरी तरह से निवेश, अनुसंधान और अन्य देशों, मुख्य रूप से चीन के साथ प्रतिस्पर्धा बनाए रखने पर केंद्रित हैं, ”विंटर्स ने कहा।

कानून आगे बढ़ता है

लेकिन कुछ आशाजनक कानून पंखों में प्रतीक्षा कर रहे हैं। मई में सेन एडवर्ड मार्के और प्रतिनिधि डोरिस मात्सुई द्वारा पेश किया गया एल्गोरिथम न्याय और ऑनलाइन प्लेटफ़ॉर्म पारदर्शिता बिल, हानिकारक एल्गोरिदम पर रोक लगाता है, वेबसाइटों की सामग्री प्रवर्धन और मॉडरेशन प्रथाओं की पारदर्शिता को प्रोत्साहित करता है, और भेदभावपूर्ण एल्गोरिथम में एक क्रॉस-सरकारी जांच का प्रस्ताव करता है। पूरी अर्थव्यवस्था में प्रक्रियाएं।

चेहरे की पहचान पर स्थानीय प्रतिबंध भी पूरे अमेरिका में जोर पकड़ रहा है इस साल अब तक कम से कम 16 राज्यों में एआई से संबंधित बिल या प्रस्ताव पेश किए गए हैं। इनमें कैलिफ़ोर्निया और वाशिंगटन (स्वचालित निर्णय लेने वाले ऐप्स से जवाबदेही) शामिल हैं; मैसाचुसेट्स (सरकार में एआई उपयोग में डेटा गोपनीयता और पारदर्शिता); मिसौरी और नेवादा (प्रौद्योगिकी टास्क फोर्स); और न्यू जर्सी (स्वचालित निर्णय लेने की तकनीक द्वारा “कुछ भेदभाव” को रोकना)। इनमें से अधिकांश बिल अभी भी लंबित हैं, हालांकि कुछ पहले ही विफल हो चुके हैं, जैसे कि मैरीलैंड की एल्गोरिथम निर्णय प्रणाली: खरीद और भेदभावपूर्ण अधिनियम।

कैलिफोर्निया पॉलिटेक्निक स्टेट यूनिवर्सिटी में एथिक्स + इमर्जिंग साइंसेज ग्रुप के निदेशक पैट्रिक लिन ने कहा कि 2019 से वायडेन बिल और हाल के प्रस्ताव, जैसे कि मार्के और मात्सुई से, बहुत आवश्यक दिशा प्रदान करते हैं। “कंपनियां मार्गदर्शन और मानक-निर्धारण के लिए संघीय सरकार की ओर देख रही हैं,” लिन ने कहा। “इसी तरह, एआई कानून अनिवार्य रूप से उत्पन्न होने वाले दायित्व के नए और मुश्किल मामलों में प्रौद्योगिकी डेवलपर्स की रक्षा कर सकते हैं।”

एआई में पारदर्शिता अभी भी एक बड़ी चुनौती है, लिन ने कहा: “वे ब्लैक बॉक्स हैं जो ठीक काम करने लगते हैं, भले ही हम नहीं जानते कि कैसे … लेकिन जब वे असफल होते हैं, तो वे शानदार रूप से विफल हो सकते हैं, और वास्तविक मानव जीवन दांव पर लग सकता है। ।”

अनुपालन मानकों और नीतियों का विस्तार

हालांकि विडेन विधेयक संघीय व्यापार आयोग को व्यापक अधिकार देने के लिए एक अच्छा प्रारंभिक बिंदु है, जिसके लिए प्रभाव आकलन की आवश्यकता होती है जिसमें डेटा स्रोतों, पूर्वाग्रह, निष्पक्षता, गोपनीयता और अधिक के बारे में विचार शामिल हैं, यह अनुपालन मानकों और नीतियों का विस्तार करने में मदद करेगा, विंटर्स ने कहा। “मुख्य लाभ” [industry] उनके दायित्वों के बारे में कुछ स्पष्टता होगी और उचित नियमों का पालन करने के लिए उन्हें किन संसाधनों की आवश्यकता होगी, ”उन्होंने कहा। लेकिन कमियां भी हैं, खासकर उन कंपनियों के लिए जो मौलिक रूप से त्रुटिपूर्ण या भेदभावपूर्ण डेटा पर भरोसा करती हैं, क्योंकि “उनके व्यवसाय को खतरे में डाले बिना या नियामक हस्तक्षेप को आमंत्रित किए बिना सटीक रूप से पालन करना कठिन होगा,” विंटर्स ने कहा।

लिन ने कहा, एक और कमी यह है कि भले ही स्थापित खिलाड़ी एआई पूर्वाग्रह को रोकने के लिए कानून का समर्थन करते हैं, यह स्पष्ट नहीं है कि मशीन सीखने के मामले में पूर्वाग्रह कैसा दिखता है। लिन ने कहा, “यह केवल लोगों के साथ उनकी जाति, लिंग, उम्र, या जो कुछ भी है, के कारण अलग व्यवहार करने के बारे में नहीं है, भले ही ये कानूनी रूप से संरक्षित श्रेणियां हों।” “कल्पना कीजिए कि अगर मैं मार्टिन लूथर किंग, जूनियर के बारे में एक फिल्म के लिए कास्टिंग कर रहा था, तो मैं हर उस अभिनेता को अस्वीकार कर दूंगा जो एक किशोर एशियाई लड़की है, भले ही मैं उन्हें उम्र, जातीयता और लिंग के कारण ठीक से अस्वीकार कर रहा हूं।” हालांकि, एल्गोरिदम संदर्भ को नहीं समझते हैं।

ईयू का जनरल डेटा प्रोटेक्शन रेगुलेशन (जीडीपीआर) अनुकरण करने के लिए एक अच्छा उदाहरण है, भले ही इसका उद्देश्य विशेष रूप से एआई पर नहीं, बल्कि अंतर्निहित डेटा प्रथाओं पर है। लिन ने कहा, “शुरुआत में जीडीपीआर का जमकर विरोध किया गया था… लेकिन अब इसे आम तौर पर व्यक्तिगत, व्यावसायिक और सामाजिक हितों के लिए एक बहुत ही फायदेमंद नियम के रूप में माना जाता है।” “एक अंतरराष्ट्रीय कानून पर हस्ताक्षर करने वाले अन्य देशों का भी जबरदस्त प्रभाव है, एक देश को संधि के खिलाफ कार्य करने से पहले दो या तीन बार सोचना पड़ता है और अंतरराष्ट्रीय निंदा करता है। … भले ही अमेरिका दिशानिर्देशों को अपनाने के लिए अपने सामान्य दृष्टिकोण में बहुत अधिक अहस्तक्षेप है [like the EU’s], वे अभी भी अन्य प्रमुख बाजारों में विनियमों पर विचार करना चाहेंगे।”

वेंचरबीट

वेंचरबीट का मिशन तकनीकी निर्णय लेने वालों के लिए परिवर्तनकारी तकनीक और लेन-देन के बारे में ज्ञान हासिल करने के लिए एक डिजिटल टाउन स्क्वायर बनना है।

जब आप अपने संगठनों का नेतृत्व करते हैं तो हमारा मार्गदर्शन करने के लिए हमारी साइट डेटा तकनीकों और रणनीतियों पर आवश्यक जानकारी प्रदान करती है। हम आपको हमारे समुदाय का सदस्य बनने के लिए आमंत्रित करते हैं:

  • आपकी रुचि के विषयों पर अप-टू-डेट जानकारी
  • हमारे समाचार पत्र
  • गेटेड विचार-नेता सामग्री और हमारे बेशकीमती आयोजनों के लिए रियायती पहुंच, जैसे कि रूपांतरण 2021: और अधिक जानें
  • नेटवर्किंग सुविधाएँ, और बहुत कुछ

सदस्य बने

Leave a Reply

Your email address will not be published. Required fields are marked *