अध्ययन में पाया गया है कि कुछ प्रमुख एआई शोध पत्र नकारात्मक प्रभावों पर विचार करते हैं

Posted on

एआई अपनाने की अवस्था में आपका उद्यम कहां खड़ा है? पता लगाने के लिए हमारे एआई सर्वेक्षण में भाग लें।


हाल के दशकों में, AI एक व्यापक तकनीक बन गई है, जो उद्योगों और दुनिया भर की कंपनियों को प्रभावित कर रही है। ये नवाचार अनुसंधान से उत्पन्न होते हैं, और एआई क्षेत्र में अनुसंधान के उद्देश्य कई कारकों से प्रभावित होते हैं। साथ में, ये कारक अनुसंधान को पूरा करने में पैटर्न को आकार देते हैं, साथ ही इससे किसे लाभ होता है – और कौन नहीं।

एआई अनुसंधान को प्रभावित करने वाले कारकों का दस्तावेजीकरण करने के प्रयास में, स्टैनफोर्ड, कैलिफोर्निया विश्वविद्यालय, बर्कले, वाशिंगटन विश्वविद्यालय और यूनिवर्सिटी कॉलेज डबलिन एंड लेरो के शोधकर्ताओं ने दो प्रमुख एआई सम्मेलनों, न्यूरिप्स और आईसीएमएल को प्रस्तुत 100 उच्च उद्धृत अध्ययनों का सर्वेक्षण किया। उनका दावा है कि 2008, 2009, 2018 और 2019 में प्रकाशित किए गए उनके द्वारा विश्लेषण किए गए पत्रों में, प्रमुख मूल्यों को इस तरह से संचालित किया गया था कि सत्ता को केंद्रीकृत किया जाए, जो समाज के सबसे कम सुविधा वाले निगमों की उपेक्षा करते हुए असंगत रूप से लाभान्वित हो रहे हों।

“अनुशासन में अत्यधिक प्रभावशाली कागजात के हमारे विश्लेषण से पता चलता है कि वे न केवल व्यापक सामाजिक जरूरतों पर शोध समुदायों और बड़ी फर्मों की जरूरतों का समर्थन करते हैं, बल्कि यह भी कि वे इस पक्षपात को स्वीकार करते हैं,” पेपर के सह-लेखक ने लिखा। “पक्षपात परियोजनाओं की पसंद, संभावित नकारात्मक प्रभावों पर विचार की कमी, और प्रदर्शन, सामान्यीकरण, दक्षता और नवीनता जैसे मूल्यों की प्राथमिकता और संचालन में प्रकट होता है। इन मूल्यों को उन तरीकों से संचालित किया जाता है जो सामाजिक जरूरतों के प्रतिकूल होते हैं, आमतौर पर बिना चर्चा या स्वीकृति के। ”

जिन पत्रों की उन्होंने समीक्षा की, उनमें शोधकर्ताओं ने “प्रदर्शन,” “पिछले काम पर निर्माण,” “सामान्यीकरण,” “दक्षता,” “मात्रात्मक साक्ष्य,” और “नवीनता” को सहकर्मियों द्वारा समर्थित शीर्ष मूल्यों के रूप में पहचाना। इसके विपरीत, उपयोगकर्ता अधिकारों और नैतिक सिद्धांतों से संबंधित मूल्य बहुत कम दिखाई देते हैं – यदि बिल्कुल भी। किसी भी कागजात में स्वायत्तता, न्याय या व्यक्तियों के सम्मान का उल्लेख नहीं किया गया है, और केवल यह उचित है कि कैसे सह-लेखकों ने कुछ आंतरिक, तकनीकी लक्ष्यों को प्राप्त किया। दो-तिहाई से अधिक – 71% – ने सामाजिक आवश्यकता या प्रभाव का कोई उल्लेख नहीं किया, और केवल 3% ने अपने शोध को सामाजिक आवश्यकताओं से जोड़ने वाले लिंक की पहचान करने का प्रयास किया।

एक पेपर में नकारात्मक प्रभावों की चर्चा शामिल थी और दूसरे में संभावना का उल्लेख किया गया था। लेकिन स्टैनफोर्ड, बर्कले, वाशिंगटन और डबलिन शोधकर्ताओं के अनुसार, शेष 98 में से किसी में भी संभावित नकारात्मक प्रभावों का कोई संदर्भ नहीं था। NeurIPS के अनिवार्य होने के बाद भी कि कागज जमा करने वाले कोउथर्स को समाज पर “अपने काम के संभावित व्यापक प्रभाव” को बताना चाहिए, जिसकी शुरुआत पिछले साल NeurIPS 2020 से हुई थी, भाषा सकारात्मक परिणामों की ओर झुकी हुई थी, अक्सर नकारात्मक परिणामों का उल्लेख केवल संक्षेप में या बिल्कुल नहीं।

“हम के अनुशासन की अस्पष्ट अवधारणा को खारिज करते हैं [AI] मूल्य-तटस्थ के रूप में, “शोधकर्ताओं ने लिखा। “नतीजा यह है कि एमएल का अनुशासन मूल्य-तटस्थ नहीं है। हम पाते हैं कि यह पहले से ही शक्तिशाली अभिनेताओं के हाथों में सत्ता की एकाग्रता को प्राथमिकता देने और बढ़ावा देने के साथ-साथ सामाजिक और राजनीतिक रूप से भरी हुई है, अक्सर सामाजिक जरूरतों और नुकसान की उपेक्षा करती है। ”

यह अंत करने के लिए, शोधकर्ताओं ने पाया कि निगमों के साथ संबंध – या तो वित्त पोषण या संबद्धता – 2008 और 2009 से 2018 और 2019 तक उनके द्वारा जांचे गए कागजात में दोगुना 79% हो गया। इस बीच, विश्वविद्यालयों से संबंध घटकर 81% हो गए, जिससे निगम लगभग बराबर हो गए। सर्वाधिक उद्धृत एआई अनुसंधान के लिए विश्वविद्यालयों के साथ।

प्रवृत्ति आंशिक रूप से निजी क्षेत्र के अवैध शिकार के लिए जिम्मेदार है। २००६ से २०१४ तक, एक कॉर्पोरेट-संबद्ध लेखक के साथ एआई प्रकाशनों का अनुपात लगभग ०% से बढ़कर ४०% हो गया, जो अकादमिक से लेकर निगमों तक के शोधकर्ताओं के बढ़ते आंदोलन को दर्शाता है।

लेकिन कारण जो भी हो, शोधकर्ता इस बात पर जोर देते हैं कि प्रभाव लाभ, न्याय और समावेश जैसे मूल्यों का दमन है।

“शीर्ष घोषित मूल्य [AI] कि हमने इस पेपर में प्रदर्शन, सामान्यीकरण और दक्षता जैसे प्रस्तुत किए हैं … बिग टेक के उद्देश्यों की प्राप्ति को सक्षम और सुविधाजनक बनाते हैं,” उन्होंने लिखा। “एक ‘अत्याधुनिक’ बड़ी छवि डेटासेट, उदाहरण के लिए, बड़े पैमाने के मॉडल के लिए महत्वपूर्ण है, और अधिक लाभप्रद है [AI] विशाल कंप्यूटिंग शक्ति के कब्जे में शोधकर्ता और बड़ी तकनीक। वर्तमान माहौल में जहां सटीकता, दक्षता और पैमाने जैसे मूल्य, जैसा कि वर्तमान में परिभाषित किया गया है, प्राथमिकता है, उपयोगकर्ता सुरक्षा, सूचित सहमति, या भागीदारी को महंगा और समय लेने वाला माना जा सकता है, जो सामाजिक आवश्यकताओं से बचता है। ”

असमानता का इतिहास

अध्ययन केवल यह तर्क देने के लिए नवीनतम है कि एआई उद्योग असमानता पर बनाया गया है। दो प्रमुख मशीन लर्निंग सम्मेलन स्थलों, न्यूरआईपीएस 2020 और आईसीएमएल 2020 में प्रकाशनों के विश्लेषण में, प्रकाशन सूचकांक के मामले में शीर्ष 10 देशों में से कोई भी लैटिन अमेरिका, अफ्रीका या दक्षिण पूर्व एशिया में स्थित नहीं था। जॉर्जटाउन यूनिवर्सिटी के सेंटर फॉर सिक्योरिटी एंड इमर्जिंग टेक्नोलॉजी की एक अलग रिपोर्ट में पाया गया कि 62 प्रमुख AI लैब में से 42 अमेरिका के बाहर स्थित हैं, जबकि 68% कर्मचारी संयुक्त राज्य के भीतर स्थित हैं।

असंतुलन के परिणामस्वरूप नुकसान हो सकता है, विशेष रूप से यह देखते हुए कि एआई क्षेत्र में आमतौर पर पूर्वाग्रह के स्पष्ट विवरण का अभाव होता है और यह समझाने में विफल रहता है कि कैसे, क्यों और किसके लिए विशिष्ट पूर्वाग्रह हानिकारक है। पिछले शोध में पाया गया है कि ImageNet और OpenImages – दो बड़े, सार्वजनिक रूप से उपलब्ध छवि डेटासेट – यूएस- और यूरो-केंद्रित हैं। इन डेटासेट पर प्रशिक्षित मॉडल ग्लोबल साउथ देशों की छवियों पर खराब प्रदर्शन करते हैं। उदाहरण के लिए, संयुक्त राज्य अमेरिका से दूल्हे की छवियों की तुलना में, दूल्हे की छवियों को इथियोपिया और पाकिस्तान से आने पर कम सटीकता के साथ वर्गीकृत किया जाता है। इस नस के साथ, “शादी” या “मसाले” जैसे शब्दों की छवियों को अलग-अलग संस्कृतियों में कैसे प्रस्तुत किया जाता है, सार्वजनिक रूप से उपलब्ध ऑब्जेक्ट रिकग्निशन सिस्टम ग्लोबल साउथ से आने पर इनमें से कई वस्तुओं को सही ढंग से वर्गीकृत करने में विफल होते हैं।

ज्वार को मोड़ने के लिए पहल चल रही है, जैसे एआई में खिपू और ब्लैक, जिसका उद्देश्य प्रीमियर एआई सम्मेलनों में भाग लेने और प्रकाशित करने वाले लैटिन अमेरिकी और काले विद्वानों की संख्या में वृद्धि करना है। अफ्रीकी महाद्वीप पर आधारित अन्य समुदायों, जैसे डेटा साइंस अफ्रीका, मसाखाने और डीप लर्निंग इंदाबा ने व्यापक अफ्रीकी एआई समुदाय के लिए सम्मेलनों, कार्यशालाओं, शोध प्रबंध पुरस्कारों और विकसित पाठ्यक्रम के साथ अपने प्रयासों का विस्तार किया है।

लेकिन पर्याप्त अंतराल बने हुए हैं। एआई शोधकर्ता टिमनीत गेब्रू को Google में एआई एथिक्स टीम में उनके पद से कथित तौर पर एक पेपर के हिस्से में निकाल दिया गया था, जिसमें बड़े भाषा मॉडल को तैनात करने से जुड़े जोखिमों पर चर्चा की गई थी, जिसमें हाशिए पर रहने वाले समुदायों पर उनके कार्बन पदचिह्न के प्रभाव और अपमानजनक भाषा को बनाए रखने की उनकी प्रवृत्ति शामिल है। लोगों के विशिष्ट समूहों के उद्देश्य से अभद्र भाषा, सूक्ष्म आक्रामकता, रूढ़िवादिता और अन्य अमानवीय भाषा। Google-संबद्ध सह-लेखकों ने बाद में गेब्रू के पर्यावरणीय दावों के खिलाफ पीछे धकेलते हुए एक पेपर प्रकाशित किया।

“हम इस पेपर को क्षेत्र की वर्तमान स्थिति की आकस्मिकता को उजागर करने के लिए प्रस्तुत करते हैं; यह अन्यथा हो सकता है, ”यूनिवर्सिटी कॉलेज डबलिन और लेरो शोधकर्ताओं और उनके सहयोगियों ने लिखा। “क्षेत्र के कठिन-से-पिन-डाउन मूल्यों के माध्यम से आगे बढ़ने वाले व्यक्तियों, समुदायों और संस्थानों के लिए, साथ ही साथ वैकल्पिक मूल्यों की ओर प्रयास करने वालों के लिए, यह समझने के लिए कि क्षेत्र अब जिस तरह से है, उसकी विशेषता के लिए यह एक उपयोगी उपकरण है। , जो है उसे आकार देना, नष्ट करना या बदलना, और वैकल्पिक दृष्टिकोणों को व्यक्त करने और लाने के लिए।”

वेंचरबीट

तकनीकी निर्णय लेने वालों के लिए परिवर्तनकारी तकनीक और लेनदेन के बारे में ज्ञान हासिल करने के लिए वेंचरबीट का मिशन एक डिजिटल टाउन स्क्वायर बनना है।

जब आप अपने संगठनों का नेतृत्व करते हैं तो हमारा मार्गदर्शन करने के लिए हमारी साइट डेटा तकनीकों और रणनीतियों पर आवश्यक जानकारी प्रदान करती है। हम आपको हमारे समुदाय का सदस्य बनने के लिए आमंत्रित करते हैं:

  • आपकी रुचि के विषयों पर अप-टू-डेट जानकारी
  • हमारे समाचार पत्र
  • गेटेड विचार-नेता सामग्री और हमारे बेशकीमती आयोजनों के लिए रियायती पहुंच, जैसे रूपांतरण 2021: और अधिक जानें
  • नेटवर्किंग सुविधाएँ, और बहुत कुछ

सदस्य बने

Leave a Reply

Your email address will not be published. Required fields are marked *