पक्षपाती एआई न केवल लोगों के लिए बुरा है, बल्कि व्यवसायों के लिए भी हानिकारक है

Posted on

एआई अपनाने की अवस्था में आपका उद्यम कहां खड़ा है? पता लगाने के लिए हमारे एआई सर्वेक्षण में भाग लें।


प्रौद्योगिकीविद, सामाजिक वैज्ञानिक और अन्य कृत्रिम बुद्धि में पूर्वाग्रह के बारे में चिंतित हैं। जैसे-जैसे तकनीक हमारे जीवन को प्रभावित करने वाले डिजिटल सिस्टम में घुसपैठ करना जारी रखती है, यह सुनिश्चित करना कि यह नस्ल, लिंग या अन्य कारकों के आधार पर भेदभाव नहीं करता है, सर्वोच्च प्राथमिकता के रूप में उभर रहा है।

सामाजिक न्याय को बढ़ाना उद्यम के लिए भी उतना ही महत्वपूर्ण है, लेकिन प्रतिस्पर्धी बाज़ार में सफल होने की क्षमता भी उतनी ही महत्वपूर्ण है। और तथ्य यह है कि एआई में पूर्वाग्रह न केवल समाज के लिए हानिकारक है, यह खराब निर्णय लेने का कारण बन सकता है जो व्यावसायिक प्रक्रियाओं और लाभप्रदता को वास्तविक नुकसान पहुंचा सकता है।

एक खराब प्रतिष्ठा आहत करती है

यूएससी के सहायक प्रोफेसर कालिंडा उकानवा ने हाल ही में असंख्य तरीकों पर प्रकाश डाला जिसमें खराब प्रशिक्षित एल्गोरिदम जो पूर्वाग्रह के परिणाम उत्पन्न करते हैं, वे संगठनों को गलत रास्ते पर ले जा सकते हैं। एक के लिए, मुंह से शब्द किसी दिए गए समुदाय में अनुचित व्यवहार की कहानियों को जल्दी से फैला सकते हैं, जिसके परिणामस्वरूप खोए हुए अवसर और कम बिक्री होती है। साथ ही, उनके शोध से पता चला है कि “समूह-जागरूक” एल्गोरिदम पर अधिक निर्भरता जो किसी विशेष समूह को असाइनमेंट के आधार पर किसी व्यक्ति के व्यवहार को समझने का प्रयास करती है, अल्पावधि में परिणाम प्राप्त कर सकती है लेकिन अंततः एआई पर काम कर रही है। समूह-अंधा” आधार।

संगठनों और उसके ग्राहकों और कर्मचारियों दोनों के बीच पूर्वाग्रह-प्रेरित घर्षण का एक अन्य प्रमुख स्रोत है जब दिशा बातचीत आवश्यक हो जाती है, जैसे कि कॉल सेंटर में। कॉल सेंटरों के लिए रोबोटिक प्रोसेस ऑटोमेशन (आरपीए) के विकासकर्ता एनआईसीई ने हाल ही में यह सुनिश्चित करने में मदद करने के लिए एक ढांचा विकसित किया है कि एआई उपयोगकर्ताओं और कर्मचारियों के लिए सहायक और अनुकूल बना रहे, जो बदले में मजबूत ब्रांड वफादारी और सकारात्मक सोशल मीडिया चर्चा का निर्माण करता है। प्रमुख बिंदुओं में से किसी भी बातचीत में सकारात्मक परिणाम देने पर ध्यान केंद्रित करने और बॉट्स को नस्ल, लिंग, उम्र या किसी अन्य पूर्वाग्रह से रहित होने के लिए प्रशिक्षित करने की आवश्यकता है ताकि मानवता के बारे में पूरी तरह से अज्ञेयवादी दृष्टिकोण तैयार किया जा सके।

लेखक और उद्यमी जेदिदिया यूह के अनुसार, डेटा वैज्ञानिक कई डोमेन के तहत एआई पूर्वाग्रह को वर्गीकृत करते हैं, जैसे नमूना पूर्वाग्रह और चयन पूर्वाग्रह, लेकिन उद्यम के लिए सबसे हानिकारक में से एक पूर्वनिर्धारण पूर्वाग्रह है। यह वह जगह है जहां एआई (और इंसान भी) भविष्य के लिए तैयार होने की कोशिश करते हैं, जरूरी नहीं कि उन्हें वही मिलेगा। यह समझ में आता है लेकिन, एक ऐसे युग में जहां एआई खुद एक अप्रत्याशित रूप से अप्रत्याशित भविष्य का निर्माण कर रहा है, यह खतरे से भरा है क्योंकि यह नवाचार और बदलते परिवेश में लचीले बने रहने की क्षमता को रोकता है। दुर्भाग्य से, पूर्वनिर्धारण को अक्सर ईटीएल प्रक्रिया में ही कड़ी मेहनत की जाती है, इसलिए इसे पूर्ववत करने के लिए एआई प्रशिक्षण में बदलाव से अधिक की आवश्यकता होती है।

अच्छे के लिए पूर्वाग्रह का दोहन

एपियर के मुख्य एआई वैज्ञानिक डॉ मिन सन कहते हैं, उद्यम के नेताओं को भी उस जाल से बचना चाहिए जो यह सोचकर आता है कि सभी पूर्वाग्रह खराब हैं। कई मार्केटिंग परिदृश्यों में, एआई एल्गोरिदम में पूर्वाग्रह बनाने में मददगार हो सकता है यदि आप एक निश्चित उम्र की एकल महिलाओं के लिए खरीदारी के रुझान का पता लगाने की कोशिश कर रहे हैं। चाल यह सुनिश्चित करने के लिए है कि निर्णय निर्माताओं को पता है कि ये पूर्वाग्रह मौजूद हैं और परिणामी डेटा को उचित तरीके से देख सकते हैं। इसे सफलतापूर्वक करने के लिए, यह महत्वपूर्ण है कि पूर्वाग्रह को सीखने के मॉडल में ही नहीं बल्कि उस डेटा में पेश किया जाए जिस पर मॉडल को प्रशिक्षित किया गया है।

टेक लेखक टॉम टॉली का कहना है कि एआई से पूर्वाग्रह को खत्म करने की कोशिश करते समय उद्यमों की प्रमुख समस्या यह है कि आज की डेटा गवर्नेंस नीतियां ऑपरेशन के इस नए तरीके के अनुकूल नहीं हैं। अक्सर, एआई परियोजनाओं में पूर्वाग्रह को दूर करने और एक प्रभावी आरओआई उत्पन्न करने के लिए आवश्यक समन्वय की कमी होती है, और यह आमतौर पर डेटा विज्ञान और अनुप्रयोग विकास टीमों के बीच मौजूद अलगाव से उत्पन्न होता है। जबकि किसी दिए गए डेटा प्रक्रिया में सभी कार्यों को स्वचालित करने का प्रलोभन हमेशा होता है, शासन एक अपवाद होना चाहिए क्योंकि केवल एक व्यावहारिक, सहज दृष्टिकोण यह सुनिश्चित कर सकता है कि तेजी से बदलते परिवेश में लक्ष्यों को पूरा किया जा रहा है।

पहले से ही तैनात एआई परियोजनाओं में पूर्वाग्रह के साथ, उद्यम के नेताओं को यह देखना बुद्धिमानी होगी कि इसे कहां और कैसे नियोजित किया जा रहा है – न केवल अधिक से अधिक सामाजिक भलाई के लिए बल्कि अपने स्वयं के आर्थिक कारणों से भी। आज के युग में विश्वास एक दुर्लभ और मूल्यवान वस्तु है और एक बार खो जाने के बाद यह आसानी से वापस नहीं आता है। आखिरी चीज जो किसी भी संगठन को चाहिए, वह है खराब प्रशिक्षित एआई प्रक्रिया के कारण पूर्वाग्रह के लेबल से कलंकित होना।

वेंचरबीट

तकनीकी निर्णय लेने वालों के लिए परिवर्तनकारी तकनीक और लेनदेन के बारे में ज्ञान हासिल करने के लिए वेंचरबीट का मिशन एक डिजिटल टाउन स्क्वायर बनना है।

जब आप अपने संगठनों का नेतृत्व करते हैं तो हमारा मार्गदर्शन करने के लिए हमारी साइट डेटा तकनीकों और रणनीतियों पर आवश्यक जानकारी प्रदान करती है। हम आपको हमारे समुदाय का सदस्य बनने के लिए आमंत्रित करते हैं:

  • आपकी रुचि के विषयों पर अप-टू-डेट जानकारी
  • हमारे समाचार पत्र
  • गेटेड विचार-नेता सामग्री और हमारे बेशकीमती आयोजनों के लिए रियायती पहुंच, जैसे रूपांतरण 2021: और अधिक जानें
  • नेटवर्किंग सुविधाएँ, और बहुत कुछ

सदस्य बने

Leave a Reply

Your email address will not be published. Required fields are marked *