यूनिट 3: मशीन लर्निंग में नैतिक मुद्दे
सीखने के उदेश्य
इस इकाई के पूरा होने पर, प्रतिभागियों से यह अपेक्षा की जाती है कि वे इसमें सक्षम होंगे:
कृत्रिम बुद्धिमत्ता और मशीन लर्निंग (एआई/एमएल) से संबंधित कुछ नैतिक मुद्दों की व्याख्या करें, जैसे गोपनीयता, मानव निर्णय में हेरफेर, भविष्यवाणी में पूर्वाग्रह और बेरोजगारी
एआई/एमएल के संभावित नकारात्मक प्रभाव को कम करने के उद्देश्य से कुछ पहलों की पहचान करें
परिचय
कृत्रिम बुद्धिमत्ता और मशीन लर्निंग या एआई/एमएल हमारे जीने के तरीके को बदल रहे हैं।
यह इकाई एआई/एमएल के उपयोग से उत्पन्न होने वाले कुछ नैतिक मुद्दों, एआई/एमएल के दुरुपयोग के उदाहरणों और एआई/एमएल के उपयोग से संभावित समस्याओं से बचने के लिए सर्वोत्तम प्रथाओं पर चर्चा करती है जिसमें शामिल हैं:
इस इकाई में हम निम्नलिखित के बारे में सीखेंगे:
गोपनीयता
मोटे तौर पर कहें तो निजता अकेले रहने का अधिकार है, या हस्तक्षेप या घुसपैठ से मुक्ति है।
गोपनीयता एक मौलिक मानव अधिकार है जिसे संयुक्त राष्ट्र (यूएन) के मानव अधिकारों की घोषणा, नागरिक और राजनीतिक अधिकारों पर अंतर्राष्ट्रीय अनुबंध और कई अन्य अंतरराष्ट्रीय और क्षेत्रीय संधियों में मान्यता प्राप्त है। गोपनीयता मानवीय गरिमा और अन्य प्रमुख मूल्यों जैसे कि संघ की स्वतंत्रता और बोलने की स्वतंत्रता को रेखांकित करती है। संयुक्त राष्ट्र मानवाधिकार घोषणा के अनुसार:
संयुक्त राष्ट्र
मानव अधिकारों का सार्वजनिक घोषणापत्र
अनुच्छेद 1
सभी मनुष्य स्वतंत्र पैदा हुए हैं और सम्मान तथा अधिकारों में समान हैं। वे तर्क और विवेक से संपन्न हैं और उन्हें एक-दूसरे के प्रति भाईचारे की भावना से काम करना चाहिए।
अनुच्छेद 12
किसी को भी उसकी निजता, परिवार, घर या पत्राचार में मनमाने ढंग से हस्तक्षेप नहीं किया जाएगा; या उसके सम्मान और प्रतिष्ठा पर हमला करने के लिए. ऐसे हस्तक्षेप या हमलों के खिलाफ कानून की सुरक्षा का अधिकार हर किसी को है।
गोपनीयता के प्रकार
गोपनीयता कई प्रकार की होती है. उनमें से सात (फ़्रीडवाल्ड, 2013) व्यक्ति की गोपनीयता, व्यवहार और कार्रवाई की गोपनीयता, संचार की गोपनीयता, डेटा और छवि की गोपनीयता, विचार और भावनाओं की गोपनीयता, स्थान और स्थान की गोपनीयता और एसोसिएशन की गोपनीयता हैं - जैसा कि चित्र में दिखाया गया है
डेटा गोपनीयता क्या है?
डेटा गोपनीयता का मतलब आम तौर पर किसी व्यक्ति की यह निर्धारित करने की क्षमता है कि उसकी व्यक्तिगत जानकारी कब, कैसे और किस हद तक दूसरों के साथ साझा की जाएगी। इस व्यक्तिगत जानकारी में किसी का नाम, स्थान, संपर्क जानकारी और ऑनलाइन या वास्तविक दुनिया का व्यवहार शामिल है। डेटा गोपनीयता में किसी व्यक्ति की वित्तीय और स्वास्थ्य संबंधी जानकारी भी शामिल होती है। व्यक्तिगत डेटा का कई तरह से दुरुपयोग किया जा सकता है जैसे:
अपराधी किसी व्यक्ति को धोखा देने या परेशान करने के लिए व्यक्तिगत डेटा का उपयोग कर सकते हैं।
संस्थाएं विज्ञापनदाताओं को व्यक्तिगत डेटा बेच सकती हैं, जिसके परिणामस्वरूप व्यक्ति को अवांछित विपणन या विज्ञापन प्राप्त हो सकता है।
किसी व्यक्ति की गतिविधियों को ट्रैक और मॉनिटर किया जा सकता है।
डेटा गोपनीयता अधिक जटिल होती जा रही है क्योंकि अधिक डेटा एकत्र और आदान-प्रदान किया जा रहा है। डेटा सोशल मीडिया, वित्तीय लेनदेन और ई-कॉमर्स से एकत्र किया जा सकता है। स्वास्थ्य प्रौद्योगिकी और डेटा के बढ़ते एकीकरण के परिणामस्वरूप स्वास्थ्य डेटा को अब डॉक्टर-रोगी गोपनीयता द्वारा संरक्षित नहीं किया जा रहा है।
कृत्रिम बुद्धिमत्ता और मशीन लर्निंग या एआई/एमएल में प्रगति डेटा का विश्लेषण करने और अधिक जानकारी प्राप्त करने के लिए उपयोग करने में सक्षम बनाती है। एआई/एमएल ने चेहरे की पहचान प्रणाली के विकास को भी सक्षम बनाया है। इस प्रकार की प्रणाली सरकारों को बड़े पैमाने पर निगरानी करने में सक्षम बनाती है। अल ग्लोबल सर्विलांस (एआईजीएस) इंडेक्स के अनुसार, 176 देश बड़े पैमाने पर निगरानी प्रणाली का उपयोग करते हैं। इस अध्ययन से पता चलता है कि 51% उन्नत लोकतंत्र बड़े पैमाने पर निगरानी प्रणाली तैनात करते हैं, जबकि 37% बंद निरंकुश राज्य तैनात हैं। नैतिक दृष्टिकोण से, पूछने के लिए महत्वपूर्ण प्रश्न यह है कि क्या सरकारें प्रौद्योगिकी का दुरुपयोग कर रही हैं या इसका कानूनी रूप से उपयोग कर रही हैं, यह देखते हुए कि इस प्रकार की निगरानी मानवाधिकारों का उल्लंघन करने के लिए जानी जाती है।
कुछ तकनीकी दिग्गज अल-संचालित निगरानी के बारे में नैतिक चिंताएँ भी बताते हैं। उदाहरण के लिए, माइक, ओसॉफ्ट के अध्यक्ष ब्रैड स्मिथ ने चेहरे की पहचान के सरकारी विनियमन का आह्वान किया है (डफी, 2020)। आईबीएम ने इसके दुरुपयोग की संभावना के कारण बड़े पैमाने पर निगरानी के लिए प्रौद्योगिकी की पेशकश बंद कर दी है, जो मौलिक मानवाधिकारों का उल्लंघन करती है।
डेटा हेरफेर क्या है?
डेटा हेरफेर डेटा का एक पूरी तरह से अलग सेट उत्पन्न करने के लिए जानकारी निकालने और उसमें तर्क लागू करने की प्रक्रिया है।
डेटा हेरफेर से अंतिम उपयोगकर्ता और भरोसेमंद डेटा पर निर्भर किसी भी संगठन या व्यवसाय को कई लाभ होते हैं। फायदे में शामिल हैं:
• बेहतर डेटा संगठन
• डेटा मान में वृद्धि
• मैन्युअल सफ़ाई में कमी
दुर्भाग्य से, मानव निर्णय को प्रभावित करने के लिए डेटा हेरफेर का गलत इस्तेमाल भी किया जा सकता है।
मानव निर्णय का हेरफेर Manipulation of Human Judgement
मानवीय निर्णय को प्रभावित करने के लिए, प्रभावित होने वाले लोगों का व्यक्तिगत डेटा एकत्र करने की आवश्यकता है। इस प्रक्रिया को डेटा हार्वेस्टिंग कहा जाता है। डेटा विभिन्न स्रोतों, जैसे वेबसाइट, ऑनलाइन सर्वेक्षण, ग्राहक फीडबैक फॉर्म और सोशल मीडिया पोस्ट से सहमति के बिना एकत्र किया जाता है। फिर डेटा को डेटा एसेट रिपॉजिटरी में संग्रहीत किया जाता है।
चित्र 21. डेटा संचयन।
डेटा एसेट रिपॉजिटरी में डेटा का उपयोग कई तरीकों से किया जा सकता है। इस तरह के डेटा संग्रहण और दुरुपयोग का एक प्रसिद्ध उदाहरण कैम्ब्रिज एनालिटिका घोटाला है, जहां राजनीतिक उम्मीदवारों और विचारों की व्यक्तिगत धारणाओं को बदलने के लिए एकत्रित डेटा में हेरफेर किया गया था।
मानव निर्णय का हेरफेर - कैम्ब्रिज एनालिटिका (Manipulation of Human Judgement - Cambridge Analytica)
कैम्ब्रिज एनालिटिका एक राजनीतिक परामर्श फर्म थी जिसे 2013 में निजी खुफिया कंपनी एससीएल ग्रुप की सहायक कंपनी के रूप में अधिकारियों निगेल ओक्स, अलेक्जेंडर निक्स और अलेक्जेंडर ओक्स द्वारा स्थापित किया गया था। कंपनी ने 2018 में परिचालन बंद कर दिया, हालांकि कैम्ब्रिज एनालिटिका और इसकी मूल फर्म दोनों से संबंधित कंपनियां अभी भी मौजूद हैं।
कैंब्रिज एनालिटिका का इस्तेमाल 2016 में ब्रेक्सिट के समर्थकों द्वारा किया गया था। यूके संसद के सामने गवाही देते हुए, कैंब्रिज एनालिटिका के एक पूर्व कर्मचारी, क्रिस्टोफर वायली ने तर्क दिया कि कंपनी ने यूरोपीय संघ से ब्रिटेन की वापसी के पक्ष में परिणामों को मोड़ने में मदद की।
इन्हें कुछ सरकारों द्वारा आम चुनावों में मतदाताओं को प्रभावित करने के लिए भी नियुक्त किया गया था। 2014 में, कैम्ब्रिया ई एनालिटिका अमेरिकी कांग्रेस, सीनेट और राज्य-स्तरीय चुनावों में शामिल थी। 2016 में कैंब्रिज एनालिटिका ने ट्रम्प के राष्ट्रपति अभियान के लिए काम किया था। वे भारत, पाकिस्तान, थाईलैंड, इंडोनेशिया और मलेशिया सहित दुनिया भर के 200 से अधिक चुनावों में भी शामिल थे।
कैम्ब्रिज एनालिटिका ने लाखों फेसबुक उपयोगकर्ताओं से संबंधित व्यक्तिगत डेटा एकत्र किया। जानकारी का एक अन्य स्रोत "क्रूज़ क्रू" मोबाइल ऐप था जो लोगों की शारीरिक गतिविधियों और संपर्कों को ट्रैक करता था। कैम्ब्रिज एनालिटिका के डेटा विश्लेषण के तरीके माइकल कोसिंस्की के शैक्षणिक कार्य पर आधारित थे, जिन्होंने सामान्य ऑनलाइन डेटा का उपयोग करके एक प्रोफाइलिंग प्रणाली विकसित की थी।