हम सब देखा है फिल्म मशीन दुनिया को नियंत्रित करता है, और मानव दृश्य का विनाश। सौभाग्य से, इन फिल्मों सिर्फ मनोरंजन, वास्तविक जीवन, इन दूर से प्राप्त किए गए परिदृश्य होने वाला नहीं है। हालांकि, एक व्यावहारिक समस्या ध्यान दिया जाना चाहिए कि : एल्गोरिदम पूर्वाग्रह (एल्गोरिथम पूर्वाग्रह)।
तथाकथित 'एल्गोरिथम पूर्वाग्रह' प्रोग्रामिंग में एक डिजाइनर या डेवलपर की पूर्वाग्रह को संदर्भित करता है जो दुर्भावनापूर्ण प्रतीत होता है या इसका इस्तेमाल किया गया डेटा पक्षपाती है। पाठ्यक्रम का परिणाम विभिन्न प्रकार की समस्याएं बन गया है। उदाहरण के लिए, Google खोज का गलत अर्थ दिया गया था, योग्य उम्मीदवार मेडिकल स्कूल में प्रवेश नहीं कर सके, ट्विटर पर जातिवाद और लिंग भेदभाव संबंधी जानकारी साझा कर सकते थे।
एक एल्गोरिथ्म पूर्वाग्रह की वजह से सबसे कठिन समस्या यह है कि प्रोग्रामिंग इंजीनियरों में, भले ही दौड़ के लिए एक प्रवृत्ति, लिंग, आयु और अन्य भेदभाव नहीं है, यह भी पूर्वाग्रह का कारण हो सकता है। आर्टिफिशियल इंटेलिजेंस (एआई) अनिवार्य रूप से स्वयं अध्ययन के लिए डिज़ाइन किया गया है कभी कभी यह वास्तव में गलत होगा। ज़ाहिर है, हम इस तथ्य के बाद समायोजित किया जा सकता है, लेकिन सबसे अच्छा समाधान। से होने से रोक शुरू करने के लिए है, तो आप कैसे पूर्वाग्रह कृत्रिम बुद्धि के बिना यह कर सकता हूँ?
विडंबना यह है कि कृत्रिम बुद्धिमत्ता की सबसे रोमांचक संभावनाओं में से एक यह है: मानव पूर्वाग्रह के बिना दुनिया। उदाहरण के लिए, जब कर्मचारियों की भर्ती करने की बात आती है, तो उसी कार्य के लिए आवेदन करने में पुरुषों और महिलाओं को समान बनाने के लिए एल्गोरिदम का इस्तेमाल किया जा सकता है। पुलिस में नस्लवाद का उपचार, या उससे बचें
भले ही लोगों को यह मालूम है कि मानव-निर्मित मशीन वास्तव में दुनिया को देखने वाले लोगों को दर्शाती हैं, उनके पास भी समान रूढ़िवादी और विश्व के विचार होंगे। कृत्रिम बुद्धिमत्ता अधिक से अधिक जीवन में गहराई से, हमें इस मुद्दे पर ध्यान देना होगा।
कृत्रिम बुद्धि का सामना करने वाला एक और चुनौती यह है कि पूर्वाग्रह एक ही रूप नहीं है, बल्कि इंटरैक्टिव पक्षपात, अवचेतन पक्षपात, चयन पूर्वाग्रह, डेटा उन्मुख पूर्वाग्रह और पुष्टि संबंधी पूर्वाग्रहों सहित विभिन्न प्रकारों में मौजूद है।
विभिन्न एआई पक्षपात प्रकार
'इंटरैक्शन बायस' एल्गोरिथ्म के साथ उपयोगकर्ता के इंटरैक्शन के कारण एल्गोरिथ्म के पूर्वाग्रह को संदर्भित करता है। जब मशीन आसपास के वातावरण से सीखने के लिए सेट होती है, तो वे यह तय नहीं कर सकते कि किस डेटा को रखना या छोड़ देना चाहिए। या गलत। इसके बजाय, वे केवल उन्हें प्रदान किए गए डेटा का उपयोग कर सकते हैं - चाहे वह अच्छा, बुरा या बदसूरत है, इस आधार पर केवल निर्णय कर सकते हैं। उपरोक्त माइक्रोसॉफ्ट चैट रोबोट इस प्रकार के पूर्वाग्रह का एक उदाहरण है। यह एक ऑनलाइन चैट समुदाय के प्रभाव के कारण नस्लवादी बनने लगा था।
उदाहरण के लिए, जब एक चिकित्सक की तस्वीर की खोज करते हैं, तो कृत्रिम बुद्धि पहले पुरुष चिकित्सक की तस्वीर नहीं दिखाती है, न कि एक महिला चिकित्सक की तस्वीर और इसके ठीक विपरीत। हालांकि, नर्सों के लिए खोज करते समय समान परिस्थितियां होती हैं।
'चुनाव पूर्वाग्रह' डेटा के प्रभाव के कारण एल्गोरिथ्म का मतलब है, जिसके परिणामस्वरूप में भी, एक समूह या समूहों पर ज़ूम ताकि उनके पक्ष में एल्गोरिदम, लेकिन अन्य समूहों की कीमत पर। भर्ती कर्मचारियों के लिए, उदाहरण के लिए, यदि ऐ है केवल पुरुषों के रिज्यूम को पहचानने के लिए प्रशिक्षण, फिर महिला नौकरी चाहने वाले आवेदन प्रक्रिया में शायद ही सफल हो सकते हैं।
'डेटा पर ही आधारित पूर्वाग्रह' का अर्थ है एल्गोरिद्म को प्रशिक्षित करने के लिए इस्तेमाल किया कच्चे डेटा पक्षपाती किया गया है मशीन बच्चों की तरह: वे सवाल नहीं है डेटा प्राप्त किया, लेकिन बस मॉडलों में से एक है, तो डेटा शुरू की तलाश में विकृत है, इसके उत्पादन का परिणाम है, भी इस को प्रतिबिंबित करेगा।
पिछले एक 'पुष्टि पूर्वाग्रह', यह और इसी तरह के डेटा के आधार पर पूर्वाग्रह, यह उन पूर्वकल्पित जानकारी के पक्ष में होगा, इस तरह के पूर्वाग्रहों को प्रभावित कैसे लोगों को जानकारी इकट्ठा, और कैसे जानकारी व्याख्या करने के लिए है। उदाहरण के लिए, यदि आपको लगता है कि लोगों को अगस्त में पैदा हुआ अन्य महीनों और अधिक रचनात्मक में पैदा हुए लोगों की तुलना में, यह इस विचार का खोज डेटा को मजबूत बनाने के लिए करते हैं जाएगा।
जब हम जानते हैं कि इतने सारे पूर्वाग्रहों उदाहरण कृत्रिम बुद्धि प्रणाली सीप हो सकता है देखते हैं कि, ऐसा लगता है कि लोगों को बहुत चिंतित हैं। लेकिन यह सच है कि दुनिया में ही पक्षपाती है, और इसलिए, कुछ मामलों में, हमारे कृत्रिम बुद्धि के लिए पहचान करने के लिए महत्वपूर्ण है उपलब्ध परिणाम आश्चर्यजनक नहीं हैं, हालांकि, यह मामला नहीं होना चाहिए। विकास के शुरूआती दौर में और तैनाती से पूर्व कृत्रिम बुद्धि एल्गोरिदम और प्रणालियों के परीक्षण और सत्यापन के लिए एक प्रक्रिया की आवश्यकता है।
विभिन्न एल्गोरिदम और मानव, यह झूठ नहीं करता है, इसलिए, यदि परिणाम पक्षपाती है, यह, कि है, एक कारण होना चाहिए एल्गोरिदम और डेटा एक आदमी के बारे में प्राप्त किसी को काम पर रखने के लिए नहीं कारणों की व्याख्या से झूठ कर सकते हैं लेकिन ऐ नहीं। एल्गोरिदम का उपयोग, हम पता कर सकते हो सकता है जब वहाँ पूर्वाग्रह हो जाएगा, और भविष्य में इन समस्याओं को दूर करने के लिए उन्हें समायोजित करें।
ऐ एक खतरे के रूप में सीखना होगा, सभी निहित पूर्वाग्रह को खोजने के लिए गलतियों, आमतौर पर केवल वास्तविक उपयोग एल्गोरिदम के बाद कर, क्योंकि इन पूर्वाग्रहों बढ़ाया है। बल्कि एल्गोरिथ्म, यह उन्हें एक के रूप में हल करने के लिए बेहतर है सभी अच्छा अवसर समस्या पर प्रतिकूल प्रभाव, और यदि आवश्यक सही करने के लिए।
हम पक्षपातपूर्ण फैसलों का पता लगाने और समय पर कार्रवाई करने के लिए सिस्टम विकसित कर सकते हैं। मनुष्य के मुकाबले, कृत्रिम बुद्धि, विशेष रूप से Bayesian तरीकों के लिए उपयुक्त है जो एक परिकल्पना की संभावना निर्धारित करते हैं और सभी संभव मानव पूर्वाग्रह, यह जटिल है, लेकिन यह संभव है, विशेष रूप से कृत्रिम बुद्धि के महत्व पर विचार कर रहा है, और यह आने वाले वर्षों में केवल और अधिक महत्वपूर्ण हो जाएगा। यह एक गैर जिम्मेदार बात है।
कृत्रिम बुद्धि प्रणालियों के विकास के साथ, यह समझना महत्वपूर्ण है कि यह कैसे काम करता है ताकि इसे डिजाइन के माध्यम से जागरूक किया जा सके और भविष्य में संभावित पूर्वाग्रहों से बच सके। भूल न करें कि कृत्रिम बुद्धि बहुत तेजी से विकसित हो रही है, यह अभी भी है शुरुआती चरण में, ऐसे कई क्षेत्र हैं जिनकी पढ़ाई और सुधार की आवश्यकता है। यह समायोजन कुछ समय तक जारी रहेगा.एक ही समय में, कृत्रिम बुद्धिमत्ता चालाक बन जाएगी भविष्य में, पूर्वाग्रहों और अन्य मुद्दों पर काबू पाने के लिए अधिक से अधिक तरीके होंगे। ।
प्रौद्योगिकी उद्योग के लिए, हम मशीन के ऑपरेशन के तरीकों पर सवाल खड़ा करने के लिए जारी है और कारण बहुत महत्वपूर्ण है, कृत्रिम बुद्धि के सबसे एक ब्लैक बॉक्स की तरह है, निर्णय लेने की प्रक्रिया छिपा है, लेकिन सार्वजनिक और कृत्रिम बुद्धि की पारदर्शिता है, यह स्थापित है गलतफहमी पर भरोसा और उससे बचने की कुंजी
इस स्तर पर वहाँ, इस तरह के Fraunhofer हेनरिक हर्ट्ज संस्थान अध्ययन के रूप में कई अध्ययनों निर्माण करने में मदद पहचान पूर्वाग्रह, कर रहे हैं वे इस तरह के ऊपर उल्लिखित है, साथ ही और अधिक 'निम्न स्तर' पूर्वाग्रहों, और कुछ के रूप में पूर्वाग्रहों के विभिन्न प्रकार के भेद पर ध्यान केंद्रित, पूर्वाग्रहों कृत्रिम बुद्धि के प्रशिक्षण और विकास के दौरान उत्पन्न होने वाली समस्याएं
दूसरी ओर, जो विचार करने की जरूरत है, वह अनसुचित प्रशिक्षण है, आजकल, अधिकांश कृत्रिम बुद्धि मॉडल को पर्यवेक्षण प्रशिक्षण के माध्यम से विकसित किया जाता है। अनगिनत डेटा का उपयोग कर पर्यवेक्षित प्रशिक्षण, एल्गोरिथ्म को स्वयं को सॉर्ट करना होगा, डेटा को पहचानना और एकत्र करना होगा। यह विधि आमतौर पर पर्यवेक्षित शिक्षा से धीमी गति के कई आदेश हैं, लेकिन यह विधि अपेक्षाकृत मानव हस्तक्षेप को प्रतिबंधित करती है। किसी भी सचेत या बेहोश मानव पूर्वाग्रह को समाप्त कर सकते हैं और डेटा पर प्रभाव से बच सकते हैं।
बुनियादी सुविधाओं के मामले में, वहाँ कई चीजें हैं जो आइटम सुधार किया जा सकता नए उत्पादों, वेबसाइट या समारोह के विकास में, कर रहे हैं, प्रौद्योगिकी कंपनियों एल्गोरिथ्म के लिए डेटा की एक विस्तृत श्रृंखला प्रदान करेगा विविध विभिन्न क्षेत्रों में पेशेवरों की जरूरत है, लेकिन यह भी अनजाने में दे सकते हैं इन आंकड़ों पक्षपाती। किसी को उत्पादन का विश्लेषण करने के है, तो पूर्वाग्रह की संभावना काफी उच्च हो पाया था।
इसके अलावा, अन्य एल्गोरिदम लेखापरीक्षा की भूमिका कर रहे हैं। 2016 में एक अमेरिकी शोध टीम के कार्नेगी मेलॉन विश्वविद्यालय (कार्नेगी मेलॉन विश्वविद्यालय) एक नेटवर्क एल्गोरिदम पूर्वाग्रह में विज्ञापन में एक नौकरी मिल गई, वे नेटवर्क में सूचीबद्ध हैं, गूगल विज्ञापन के बाद काम की तलाश में व्यक्तियों की सूची से पता चलता है कि महिलाओं के अनुपात में उच्च भुगतान नौकरियों में पुरुषों लगभग छह गुना है। अनुसंधान दल ने निष्कर्ष निकाला है कि, अगर पहले एल्गोरिथ्म आंतरिक लेखा परीक्षा में मदद मिलेगी इस तरह के पूर्वाग्रह को कम।
मनुष्य: सरल शब्दों में, मशीन मानव पूर्वाग्रह पूर्वाग्रह पूर्वाग्रहों कई कृत्रिम बुद्धि देखते हैं, लेकिन वास्तव में, यह केवल एक स्रोत है।
प्रौद्योगिकी कंपनियों, इंजीनियर और डेवलपर के लिए एक जैसे में निहित, के लिए प्रभावी कदम उठाने चाहिए अनजाने पक्षपाती एल्गोरिथ्म से बचने के लिए पैदा करते हैं और कलन विधि के माध्यम से किसी भी समय खुली और पारदर्शी लेखा परीक्षा बनाए रखने के लिए, हम कृत्रिम बुद्धि बनाने के लिए विश्वास है पूर्वाग्रह से छुटकारा पाने के लिए एल्गोरिथ्म