डीपफेक, एल्गोरिथम पूर्वाग्रह और नारीवादी एआई का उदय: डिजिटल समानता के लिए एक लड़ाई

वैश्विक - इख़बारी समाचार एजेंसी

डीपफेक, एल्गोरिथम पूर्वाग्रह और नारीवादी एआई का उदय: डिजिटल समानता के लिए एक लड़ाई

जबकि कृत्रिम बुद्धिमत्ता क्रांतिकारी नवाचारों का वादा करती है, यह तेजी से अपने आंतरिक लैंगिक पूर्वाग्रहों और दुरुपयोग की संभावना के बारे में एक गरमागरम बहस के केंद्र में है, जैसा कि यौन रूप से स्पष्ट डीपफेक की खतरनाक घटना से स्पष्ट है। इस परिदृश्य ने एआई को अधिक न्यायसंगत और समावेशी नींव पर फिर से डिजाइन करने के उद्देश्य से एक वैश्विक आंदोलन को उत्प्रेरित किया है, जिसमें "नारीवादी एआई" एक डिजिटल युग की महत्वपूर्ण प्रतिक्रिया के रूप में प्रगति कर रहा है जो अक्सर पुरुष-केंद्रित डेटा और एल्गोरिदम द्वारा हावी होता है।

विश्व आर्थिक मंच के हालिया आंकड़ों से पता चलता है कि एआई क्षेत्र में वैश्विक कार्यबल का एक तिहाई से भी कम महिलाएं हैं, एक असमानता जो सीधे प्रणालियों के डिजाइन और अनुप्रयोग में परिलक्षित होती है। ऑनलाइन स्थान, वास्तव में, उन लोगों के रूढ़ियों को बनाए रखने की प्रवृत्ति रखते हैं जो उन्हें बनाते हैं, और एआई क्षेत्र में वर्तमान पुरुष प्रधानता ने एल्गोरिथम भेदभाव के कई उदाहरणों को जन्म दिया है। ऐतिहासिक रूप से, छवि पहचान प्रणालियों को महिलाओं, विशेष रूप से रंगीन महिलाओं की सटीक पहचान करने में कठिनाई हुई है, जिससे कानून प्रवर्तन सहित संभावित रूप से गंभीर परिणाम हुए हैं। इसी तरह, आवाज सहायक लंबे समय से लैंगिक रूढ़ियों को मजबूत करते रहे हैं, मुख्य रूप से महिला आवाज़ों का उपयोग करते हैं और महिलाओं को सेवा भूमिकाओं तक सीमित रखते हैं। छवि पीढ़ी के क्षेत्र में, एआई अक्सर "सीईओ" शब्द को पुरुष आंकड़ों से जोड़ता है, जबकि "सहायक" की खोज मुख्य रूप से महिला छवियों को लौटाती है।

कृत्रिम बुद्धिमत्ता शासन की अंतर्राष्ट्रीय विशेषज्ञ और एआई और लिंग पर यूरोपीय परिषद के एक प्रभावशाली अध्ययन की लेखिका इवाना बार्टोलेट्टी इस बात पर जोर देती हैं कि "कृत्रिम बुद्धिमत्ता ऐसे डेटा पर पनपती है जो तटस्थ नहीं होते हैं: वे ऐतिहासिक असमानताओं और शक्ति संबंधों से चिह्नित समाजों को दर्शाते हैं।" बार्टोलेट्टी के अनुसार, समानता एक स्वचालित परिणाम नहीं है, बल्कि "इसे सक्रिय रूप से डिजाइन किया जाना चाहिए।" एक कंपनी जो न्यायसंगत परिणामों की आकांक्षा रखती है, उसे "डेटासेट की जांच करनी चाहिए, उनकी प्रतिनिधित्व क्षमता को सत्यापित करना चाहिए, और जब वे नहीं हों तो सक्रिय रूप से हस्तक्षेप करना चाहिए।"

एलोन मस्क के एआई, ग्रोक से जुड़ा हालिया घोटाला, जिसने कार्य निलंबित होने से पहले नग्न महिलाओं और नाबालिगों के डीपफेक उत्पन्न करने की अस्थायी रूप से अनुमति दी थी, एक वैश्विक वेक-अप कॉल के रूप में कार्य करता है। बार्टोलेट्टी इस बात पर प्रकाश डालती हैं कि यह मामला स्पष्ट रूप से प्रदर्शित करता है कि "जब सिस्टम डिजाइन में महिलाओं की सुरक्षा और अधिकारों पर विचार नहीं किया जाता है तो क्या होता है।" यौन रूप से स्पष्ट डीपफेक का निर्माण और प्रसार केवल गोपनीयता का उल्लंघन नहीं है, बल्कि "अपमान और नियंत्रण" का एक रूप है, जो एक खतरनाक संदेश देता है: "आप ऑनलाइन हैं, इसलिए आप इसके लायक हैं।" यह धमकी भरा माहौल कई महिलाओं को डिजिटल स्थानों से पीछे हटने, उनकी आवाजों को चुप करने और उनकी भागीदारी को सीमित करने के लिए मजबूर करता है।

इन चुनौतियों के जवाब में, तकनीकी विकल्पों और सामाजिक आंदोलनों का एक जीवंत पारिस्थितिकी तंत्र उभर रहा है, जिसका उद्देश्य एआई को सामान्य भलाई के लिए एक उपकरण और साझा शक्ति के लिए एक युद्धक्षेत्र के रूप में फिर से सोचना है। लैटिन अमेरिकी और कैरेबियाई नारीवादी एआई नेटवर्क एक अग्रणी उदाहरण है, जो पारदर्शिता और समावेशी सार्वजनिक नीतियों को बढ़ावा देने वाले दर्जनों परियोजनाओं का समर्थन करता है। AymurAI, Arvage IA और SofIA जैसे अभिनव उपकरण कानूनी और एल्गोरिथम विश्लेषण के लिए लैंगिक लेंस लागू कर रहे हैं, जो प्रणालियों में अंतर्निहित "पूर्वाग्रहों" और भेदभाव को उजागर कर रहे हैं। अफ्रीकी-नारीवाद भी एआई को आत्मनिर्णय के लिए एक स्थान के रूप में पुनः प्राप्त कर रहा है, AfroféminasGpt जैसे सहायकों का विकास कर रहा है, जो काले ज्ञान और आवाजों पर प्रशिक्षित हैं, ताकि यह सुनिश्चित किया जा सके कि प्रौद्योगिकी सांस्कृतिक और सामाजिक विविधता को दर्शाती और समर्थन करती है।

बार्टोलेट्टी निष्कर्ष निकालती हैं कि ये प्रयास "प्रदर्शित करते हैं कि हम सामान्य भलाई के लिए एआई का उपयोग करने, सामूहिक रूप से डेटा साझा करने और वास्तविक जरूरतों पर केंद्रित समाधान विकसित करने के लिए संगठित हो सकते हैं।" हालांकि, मुद्दे का मूल शक्ति बनी हुई है। वह दृढ़ता से कहती हैं: "एआई में नारीवादी मुद्दा शक्ति का सवाल है: महिलाओं को इसकी अधिक आवश्यकता है।" इसका मतलब हाशिए पर नहीं रहना है, बल्कि कंपनियों के शीर्ष तक और उन जगहों तक पहुंचना है जहां तकनीकी नीति तय की जाती है। यह सुनिश्चित करना आवश्यक है कि न केवल कोड डेवलपर्स के बीच बल्कि सभी निर्णय लेने वाले स्तरों पर विविधता को बढ़ावा दिया जाए, यह स्वीकार करते हुए कि "कृत्रिम बुद्धिमत्ता केवल तकनीक नहीं है; यह एक विकल्प है कि हम समाज को कैसे बदलना चाहते हैं।"

इख़बारी समाचार एजेंसी