Tag: Artificial Intelligence

नई दिल्ली: एक नए अध्ययन के अनुसार, ओपनएआई के कृत्रिम बुद्धिमत्ता चैटबॉट चैटजीपीटी में एक महत्वपूर्ण और प्रणालीगत वामपंथी पूर्वाग्रह है। जर्नल ‘पब्लिक चॉइस’ में प्रकाशित, निष्कर्ष बताते हैं कि चैटजीपीटी की प्रतिक्रियाएं अमेरिका में डेमोक्रेट, यूके में लेबर पार्टी और ब्राजील में वर्कर्स पार्टी के राष्ट्रपति लूला डी सिल्वा के पक्ष में हैं।

चैटजीपीटी में अंतर्निहित राजनीतिक पूर्वाग्रह की चिंताएं पहले भी उठाई गई हैं लेकिन सुसंगत, साक्ष्य-आधारित विश्लेषण का उपयोग करते हुए यह पहला बड़े पैमाने का अध्ययन है। (यह भी पढ़ें: डोमिनोज़ की भारतीय सफलता के वास्तुकार: मिलिए अजय कौल से, दूरदर्शी सीईओ जिन्होंने ब्रांड की किस्मत बदल दी)

नॉर्विच बिजनेस स्कूल के प्रमुख लेखक फैबियो मोटोकी ने कहा, “तथ्यों का पता लगाने और नई सामग्री बनाने के लिए जनता द्वारा एआई-संचालित प्रणालियों के बढ़ते उपयोग के साथ, यह महत्वपूर्ण है कि चैटजीपीटी जैसे लोकप्रिय प्लेटफार्मों का आउटपुट यथासंभव निष्पक्ष हो।” यूके में ईस्ट एंग्लिया विश्वविद्यालय में। (यह भी पढ़ें: अरबों से लेकर बोझ तक: एक ऐसे काम करने वाले व्यक्ति की कहानी जिसके पास 8200 करोड़ रुपये की संपत्ति, 1200 एकड़ जमीन है लेकिन कर्ज के कारण उसने अपनी जान ले ली)

“राजनीतिक पूर्वाग्रह की उपस्थिति उपयोगकर्ता के विचारों को प्रभावित कर सकती है और राजनीतिक और चुनावी प्रक्रियाओं पर इसका संभावित प्रभाव पड़ सकता है। मोटोकी ने कहा, हमारे निष्कर्ष उन चिंताओं को मजबूत करते हैं कि एआई सिस्टम इंटरनेट और सोशल मीडिया द्वारा उत्पन्न मौजूदा चुनौतियों को दोहरा सकते हैं, या बढ़ा भी सकते हैं।

चैटजीपीटी की राजनीतिक तटस्थता का परीक्षण करने के लिए शोधकर्ताओं ने एक नवीन नई पद्धति विकसित की। मंच को 60 से अधिक वैचारिक प्रश्नों की एक श्रृंखला का उत्तर देते हुए विभिन्न राजनीतिक स्पेक्ट्रम के व्यक्तियों का प्रतिरूपण करने के लिए कहा गया था।

फिर प्रतिक्रियाओं की तुलना प्रश्नों के समान सेट के लिए प्लेटफ़ॉर्म के डिफ़ॉल्ट उत्तरों से की गई – जिससे शोधकर्ताओं को उस डिग्री को मापने की अनुमति मिली, जिस तक चैटजीपीटी की प्रतिक्रियाएं एक विशेष राजनीतिक रुख से जुड़ी थीं।

चैटजीपीटी जैसे एआई प्लेटफार्मों को शक्ति देने वाले ‘बड़े भाषा मॉडल’ की अंतर्निहित यादृच्छिकता के कारण होने वाली कठिनाइयों को दूर करने के लिए, प्रत्येक प्रश्न को 100 बार पूछा गया और अलग-अलग प्रतिक्रियाएं एकत्र की गईं।

उत्पन्न पाठ से निकाले गए निष्कर्षों की विश्वसनीयता को और बढ़ाने के लिए इन एकाधिक प्रतिक्रियाओं को 1000-पुनरावृत्ति ‘बूटस्ट्रैप’ (मूल डेटा को फिर से नमूना लेने की एक विधि) के माध्यम से रखा गया था।

सह-लेखक विक्टर रोड्रिग्स ने कहा, “मॉडल की यादृच्छिकता के कारण, डेमोक्रेट का प्रतिरूपण करते समय भी, कभी-कभी चैटजीपीटी उत्तर राजनीतिक स्पेक्ट्रम के दाईं ओर झुक जाते हैं।”

यह सुनिश्चित करने के लिए कि विधि यथासंभव कठोर थी, कई और परीक्षण किए गए। ‘खुराक-प्रतिक्रिया परीक्षण’ में चैटजीपीटी को कट्टरपंथी राजनीतिक पदों का प्रतिरूपण करने के लिए कहा गया था।

‘प्लेसीबो टेस्ट’ में राजनीतिक रूप से तटस्थ प्रश्न पूछे गए। और ‘पेशा-राजनीति संरेखण परीक्षण’ में, विभिन्न प्रकार के पेशेवरों का प्रतिरूपण करने के लिए कहा गया था। राजनीतिक पूर्वाग्रह के अलावा, टूल का उपयोग चैटजीपीटी की प्रतिक्रियाओं में अन्य प्रकार के पूर्वाग्रहों को मापने के लिए किया जा सकता है।

हालाँकि अनुसंधान परियोजना राजनीतिक पूर्वाग्रह के कारणों को निर्धारित करने के लिए निर्धारित नहीं थी, लेकिन निष्कर्ष दो संभावित स्रोतों की ओर इशारा करते थे।

पहला प्रशिक्षण डेटासेट था – जिसके भीतर पूर्वाग्रह हो सकते हैं, या मानव डेवलपर्स द्वारा इसमें जोड़ा गया हो सकता है, जिसे डेवलपर्स की ‘सफाई’ प्रक्रिया हटाने में विफल रही थी।

दूसरा संभावित स्रोत एल्गोरिदम ही था, जो प्रशिक्षण डेटा में मौजूदा पूर्वाग्रहों को बढ़ा सकता है।