ChatGPT: बच्चों के लिए एक संभावित खतरा

ChatGPT, OpenAI का प्रसिद्ध AI उपकरण, वयस्कों के साथ-साथ बच्चों में भी अपनी पहचान बना रहा है। हालांकि, माता-पिता के लिए अपने बच्चों पर कड़ी निगरानी रखना आवश्यक है। एक हालिया अध्ययन में, यह दावा किया गया है कि ChatGPT बच्चों को खतरनाक सलाह दे रहा है। सेंटर फॉर काउंटरिंग डिजिटल हेट के शोधकर्ताओं ने इसका खुलासा किया है। शोधकर्ताओं ने ChatGPT का परीक्षण करने के लिए खुद को 13 साल के बच्चों के रूप में प्रस्तुत किया और ड्रग्स, खाने की आदतों और आत्महत्या जैसे संवेदनशील विषयों पर मदद मांगी। परीक्षण के दौरान, ChatGPT ने शुरू में चेतावनी दी, लेकिन बाद में आत्महत्या के नोट लिखने और शराब पीने की हानिकारक सलाह देने लगा। सर्वेक्षण में पाया गया कि 70% अमेरिकी बच्चे AI चैटबॉट्स का उपयोग करते हैं और छोटे बच्चे AI द्वारा दिए गए सुझावों पर भरोसा करते हैं, जिससे AI सिस्टम का खतरनाक सुझाव बच्चों के जीवन को खतरे में डाल सकता है। माता-पिता की निगरानी महत्वपूर्ण है, क्योंकि बच्चे आसानी से AI सिस्टम पर भरोसा कर सकते हैं। विशेषज्ञों का मानना ​​है कि AI सिस्टम में इन सुरक्षा कमियों को दूर करना आवश्यक है, अन्यथा AI द्वारा दी गई सलाह किसी बच्चे के जीवन को खतरे में डाल सकती है।