नई दिल्ली: Google ने आधिकारिक तौर पर अपने जेमिनी मॉडल की AI इमेज जेनरेशन से जुड़ी समस्याओं को पहचाना है, खासकर विशिष्ट संकेतों से संबंधित। टेक दिग्गज ने कहा कि किसी विशेष संस्कृति या ऐतिहासिक काल से संबंधित विभिन्न छवियों का अनुरोध करने वाले उपयोगकर्ताओं को सटीक प्रतिक्रिया मिलनी चाहिए। हालाँकि, यह मामला नहीं है, Google ने समस्याओं के लिए अपने “ट्यूनिंग” उपायों को जिम्मेदार ठहराया है।
कमियों का स्पष्टीकरण
एक हालिया ब्लॉग पोस्ट में, Google ने अपने जेमिनी मॉडल की AI छवि निर्माण में समस्याओं में योगदान देने वाले कारकों पर प्रकाश डाला। कंपनी ने दो मुख्य कारकों पर प्रकाश डाला। (यह भी पढ़ें: निवेश से आय तक: इस बिजनेस आइडिया में 5-7 लाख रुपये का निवेश 1.5 लाख रुपये मासिक रिटर्न दे सकता है)
सबसे पहले, उनकी ट्यूनिंग प्रक्रिया, जिसका उद्देश्य यह सुनिश्चित करना था कि मिथुन विभिन्न प्रकार के लोगों को प्रदर्शित कर सके, उन परिदृश्यों को नजरअंदाज कर दिया गया जहां विविध प्रतिनिधित्व उचित नहीं था। दूसरे, समय के साथ, मॉडल अत्यधिक सतर्क हो गया और कुछ संकेतों को पूरी तरह से कम करना शुरू कर दिया। (यह भी पढ़ें: यूजर को Amazon से मिला नकली iPhone 15; कंपनी ने दिया जवाब)
छवि निर्माण पर अस्थायी रोक
Google ने स्वीकार किया कि जेमिनी कन्वर्सेशनल ऐप के लिए उनका हाल ही में लॉन्च किया गया समाचार छवि निर्माण फीचर, जिसमें लोगों की छवियां बनाना शामिल था, लक्ष्य से चूक गया।
कुछ उत्पन्न छवियाँ ग़लत या आपत्तिजनक भी थीं। जवाब में, Google ने मिथुन राशि के लोगों की छवि निर्माण को अस्थायी रूप से रोक दिया, जबकि वे एक बेहतर संस्करण पर काम कर रहे थे।
कंपनी ने इस बात पर जोर दिया कि यह परिणाम उनका इरादा नहीं था और जानबूझकर गलतियाँ पैदा करने के खिलाफ अपना रुख दोहराया, खासकर ऐतिहासिक सामग्री के साथ।
मुद्दों के समाधान के लिए कार्रवाई
समस्याओं को हल करने के लिए, Google जेमिनी की AI छवि पीढ़ी को और अधिक परीक्षण के अधीन करने की योजना बना रहा है। हालाँकि, कंपनी ने उल्लेख किया कि वे इस बात की गारंटी नहीं दे सकते कि मुद्दों को ठीक करने के बाद भी मिथुन गलतियाँ नहीं करेगा या शर्मनाक, गलत या आपत्तिजनक परिणाम नहीं देगा। बहरहाल, उन्होंने वादा किया कि जब भी समस्या आएगी तो कार्रवाई की जाएगी।
उपयोगकर्ताओं के लिए सिफ़ारिश
जबकि जेमिनी एआई मॉडल में सुधार हो रहा है, Google उपयोगकर्ताओं को सर्च की एआई छवि पीढ़ी का उपयोग करने का सुझाव देता है, जो वेब से “ताजा, उच्च गुणवत्ता वाली जानकारी” एकत्र करता है।
लोगों की छवियाँ बनाने पर अस्थायी रोक
गलत परिणामों पर प्रतिक्रिया के बाद, Google ने अपने जेमिनी AI मॉडल को लोगों की छवियां बनाने से अस्थायी रूप से निलंबित कर दिया।
यह निर्णय उपयोगकर्ताओं द्वारा मॉडल द्वारा बनाई गई छवियों को साझा करने के बाद आया, जिसमें मुख्य रूप से रंगीन लोगों को दिखाया गया था, जिसमें इतिहास के दृश्य भी शामिल थे जिनमें केवल गोरे लोग शामिल थे।