GOOGLE GEMINI: हालांकि उद्योग के विकास के इस प्रारंभिक चरण में कोई भी एआई पूर्ण नहीं है, लेकिन हम जानते हैं कि हमारे लिए बार ऊंचा है।
सोशल मीडिया यूजर्स ने Google की ऐतिहासिक रूप से गलत जेमिनी-जनरेटेड छवियों की आलोचना की। (फाइल)
Google के सीईओ सुंदर पिचाई ने मंगलवार को अपने जेमिनी एआई ऐप द्वारा “पूरी तरह से अस्वीकार्य” त्रुटियों की निंदा की, ऐसे में द्वितीय विश्व युद्ध के नाजी सैनिकों की विभिन्न जातीय विविधता वाली छवियों जैसे विवादों के बाद उन्हें उपयोगकर्ताओं को लोगों के चित्र बनाने से रोकना पड़ा।
यह विवाद Google के चैटजीपीटी-शैली एआई को “जेमिनी” के रूप में हाई-प्रोफाइल के कुछ ही हफ्तों के भीतर सामने आया, जिसने ओपनएआई और उसके समर्थक माइक्रोसॉफ्ट के साथ प्रतिस्पर्धा करते हुए अपने उत्पादों में ऐप को अभूतपूर्व प्रमुखता प्रदान की।
सोशल मीडिया यूजर्स ने ऐतिहासिक रूप से गलत जेमिनी-जनरेटेड छवियों के लिए Google का उपहास और आलोचना की, जैसे कि 1800 के दशक के अमेरिकी सीनेटर जो विभिन्न जातीयता के थे और जिनमें महिलाएं भी शामिल थीं।
पिचाई ने समाचार वेबसाइट सेमाफोर द्वारा प्रकाशित एक कर्मचारियों को लिखे पत्र में लिखा, “मैं जेमिनी ऐप में समस्याग्रस्त टेक्स्ट और छवि प्रतिक्रियाओं के साथ हाल के मुद्दों को संबोधित करना चाहता हूं।”
“मुझे पता है कि इसके कुछ जवाबों ने हमारे उपयोगकर्ताओं को नाराज कर दिया है और पूर्वाग्रह दिखाया है – स्पष्ट रूप से कहें, तो यह पूरी तरह से अस्वीकार्य है और हम गलत थे।”
पिचाई ने कहा कि Google की टीमें इन मुद्दों को ठीक करने के लिए “24 घंटे काम कर रही हैं” लेकिन यह नहीं बताया कि इमेज जनरेट करने वाला फीचर फिर से कब उपलब्ध होगा।
उन्होंने लिखा, “कोई भी एआई पूर्ण नहीं है, खासकर उद्योग के विकास के इस प्रारंभिक चरण में, लेकिन हम जानते हैं कि हमारे लिए बार ऊंचा है और हम तब तक बने रहेंगे, जब तक इसे करने में लगता है।”
टेक कंपनियां जनरेटिव आर्टिफिशियल इंटेलिजेंस मॉडल को कंप्यूटिंग में अगले बड़े कदम के रूप में देखती हैं और उन्हें इंटरनेट सर्च करने और ग्राहक सहायता को स्वचालित करने से लेकर संगीत और कला बनाने तक हर चीज में शामिल करने के लिए दौड़ रही हैं।
लेकिन एआई मॉडल, न केवल Google के मॉडल, को लंबे समय से अपने परिणामों में नस्लीय और लैंगिक पूर्वाग्रहों को बनाए रखने के लिए आलोचना मिलती रही है।
Google ने पिछले हफ्ते कहा था कि जेमिनी से समस्याग्रस्त प्रतिक्रियाएं ऐसे पूर्वाग्रहों को दूर करने के कंपनी के प्रयासों का परिणाम थीं।
Google के प्रभाकर राघवन ने एक ब्लॉग पोस्ट में लिखा, “जेमिनी को विविध लोगों को दिखाने के लिए कैलिब्रेट किया गया था, लेकिन उन संकेतों के लिए समायोजित नहीं किया गया था जहां ऐसा नहीं होना चाहिए था, साथ ही कुछ अन्यथा हानिरहित अनुरोधों के साथ बहुत अधिक सतर्क हो गया।”
उन्होंने कहा, “इन दो चीजों ने मॉडल को कुछ मामलों में अति-क्षतिपूर्ति करने और दूसरों में अति-रूढ़िवादी होने के लिए प्रेरित किया, जिससे ऐसी छवियां बनीं जो शर्मनाक और गलत थीं।”