मेटा जल्द ही AI से बनी तस्वीरों को लेबल करेगा, OpenAI, गूगल और माइक्रोसॉफ्ट भी शामिल

फेसबुक की मूल कंपनी मेटा आने वाले महीनों में अन्य कंपनियों की आर्टिफिशियल इंटेलिजेंस द्वारा बनाई गई तस्वीरों का पता लगाकर उन पर लेबल लगाना शुरू कर देगी। सोशल मीडिया दिग्गज मंगलवार को यह घोषणा की।

यह कदम इसलिए उठाया जा रहा है ताकि यूजर्स को पता चल सके कि जो तस्वीरें असली लगती हैं, वे असल में कंप्यूटर जनरेटेड हो सकती हैं। कंपनी का कहना है कि वह इन तस्वीरों में एक खास तरह का छिपा हुआ निशान लगाएगी, जिसे पहचानकर वह लेबल लगा सकेगी।

मेटा के ग्लोबल अफेयर्स प्रेसिडेंट निक क्लैग ने एक ब्लॉग पोस्ट में लिखा है, “हम फेसबुक, इंस्टाग्राम और थ्रेड्स पर पोस्ट की गई ऐसी किसी भी सामग्री पर लेबल लगाएंगे, जिसमें यह निशान होगा। इससे यूजर्स को पता चल जाएगा कि जो तस्वीरें असली लगती हैं, वे असल में डिजिटल रचनाएं हैं।”

मेटा पहले से ही अपने खुद के AI टूल्स का उपयोग करके बनाई गई किसी भी सामग्री को लेबल करता है। एक बार यह नई प्रणाली चालू हो जाने के बाद, मेटा OpenAI, माइक्रोसोफ्ट, एडोब, मिडजर्नी, शटरस्टॉक और गूगल जैसी कंपनियों की सेवाओं पर बनाई गई छवियों के लिए भी ऐसा ही करेगा।

यह घोषणा इस बात का शुरुआती संकेत है कि कैसे तकनीकी कंपनियां जनरेटिव AI तकनीकों से जुड़े संभावित नुकसान को कम करने के लिए मानकों की एक उभरती हुई प्रणाली विकसित कर रही हैं। ये तकनीकें साधारण से संकेतों के जवाब में नकली लेकिन असली जैसी दिखने वाली सामग्री बना सकती हैं।

यह दृष्टिकोण पिछले एक दशक में कुछ समान कंपनियों द्वारा स्थापित टेम्पलेट पर आधारित है। इन कंपनियों ने मिलकर प्लेटफॉर्म पर प्रतिबंधित सामग्री को हटाने के लिए समन्वय किया था, जिसमें सामूहिक हिंसा और बाल शोषण का चित्रण शामिल है।

एक साक्षात्कार में, क्लैग ने रायटर को बताया कि उन्हें विश्वास है कि कंपनियां इस समय AI-जनरेटेड छवियों को मज़बूती से लेबल कर सकती हैं, लेकिन ऑडियो और वीडियो सामग्री को चिह्नित करने के लिए उपकरण अधिक जटिल हैं और अभी भी विकसित किए जा रहे हैं।

उन्होंने कहा, “हालांकि तकनीक अभी पूरी तरह से परिपक्व नहीं है, खासकर ऑडियो और वीडियो की बात करें तो, उम्मीद है कि हम बाकी उद्योग के लिए गति और प्रोत्साहन पैदा कर सकते हैं।”

उन्होंने कहा कि मेटा लोगों को अपने बदले हुए ऑडियो और वीडियो कंटेंट को खुद लेबल करने की आवश्यकता शुरू कर देगा और ऐसा न करने पर दंड लगाएगा। हालांकि, उन्होंने दंड का विवरण नहीं दिया।

उन्होंने यह भी कहा कि वर्तमान में AI टूल्स जैसे ChatGPT द्वारा बनाए गए लिखित टेक्स्ट को लेबल करने का कोई व्यवहारिक तरीका नहीं है। क्लैग ने कहा, “वह जहाज रवाना हो चुका है।”

मेटा के एक प्रवक्ता ने यह बताने से इनकार कर दिया कि क्या कंपनी अपने एन्क्रिप्टेड मैसेजिंग सेवा व्हाट्सएप पर साझा की गई जनरेटिव AI सामग्री पर लेबल लगाएगी।

मेटा की स्वतंत्र निगरानी बोर्ड ने सोमवार को भ्रामक रूप से डॉक्टर्ड वीडियो पर कंपनी की नीति को फटकार लगाते हुए कहा कि यह बहुत संकीर्ण है और सामग्री को हटाने के बजाय लेबल किया जाना चाहिए।