Meta ने Instagram और Facebook पर बाल यौन शोषण सामग्री का पता लगाने के लिए AI का उपयोग किया
Meta ने भारतीय सरकार द्वारा Instagram और Facebook पर बाल यौन शोषण सामग्री (CSAM) की मौजूदगी को लेकर की गई कानूनी जांच और आलोचना के बाद अपनी सुरक्षा प्रणाली में सुधार के लिए AI तकनीक का इस्तेमाल शुरू किया है। कंपनी का कहना है कि यह एआई तकनीक अवैध सामग्री की पहचान में अधिक प्रभावी साबित हो रही है।
AI आधारित नई तकनीक से सुरक्षा में सुधार
Meta ने बताया कि अब वे बड़े भाषा मॉडल (LLM) का उपयोग कर बाल यौन शोषण सामग्री का पता लगेगा। इसके अलावा, विज्ञापनों की पारदर्शिता बढ़ाने, विज्ञापन सामग्री में AI आधारित जाँच, एक रेड-टीमिंग AI एजेंट जो सुरक्षा में खामियों का पता लगाएगा, और उन यूजर्स की पहचान जो हटाए जाने के बाद नई प्रोफाइल बनाते हैं, जैसी रणनीतियां भी अपनाई जा रही हैं।
मीडिया रिपोर्टों में यह सामने आया था कि Instagram और Facebook के विज्ञापनों में भी CSAM सामग्री मौजूद थी। इस मुद्दे को लेकर भारतीय केंद्र सरकार और राष्ट्रीय बाल अधिकार संरक्षण आयोग (NCPCR) ने Meta से मुलाकात की।
भारत में CSAM के खिलाफ कड़े कदम
कुछ सप्ताह पहले, Meta ने घोषणा की थी कि वह भारत की कानून प्रवर्तन एजेंसियों के साथ CSAM की रिपोर्ट साझा करेगा। यह कार्रवाई अमेरिका स्थित National Center for Missing & Exploited Children (NCMEC) को रिपोर्ट करने के अतिरिक्त है।
Meta के एक प्रेस विज्ञप्ति में कहा गया है कि जनवरी से जून 2026 के बीच, Facebook और Instagram पर भारत में लगभग 5.3 मिलियन बाल शोषण से जुड़ी सामग्री पर कार्रवाई हुई। इनमें से 98% से अधिक सामग्री को बिना किसी रिपोर्टिंग के ही पहले ही हटा दिया गया।
कंपनी की यह पहल भारत में बच्चों के लिए ऑनलाइन प्लेटफॉर्म को सुरक्षित बनाने के उद्देश्य से एक महत्वपूर्ण कदम है। Meta का कहना है कि यह तकनीक भविष्य में और बेहतर होगी, जिससे अवैध सामग्री पर तेजी से नियंत्रण किया जा सकेगा।
यह नई AI आधारित निगरानी प्रणाली Meta के प्लेटफॉर्म्स पर बच्चों की सुरक्षा बढ़ाने के लिए डिज़ाइन की गई है, खासकर उन क्षेत्रों में जहां गलत सामग्री तेजी से फैल सकती है।
Meta की तरफ से यह पुष्टि भी हुई कि भारत में सक्रिय जिन यूजर्स को एक बार हटाया जाता है, उनकी नई प्रोफाइल बनाने की कोशिशों को भी ये AI सिस्टम ट्रैक कर रही है। यह कदम ऑनलाइन बाल शोषण से जुड़ी गतिविधियों को रोकने में मदद करेगा।
