होम / बिजनेस / डीपफेक और AI कंटेंट पर मेटा की बढ़ी मुश्किलें, छिन सकता है ‘सेफ हार्बर’ का कवच

डीपफेक और AI कंटेंट पर मेटा की बढ़ी मुश्किलें, छिन सकता है ‘सेफ हार्बर’ का कवच

सरकार ने Meta के कंटेंट मॉडरेशन और रिकमेंडेशन सिस्टम पर उठाए सवाल, डीपफेक और बिना लेबल वाले AI कंटेंट को लेकर मांगा जवाब

बिजनेस वर्ल्ड ब्यूरो 1 hour ago

फेसबुक और इंस्टाग्राम की पैरेंट कंपनी मेटा (Meta) की मुश्किलें बढ़ सकती हैं. दरअसल, डीपफेक, बिना लेबल वाले AI कंटेंट और कंटेंट मॉडरेशन को लेकर केंद्र सरकार ने कंपनी के खिलाफ सख्त रुख अपनाया है. सरकार अब यह भी जांच रही है कि भारतीय कानून के तहत मेटा को ‘इंटरमीडियरी’ का दर्जा देकर मिलने वाली ‘सेफ हार्बर’ सुरक्षा जारी रखी जा सकती है या नहीं. अगर कंपनी तय कानूनी शर्तों का पालन करने में विफल पाई जाती है, तो उसकी कानूनी सुरक्षा पर असर पड़ सकता है.

दरअसल, सरकार की चिंता खास तौर पर मेटा के उन सिस्टम को लेकर है, जो यूजर्स को उनकी पसंद और व्यवहार के आधार पर कंटेंट दिखाते हैं. अधिकारियों का मानना है कि अगर कोई प्लेटफॉर्म केवल यूजर्स के कंटेंट को होस्ट करने तक सीमित नहीं है, बल्कि अपने रिकमेंडेशन सिस्टम के जरिए यह भी तय करता है कि किस यूजर को कौन-सा कंटेंट दिखाया जाए, तो उसके इंटरमीडियरी स्टेटस पर सवाल उठ सकता है.

मेटा के रिकमेंडेशन सिस्टम पर सरकार की नजर

मीडिया रिपोर्ट्स के मुताबिक, हाल में मेटा के साथ हुई बैठकों में कंपनी के रिकमेंडेशन सिस्टम और पैसे देकर कंटेंट प्रमोट करने के तरीकों पर भी सवाल किए गए. सरकार यह समझना चाहती है कि कंटेंट को चुनने, प्रमोट करने और खास यूजर्स तक पहुंचाने की प्रक्रिया इंटरमीडियरी को मिलने वाली कानूनी सुरक्षा की शर्तों के अनुरूप है या नहीं.

भारत के सूचना प्रौद्योगिकी अधिनियम, 2000 की धारा 79 के तहत इंटरमीडियरी को यूजर्स या तीसरे पक्ष की ओर से पोस्ट किए गए कंटेंट के लिए कुछ परिस्थितियों में ‘सेफ हार्बर’ सुरक्षा मिलती है. हालांकि, यह सुरक्षा कुछ तय शर्तों और कानूनी जिम्मेदारियों के पालन पर निर्भर करती है. इसमें 2021 के IT नियमों के तहत तय ड्यू डिलिजेंस की शर्तें भी शामिल हैं.

अगर कोई प्लेटफॉर्म इन कानूनी जिम्मेदारियों को पूरा नहीं करता है, तो वह धारा 79 के तहत मिलने वाली सुरक्षा गंवा सकता है. ऐसी स्थिति में उसके खिलाफ लागू कानूनों के तहत कार्रवाई का रास्ता खुल सकता है.

डीपफेक और बिना लेबल वाले AI कंटेंट पर सवाल

सरकार ने मेटा के सामने डीपफेक, चाइल्ड सेक्सुअल एब्यूज मटेरियल (CSAM), बिना लेबल वाले सिंथेटिक कंटेंट और कंटेंट मॉडरेशन से जुड़े कई मुद्दे उठाए हैं. अधिकारियों ने सवाल किया कि नियमों के तहत AI से तैयार सिंथेटिक कंटेंट की पहचान और लेबलिंग जरूरी होने के बावजूद बिना सही लेबल वाले AI वीडियो प्लेटफॉर्म पर कैसे मौजूद हैं और तेजी से फैल रहे हैं.

इस सप्ताह मेटा की ग्लोबल टीम के साथ दो दिनों तक इन मुद्दों पर विस्तार से बातचीत हुई. इस दौरान कंपनी ने अधिकारियों को तकनीकी स्तर पर अपनी व्यवस्थाओं और इन समस्याओं से निपटने के लिए उठाए जा रहे कदमों की जानकारी दी.

भारतीय भाषाओं और लोकल कंटेंट की मॉनिटरिंग पर भी जोर

सरकार ने मेटा से कंटेंट मॉनिटरिंग में इंसानी दखल बढ़ाने और भारतीय भाषाओं व स्थानीय संदर्भों को बेहतर तरीके से समझने वाली व्यवस्था मजबूत करने को कहा है. सरकार का मानना है कि भारत जैसे बहुभाषी देश में केवल ऑटोमेटेड सिस्टम के भरोसे कंटेंट मॉडरेशन पर्याप्त नहीं हो सकता. इन मुद्दों पर सरकार और मेटा के बीच बातचीत आगे भी जारी रहने की संभावना है. अगले सप्ताह दोनों पक्षों के बीच एक और बैठक हो सकती है.

कानूनी कार्रवाई पर भी विचार

हालिया बैठकों के नतीजों के आधार पर सरकार मेटा के खिलाफ संभावित कानूनी कार्रवाई के विकल्पों पर भी विचार कर रही है. इसके लिए कानूनी राय लेने की प्रक्रिया भी अपनाई जा सकती है. अगर सरकार की समीक्षा आगे बढ़ती है, तो इसका असर केवल मेटा तक सीमित नहीं रह सकता. दूसरे बड़े डिजिटल प्लेटफॉर्म के रिकमेंडेशन सिस्टम, कंटेंट मॉडरेशन और यूजर कंटेंट से जुड़े तौर-तरीकों की भी भारतीय कानूनों के तहत जांच की जा सकती है.

सरकार का कहना है कि उसका मकसद सेंसरशिप लागू करना नहीं, बल्कि डिजिटल प्लेटफॉर्म्स से भारतीय कानूनों का पालन सुनिश्चित कराना है.

PM मोदी की पोस्ट हटाने का मामला भी चर्चा में

यह पूरा मामला उस घटना के बाद भी चर्चा में आया, जब प्रधानमंत्री नरेंद्र मोदी की एक फेसबुक पोस्ट को कुछ समय के लिए प्रतिबंधित कर दिया गया था. मेटा ने बाद में इसके लिए माफी मांगी थी. इसके बाद संसदीय स्थायी समिति ने भी मेटा के प्रमुख मार्क जुकरबर्ग से माफी मांगने को कहा था और कंपनी को मिलने वाली कानूनी सुरक्षा पर दोबारा विचार करने की चेतावनी दी थी.

टैग्स