सरकार सख्त एआई, डीपफेक नियमों की योजना बना रही है; प्लेटफ़ॉर्म जवाबदेही का प्रस्ताव करता है

सरकार ने बुधवार को आईटी नियमों में बदलाव का प्रस्ताव दिया, जिसमें एआई-जनित सामग्री की स्पष्ट लेबलिंग को अनिवार्य किया गया और डीपफेक और गलत सूचना से उपयोगकर्ता को होने वाले नुकसान को रोकने के लिए सिंथेटिक जानकारी को सत्यापित करने और चिह्नित करने के लिए फेसबुक और यूट्यूब जैसे बड़े प्लेटफार्मों की जवाबदेही बढ़ाई गई।

आईटी मंत्रालय ने नोट किया कि सोशल प्लेटफॉर्म पर वायरल हो रहे डीपफेक ऑडियो, वीडियो और सिंथेटिक मीडिया ने “ठोस झूठ” बनाने के लिए जेनरेटिव एआई की क्षमता का प्रदर्शन किया है, जहां ऐसी सामग्री को गलत सूचना फैलाने, प्रतिष्ठा को नुकसान पहुंचाने, चुनावों में हेरफेर करने या प्रभावित करने या वित्तीय धोखाधड़ी करने के लिए “हथियार” बनाया जा सकता है।

आईटी नियमों में प्रस्तावित संशोधन कृत्रिम रूप से उत्पन्न जानकारी से संबंधित लेबलिंग, ट्रेसबिलिटी और जवाबदेही के लिए एक स्पष्ट कानूनी आधार प्रदान करते हैं।

कृत्रिम रूप से उत्पन्न जानकारी को स्पष्ट रूप से परिभाषित करने के अलावा, मसौदा संशोधन, जिस पर हितधारकों से 6 नवंबर, 2025 तक टिप्पणियां मांगी गई हैं, ऐसी सामग्री को प्रामाणिक मीडिया से अलग करने के लिए कृत्रिम रूप से उत्पन्न या संशोधित जानकारी के लिए लेबलिंग, दृश्यता और मेटाडेटा एम्बेडिंग को अनिवार्य करता है।

सख्त नियमों से उचित और उचित तकनीकी उपायों के माध्यम से सिंथेटिक जानकारी को सत्यापित करने और चिह्नित करने में महत्वपूर्ण सोशल मीडिया मध्यस्थों (जिनके पास 50 लाख या अधिक पंजीकृत उपयोगकर्ता हैं) की जवाबदेही बढ़ जाएगी।

मसौदा नियम प्लेटफार्मों को प्रमुख मार्करों और पहचानकर्ताओं के साथ एआई-जनरेटेड सामग्री को लेबल करने के लिए बाध्य करता है, जो दृश्य प्रदर्शन के न्यूनतम 10 प्रतिशत या ऑडियो क्लिप की अवधि के शुरुआती 10 प्रतिशत को कवर करता है।

अपलोड की गई जानकारी कृत्रिम रूप से उत्पन्न हुई है या नहीं, इस पर उपयोगकर्ता घोषणा प्राप्त करने के लिए महत्वपूर्ण सोशल मीडिया प्लेटफ़ॉर्म की आवश्यकता होती है, ऐसी घोषणाओं को सत्यापित करने के लिए उचित और आनुपातिक तकनीकी उपाय लागू करें, और यह सुनिश्चित करें कि एआई-जनित जानकारी स्पष्ट रूप से लेबल की गई है या इसके साथ एक नोटिस के साथ इंगित किया गया है।

मसौदा नियम बिचौलियों को ऐसे लेबल या पहचानकर्ताओं को संशोधित करने, दबाने या हटाने से रोकते हैं।

“संसद के साथ-साथ कई मंचों पर मांग की गई है कि डीपफेक के बारे में कुछ किया जाए, जो समाज को नुकसान पहुंचा रहे हैं। लोग कुछ प्रमुख व्यक्तियों की छवि का उपयोग कर रहे हैं, जो बाद में उनके व्यक्तिगत जीवन और गोपनीयता को प्रभावित करता है। हमने यह सुनिश्चित करने के लिए कदम उठाए हैं कि उपयोगकर्ताओं को पता चले कि क्या कुछ सिंथेटिक या वास्तविक है। यह महत्वपूर्ण है कि उपयोगकर्ता जानें कि वे क्या देख रहे हैं,” आईटी मंत्री अश्विनी वैष्णव ने कहा, अनिवार्य लेबलिंग और दृश्यता के बीच स्पष्ट अंतर को सक्षम किया जाएगा। सिंथेटिक और प्रामाणिक सामग्री.

एक बार नियमों को अंतिम रूप दे दिए जाने के बाद, किसी भी अनुपालन विफलता का मतलब बड़े प्लेटफार्मों द्वारा प्राप्त सुरक्षित बंदरगाह खंड का नुकसान हो सकता है।

आईटी मंत्रालय ने कहा कि जेनेरिक एआई टूल की बढ़ती उपलब्धता और कृत्रिम रूप से उत्पन्न जानकारी (डीपफेक) के प्रसार के साथ, उपयोगकर्ता को नुकसान पहुंचाने, गलत सूचना फैलाने, चुनावों में हेरफेर करने या व्यक्तियों का प्रतिरूपण करने के लिए ऐसी प्रौद्योगिकियों के दुरुपयोग की संभावना काफी बढ़ गई है।

तदनुसार, आईटी मंत्रालय ने मध्यस्थों, विशेष रूप से महत्वपूर्ण सोशल मीडिया मध्यस्थों (एसएसएमआई) के साथ-साथ कृत्रिम रूप से उत्पन्न सामग्री के निर्माण या संशोधन को सक्षम करने वाले प्लेटफार्मों के लिए उचित परिश्रम दायित्वों को मजबूत करने के उद्देश्य से आईटी नियम, 2021 में संशोधन का मसौदा तैयार किया है।

मसौदे में एक नया खंड प्रस्तुत किया गया है जो कृत्रिम रूप से उत्पन्न सामग्री को ऐसी जानकारी के रूप में परिभाषित करता है जो कंप्यूटर संसाधन का उपयोग करके कृत्रिम या एल्गोरिदमिक रूप से बनाई, उत्पन्न, संशोधित या परिवर्तित की जाती है जो उचित रूप से प्रामाणिक या सत्य प्रतीत होती है।

आईटी मंत्रालय के एक नोट में कहा गया है कि विश्व स्तर पर, और भारत में, नीति निर्माता मनगढ़ंत या सिंथेटिक छवियों, वीडियो और ऑडियो क्लिप (डीपफेक) के बारे में चिंतित हैं जो वास्तविक सामग्री से अप्रभेद्य हैं, और खुलेआम गैर-सहमति वाली अंतरंग या अश्लील कल्पना का उत्पादन करने, मनगढ़ंत राजनीतिक या समाचार सामग्री के साथ जनता को गुमराह करने, वित्तीय लाभ के लिए धोखाधड़ी या प्रतिरूपण करने के लिए उपयोग किया जा रहा है।

नवीनतम कदम महत्वपूर्ण है क्योंकि भारत फेसबुक, व्हाट्सएप और अन्य जैसे वैश्विक सोशल मीडिया प्लेटफार्मों के लिए शीर्ष बाजारों में से एक है।

मेटा के एक वरिष्ठ अधिकारी ने पिछले साल कहा था कि भारत मेटा एआई के उपयोग के लिए सबसे बड़ा बाजार बन गया है। इस साल अगस्त में ओपनएआई के सीईओ सैम ऑल्टमैन ने कहा था कि भारत, जो वर्तमान में कंपनी के लिए दूसरा सबसे बड़ा बाजार है, जल्द ही वैश्विक स्तर पर इसका सबसे बड़ा बाजार बन सकता है।

यह पूछे जाने पर कि क्या बदले हुए नियम ओपनएआई के सोरा या जेमिनी पर उत्पन्न सामग्री पर भी लागू होंगे, सूत्रों ने कहा कि कई मामलों में, वीडियो उत्पन्न होते हैं लेकिन प्रसारित नहीं होते हैं, लेकिन जब कोई वीडियो प्रसार के लिए पोस्ट किया जाता है तो दायित्व शुरू हो जाता है। ऐसे मामले में जिम्मेदारी उन मध्यस्थों पर होगी जो मीडिया को जनता के सामने प्रदर्शित कर रहे हैं और उन उपयोगकर्ताओं पर होंगे जो प्लेटफार्मों पर मीडिया की मेजबानी कर रहे हैं।

व्हाट्सएप जैसे मैसेजिंग प्लेटफॉर्म पर एआई सामग्री के उपचार पर, सूत्रों ने कहा कि एक बार यह उनके संज्ञान में आने के बाद, उन्हें इसकी वायरलिटी को रोकने के लिए कदम उठाने होंगे।

भारत में एआई-जनित डीपफेक में चिंताजनक वृद्धि देखी गई है, जिससे अदालत को हस्तक्षेप करना पड़ा है। सबसे हालिया वायरल मामलों में सद्गुरु की फर्जी गिरफ्तारी को दर्शाने वाले भ्रामक विज्ञापन शामिल हैं, जिन्हें दिल्ली उच्च न्यायालय ने अमेरिकी डिजिटल दिग्गज Google को हटाने का आदेश दिया था।

इस महीने की शुरुआत में, ऐश्वर्या राय बच्चन और अभिषेक बच्चन ने यूट्यूब और गूगल पर मुकदमा दायर किया था, जिसमें कथित एआई डीपफेक वीडियो पर 4 करोड़ रुपये का हर्जाना मांगा गया था।

– समाप्त होता है