नई दिल्ली: एआई-जनित सिंथेटिक सामग्री और डीपफेक से बढ़ते खतरे से चिंतित, सरकार संभावित गलत सूचनाओं के खिलाफ फेसबुक, इंस्टाग्राम, गूगल, यूट्यूब और एक्स जैसे शीर्ष सोशल मीडिया प्लेटफार्मों पर अधिक जवाबदेही तय करने के लिए आईटी कानून में संशोधन पर विचार कर रही है, साथ ही उपयोगकर्ताओं द्वारा आसान पहचान के लिए लेबलिंग और प्रमुख मार्करों को अनिवार्य करने पर भी विचार कर रही है।आईटी मंत्री अश्विनी वैष्णव बुधवार को कहा कि सरकार को उपयोगकर्ताओं की गलत सूचना को रोकने के लिए सिंथेटिक सामग्री और डीपफेक के खिलाफ कदम उठाने के अनुरोध मिल रहे हैं। “संसद के साथ-साथ कई अन्य मंचों पर, लोगों ने मांग की है कि समाज को नुकसान पहुंचाने वाले डीपफेक के बारे में कुछ किया जाना चाहिए। लोग कुछ प्रमुख व्यक्तियों की छवि का उपयोग कर रहे हैं और डीपफेक बना रहे हैं जो बाद में उनके व्यक्तिगत जीवन, गोपनीयता को प्रभावित कर रहे हैं और साथ ही समाज में विभिन्न गलत धारणाएं पैदा कर रहे हैं। इसलिए, हम जो कदम उठा रहे हैं वह यह सुनिश्चित कर रहा है कि उपयोगकर्ताओं को पता चले कि कोई चीज़ सिंथेटिक है या असली। एक बार उपयोगकर्ताओं को पता चल जाए, तो वे कॉल ले सकते हैं। यह महत्वपूर्ण है कि उपयोगकर्ता जानें कि कृत्रिम क्या है और वास्तविक क्या है। यह भेद अनिवार्य डेटा लेबलिंग के माध्यम से किया जाएगा।सिंथेटिक सामग्री के संबंध में मसौदा नियमों पर हितधारकों से टिप्पणियां मांगने वाले नोट में, आईटी मंत्रालय का कहना है कि वह सभी उपयोगकर्ताओं के लिए एक खुला, सुरक्षित, विश्वसनीय और जवाबदेह इंटरनेट सुनिश्चित करने के लिए प्रतिबद्ध है। “जेनरेटिव एआई टूल की बढ़ती उपलब्धता और कृत्रिम रूप से उत्पन्न जानकारी (आमतौर पर डीपफेक के रूप में जाना जाता है) के प्रसार के साथ, उपयोगकर्ता को नुकसान पहुंचाने, गलत सूचना फैलाने, चुनावों में हेरफेर करने या व्यक्तियों का प्रतिरूपण करने के लिए ऐसी प्रौद्योगिकियों के दुरुपयोग की संभावना काफी बढ़ गई है। इन जोखिमों को पहचानते हुए, और व्यापक सार्वजनिक चर्चाओं और संसदीय विचार-विमर्श के बाद, आईटी मंत्रालय ने सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 में वर्तमान मसौदा संशोधन तैयार किया है।मंत्रालय ने कहा कि मसौदा नियमों का उद्देश्य मध्यस्थों, विशेष रूप से सोशल मीडिया मध्यस्थों (एसएमआई) और महत्वपूर्ण सोशल मीडिया मध्यस्थों (एसएसएमआई) के साथ-साथ उन प्लेटफार्मों के लिए उचित परिश्रम दायित्वों को मजबूत करना है जो कृत्रिम रूप से उत्पन्न सामग्री के निर्माण या संशोधन को सक्षम करते हैं।मंत्रालय ने कृत्रिम रूप से उत्पन्न जानकारी को ऐसी जानकारी के रूप में परिभाषित किया है जो कृत्रिम रूप से या एल्गोरिदमिक रूप से कंप्यूटर संसाधन का उपयोग करके बनाई, उत्पन्न, संशोधित या परिवर्तित की जाती है, जिससे ऐसी जानकारी उचित रूप से प्रामाणिक या सत्य प्रतीत होती है।प्रस्तावित संशोधनों के माध्यम से, सरकार ऐसी जानकारी के लिए लेबलिंग और मेटाडेटा एम्बेडिंग आवश्यकताओं को अनिवार्य करते हुए सिंथेटिक रूप से उत्पन्न जानकारी की स्पष्ट परिभाषा चाहती है ताकि यह सुनिश्चित किया जा सके कि उपयोगकर्ता सिंथेटिक को प्रामाणिक सामग्री से अलग कर सकें। इसके अलावा, यह दृश्यता और श्रव्यता मानकों को चाहता है जिसके लिए सिंथेटिक सामग्री को प्रमुखता से चिह्नित किया जाना चाहिए, जिसमें न्यूनतम 10% दृश्य या प्रारंभिक ऑडियो अवधि कवरेज शामिल है। बिचौलियों से, यह “उन्नत सत्यापन और घोषणा दायित्व” चाहता है, जबकि यह पुष्टि करने के लिए उनकी ओर से उचित तकनीकी उपायों को अनिवार्य करता है कि क्या अपलोड की गई सामग्री कृत्रिम रूप से उत्पन्न हुई है जिसे तदनुसार लेबल किया जाना चाहिए।मंत्रालय का कहना है, “इन संशोधनों का उद्देश्य उपयोगकर्ता जागरूकता को बढ़ावा देना, ट्रेसबिलिटी बढ़ाना और एआई-संचालित प्रौद्योगिकियों में नवाचार के लिए सक्षम वातावरण बनाए रखते हुए जवाबदेही सुनिश्चित करना है।”मंत्रालय के अधिकारियों ने कहा कि अगर सोशल मीडिया मध्यस्थ ऐसी जानकारी के खिलाफ विश्वसनीय रूप से कार्रवाई करने में विफल रहते हैं तो उनके खिलाफ “उचित कार्रवाई” हो सकती है।मंत्रालय ने 6 नवंबर तक आईटी नियमों में संशोधन के मसौदे पर प्रतिक्रिया/टिप्पणियां मांगी हैं। “सोशल प्लेटफॉर्म पर डीपफेक ऑडियो, वीडियो और सिंथेटिक मीडिया के वायरल होने की हालिया घटनाओं ने जेनरेटिव एआई की ठोस झूठ बनाने की क्षमता का प्रदर्शन किया है – व्यक्तियों को उन कृत्यों या बयानों में चित्रित करना जो उन्होंने कभी नहीं किए। इस तरह की सामग्री को गलत सूचना फैलाने, प्रतिष्ठा को नुकसान पहुंचाने, चुनावों में हेरफेर करने या प्रभावित करने या वित्तीय धोखाधड़ी करने के लिए हथियार बनाया जा सकता है, ”आईटी मंत्रालय की वेबसाइट पर व्याख्यात्मक नोट के साथ कहा गया है।अलग से, आईटी मंत्रालय ने सोशल मीडिया प्लेटफार्मों पर सामग्री हटाने के अनुरोधों के संबंध में एक उचित तंत्र सुनिश्चित करने के लिए भी कदम उठाए, इस काम के लिए केवल शीर्ष स्तर के अधिकारियों को अनिवार्य किया। मंत्रालय ने निर्धारित किया है कि ‘गैरकानूनी जानकारी’ को हटाने के लिए सोशल मीडिया प्लेटफार्मों को सूचना केवल वरिष्ठ अधिकारियों द्वारा ही जारी की जा सकती है और इसके लिए सटीक विवरण और कारणों को निर्दिष्ट करने की आवश्यकता होगी, क्योंकि इसने सामग्री हटाने की प्रक्रियाओं को सुव्यवस्थित करने और कार्यों में पारदर्शिता, स्पष्टता और सटीकता लाने के लिए आईटी नियमों में संशोधन को अधिसूचित किया है।इसके अलावा, नियम 3(1)(डी) के तहत जारी की गई सभी सूचनाएं एक अधिकारी द्वारा मासिक समीक्षा के अधीन होंगी, जो उचित सरकार के सचिव के पद से नीचे नहीं होगा, ताकि यह सुनिश्चित किया जा सके कि ऐसी कार्रवाइयां “आवश्यक, आनुपातिक और कानून के अनुरूप” रहें।
