सोशल मीडिया प्लेटफॉर्म X ने अपने AI टूल, Grok के माध्यम से उत्पन्न अश्लील सामग्री के मामले में अपनी गलती मान ली है। एक्स ने भारतीय कानूनों के हिसाब से काम करने का आश्वासन दिया है।
सरकारी सूत्रों ने रविवार (11 जनवरी) को बताया कि सोशल मीडिया प्लेटफॉर्म X ने अपनी सामग्री नियंत्रण प्रक्रियाओं में खामियों को स्वीकार किया है और अपनी गलती मानी है। कंपनी ने अधिकारियों को आश्वासन दिया है कि वह भारतीय कानूनों और विनियमों का सख्ती से पालन करेगी। यह कार्रवाई प्लेटफॉर्म पर अश्लील और आपत्तिजनक सामग्री के प्रसार को लेकर चिंताओं के बाद की गई है, जिसमें से कुछ कथित तौर पर इसके AI टूल, Grok के माध्यम से उत्पन्न या प्रसारित की गई थी। इसके जवाब में, X ने लगभग 3,500 सामग्री को ब्लॉक कर दिया है और 600 से अधिक खाते हटा दिए हैं। X ने आगे कहा कि वह भविष्य में प्लेटफॉर्म पर अश्लील छवियों की अनुमति नहीं देगा।
पर्याप्त नहीं था जवाब
इससे पहले, सरकार ने ‘एक्स’ से ग्रोक एआई से जुड़ी अश्लील सामग्री पर की गई विशिष्ट कार्रवाई और भविष्य में ऐसी पुनरावृत्ति को रोकने के उपायों सहित विस्तृत जानकारी मांगी थी क्योंकि इस मंच द्वारा दिए जवाब को सरकार ने अपर्याप्त पाया था। पहला नोटिस जारी होने के बाद अपने जवाब में ‘एक्स’ ने भ्रामक पोस्ट और गैर-सहमति से प्राप्त यौन उत्तेजक छवियों से संबंधित पोस्ट के मामले में अपने द्वारा अपनाई जाने वाली सख्त सामग्री हटाने की नीतियों की रूपरेखा प्रस्तुत की थी। हालांकि, जवाब लंबा और विस्तृत था लेकिन इसमें कुछ महत्वपूर्ण जानकारियां छूट गई थीं, जिनमें ग्रोक एआई की अश्लील सामग्री के मुद्दे पर की गई कार्रवाई और भविष्य में इसे रोकने के उपाय शामिल थे।
X को दी कड़ी चेतावनी
दो जनवरी को सूचना प्रौद्योगिकी मंत्रालय ने ‘ग्रोक’ और अन्य उपकरणों जैसी एआई-आधारित सेवाओं के दुरुपयोग के माध्यम से उत्पन्न की जा रही अश्लील और यौन सामग्री के संबंध में ‘एक्स’ को कड़ी चेतावनी जारी की थी। इस सोशल मीडिया मंच के ‘सेफ्टी’ हैंडल ने पिछले रविवार को कहा कि वह अपने मंच पर अवैध सामग्री, जिसमें बाल यौन शोषण सामग्री (सीएसएएम) भी शामिल है, के खिलाफ कार्रवाई करता है। इसके तहत ऐसी सामग्री को हटाना, खातों को स्थायी रूप से निलंबित करना और आवश्यकतानुसार स्थानीय सरकारों एवं कानून प्रवर्तन एजेंसियों के साथ काम करना शामिल है। ‘एक्स’ ने अवैध सामग्री पर मस्क के रुख को दोहराते हुए कहा था, ‘‘ग्रोक का उपयोग करके या उससे अवैध सामग्री बनवाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जो कि अवैध सामग्री अपलोड करने पर भुगतने पड़ते हैं।’’
