सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) ने अपने AI चैटबॉट Grok पर बनाए जा रहे अश्लील और आपत्तिजनक कंटेंट को लेकर सख्त कदम उठाने का फैसला किया है। कंपनी ने स्पष्ट किया है कि इस तरह के कंटेंट को तुरंत हटाया जाएगा। इसके साथ ही, अगर कोई यूजर Grok का इस्तेमाल कर आपत्तिजनक या अश्लील कंटेंट तैयार करता है, तो उसके खिलाफ वैसी ही कार्रवाई की जाएगी जैसी अवैध कंटेंट अपलोड करने पर होती है, यानी यूजर का अकाउंट स्थायी रूप से बैन कर दिया जाएगा।
भारत सरकार की आपत्ति के बाद सख्ती
X का यह कदम भारत सरकार द्वारा जताई गई आपत्ति के तीन दिन बाद आया है। केंद्र सरकार ने 2 जनवरी को X को चेतावनी दी थी कि Grok से तैयार किए जा रहे अश्लील और अश्लील कंटेंट को तुरंत हटाया जाए।
प्रियंका चतुर्वेदी ने उठाया था मामला
शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने AI चैटबॉट Grok के दुरुपयोग पर चिंता जताते हुए IT मंत्री अश्विनी वैष्णव को पत्र लिखा था। उन्होंने बताया था कि सोशल मीडिया पर कुछ यूजर महिलाओं की असली तस्वीरों को AI की मदद से आपत्तिजनक रूप में पेश कर रहे हैं, जिससे उनकी निजता और गरिमा का उल्लंघन हो रहा है।
मस्क ने दिया जवाब
इस विवाद के बाद X के मालिक एलन मस्क ने सफाई देते हुए कहा था कि Grok केवल एक उपकरण है। इसका आउटपुट पूरी तरह इस पर निर्भर करता है कि यूजर क्या इनपुट देता है। मस्क ने कहा, “कुछ लोग कह रहे हैं कि Grok गलत तस्वीरें बना रहा है, लेकिन यह वैसा ही है जैसे कोई बुरी बात लिखने के लिए पेन को दोष दे। जिम्मेदारी टूल की नहीं, उसे इस्तेमाल करने वाले की होती है।”
सरकार ने जारी की थी एडवाइजरी
इस पूरे विवाद के बाद केंद्र सरकार ने सभी सोशल मीडिया प्लेटफॉर्म्स को सख्त चेतावनी दी थी। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने कहा है कि कंपनियां अपने प्लेटफॉर्म से अश्लील, भद्दे, यौन शोषण वाले और गैर-कानूनी कंटेंट को तुरंत हटाएं। अगर ऐसा नहीं किया गया तो कंपनियों और संबंधित यूजर्स दोनों पर केस दर्ज किया जाएगा।
