नई दिल्ली। एलन मस्क की xAI द्वारा विकसित Grok AI एक बार फिर विवादों में घिर गया है। प्लेटफॉर्म पर यूजर्स द्वारा महिलाओं और नाबालिगों की तस्वीरों को AI की मदद से अश्लील और सेक्शुअलाइज्ड रूप देने के मामलों के बाद भारत सरकार ने X (पूर्व ट्विटर) को कड़ी चेतावनी दी है। IT मंत्रालय ने 2 जनवरी को जारी नोटिस में Grok के दुरुपयोग पर तत्काल कार्रवाई की मांग की थी, लेकिन सुधार न होने पर अब अतिरिक्त समय दिया गया है।
सरकार की सख्ती और नया डेडलाइन
IT मंत्रालय ने X को Grok की टेक्निकल, प्रोसीजरल और गवर्नेंस फ्रेमवर्क की व्यापक समीक्षा करने का निर्देश दिया है। मूल नोटिस में 72 घंटे की डेडलाइन थी, लेकिन अब इसे बढ़ाकर 7 जनवरी तक कर दिया गया है। इस दौरान सभी अश्लील, नग्न, सेक्शुअली एक्सप्लिसिट या अवैध कंटेंट हटाने और यूजर्स के खिलाफ सख्त एक्शन लेने को कहा गया है। गैर-अनुपालन पर प्लेटफॉर्म की ‘सेफ हार्बर’ सुरक्षा छीनी जा सकती है, जिससे कानूनी कार्रवाई का खतरा बढ़ जाएगा।
IT मंत्रालय ने X को Grok की टेक्निकल, प्रोसीजरल और गवर्नेंस फ्रेमवर्क की व्यापक समीक्षा करने का निर्देश दिया है। मूल नोटिस में 72 घंटे की डेडलाइन थी, लेकिन अब इसे बढ़ाकर 7 जनवरी तक कर दिया गया है। इस दौरान सभी अश्लील, नग्न, सेक्शुअली एक्सप्लिसिट या अवैध कंटेंट हटाने और यूजर्स के खिलाफ सख्त एक्शन लेने को कहा गया है। गैर-अनुपालन पर प्लेटफॉर्म की ‘सेफ हार्बर’ सुरक्षा छीनी जा सकती है, जिससे कानूनी कार्रवाई का खतरा बढ़ जाएगा।
महिलाओं और बच्चों पर फोकस
सरकार ने चिंता जताई है कि Grok का इस्तेमाल फेक अकाउंट्स से महिलाओं की फोटोज को बिकिनी या न्यूड में बदलने के लिए हो रहा है, जो प्राइवेसी और गरिमा का उल्लंघन है। कुछ मामलों में नाबालिगों की इमेज भी प्रभावित हुईं, जिसे डिजिटल यौन उत्पीड़न माना जा रहा है। यह मुद्दा शिव सेना (UBT) सांसद प्रियंका चतुर्वेदी की शिकायत से शुरू हुआ, जिन्होंने IT मंत्री अश्विनी वैष्णव से हस्तक्षेप की मांग की थी।
सरकार ने चिंता जताई है कि Grok का इस्तेमाल फेक अकाउंट्स से महिलाओं की फोटोज को बिकिनी या न्यूड में बदलने के लिए हो रहा है, जो प्राइवेसी और गरिमा का उल्लंघन है। कुछ मामलों में नाबालिगों की इमेज भी प्रभावित हुईं, जिसे डिजिटल यौन उत्पीड़न माना जा रहा है। यह मुद्दा शिव सेना (UBT) सांसद प्रियंका चतुर्वेदी की शिकायत से शुरू हुआ, जिन्होंने IT मंत्री अश्विनी वैष्णव से हस्तक्षेप की मांग की थी।
X और मस्क का पक्ष
X ने कहा है कि अवैध कंटेंट बनाने वाले अकाउंट्स बैन किए जाएंगे। एलन मस्क ने भी पोस्ट कर चेतावनी दी कि Grok से गैरकानूनी कंटेंट बनाने वालों को वही सजा मिलेगी जो डायरेक्ट अपलोड करने पर होती है। हालांकि, प्लेटफॉर्म पर ऐसे कंटेंट का प्रसार जारी रहने से नीतियों की प्रभावीता पर सवाल उठ रहे हैं। Grok ने खुद स्वीकार किया कि सेफगार्ड्स में कमी थी और उन्हें ठीक किया जा रहा है।
X ने कहा है कि अवैध कंटेंट बनाने वाले अकाउंट्स बैन किए जाएंगे। एलन मस्क ने भी पोस्ट कर चेतावनी दी कि Grok से गैरकानूनी कंटेंट बनाने वालों को वही सजा मिलेगी जो डायरेक्ट अपलोड करने पर होती है। हालांकि, प्लेटफॉर्म पर ऐसे कंटेंट का प्रसार जारी रहने से नीतियों की प्रभावीता पर सवाल उठ रहे हैं। Grok ने खुद स्वीकार किया कि सेफगार्ड्स में कमी थी और उन्हें ठीक किया जा रहा है।
वैश्विक स्तर पर जांच
यह विवाद सिर्फ भारत तक सीमित नहीं है। यूरोप, फ्रांस, मलेशिया और UK में भी Grok की जांच चल रही है, जहां इसे चाइल्ड अब्यूज मैटेरियल और डीपफेक पोर्न से जोड़ा जा रहा है। विशेषज्ञों का कहना है कि AI टूल्स में मजबूत गार्डरेल्स की जरूरत है, वरना डिजिटल सुरक्षा को बड़ा खतरा है।यह मामला AI रेगुलेशन की दिशा में महत्वपूर्ण कदम साबित हो सकता है, जहां प्लेटफॉर्म्स को यूजर की गलती से ज्यादा अपनी जिम्मेदारी निभानी होगी।
यह विवाद सिर्फ भारत तक सीमित नहीं है। यूरोप, फ्रांस, मलेशिया और UK में भी Grok की जांच चल रही है, जहां इसे चाइल्ड अब्यूज मैटेरियल और डीपफेक पोर्न से जोड़ा जा रहा है। विशेषज्ञों का कहना है कि AI टूल्स में मजबूत गार्डरेल्स की जरूरत है, वरना डिजिटल सुरक्षा को बड़ा खतरा है।यह मामला AI रेगुलेशन की दिशा में महत्वपूर्ण कदम साबित हो सकता है, जहां प्लेटफॉर्म्स को यूजर की गलती से ज्यादा अपनी जिम्मेदारी निभानी होगी।
Leave a Reply