आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते उपयोग के साथ-साथ उससे जुड़े जोखिम भी तेजी से सामने आ रहे हैं। हाल ही में सामने आई एक रिपोर्ट के अनुसार, टेक दिग्गज Apple ने Elon Musk की AI कंपनी xAI द्वारा विकसित Grok ऐप को लेकर सख्त रुख अपनाया था और उसे अपने App Store से हटाने की चेतावनी दी थी।
यह मामला उस समय सामने आया जब Grok AI टूल का इस्तेमाल बड़े पैमाने पर गैर-सहमति (non-consensual) वाले डीपफेक कंटेंट बनाने के लिए किया जा रहा था। खासकर महिलाओं और बच्चों की आपत्तिजनक और नकली तस्वीरें तैयार किए जाने के आरोपों ने वैश्विक स्तर पर भारी विवाद खड़ा कर दिया।
रिपोर्ट्स के मुताबिक, Apple ने इस मामले में सार्वजनिक रूप से कोई बयान नहीं दिया था, लेकिन उसने पर्दे के पीछे कार्रवाई करते हुए Grok और X (पूर्व में Twitter) को अपने App Store गाइडलाइंस का उल्लंघन करने वाला पाया। इसके बाद कंपनी ने निजी तौर पर चेतावनी दी कि अगर सुधार नहीं किए गए, तो ऐप को प्लेटफॉर्म से हटा दिया जाएगा।
यह विवाद तब और बढ़ गया जब विभिन्न देशों के सांसदों और सामाजिक संगठनों ने Apple और Google जैसी कंपनियों पर दबाव बनाया कि वे ऐसे ऐप्स को अपने प्लेटफॉर्म से हटाएं, जो डीपफेक और अवैध कंटेंट के प्रसार को बढ़ावा देते हैं।
Grok से जुड़ा यह विवाद केवल एक टेक्नोलॉजी समस्या नहीं, बल्कि एक सामाजिक और कानूनी चुनौती बन गया है। रिपोर्ट्स के अनुसार, इस AI टूल के जरिए बड़ी संख्या में ऐसी तस्वीरें बनाई गईं, जिनमें लोगों को बिना अनुमति के आपत्तिजनक रूप में दिखाया गया। यह न केवल निजता का उल्लंघन है, बल्कि कई मामलों में कानून के दायरे में भी आता है।
विशेषज्ञों का मानना है कि यह घटना टेक कंपनियों के लिए एक चेतावनी है कि AI तकनीक का उपयोग जिम्मेदारी के साथ किया जाना चाहिए। साथ ही, प्लेटफॉर्म्स को ऐसे कंटेंट को रोकने के लिए मजबूत मॉडरेशन सिस्टम लागू करने होंगे।
इस पूरे मामले में Elon Musk की कंपनी xAI भी जांच और आलोचना के घेरे में आ गई है। हालांकि कंपनी ने कुछ कदम उठाते हुए Grok के कुछ फीचर्स को सीमित किया, लेकिन आलोचकों का कहना है कि यह पर्याप्त नहीं है।
कुल मिलाकर, Apple द्वारा दी गई यह चेतावनी दर्शाती है कि अब टेक इंडस्ट्री में AI के दुरुपयोग को लेकर सख्ती बढ़ रही है। आने वाले समय में ऐसे मामलों में और कड़े नियम और निगरानी देखने को मिल सकती है, ताकि तकनीक का इस्तेमाल सुरक्षित और जिम्मेदार तरीके से हो सके।
