जब से दुनिया में कृत्रिम बुद्धिमता (एआई- आर्टिफिशियल इंटेलिजेंस) का प्रचलन हुआ है, लगने लगा है कि दुनिया एक धुंधलके (ग्रे एरिया) में कदम रख चुकी है. यह ग्रे एरिया खास तौर से एआई द्वारा उत्पादित उस सामग्री (जेनरेटेड कंटेंट) के बारे में है, जिसका वास्ता किसी और शख्स से है, लेकिन उसकी जानकारी या इजाजत लिए बगैर उस सामग्री का इस्तेमाल कोई और कर रहा है. मामला सिर्फ दूसरों के द्वारा इस्तेमाल या कॉपीराइट के अधिकार-हनन का नहीं है, बल्कि उसके गलत और अनैतिक इस्तेमाल का है जिसका खतरा एआई और डीपफेक के गठजोड़ ने बढ़ा दिया है.
इसे यूं समझें कि शशि थरूर की किसी किताब का कोई हिस्सा बिना उनकी अनुमति के कोई दूसरा शख्स करे, उसे स्वरचित रचना बताए और उस पर लाभ कमाए, तो यह कॉपीराइट का उल्लंघन है. पर एआई-डीपफेक का खतरा इससे भी बड़ा है. इसमें हो सकता है कि शशि थरूर की फोटो या वीडियो को एआई-डीपफेक से पुनर्निर्मित (री-जेनरेट) किया जाए, उन्हें भद्दी पोशाक पहना दी जाए,
उनके चित्र-वीडियो का इस्तेमाल किसी विज्ञापन में कर लिया जाए और इसकी कोई अनुमति थरूर से नहीं ली जाए. ऐसे मामले एआई उत्पादित डीपफेक से जुड़ते हैं और इसमें ज्यादा खतरा महिलाओं, नाबालिगों और बच्चों के लिए है. हाल ही में इंडोनेशिया और मलेशिया ने अपने-अपने देश में ग्रोक एआई चैटबॉट के इस्तेमाल पर अस्थायी रोक लगा दी है.
दोनों देशों ने ग्रोक के जरिए बिना सहमति के यौन-उद्देश्य वाले डीपफेक बनाने के मामलों पर चिंता जताई. मामला यह है कि ग्रोक के चित्र और वीडियो (इमेज जेनरेशन) वाले फीचर का दुरुपयोग कर लोगों (खासकर महिलाओं और बच्चों) को कम कपड़ों में या यौन हरकतें करते दिखाया जा रहा था. ऐसे मामलों में मौजूदा नियम-कायदों को अपर्याप्त मानते हुए इन देशों ने एक्स (पूर्व ट्विटर) व ग्रोक पर कार्रवाई की.
ये दुनिया में ग्रोक पर पहली सरकारी पाबंदियां हैं. भारत में भी कई हस्तियां डीपफेक का शिकार हो चुकी हैं. दुनियाभर की सरकारें इन मामलों को देखकर चिंतित हैं. हमारे देश में प्रधानमंत्री नरेंद्र मोदी एक से ज्यादा अवसरों पर डीपफेक की रोकथाम के लिए कानून बनाने की बात कह चुके हैं.
हालांकि भारत के आईटी एक्ट में पहले से ही ऐसे मामलों में सजा के प्रावधान मौजूद रहे हैं. पर क्या जुर्माने और सख्ती की कानूनी व्यवस्थाएं इन मामलों पर अंकुश रख सकते हैं? असल में, इंटरनेट के जरिए हो रहा तकनीक का तेज विस्तार ऐसे मामलों के खुलासों और रोकथाम से पहले ही काफी नुकसान कर देता है.
इसलिए सजा से पहले ये प्रबंध करने होंगे कि तकनीक ही इनकी तुरंत पहचान करे और संबंधित विभागों को ऐसा करने वालों की पहचान उपलब्ध कराए. सोशल मीडिया कंपनियों को इन कानूनों के दायरे में लाना अच्छा उपाय है, बशर्ते वे कानूनों की पकड़ में आने का सूराख न खोज लें.