छल-कपट सीखता एआई और खत्म होती नैतिकता का संकट

हेमधर शर्मा

दुनिया में भले ही अनगिनत प्रजातियों के जीव रहते हों लेकिन ईमानदारी और बेईमानी कदाचित हम मनुष्यों की ही विशेषता रही है. इसलिए यह खबर चिंता पैदा करने वाली हो सकती है कि एआई (आर्टिफिशियल इंजेलिजेंस) ने अच्छी-खासी बेईमानी सीख ली है. चूंकि वह ‘ट्रायल एंड एरर’ का उपयोग करके समस्याओं को हल करना सीखता है, इसलिए असंभव नहीं है कि यह जल्दी ही हम मनुष्यों के नियंत्रण से बाहर हो जाए, क्योंकि उसका लक्ष्य किसी भी तरीके से समस्या समाधान करना होता है.

रिसर्च फर्म पैलिसेड रिसर्च के एक अध्ययन से पता चला है कि एआई मॉडल जब शतरंज जैसे खेल में हारने लगता है तो अपने प्रतिद्वंद्वी को हैक करके खेल को अपने पक्ष में करने की कोशिश करता है अर्थात एआई मॉडल जब मुश्किल में होते हैं, तो नियमों से खेलने के बजाय अप्रत्याशित तरीके अपनाने लगते हैं. परीक्षण के दौरान ओपन एआई के मॉडल ओ1-प्रिव्यू ने 37 प्रतिशत बार धोखाधड़ी करने की कोशिश की, जबकि डीपसीक आर1 ने 11 प्रतिशत बार ऐसा किया.

बेईमानी हम इसीलिए करते हैं कि वह किसी समस्या के समाधान का शॉर्टकट उपलब्ध कराती है. चूंकि हम उसके साइड इफेक्ट को जानते हैं और अनुभव से हमें पता होता है कि दीर्घावधि में वह हानिकारक होती है, इसलिए हम ईमानदार बने रहने की कोशिश करते हैं. लेकिन एआई को तो सिर्फ साध्य से मतलब है, साधन अच्छा है या बुरा, इससे उसे कोई फर्क नहीं पड़ता. बेईमानी करके भी उसके भीतर कोई अपराधबोध पैदा नहीं होता, क्योंकि उसमें न तो संवेदना होती है और न ही नैतिकता!

यही कारण है कि जैसे-जैसे क्षमता बढ़ेगी, उसे नियंत्रित करना मुश्किल होता जाएगा. ओपन एआई के परीक्षण के दौरान ओ1 ने कंपनी की प्रणाली में एक खामी का फायदा उठाते हुए एक परीक्षण चुनौती को बायपास कर दिया था. जाहिर है कि मनुष्यों की बनाई चीजों में कुछ न कुछ खामियां तो रहेंगी ही लेकिन उन खामियों को बताकर उन्हें दूर करने की बजाय एआई जब उनका फायदा उठाने लगेगा तो उससे होने वाले नुकसान की शायद अभी हम कल्पना भी नहीं कर सकते!

चूंकि एआई को हम मनुष्यों ने ही बनाया है, इसलिए उसमें जाने-अनजाने हमारी सारी अच्छी-बुरी विशेषताएं और पूर्वाग्रह भी आ गए हैं. जैसे धोखा देना तो उसने सीख ही लिया है, अपराधी प्रकृति के बुरे मनुष्यों के बारे में उससे पूछा जाए तो आमतौर पर वह अश्वेतों की ही इस रूप में कल्पना करता है!

बेशक हम मनुष्य इस दुनिया के सबसे बुद्धिमान प्राणी हैं, लेकिन हकीकत यह भी है कि धरती के सारे प्राकृतिक संसाधनों और मनुष्येतर प्राणियों का (यहां तक कि कमजोर मनुष्यों का भी) हमने अपनी सुख-सुविधा के लिए ही इस्तेमाल किया है. हम मनुष्यों के ट्रायल एंड एरर की दिशा यही रही है कि अपनी सुख-सुविधा के लिए बाकी सब का अधिक से अधिक शोषण कैसे किया जाए. फिर जब हम मशीनों को अपनी गलतियों से सीखकर आगे बढ़ने की छूट देते हैं तो उनसे छल-कपट के अलावा और क्या सीखने की उम्मीद कर सकते हैं?

हम मनुष्यों को तो भगवान ने अंतरात्मा नाम की एक अदृश्य चीज भी दी है, जो बुराई के पथ पर ज्यादा आगे बढ़ने से हमें रोकती रहती है, लेकिन मशीनें तो इस स्वानुशासन से भी मुक्त हैं; फिर ऐसे में जब वे हमें धोखा देने में महारत हासिल कर लेंगी तो उनके कहर से हमें कौन बचाएगा?

ताजा खबर है कि चीन में एक इवेंट में एआई रोबोट दर्शकों पर घूंसे बरसाने लगा. कहीं यह भविष्य की झलक तो नहीं!

Web Title: AI learns deceit and morality crisis ends

टेकमेनिया से जुड़ीहिंदी खबरोंऔर देश दुनिया खबरोंके लिए यहाँ क्लिक करे.यूट्यूब चैनल यहाँ इब करें और देखें हमारा एक्सक्लूसिव वीडियो कंटेंट. सोशल से जुड़ने के लिए हमारा Facebook Pageलाइक करे