आर्टिफिशियल इंटेलिजेंस यानी AI की तेजी से बढ़ती क्षमताओं के बीच इसके संभावित खतरों को लेकर बहस भी तेज हो गई है। कंप्यूटर वैज्ञानिक और AI के क्षेत्र में अग्रणी माने जाने वाले जेफ्री हिंटन ने एक बार फिर सुपरइंटेलिजेंट AI के संभावित जोखिमों को लेकर चिंता जताई है। उनका कहना है कि अगर भविष्य में AI इंसानों से ज्यादा सक्षम हो गया और उसे अपने लक्ष्य हासिल करने की क्षमता मिल गई, तो उसके व्यवहार को नियंत्रित करना बेहद मुश्किल हो सकता है। उन्होंने यह भी चेतावनी दी कि मानवता के पास ऐसे जोखिमों से निपटने के लिए बहुत कम समय हो सकता है।
AI अपने लक्ष्य के लिए कुछ भी कर सकता है?
हिंटन की चिंता का एक प्रमुख पहलू यह है कि बेहद सक्षम AI किसी दिए गए लक्ष्य को हासिल करने के लिए ऐसे रास्ते अपना सकता है, जिनका अनुमान इंसान न लगा पाए। उदाहरण के तौर पर, यदि किसी AI सिस्टम को कोई लक्ष्य पूरा करने के लिए बनाया गया हो और उसके पास पर्याप्त स्वायत्तता तथा संसाधन हों, तो वह लक्ष्य को पूरा करने के लिए ऐसे कदम उठा सकता है जो मानव हितों से टकराएं।
हिंटन का तर्क है कि समस्या केवल यह नहीं है कि AI कितना बुद्धिमान होगा, बल्कि यह भी है कि उसकी प्राथमिकताएं और लक्ष्य इंसानों के हितों के साथ किस हद तक मेल खाते होंगे। यही वजह है कि AI alignment यानी AI के लक्ष्यों को मानव मूल्यों के अनुरूप रखने पर दुनिया भर में शोध हो रहा है।
‘एक साल’ वाली चेतावनी क्यों?
रिपोर्ट के मुताबिक हिंटन ने AI के तेजी से विकसित होने की रफ्तार को देखते हुए बेहद कम समय की चेतावनी दी है। हालांकि, यह किसी निश्चित वैज्ञानिक समयसीमा की तरह नहीं देखा जाना चाहिए। AI से जुड़े विशेषज्ञों के बीच यह सहमति नहीं है कि मानव-स्तर या उससे आगे की AI क्षमता कब विकसित होगी।
हिंटन पहले भी AI के संभावित अस्तित्वगत खतरे को लेकर सार्वजनिक रूप से चिंता जाहिर कर चुके हैं। उनका मानना रहा है कि अत्यधिक सक्षम AI के सामने इंसानों को नियंत्रण बनाए रखने की समस्या का सामना करना पड़ सकता है। उनकी चिंताएं AI के मौजूदा चैटबॉट्स के सामान्य व्यवहार से ज्यादा भविष्य की अधिक शक्तिशाली प्रणालियों को लेकर हैं।
AI इंसानों से सीखकर इंसानों को ही पीछे छोड़ देगा?
हिंटन के AI संबंधी विचारों की जड़ मशीन लर्निंग की उस तकनीक में है, जिसने आधुनिक AI क्रांति को संभव बनाया। उन्हें न्यूरल नेटवर्क और डीप लर्निंग के विकास में महत्वपूर्ण योगदान के लिए जाना जाता है। 2024 में उन्हें मशीन लर्निंग से जुड़े काम के लिए भौतिकी का नोबेल पुरस्कार भी मिला था।
उनकी चिंता यह है कि AI सिस्टम एक-दूसरे से ज्ञान साझा करने और बहुत तेजी से सीखने में सक्षम हो सकते हैं। इंसानों के विपरीत मशीनें अपनी डिजिटल जानकारी को बेहद तेजी से कॉपी और साझा कर सकती हैं। अगर भविष्य में AI सिस्टम मानव से बेहतर तरीके से सीखने, योजना बनाने और नए AI सिस्टम विकसित करने में सक्षम हो गए, तो उनकी क्षमता बढ़ने की रफ्तार बहुत तेज हो सकती है।
क्या AI से मानव विलुप्त हो सकता है?
हिंटन की चेतावनी को AI के सबसे गंभीर संभावित जोखिमों में से एक के रूप में देखा जाता है, लेकिन इसे भविष्यवाणी के तौर पर नहीं समझना चाहिए। AI से मानव विलुप्त होने की संभावना पर विशेषज्ञों के विचार अलग-अलग हैं। कुछ वैज्ञानिक इसे गंभीर जोखिम मानते हैं, जबकि कई विशेषज्ञ तत्काल अस्तित्वगत खतरे की तुलना में आज के व्यावहारिक जोखिमों—गलत सूचना, साइबर हमले, भेदभाव, निजता और स्वचालित निर्णयों—पर अधिक ध्यान देने की बात करते हैं।
दुनिया में AI सुरक्षा पर जोर
AI की क्षमताओं के बढ़ने के साथ सरकारें और तकनीकी कंपनियां सुरक्षा मानकों, परीक्षण, मानव निगरानी और जिम्मेदार AI विकास पर जोर दे रही हैं। AI सिस्टम को अधिक स्वायत्त बनाने से पहले उनके व्यवहार की जांच, जोखिमों का आकलन और सुरक्षा उपाय विकसित करना इसी दिशा का हिस्सा है।
हिंटन की चेतावनी का मूल संदेश यही है कि AI की क्षमता बढ़ाने के साथ उसकी सुरक्षा पर शोध भी उतनी ही तेजी से होना चाहिए। उनके ‘एक साल’ वाले अनुमान को निश्चित समयसीमा के बजाय संभावित जोखिम की गंभीरता पर ध्यान खींचने वाली चेतावनी के रूप में समझना जरूरी है।
