आर्टिफिशियल इंटेलिजेंस (एआई) की दुनिया में क्रांति लाने वाले चैटजीपीटी का इस्तेमाल करने वाले लोगों को अब सावधान हो जाना चाहिए। चैटजीपीटी बनाने वाली कंपनी ओपनएआई (OpenAI) ने खुद ही अपने चैटबॉट को लेकर एक बड़ी चेतावनी जारी की है। कंपनी के चैटजीपीटी हेड निक टर्ली ने साफ कहा है कि चैटजीपीटी द्वारा दी गई जानकारी को ‘सेकेंड ओपिनियन’ (दूसरी राय) की तरह ही इस्तेमाल करना चाहिए।
‘हैलुसिनेशन’ की समस्या
निक टर्ली ने एक इंटरव्यू में बताया कि चैटजीपीटी-5, जो कि चैटबॉट का सबसे नया और एडवांस वर्जन है, में पहले के मुकाबले काफी सुधार हुए हैं। इसके बावजूद यह अभी भी ‘हैलुसिनेशन’ (Hallucination) की समस्या से जूझ रहा है।
क्या होता है हैलुसिनेशन? हैलुसिनेशन का मतलब है कि जब एआई ऐसे जवाब या जानकारी देता है जो सुनने में बिल्कुल सही और तर्कसंगत लगती है, लेकिन वास्तव में वह गलत या मनगढ़ंत होती है। यह एआई की एक बड़ी खामी है, क्योंकि यूजर को यह पता लगाना मुश्किल हो जाता है कि दी गई जानकारी सही है या नहीं।
इस्तेमाल करने से पहले सोचें
टर्ली की इस चेतावनी का मतलब है कि यूजर्स को चैटजीपीटी से मिली किसी भी जानकारी पर आंख मूंदकर भरोसा नहीं करना चाहिए। खासकर जब यह जानकारी चिकित्सा, कानूनी, वित्तीय या किसी अन्य गंभीर विषय से जुड़ी हो। ऐसे मामलों में, चैटजीपीटी से मिले जवाब को हमेशा किसी विश्वसनीय स्रोत या विशेषज्ञ से सत्यापित (verify) करना बहुत जरूरी है।
ओपनएआई के इस बयान से यह साफ हो गया है कि एआई तकनीक अभी भी पूरी तरह से विश्वसनीय नहीं है। यह जानकारी का एक सहायक स्रोत हो सकता है, लेकिन इसे अंतिम सत्य नहीं माना जा सकता।
