आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट्स से सवाल पूछने वाले यूजर्स को सावधान रहने की जरूरत है। एक नई रिसर्च में सामने आया है कि ये AI टूल्स अक्सर गलत या अधूरी जानकारी दे सकते हैं, जिससे यूजर्स गुमराह हो सकते हैं।
रिसर्च में हुआ खुलासा
‘इंडियन एक्सप्रेस’ की एक रिपोर्ट में सेल्सफोर्स एआई रिसर्च के प्रणव नारायण वेंकट और उनकी टीम द्वारा किए गए एक शोध का जिक्र किया गया है। इस अध्ययन में पाया गया कि कई AI टूल्स एकतरफा जानकारी देते हैं या ऐसी बातें बताते हैं जिनका उनके स्रोतों में कोई जिक्र नहीं होता। शोधकर्ताओं ने OpenAI के GPT-4.5 और 5, यू.कॉम, परप्लेक्सिटी और माइक्रोसॉफ्ट के बिंग चैट जैसे AI सर्च इंजनों का परीक्षण किया। इसके अलावा, पाँच डीप रिसर्च टूल्स की भी जाँच की गई।
शोध के नतीजों में कई चौंकाने वाले खुलासे
- लगभग एक तिहाई AI टूल्स और सर्च इंजन एकतरफा या गलत जानकारी दे रहे थे।
- बिंग चैट के 23% जवाबों में ऐसी बातें थीं जो उनके स्रोतों से मेल नहीं खाती थीं।
- यू.कॉम और परप्लेक्सिटी के 31% दावे बिना किसी सबूत के किए गए थे।
- सबसे ज्यादा चिंताजनक बात यह थी कि OpenAI के GPT-4.5 ने 47% और परप्लेक्सिटी के डीप रिसर्च एजेंट ने 97.5% दावे बिना सही सोर्स के किए थे।
एक्सपर्ट्स की राय
ऑक्सफोर्ड यूनिवर्सिटी के फेलिक्स साइमन ने इस रिसर्च पर टिप्पणी करते हुए कहा कि यह AI सिस्टम की कमियों को उजागर करता है। उन्होंने बताया कि पहले भी कुछ शोधों में AI द्वारा एकतरफा या गलत जवाब देने की बात सामने आई थी। उनका मानना है कि यह नया शोध इस समस्या को सुधारने में मदद कर सकता है। हालांकि, स्विट्जरलैंड की ज्यूरिख यूनिवर्सिटी की अलेक्सांद्रा उरमान ने रिसर्च के तरीकों पर सवाल भी उठाए हैं। यह रिसर्च इस बात पर जोर देती है कि AI के जवाबों पर पूरी तरह से भरोसा करने से पहले उनकी सत्यता की जाँच करना महत्वपूर्ण है।
