मेडिकल सलाह लेने के लिए आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट्स का इस्तेमाल “खतरनाक” हो सकता है। यह बात एक नई स्टडी में सामने आई है। रिसर्च में पाया गया कि मेडिकल फैसले लेने में AI का इस्तेमाल मरीजों के लिए जोखिम भरा हो सकता है, क्योंकि इसमें “गलत और असंगत जानकारी देने की प्रवृत्ति” होती है।

यह स्टडी Oxford Internet Institute और University of Oxford के Nuffield Department of Primary Care Health Sciences के रिसर्चर्स ने मिलकर की है। स्टडी की सह-लेखिका डॉ. उन्होंने आगे कहा, “मरीजों को समझना चाहिए कि अपने लक्षणों के बारे में किसी बड़े लैंग्वेज मॉडल से पूछना खतरनाक हो सकता है।

यह गलत डायग्नोसिस दे सकता है और कई बार यह पहचान ही नहीं पाता कि कब तुरंत मदद की जरूरत है।” डॉ. पेन खुद भी एक GP हैं। स्टडी में रिसर्चर्स ने करीब 1,300 लोगों से अलग-अलग सीनारियो के आधार पर संभावित बीमारियों की पहचान और आगे क्या करना चाहिए, यह बताने को कहा।

कुछ प्रतिभागियों ने बड़े लैंग्वेज मॉडल (LLM) वाले AI सॉफ्टवेयर का इस्तेमाल कर संभावित डायग्नोसिस और अगले स्टेप्स पूछे, जबकि बाकी लोगों ने पारंपरिक तरीकों का सहारा लिया, जैसे GP से मिलना।

इसके बाद रिसर्चर्स ने नतीजों का विश्लेषण किया और पाया कि AI अक्सर “अच्छी और बुरी जानकारी का मिला-जुला रूप” देता है, जिसे यूज़र्स के लिए अलग-अलग पहचानना मुश्किल होता है।

रिसर्च में यह भी सामने आया कि भले ही AI चैटबॉट्स अब “मेडिकल नॉलेज के स्टैंडर्ड टेस्ट में अच्छा प्रदर्शन” करते हों, लेकिन असली मरीजों के लिए, जो अपने लक्षणों को लेकर मदद ढूंढ रहे हों, एक मेडिकल टूल के तौर पर इनका इस्तेमाल जोखिम भरा हो सकता है। डॉ.

स्टडी के लीड ऑथर Andrew Bean ने कहा कि इस रिसर्च से पता चलता है कि “इंसानों के साथ इंटरैक्ट करना” सबसे बेहतरीन LLMs के लिए भी एक बड़ी चुनौती है। उन्होंने कहा, “हमें उम्मीद है कि यह काम ज्यादा सुरक्षित और उपयोगी AI सिस्टम्स के विकास में मदद करेगा।”