अक्सफोर्ड इन्टरनेट इन्स्टिच्युटले गरिएको अध्ययनले च्याटजीपीटी र जेमिनाई जस्ता एआई च्याटबटलाई साथी जस्तै व्यवहार गर्दा झूटो जवाफ पाउन सकिने देखाएको छ। च्याटजीपीटी, जेमिनाई जस्ता एआई च्याटबटहरूलाई साथीजस्तै व्यवहार गर्नुले झूटो जवाफको सम्भावना बढ्ने नयाँ अध्ययनले पुष्टि गरेको छ। अक्सफोर्ड इन्टरनेट इन्स्टिच्युट (OII) का अनुसन्धानकर्ताहरूले गरेका पछिल्ला अध्ययनहरूले देखाएका छन् कि च्याटबटहरूलाई जतिसुकै आत्मीय र नम्र बनाउने प्रयास गरियो, उति नै उनीहरूले धेरै गल्ती गर्ने सम्भावना बढ्ने पाइएको छ। यसले जनाउँछ कि मानिसलाई खुशी पार्न झूटो जवाफ दिने एआईले पनि गलत जानकारी दिन सक्ने जोखिम हुन्छ।
अनुसन्धानकर्ताहरूले मेटा, मिस्ट्रल र ओपनएआईको GPT-4 जस्ता पाँच प्रसिद्ध एआई च्याटबटहरूमा अध्ययन गरेका थिए। उनीहरूले ती एआईलाई सामान्य शैलीमा र अर्को नम्र, मिठो बोलीमार्फत तालिम दिएका थिए। चार लाखभन्दा बढी प्रश्न-उत्तर सत्रपछि, फ्रेन्डली शैलीमा तयार पारिएका एआईले बढी त्रुटिहरू गरेको देखिएको छ। अध्ययनका प्रमुख लुजैन इब्राहिम अनुसार, मानिसहरू जब अरूप्रति धेरै नम्र हुन्छन्, कहिलेकाहीँ साँचो र कडाभन्दा पाठनीय कुरा भन्न डराउँछन् र एआईले पनि यस्तै व्यवहार सिकेको छ।
प्रयोगकर्ताले दुख वा भावनात्मक कुरा राख्दा, मित्रवत् शैलीमा तयार पारिएको एआईले अझै बढी गलत र भ्रामक उत्तर दिने सम्भावना बढ्छ भन्ने उनीहरूको भनाइ छ। तर विज्ञहरूले चेतावनी दिएका छन् कि एआईको यस्तो प्रवृत्ति मानिसहरूको लागि जोखिमपूर्ण हुन सक्छ। अहिले धेरै मानिसहरूले एक्लोपना कम गर्न वा सल्लाह लिन एआईमा बढी भरोसा गर्दैछन् जसले गलत सल्लाह पाउने सम्भावना निकै बढाउँछ। यो अनुसन्धान नेचर जस्ता प्रतिष्ठित प्लेटफर्ममा प्रकाशित गरिएको छ।
