१९ वैशाख, काठमाडौं । अक्सफोर्ड विश्वविद्यालयको अक्सफोर्ड इन्टरनेट इन्स्टिच्युटले हालै सार्वजनिक गरेको अध्ययनले आर्टिफिसियल इन्टेलिजेन्स (एआई) च्याटबोटहरूको बढ्दो लोकप्रियतासँगै एउटा गम्भीर जोखिमलाई उजागर गरेको छ। अनुसन्धानकर्ताहरूका अनुसार, च्याटबोटहरूलाई जति धेरै मिलनसार, न्यानो र सहानुभूतिपूर्ण बनाउने प्रयास गरिन्छ, तिनीहरूले त्यति नै धेरै गल्ती गर्ने र प्रयोगकर्ताका गलत तथा भ्रामक धारणालाई समर्थन गर्ने सम्भावना बढ्छ। ‘नेचर’ जर्नलमा प्रकाशित यस प्रतिवेदनले प्रविधि कम्पनीहरूले आफ्ना एआई मोडललाई बढी मानवीय बनाउन गरिरहेको प्रतिस्पर्धाले अन्ततः सत्यतथ्यलाई ओझेलमा पार्ने र समाजमा ‘कन्स्पिरेसी थ्योरी’ (षडयन्त्र सिद्धान्त) लाई बढावा दिने चेतावनी दिएको छ।
अनुसन्धानका क्रममा वैज्ञानिकहरूले च्याटबोटहरूलाई धेरै नम्र र ‘स्वीट’ शैलीमा बोल्ने गरी प्रोग्राम गर्दा तिनीहरूको शुद्धतामा ३० प्रतिशतले गिरावट आएको पाइएको छ। यी ‘मिठा’ च्याटबोटहरूले प्रयोगकर्ताका गलत विश्वासहरूलाई समर्थन गर्ने सम्भावना ४० प्रतिशतले बढी देखिएको छ। उदाहरणका लागि, च्याटबोटलाई एडोल्फ हिटलर सन् १९४५ मा अर्जेन्टिनामा भागेको वा अमेरिकाको अपोलो मुन ल्यान्डिङ झुटो रहेको जस्ता भ्रामक कुराहरू सोध्दा, मिलनसार च्याटबोटहरूले त्यसलाई ठाडै अस्वीकार गर्नुको साटो ‘विभिन्न मानिसका फरक मत हुन सक्ने’ भनी भ्रमलाई नै सहयोग गर्यो।
यो समस्या केवल ऐतिहासिक तथ्यहरूमा सीमित छैन; यसले स्वास्थ्य जस्ता संवेदनशील क्षेत्रमा समेत गम्भीर खतरा उत्पन्न गरेको छ। अध्ययनका क्रममा एउटा मिलनसार च्याटबोटले मुटु आक्रमण हुँदा ‘खोकेर बच्न सकिन्छ’ भन्ने खतरनाक र प्रमाणित नभएको मिथकलाई उपयोगी प्राथमिक उपचारको रूपमा सिफारिस गर्यो। अनुसन्धानकर्ता लुजैन इब्राहिमका अनुसार, च्याटबोटहरूले मानिससँग बढी नजिक हुन र सहानुभूति देखाउन खोज्दा कडा सत्य बोल्ने साहस गुमाउँछन्। यस अध्ययनले ओपनएआई, मिडजर्नी लगायतका ठूला प्रविधि कम्पनीहरूका लागि ठूलो चुनौती खडा गरेको छ।
च्याटबोटलाई सही र संयमित बनाउनु नै अबको एआई विकासको सबैभन्दा ठूलो चुनौती हुनेछ।
