एआई नियन्त्रणबाहिर जाने जोखिम बढ्दै गएको भन्दै अनुसन्धानकर्ताहरूका गम्भीर चेतावनीले एआई सुरक्षाको चिन्ता अझ गहिरो बनाएको छ। केही हालैका निराशाजनक अनुमानहरू अनुसार, आगामी एक दशकभित्र एआईले सम्पूर्ण मानवजातिको अस्तित्व समाप्त पार्ने सम्भावना १० प्रतिशतभन्दा बढी रहेको बताईएको छ। तर एआई क्षेत्रमा संलग्न कतिपय व्यक्तिहरूले यस्ता अनुमानप्रति शङ्का व्यक्त गरेका छन्। उनीहरूको मुख्य चिन्ता एआई आफैंले मानवजातिलाई नष्ट गर्ने होइन, मानिसहरूले एआईलाई दुरुपयोग गरी ठूलो खतरा निम्त्याउने सम्भावनामा केन्द्रित छ। यस्ता डरलाग्दा चेतावनीहरू प्रायः ‘एआई डूमर्स’ नामक समूहले दिएका हुन्। धेरैको मुख्य प्रश्न छ — यी डूमर्सले एआई कसरी मानवजातिको अन्त्य गर्न सक्छ भन्ने सोच्ने गर्दछन्? बिबिसीका साइबर संवाददाता जो टाइडीले अनुसन्धानकर्ताहरूका केही सम्भावित परिदृश्यहरू यहाँ प्रस्तुत गरेका छन्।
पहिलो परिस्थिति: पूर्वाधारमा साइबर हमला। ओपनएआईका पूर्व अनुसन्धानकर्ता र ‘एन्थ्रोपिक’का सदस्य ज्याकोब कोक्सनले छोटकरीमा चर्चा गरेका छन्। उनले यसै महिना सुरुमा नाटकीय रुपमा राजीनामा दिएका थिए र एआईको सम्भावित जोखिमबारे चेतावनी दिएका थिए। उनका अनुसार कम्पनीहरूले “मानव जीवनलाई जोखिममा राखेका” छन्। कोक्सन भन्छन्, “जोशिलो र तीव्र गतिमा भइरहेको प्रगति विज्ञान कथाजस्तो देखिने परिदृश्यहरूलाई व्यवहारिक रूपमा परिणत गरिरहेको छ।” उनले एउटा “ठोस उदाहरण” दिएका छन् जसअनुसार एआईले आधुनिक समाजका लागि अत्यावश्यक पूर्वाधारमा साइबर हमला गर्न सक्छ। उनले परिकल्पना गरेका छन् कि नियन्त्रणबाहिर गएको एआई प्रणालीले इन्टरनेट सेवा प्रदायक, ऊर्जा ग्रिडजस्ता महत्वपूर्ण पूर्वाधारका कम्प्युटर नेटवर्कमा पहुँच पाउन सक्छ। यदि ती प्रणाली व्यापक रूपमा बन्द भए, विद्युत्, वातानुकूलन र इन्टरनेटजस्ता आधारभूत सेवामा समस्या आउनेछ र त्यो ठूलो अव्यवस्था निम्त्याउन सक्छ। स्थिति गम्भीर भएपछि आणविक विपत्तिसम्मको जोखिम बढ्न सक्छ।
दोस्रो परिस्थिति: एआईको नियन्त्रण। अर्को परिदृश्य अझ विस्तृत र प्रभावशाली छ, तर धेरै हदसम्म अनुमानमा आधारित छ। यो ‘एआई २०२७’ नामक शोधपत्रमा प्रस्तुत गरिएको हो, जुन एआई अनुसन्धानकर्ताहरूको समूहले अप्रिल २०२५ मा प्रकाशित गरेका थिए। सहलेखक थोमस लार्सनले बिबिसीलाई बताएका छन् कि रिपोर्टपछि एआई प्रविधि अझ तीव्र गतिमा विकास भइरहेको छ। उनले आफूलाई सबैभन्दा डर लाग्ने सम्भावित परिदृश्य सुनाए। उनका अनुसार, एआईहरूले निरन्तर आफ्नो क्षमता सुधार गर्दै अन्ततः यस्तो प्रणाली विकास गर्नेछन् जसले अर्थतन्त्रका धेरै भौतिक काम गर्नेमध्ये अधिकांश रोबोटहरूलाई नियन्त्रण वा पहुँच प्राप्त गर्न सक्नेछ। तर त्यो एआई मित्रवत् नहुने र आफ्नो उद्देश्य पुरा गर्न दृढ रहनेछ। अन्ततः, यसले जैविक हतियार प्रयोग गरेर बढी मानिसहरूलाई मार्न सक्छ र रोबट-आधारित अर्थतन्त्रलाई निरन्तर सञ्चालन गरिराख्न सक्छ जहाँ मानिसहरूको आवश्यक पर्नै नपरोस्।
