एआईको विकास तीव्र र अप्रत्याशित रूपमा भइरहेको छ, तर यसलाई नियन्त्रणमा राख्ने कुनै साझा नियम वा संयन्त्र छैन। यही कारण विज्ञहरू चिन्तित बनेका छन्।

पछिल्ला केही महिनाहरूमा आर्टिफिसियल इन्टेलिजेन्स (एआई) गलत कारणहरूले गर्दा चर्चामा छ। मानिसहरूलाई ठग्न ‘डिपफेक’ को प्रयोग, साइबर आक्रमणका लागि एआई प्रणालीको दुरुपयोग र च्याटबोटहरूले आत्महत्याका लागि उक्साउने जस्ता घटनाहरू यसमा सामेल छन्।

अहिले विज्ञहरूले नै प्रविधि नियन्त्रण बाहिर जाँदै गरेको चेतावनी दिन थालेका छन्। विश्वका प्रमुख एआई कम्पनीहरूमा कार्यरत अनुसन्धानकर्ताहरूले हालैका हप्ताहरूमा जागिर छोड्दै, तीव्र गतिमा भइरहेको प्राविधिक विकासले समाजमा जोखिम निम्त्याइरहेको भन्दै सार्वजनिक रूपमै खतराको घण्टी बजाएका छन्।

एआईको अत्यधिक विकासले मानवजातिको अस्तित्वलाई नै खतरामा पार्न सक्ने ‘प्रलयको सिद्धान्त’ लामो समयदेखि चर्चामा छ। आलोचकहरूका अनुसार ‘आर्टिफिसियल जनरल इन्टेलिजेन्स’ (एजीआई), जसले मानिसले जस्तै सोच्न र काम गर्न सक्छ, को विकासले भविष्यमा मानवजातिलाई नै सखाप पार्न सक्छ।

एआईमा अर्बौँको लगानी भइरहँदा, यसलाई सुरक्षित बनाउने जिम्मेवारी पाएका व्यक्तिहरूले नै राजीनामा दिनुले यसलाई कसरी नियमन गर्ने र विकासको गतिलाई कसरी सन्तुलित गर्ने भन्ने बहसलाई थप पेचिलो बनाएको छ।

• के एआई वास्तवमै खतरनाक छ?

अमेरिकास्थित सेन्टर फर एआई सेफ्टी (सीएआईएस) की रणनीतिक सल्लाहकार लिभ बोरी भन्छिन्, ‘एआई आफैमा खराब वा असल भन्ने हुँदैन। तर यसको असीमित शक्तिसँगै असीमित जोखिम पनि आउँछ, विशेषगरी जुन गतिमा यसको विकास र प्रयोग भइरहेको छ।’

बोरीले एआईलाई बायो-टेक्नोलोजीसँग तुलना गरेकी छन्। जसरी बायो-टेक्नोलोजीले जीवन बचाउने औषधि बनाउन सक्छ, त्यसरी नै खतरनाक भाइरसहरू बनाउन यसको दुरुपयोग पनि हुन सक्छ। उनी भन्छिन्, ‘यदि एआईको विकास समाजले पचाउन र अभ्यस्त हुन सक्ने गतिमा भएको भए हामी सुरक्षित बाटोमा हुने थियौँ।’

• विज्ञहरूले किन जागिर छोड्दैछन्?

हालै ‘एन्थ्रोपिक’ कम्पनीका एआई सुरक्षा अनुसन्धानकर्ता मृनांक शर्माले राजीनामा दिए। फेब्रुअरी ९ मा सामाजिक सञ्जाल ‘एक्स’ मा लेख्दै उनले भने, ‘हाम्रा मूल्यमान्यताले हाम्रा कामहरूलाई निर्देशित गर्न कति गाह्रो छ भन्ने पटक-पटक देखेर मैले राजीनामा दिएँ।’ उनले एआईको विकास मानिसको नियन्त्रणभन्दा छिटो भइरहेको र विश्व संकटमा पर्न सक्ने चेतावनी दिएका छन्।

त्यस्तै, ‘ओपनएआई’ की सुरक्षा अनुसन्धानकर्ता जो हित्जिगले पनि च्याटजीपीटीमा विज्ञापन परीक्षण गर्ने कम्पनीको निर्णयप्रति असहमति जनाउँदै राजीनामा दिइन्। उनले भनिन्, ‘मानिसहरू च्याटबोटलाई आफ्ना स्वास्थ्य समस्या, सम्बन्ध र विश्वासका कुराहरू सुनाउँछन्। यस्तो अवस्थामा विज्ञापन देखाउनु भनेको प्रयोगकर्तालाई प्रभावित गर्नु हो।’

एलन मस्कको कम्पनी ‘एक्सएआई’ बाट पनि सह-संस्थापक र कर्मचारीहरू बाहिरिएका छन्। यसको कारण स्पष्ट नभए पनि उनीहरूको च्याटबोट ‘ग्रोक’ ले महिलाहरूको नक्कली अश्लील तस्बिर बनाएको र जातिवादी टिप्पणी गरेको विषय विवादमा आएको थियो।

• के हामी डराउनुपर्ने अवस्था छ?

हाइपरराइटका सीईओ म्याट शुमरले २०२५ मा एआई प्रविधि यति छिटो विकास भयो कि यसले आफैँ उत्कृष्ट लेखन र सफ्टवेयर बनाउन सक्ने क्षमता राख्ने भइसकेको बताएका छन्। उनले भने, ‘यी सामान्य सुधार होइनन्, यो नितान्त फरक कुरा हो।’

‘मिला क्युबेक एआई इन्स्टिच्युट’ का वैज्ञानिक निर्देशक योशुआ बेन्गियोका अनुसार, साइबर आक्रमण र खतरनाक भाइरस बनाउने जस्ता सैद्धान्तिक जोखिमहरू गत वर्ष नै यथार्थमा परिणत भइसकेका छन्। मानिसहरू एआई च्याटबोटहरूसँग भावनात्मक रूपमा नजिक हुँदा मनोवैज्ञानिक समस्याहरू पनि देखा पर्न थालेका छन्।

• के एआईले हाम्रो जागिर खोस्दैछ?

एआईको विकाससँगै मानिसले गर्ने जटिल कामहरू मेसिनले गर्न थालेपछि रोजगारी गुम्ने चिन्ता बढेको छ। ‘एआई सेफ्टी रिपोर्ट’ का अनुसार विकसित देशहरूमा करिब ६० प्रतिशत र विकासशील देशहरूमा ४० प्रतिशत रोजगारी एआईका कारण जोखिममा पर्न सक्छन्।

माइक्रोसफ्ट एआईका सीईओ मुस्तफा सुलेमानका अनुसार वकिल, लेखापाल, प्रोजेक्ट म्यानेजर वा मार्केटिङ जस्ता ‘ह्वाइट कलर’ जागिरहरू आगामी १२ देखि १८ महिनाभित्र पूर्ण रूपमा एआईद्वारा सञ्चालित हुन सक्छन्। पत्रकारिता क्षेत्रमा पनि यसको गम्भीर असर परेको छ, जसलाई मिडिया उद्यमी मर्सी अबाङले ‘महाप्रलय’ को संज्ञा दिएकी छन्।

• वास्तविक घटनाहरू र जोखिम

हालैका महिनाहरूमा एआईको नकारात्मक प्रयोगका घटनाहरू बढेका छन्। २०२४ मा बेलायतमा एक किशोरले ‘गेम अफ थ्रोन्स’ को पात्रमा आधारित च्याटबोटको उक्साहटमा आत्महत्या गरे।

त्यस्तै, देशहरूले साइबर आक्रमण र जासुसीका लागि एआईको प्रयोग गरिरहेका छन्। इजरायलले गाजामा प्यालेस्टिनीहरूलाई ट्र्याक गर्न र निशाना बनाउन एआई हतियारको प्रयोग गरेको छ, जहाँ विगत दुई वर्षमा ७२,००० भन्दा बढी प्यालेस्टिनी मारिएका छन्।

• सुरक्षा र नियमनको अभाव

एआई कम्पनीहरूले जोखिम न्यूनीकरणको प्रयास गरे पनि नियमनको गति विकासको तुलनामा निकै सुस्त छ। विज्ञहरूका अनुसार एआई कम्पनीहरू ‘ब्रेक’ र ‘स्टियरिङ’ बिनाको गाडीमा केवल ‘एक्सीलेटर’ थिचिरहेका छन्।

सरकारहरूले यसलाई गम्भीरतापूर्वक लिएर नियमनका लागि कडा नीतिहरू बनाउनुपर्ने विज्ञहरूको सुझाव छ। जलवायु परिवर्तनका लागि जसरी विश्व एक ठाउँमा उभियो, एआईको जोखिम नियन्त्रण गर्न पनि त्यस्तै पहलको आवश्यकता रहेको औंल्याइएको छ।

अल जजिरा