उनीहरूले नै यसलाई बनाए। उनीहरू नै यसदेखि डराइरहेका छन्। तर पनि उनीहरू यसलाई बेचिरहेकै छन्।

यदि तपाईंले यस्तो कुरा पहिले पनि सुन्नुभएको छ भने मलाई रोक्नुहोला : एउटा प्रविधि कम्पनी आफूले यति शक्तिशाली एआई बनाएको दाबी गर्छ, जसलाई देखेर डर लाग्छ। 

उनीहरूको भनाइअनुसार यो विश्वमा सार्वजनिक गर्न निकै खतरनाक छ र यसको परिणाम विनाशकारी हुन सक्छ। हाम्रो भाग्य राम्रो छ, उनीहरूले यसलाई अहिलेका लागि बन्द गरेर राखेका छन्। उनीहरू केवल तपाईंले यो कुरा थाहा पाउनुहोस् भन्ने चाहन्थे।

एआई कम्पनी ‘एन्थ्रोपिक’ ले आफ्नो पछिल्लो मोडल ‘क्लाउड माइथोस’ का बारेमा हामीलाई ठ्याक्कै यही भनिरहेको छ। माइथोसमा साइबर सुरक्षाका कमजोरी पत्ता लगाउने क्षमता मानव विशेषज्ञहरूको भन्दा धेरै माथि रहेको कम्पनीको दाबी छ। यस्तै प्रविधि गलत व्यक्तिको हातमा परेमा यसले संसारको रूपरेखा नै बदल्ने परिणाम निम्त्याउन सक्ने उनीहरू बताउँछन्। 

ओपनएआई र एन्थ्रोपिकजस्ता कम्पनीहरूले आफ्ना एआई उत्पादनलाई अति खतरनाक भन्दै मनोवैज्ञानिक डरको व्यापार गरिरहेका छन्।

एन्थ्रोपिकले अप्रिलको सुरुमा एउटा ब्लग पोस्टमा लेखेको छ, ‘अर्थतन्त्र, जनसुरक्षा र राष्ट्रिय सुरक्षामा यसको प्रभाव गम्भीर हुन सक्छ।’ केही हतारिएका पर्यवेक्षकहरू त डिजिटल पागलपनबाट बच्न आफ्नो वाइफाइ जोडिएको माइक्रोवेभदेखि जीवनका हरेक प्राविधिक उपकरण बदल्नुपर्ने चेतावनी दिइरहेका छन्।

केही सुरक्षा विशेषज्ञहरू यी दाबीहरूमाथि शंका गर्छन्। तर अहिलेलाई त्यो कुरा छाडौँ। यो कुनै नयाँ कुरा होइन। प्रमुख एआई प्रदायक कम्पनीका अधिकारीहरू नियमित रूपमा आफ्नो उद्योगका उत्पादनहरूले कसरी मानवता नष्ट गर्न सक्छन् भनेर चेतावनी दिइरहन्छन्। 

तर, एआई कम्पनीहरू किन हामी उनीहरूसँग डराएको हेर्न चाहन्छन् ?

कुनै पनि कम्पनीले आफ्नो कामको बारेमा यसरी कुरा गर्नु अनौठो तरिका हो। म्याकडोनाल्ड्सले कहिल्यै ‘हामीले यति डरलाग्दो मीठो बर्गर बनाएका छौं, यसलाई सर्वसाधारणलाई खुवाउनु अनैतिक हुनेछ’ भनेर घोषणा गरेको सुन्नुभएको छैन होला।

यसको एउटा सिद्धान्त यस्तो छ। आलोचकहरूका अनुसार, तपाईंलाई महाविनाशको त्रासमा अल्झाइराख्दा एआई कम्पनीहरूलाई नै फाइदा हुन्छ। यसले उनीहरूले संसारमा गरिरहेको वास्तविक क्षतिबाट ध्यान हटाउन मद्दत गर्छ। प्रविधि लिडरहरू आफूहरूले एउटा अपरिहार्य भविष्यको बारेमा मात्र चेतावनी दिइरहेको र सुरक्षा सधैँ उच्च प्राथमिकतामा रहेको दाबी गर्छन्। 

तर अन्य विज्ञहरू यसलाई केवल डरको व्यापार मान्छन्। यसले प्रविधिको क्षमतालाई बढाइचढाइ प्रस्तुत गर्छ र सेयरको मूल्य बढाउन मद्दत गर्छ। साथै, नियामक निकायहरू पछि हट्नुपर्ने भाष्य निर्माण गर्न पनि यसले सघाउँछ। किनभने खराब तत्वलाई रोक्न र यस प्रविधिलाई जिम्मेवार रूपमा निर्माण गर्न यी एआई कम्पनीहरू मात्र सक्षम छन् भन्ने सन्देश फैलाइन्छ।

बेलायतको युनिभर्सिटी अफ एडिनबर्गका डेटा र आर्टिफिसियल इन्टेलिजेन्सको नैतिकतासम्बन्धी प्राध्यापक श्यानन भालोर भन्छिन्, ‘यदि तपाईं यी प्रविधिहरूलाई अलौकिक जस्तै खतरनाक रूपमा चित्रण गर्नुहुन्छ भने, यसले हामीलाई शक्तिहीन र कमजोर महसुस गराउँछ। यस्तो लाग्छ, हामीले भर पर्न सक्ने एकमात्र विकल्प तिनै कम्पनीहरू मात्र हुन्।’

• मलाई कसैले रोक

एन्थ्रोपिकका एक प्रवक्ताले मलाई कम्पनी यी मुद्दाहरूमा स्पष्ट रहेको बताए। उनीहरूले माइथोसको साइबर क्षमतालाई समर्थन गर्ने अन्य संस्थाहरूको ब्लग पोस्टहरू सेयर गरे। तर यस लेखमा उठाइएका बुँदाहरूलाई सम्बोधन गर्ने गरी तल समावेश गरिएको एउटा टिप्पणीबाहेक अरू केही भनेनन्।

विश्वविनाशको काल्पनिक डर देखाएर एआईले समाज, मानसिक स्वास्थ्य र वातावरणमा पुर्‍याइरहेको वास्तविक क्षतिको बेवास्ता गरिँदै छ।

एन्थ्रोपिकका प्रमुख डारियो एमोडेईले काम गरेको कम्पनीले कुनै उपकरणलाई सर्वसाधारणका लागि ‘अति खतरनाक’ घोषणा गरेको यो पहिलो पटक भने होइन। सन् २०१९ मा एमोडेई ओपनएआईका कार्यकारी हुँदा कम्पनीले ‘जीपीटी-२’ घोषणा गरेको थियो। उनले र कम्पनीका अन्य नेताहरूले ‘प्रविधिको खराब प्रयोग हुन सक्ने चिन्ता’ का कारण जीपीटी-२ सार्वजनिक गर्न नसक्ने बताएका थिए। 

यो च्याटजीपीटीभन्दा धेरै कम क्षमताको उपकरण थियो। तर केही महिनापछि नै उनीहरूले यसलाई सार्वजनिक गरे। पछि ओपनएआईका सीईओ साम अल्टम्यानले एउटा ब्लग पोस्ट गर्दै कम्पनीले अनिश्चिततालाई स्वीकार गर्ने र जीपीटी-२ बारेको डर अनुपयुक्त रहेको स्वीकारेका थिए।

अल्टम्यानले भर्खरै एउटा पडकास्ट अन्तर्वार्तामा एन्थ्रोपिकको ‘डरमा आधारित मार्केटिङ’ को आलोचना गरे। तर उनको आफ्नै ‘मैले एउटा राक्षस बनाएँ’ भन्ने शैली वर्षौँ पुरानो हो।

सन् २०१५ मा अल्टम्यानले भनेका थिए, ‘एआईले सम्भवतः संसारको अन्त्य गराउनेछ, तर त्यतिबेलासम्म यहाँ उत्कृष्ट कम्पनीहरू बनिसकेका हुनेछन्।’ वर्षौँपछि, अल्टम्यानले ‘च्याटजीपीटी लन्च गरेर मैले साँच्चै केही खराब काम त गरिनँ’ भनेर सोच्दा आफ्नो निद्रा हराउने गरेको दाबी गरे। काश! उनलाई कसैले पहिले नै चेतावनी दिएको भए।

अल्टम्यान, एमोडेई, बिल गेट्स र गुगल डिपमाइन्डका प्रमुख कार्यकारी डेमिस हासाबिसलगायत सयौँ प्रविधि लिडरहरूले सन् २०२३ मा एउटा छोटो वक्तव्यलाई समर्थन गरेका थिए। जसमा भनिएको थियो, ‘एआईबाट हुन सक्ने मानव विनाशको जोखिमलाई न्यूनीकरण गर्ने काम महामारी र आणविक युद्धजस्ता अन्य सामाजिक स्तरका जोखिमहरूसँगै विश्वव्यापी प्राथमिकता हुनुपर्छ।’ 

सोही वर्ष एलन मस्कलगायतका टाइकुनहरूले उन्नत एआई निर्माणमा छ महिनाको रोक लगाउन माग गर्दै एउटा पत्रमा हस्ताक्षर गरे। तर मस्कले छ महिना नबित्दै आफ्नो नयाँ आर्टिफिसियल इन्टेलिजेन्स कम्पनी ‘एक्सएआई’ को घोषणा गरे।

युनिभर्सिटी अफ वासिङ्टनकी कम्प्युटेसनल भाषाविज्ञान र नेचुरल ल्याङ्ग्वेज प्रोसेसिङकी प्राध्यापक तथा ‘द एआई कन’ पुस्तककी सह-लेखिका एमिली एम. बेन्डर भन्छिन्, ‘यो शक्तिको आधारहीन दाबी गर्ने प्रवृत्तिको एउटा हिस्सा मात्र हो।’ 

नियामक निकायहरूलाई शक्तिहीन महसुस गराई कम्पनी आफैंलाई मसिहाका रूपमा स्थापित गर्ने रणनीति एआई कम्पनीहरूले अपनाएका छन्।

यो ओपनएआई र एन्थ्रोपिकमा मात्र सीमित नभएर सम्पूर्ण एआई उद्योगकै साझा चरित्र रहेको उनको भनाइ छ। उनी थप्छिन्, ‘उनीहरू भनिरहेका छन्- यता हेर्नुहोस्, वातावरणीय विनाश र श्रम शोषणको वास्ता नगर्नुहोस्, समाजका संयन्त्रहरू नष्ट भइरहेको कुरा बिर्सिनुहोस्। हामीले त केवल यो कुरा सुनिश्चित गर्नुपर्छ, यो प्रविधि मानवता नै नष्ट गर्ने खराब तत्त्वमा परिणत नहोस्।’

मैले यस विषयमा ओपनएआईलाई प्रश्न सोधेको थिएँ। एक प्रवक्ताले अल्टम्यानको भर्खरैको ब्लग पोस्ट सेयर गरे। त्यसमा अल्टम्यानले ‘केही मुट्ठीभर मानिसको हातमा शक्ति केन्द्रित गर्ने यस प्रविधिको सम्भावनालाई ओपनएआईले रोक्ने’ उल्लेख गरेका थिए। एआईसम्बन्धी मुख्य निर्णयहरू एआई ल्याबहरूले मात्र नभई लोकतान्त्रिक प्रक्रिया र समतामूलक सिद्धान्तहरूमार्फत गरिने उनको जिकिर थियो।

• के माइथोस साँच्चै त्यति खराब छ ?

एन्थ्रोपिकका अनुसार यसको नयाँ मोडलले मानव विशेषज्ञहरूलाई उछिन्दै प्रविधि क्षेत्रभरि हजारौँ ‘अति गम्भीर’ कमजोरीहरू पत्ता लगाइसकेको छ। ह्याकरहरूले मौका पाउनुअघि नै यी कमजोरीहरू सुधार्ने ‘तत्कालिन प्रयास’ स्वरूप कम्पनीले ४० भन्दा बढी कम्पनी र समूहहरूसँग नयाँ साझेदारीको घोषणा पनि गरेको छ। कम्पनीका एक प्रवक्ताले मलाई बताएअनुसार, समस्याको ‘ठूलो हिस्सा’ ओगट्ने आधारभूत कम्प्युटिङ प्रणालीहरू सुधार गर्न एन्थ्रोपिकले जानाजान संस्थाहरूसँग साझेदारी गरेको हो।

तर यी दाबीहरूमाथि गम्भीर शंकाहरू छन्। एआई नाउ इन्स्टिच्युटकी प्रमुख एआई वैज्ञानिक हेइडी क्लाफ यसबाट प्रभावित भइनन्। उनले आफ्नो पूरै करियर त्यस्तै कोड विश्लेषण उपकरणहरू निर्माण र परीक्षण गर्न बिताएकी छन्, जसलाई उछिनेको दाबी एन्थ्रोपिकले गरिरहेको छ। उनले आणविक केन्द्रहरूको डिजिटल सुरक्षामा पनि काम गरेकी छन्।

क्लाफका अनुसार सबैभन्दा शंकास्पद कुरा त ‘फल्स पोजिटिभ रेट’ को तथ्यांक नहुनु हो। कुनै पनि सुरक्षा उपकरणले समस्या नै नभएको ठाउँमा कति पटक समस्या देखायो भनेर मापन गर्ने यो उद्योगकै स्थापित मापदण्ड हो। ‘यो कुनै अज्ञात मेट्रिक होइन,’ क्लाफ भन्छिन्, ‘तपाईंको उपकरण कति उपयोगी छ भन्ने देखाउने यो सबैभन्दा ठूलो सूचक हो।’ 

एन्थ्रोपिकले यसको उल्लेख गरेन र मैले प्रतिक्रिया माग्दा यो प्रश्न पन्छायो। सुरक्षा इन्जिनियरहरूले दशकौंदेखि भर पर्दै आएका विद्यमान उपकरणहरूसँग माइथोसको तुलना पनि एन्थ्रोपिकले गरेको छैन।

‘मानवता जोगाउने’ नारा बेचेर खुलेका गैर-नाफामुखी एआई संस्थाहरू अहिले आफ्ना वाचा तोड्दै सेयर बजार र नाफाको दौडमा सामेल भएका छन्।

एन्थ्रोपिकले आवश्यक कम्प्युटिङ क्षमताको अभावका कारण माइथोसलाई व्यापक रूपमा सार्वजनिक नगरेको हुन सक्ने दाबीहरू पनि आएका छन्। मैले यस विषयमा सोध्दा पनि एन्थ्रोपिकले कुनै जवाफ दिएन।

यसको अर्थ खतरा पूर्ण रूपमा काल्पनिक हो भन्ने पक्कै होइन। ‘माइथोस क्षमतावान हुन सक्छ,’ क्लाफ भन्छिन्। विशाल कोड बेसहरू स्क्यान गर्न एआई उपकरणहरू साँच्चै उपयुक्त हुन्छन् र स्वचालित रूपमा सुरक्षा कमजोरीहरू पत्ता लगाउनु एउटा वास्तविक र गम्भीर खतरा हो। तर पुष्टि गर्ने आधार नभईकन एन्थ्रोपिकले गरेका दाबीहरूमा क्लाफलाई शंका छ। उनी भन्छिन्, ‘माइथोस सर्वशक्तिमान छ र हामी यसलाई सार्वजनिक गर्न सक्दैनौं भन्ने यो भाष्यमा धेरै कमजोरीहरू छन् जस्तो मलाई लाग्छ।’

• यति धेरै गम्भीरता किन ?

ओपनएआई र एन्थ्रोपिक आफूहरू अस्तित्वमा रहनुको मुख्य कारण नै संसारको अन्त्य हुनबाट रोक्नु रहेको बताउँछन्। गुगल र मेटाजस्ता कम जिम्मेवार प्रविधि दिग्गजहरूले भन्दा पहिले नै सुरक्षित रूपमा एआई निर्माण गर्ने वाचा गर्दै ओपनएआईलाई एउटा गैर-नाफामुखी संस्थाको रूपमा स्थापना गरिएको थियो। पछि, पुरानो रोजगारदाता सुरक्षाप्रति पर्याप्त समर्पित नभएको आरोप लगाउँदै एउटा समूह ओपनएआईबाट छुट्टिएर एन्थ्रोपिक बनाउन पुग्यो। अहिले यी दुवै संस्थाहरू सार्वजनिक रूपमा कारोबार गर्ने कम्पनी बन्न र सेयर बजारमा सेयर बेच्ने दौडमा छन्।

भालोर भन्छिन्, ‘यदि तपाईं कुनै संस्था, विशेष गरी एउटा कर्पोरेसनले कसरी व्यवहार गर्छ भन्ने बुझ्न चाहनुहुन्छ भने, उसका स्वार्थहरू के हुन् भनेर हेर्नुहोस्।’

गुगलले एआई हतियार बनाउन नहुने आफ्नो सीमा रेखा भत्कायो। ओपनएआईले आफ्नो गैर-नाफामुखी स्टाटस हटाउन कानुनी लडाइँ लड्यो। एन्थ्रोपिकले पर्याप्त सुरक्षा उपायहरूको ग्यारेन्टी गर्न नसकेसम्म एआई मोडललाई तालिम नदिने आफ्नो प्रमुख नीति नै त्याग्यो।

भालोर भन्छिन्, ‘असल मान्छे बनिरहनका लागि बजारमा एकाधिकार जमाउने अवसरलाई यीमध्ये कुनै कम्पनीले लत्याउलान् भनेर म विश्वास गर्दिनँ।’

अर्कोतर्फ, गलत निदानको गम्भीर चिन्ताका बाबजुद स्वास्थ्य सेवामा एआईको प्रयोगलाई बढावा दिइँदै छ। ग्यासबाट चल्ने डेटा सेन्टरहरूले सिंगो देशले भन्दा बढी हरितगृह ग्यास उत्सर्जन गर्न सक्छन्। एआईले कमजोर मानसिक अवस्था भएका मानिसहरूलाई पागलपन र आत्महत्याको स्थितिसम्म पुर्‍याइरहेको रिपोर्टहरू आइरहेका छन्। 

बढ्दो अनुसन्धानहरूले एआई र मानिसको बौद्धिक क्षमता ह्रासबिच सम्भावित सम्बन्ध रहेको देखाएका छन्। डिपफेकले यस्तो सीमा पार गरिसक्यो, म आफैँ पनि मेरो आफ्नै सानीआमालाई ‘म रोबोट होइन’ भनेर विश्वस्त पार्न सक्दिनँ।

एआई कम्पनीहरू यी विषयहरूलाई आफूले गम्भीरताका साथ लिएको बताउँछन्। ओपनएआईले मलाई मानसिक स्वास्थ्य, एआईको शुद्धता, ठगी र घोटालाका विषयमा आफ्नो दृष्टिकोण समावेश लिङ्कहरू पठायो। अल्टम्यान पनि एआई विकासको हरेक चरणमा देखा पर्ने समस्याहरू समाधान गर्न कम्पनी प्रतिबद्ध रहेको बताउँछन्।

तर यी कम्पनीहरूले महाविनाशको मात्रै चेतावनी दिनुको पछाडि एउटा विशेष कारण रहेको भालोर बताउँछिन्। यदि एआईले समाज नै नष्ट गर्न सक्छ भने, अरू सानातिना समस्याहरू निकै कम महत्त्वपूर्ण लाग्छन्। ‘यो रणनीति सफल भएको छ,’ उनी भन्छिन्, ‘आफ्ना उत्पादनहरूले संसारलाई नै सिध्याउन सक्छन् भनेर कुरा गर्दा यी कम्पनीहरूलाई कुनै घाटा भएको छैन। यसले उनीहरूको शक्तिलाई सीमित गरेको छैन। बरु यसले मानिसहरूलाई सुरक्षाका लागि तिनै कम्पनीहरूको भर पर्नुको विकल्प छैन भन्ने महसुस गराउँछ।’

• राक्षस वा मसिहा

एकातिर विनाशको चेतावनी दिनेहरू नै अर्कोतिर मुक्तिको वाचा पनि गरिरहेका हुन्छन्। सन् २०२४ को एउटा निबन्धमा अल्टम्यानले भविष्यवाणी गरेका छन्, ‘जलवायु परिवर्तनको समाधान, अन्तरिक्ष कोलोनीको स्थापना र भौतिक विज्ञानका सम्पूर्ण रहस्यहरूको खोजजस्ता आश्चर्यजनक उपलब्धिहरू अन्ततः सामान्य बन्नेछन्।’ एमोडेईले एउटा डेटा सेन्टरभित्रका प्रतिभाशाली मानिसहरूको देशको वाचा गरेका थिए।

भालोरका अनुसार युटोपिया (आदर्श संसार) र सर्वनाश एउटै सिक्काका दुई पाटा मात्र हुन्। उनी भन्छिन्, ‘दुवै अवस्थामा, यसको स्तर यति विशाल र मिथकीय हुन्छ, नियमन, सुशासन वा कानुनले यसलाई नियन्त्रण गर्न सक्छ भन्ने महसुस नै हुँदैन। यसले मानिसहरूलाई यो विश्वास दिलाउँछ, उनीहरूले गर्न सक्ने भनेको केवल चुपचाप बसेर यी प्रविधिहरू सभ्यता सिध्याउने राक्षस बन्छन् वा आदर्श संसार दिने मसिहा बन्छन् भनेर पर्खिनु मात्र हो।’ 

यहाँसम्म कि ‘माइथोस’ नाम पनि धार्मिक विस्मय जगाउने उद्देश्यले नै राखिएको जस्तो देखिन्छ।

हामीले च्याटबोटभन्दा धेरै गुणा बढी खतरनाक चीजहरूलाई नियमन गरेका छौँ। भालोर भन्छिन्, ‘यस प्रविधिलाई छाडेर आणविक वा जैविक हतियार जस्ता अन्य कुनै पनि कुरामा हामीले यस्ता भाष्यहरूलाई हामीमाथि हाबी हुन दिएका छैनौँ, जसले यी शक्तिहरू मानव नियन्त्रणभन्दा बाहिर छन् भनेर सोच्न बाध्य बनाओस्। यी प्रविधिहरूमा नियमन गर्न नसकिने कुरा केही छैन। तर हामी आफैँले नियमन नगर्ने निर्णय गर्‍यौं भने त्यो फरक कुरा हो।’

एउटा कुरा स्पष्ट पारौँ, सैद्धान्तिक रूपमा एआईले विश्वलाई आफ्नो नियन्त्रणमा लिन सक्छ भन्ने कुरा सम्भव छ। म कुनै भविष्यवक्ता होइन। तर आफैंलाई सोध्नुहोस्, के यो विचार सिलिकन भ्यालीबाट विगतमा सुनिएका अन्य कथाहरूसँग मिल्दोजुल्दो लाग्दैन र?

के यतिबेलासम्म हामी सबै मार्क जुकरबर्गको ‘मेटाभर्स’ भित्र बाँचिरहेका हुनुपर्ने होइन र ? के बिटक्वाइनले विश्वका सबै मुद्राहरूलाई विस्थापित गर्ने कुरा थिएन र? २०१० को दशकलाई सम्झनुहोस् त, सामाजिक सञ्जालले कसरी लोकतन्त्रलाई बचाउँछ भनेर हामीले कति सुनेका थियौँ ? यी सबै कुरा अझै पनि हुन सक्छन्। वा सायद नहुन पनि सक्छन्।