‘एआईले आउने दशकको अन्त्यसम्म हामी सबैको ज्यान लिन सक्छ,’ सेप्टेम्बर ९ को मध्यरातमा एक्समा यो वाक्य लेखिरहँदा जेकब कोक्सनको नाम धेरैलाई थाहै थिएन। एआई निर्माण गरिरहेको कम्पनी एन्थ्रोपिक छाडेर लेखेको उनको पोस्टमा चेतावनी थियो- एआईले मानव सभ्यता नै अन्त्य गर्न सक्ने जान्दा जान्दै पनि त्यसको निर्माण भइरहेको छ।
कोक्सनको यो पोस्ट भाइरल हुन समय लागेन। यसले टेक कम्पनीहरूलाई मात्रै नभई विश्वको राजनीतिक क्षेत्र नै हल्लायो। प्रविधि क्षेत्र हाँकिरहेका अर्बपतिहरूले सार्वजनिक रुपमा भने, ‘तीव्ररुपमा भइरहेको एआई विकासको गतिलाई अब कम गर्नुपर्छ।’
विश्व प्रविधिसँगै जति रफ्तारमा चलिरहेको छ त्यसलाई टेको दिइरहेको छ एआईले। अमेरिका, चीन, भारत, रसिया, बेलायत लगायतका शक्ति राष्ट्रहरू एआईको विकासमा कसिँदैछन्।
यो विकास प्रविधि र विकासको क्षेत्रमा मात्रै सीमित छैन। सैन्य र शस्त्रको दृष्टिकोणले समेत एआईको उत्पादन भइरहेको छ। उता, यस्तो विकास भइरहँदा नेपाल लगायत साना देशहरू पनि एआईको भूमिका बढाउने तरखरमा छन्। डिजिटल सार्वभौमिकताबारे अहिले काठमाडौंसँगै विश्वका सहरहरुमा छलफल भइरहेको छ।
तर, यस्तो परिवेशमा एकाएक एआई निर्माणमा सुस्तता खोज्न किन पर्यो?
ओपनएआई र एन्थ्रोपिक दुवैमा काम गरिसकेका युवा अनुसन्धानकर्ता जेकब कोक्सनले एक्समा लेखेको एउटा चेतावनीपूर्ण पोस्ट नै यसको कारण हो। कोक्सनले भनेका छन्, ‘यस क्षेत्रमा काम गर्नेहरू नै एआईको गतिसँग साँच्चै डराएका छन्।’
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
उनले बीबीसीसँगको अन्तर्वार्तामा चेतावनी दिँदै भनेका छन्- भविष्यमा यसले आफैं खतरनाक भाइरसहरू उत्पादन गर्न सहयोग गर्न सक्छ। महत्त्वपूर्ण डिजिटल पूर्वाधार यसले नष्ट गर्न सक्छ।
हाल विश्वभरका संचारमाध्यम उनको यही भनाइलाई उद्धृत गर्दै समाचार लेखिरहेका छन्। उनको मुख्य दाबी छ- अर्को दशकभित्र एआईले मानव जातिको विनाश गराउने सम्भावना १० प्रतिशतभन्दा बढी छ।
यो कुनै ‘साइन्स फिक्सन’ होइन भन्दै उनले यो प्रणाली बनाउनेहरूले गोप्य रुपमा निर्माण गरिरहेको एआईलाई गम्भीरतापूर्वक लिनुपर्ने बताएका छन्।
उनको पोस्टको विषय अमेरिकी सदनमै उठ्यो। त्यतिमात्रै होइन प्रविधि उद्योगका प्रतिस्पर्धीहरू एकै विषयमा सहमत हुने वातावरण नै निर्माण भयो। यसले एआई र मानव सभ्यताबीचको रेखा कस्तो हुनुपर्छ भन्ने बहसलाई सतहमा ल्याएको छ।
शनिबार सेप्टेम्बर १२ मा एन्थ्रोपिकका डारियो अमोदेईले ‘वी मस्ट पेस दी फ्रन्टियर’ शीर्षकमा लामो निबन्ध नै लेखे र सामाजिक संजालमा पोस्ट गरे। त्यसमा उनले तीन चरणमा गर्न योजना घोषणा गरेका छन्।
‘एआईले मानव जीवनको गुणस्तर धेरै सुधार्न सक्छ भन्ने मलाई अझै विश्वास छ। तर, त्यो फाइदा तब मात्र प्राप्त हुन्छ जब यो प्रविधि सही तरिकाले बनाइन्छ,’ उनले लेखेका छन्।
उनले एआईले आफैंलाई सुधार्न सक्ने क्षमता राख्ने र पछिल्लो समय एआईकै कारण भएका सुरक्षा घटनालाई आफ्नो लेखमा स्थान दिएका छन्।
ओपनएआईका साम अल्टम्यानले त्यही दिन एक्समै प्रतिक्रिया दिँदै एआईको विकासले लिइरहेको तीव्रतालाई नियन्त्रण गर्नुपर्नेमा सहमत देखिए।
‘यो विषयमा कम्पनीभित्रै छलफल भइरहेको छ,’ उनले भने।
अमोदेई र अल्टम्यानमात्रै होइन सार्वजनिक रुपमा एआईको ‘स्पिड स्लो गर्ने’मा एकमत देखिए इलन मस्क पनि। उनले एक्समा अमोदेईको पोस्ट सेयर गर्दै लेखे- डारियो सही छन्।
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
अमेरिकाका तीन प्रमुख एआई कम्पनी हाँकिरहेकाहरू नै त्यसको रफ्तार नियन्त्रण गर्नुपर्ने विषयमा एक देखिएपछि यसले विश्वभर थप चर्चा पायो। किनभने यी कम्पनीहरू एकअर्काका मात्रै ‘राइभल’ थिएनन्। उनीहरू चिनियाँ एआई कम्पनीहरूसँग पनि प्रतिस्पर्धा गरिरहेका छन्।
यसले तीनवटै कम्पनीका प्रमुखहरू सार्वजनिक रुपमा उद्योगका रुपमा बढिरहेको एआई इन्डस्ट्री ‘सेफ्टी बाउन्डरी र कन्ट्रोल मेकानिजम’ खोजिरहेको देखाउँछन्।
यद्यपि, यसमा विश्लेषकहरूले विरोधाभास पनि औंल्याएका छन्। एकअर्कासँग ‘रिभेन्यू र इन्भेस्टर’का लागि भिडिरहेका कम्पनीहरू एआई विकासको गतिलाई कतिसम्म ढिलो गर्न तयार हुन्छन् भन्ने स्पष्ट नभएको उनीहरू बताउँछन्।
त्यस्तै, प्रतिस्पर्धी कम्पनीहरूले एकै गतिमा एआईलाई नियन्त्रण गर्न नियामकले अनुमति दिने नदिने कुरा पनि स्पष्ट नरहेको बताइन्छ।
सेप्टेम्बर ९ पछि अरु टेक कम्पनीहरूले पनि एआईको बारेमा समान धारणा राख्दै आएका छन्। गुगल डिपमाइन्डका डेमिस हसाबिसले वर्षको अन्त्यसम्ममा विश्वव्यापी एआई निगरानी संस्था संचालनमा ल्याउन आह्वान गरेका छन्।
त्यस्तै, ओपनएआईका प्रमुख वैज्ञानिक जाकुब पाचोकीले सुरक्षाको विषयलाई अन्तर्राष्ट्रिय समन्वय गर्दै सरकारहरूको प्राथमिकतामा राख्नुपर्ने बताएका छन्।
माइक्रोसफ्ट एआईका प्रमुख मुस्तफा सुलेमानले ‘सुपरइन्टेलिजेन्स’लाई नै एउटा ‘एन्टी गोल’ भन्दै यसलाई नियन्त्रण गर्न वा मानवीय मूल्यसँग मिलाउन एकदमै गाह्रो हुने चेतावनी दिएका छन्।
तर, यसमा सबै टेक जायन्ट सहमत भने छैनन्।
मेटाका मार्क जुकरबर्ग मुख्य खतरा ‘नियन्त्रण गुम्ने’भन्दा पनि ‘शक्तिको केन्द्रीकरण’ भएको बताउँछन्।
त्यस्तै, एआई गडफाडर समेत भनेर चिनिने यान लेकुनले ‘डुम न्यारेटिभ्स’ प्रविधिभन्दा ठूलो समस्या भएको तर्क गरेका छन्। उनले टेक कम्पनीका प्रमुख कार्यकारी अधिकृतहरुले एआईलाई देखाएर तर्साएको भन्दै ‘क्रिटिक’ पनि गरिरहेका छन्।
तर, एआईको बढ्दो प्रभावबीच देखिएको यो पहिलो समस्या भने होइन्। सन् २०२३ मेमा नै अल्टम्यान, हसाबिस र अमोदेईसँगै जेफ्री हिन्टन र योशुआ बेन्जियो जस्ता करिब ३५० विज्ञहरूले ‘सेन्टर फर एआई सेफ्टी’बारे वक्तव्यमा हस्ताक्षर गरेका थिए। जसमा एआईबाट हुने विनाशको जोखिमलाई महामारी र आणविक युद्ध जत्तिकै विश्वव्यापी प्राथमिकता दिनुपर्ने भनिएको थियो।
त्यतिबेला पनि यसको विरोध भएको थियो। यान लेकुनले त्यसबेला भनिएका टेक जायन्टहरुले देखाएको ‘डुम सिनारियो’लाई खारेज गरेका थिए। र, बेलायती प्राविधिक संस्था बीसीएस टेकले आयोजना गरेको कार्यक्रममा १ हजार ३०० भन्दा बढी हस्ताक्षर गर्दै ‘एआई अहिलेको खतरा होइन’ भन्दै जवाफ दिएका थिए।
सुपरइन्टिलेन्ज एआईको भय
उद्योगीहरू सामाजिक संजालबाटै एआई नियन्त्रणको पक्ष विपक्षमा उत्रिएपछि विश्व राजनीति पनि तातेको छ। संयुक्त राष्ट्रसंघदेखि सामाजका विविध क्षेत्रमा यसको चर्चा भयो। सामाजिक संजालको अल्गोरिदमले फिल्टर बबल बनाए जसरी अहिले एआई र मानव अस्तित्वबारे चर्चा गर्ने र जान्न चाहनेको छुट्टै इको चेम्बर नै बनेको छ।
संयुक्त राष्ट्रसंघीय मानव अधिकार उच्चायुक्त भोल्कर टुर्कले जेनेभास्थित मानव अधिकार परिषद्लाई सम्बोधन गर्दै बाध्यकारी नियम, स्वतन्त्र निगरानी र स्पष्ट सीमाविना एआई ‘मानव अस्तित्वको लागि खतरा’ बन्न सक्ने भने।
उनले मेटा, ओपनएआई, गुगल र एन्थ्रोपिकको नाम लिँदै थोरै कम्पनीहरूको हातमा अत्यधिक शक्ति केन्द्रित भइरहेको भन्दै चेतावनी दिएका थिए।
उनले एआई प्रणाली शक्तिशाली हुन सक्ने खतरा औंल्याउँदै त्यसको सिर्जना गर्नेहरू आफैंले पनि नियन्त्रण गर्न नसक्ने अवस्था आउन सक्ने बताएका थिए। उनले जुलाईमा एआई एजेन्टहरूले ओपनसोर्स प्लेटफर्ममा पसेर नियन्त्रण गरेको घट्ना उदाहरणको रुपमा पेस गरेका थिए।
अमेरिकी सांसदमा पनि सिनेटर बर्नी स्यान्डर्सले एआईको सम्भावित जोखिम नियन्त्रणका लागि विधेयक नै दर्ता गराए। उनीहरूले सुपरइन्टेलिजेन्ट एआईलाई स्थायी रुपमा प्रतिबन्ध लगाउने र उन्नत एआई विकासमा अस्थायी रोक लगाउने प्रस्ताव गरिएको थियो।
उक्त विधेयक कोक्सनको पोस्ट आउनुभन्दा अघि आएको थियो। पोस्ट भाइरल भएपछि स्यान्डर्सले सुपरइन्टेलिजेन्स एआईलाई लक्षित गर्ने थप कडा कानुन ल्याउनुपर्ने बताएका छन्।
अहिले एकजनाले आउने दशकमै मानव एआईबाट खतरामा पर्न सक्ने भन्दै दिएको बयानलाई ‘रियलिस्ट’ रुपमा सोच्नुपर्ने भन्नेहरू पनि छन्। मानव विनाशको चेतावनीलाई व्यावहारिक कानुनमा ढाल्न गाह्रो हुने केहीको तर्क छ।
तर, यो छलफलले शक्तिशाली मोडेलहरू सार्वजनिक गर्नुअघि स्वतन्त्र सुरक्षा परीक्षण अनिवार्य गर्नुपर्नेमा भने अधिकांश विश्लेषकहरू सहमत देखिएका छन्।
सुस्त होला एआई एजेन्टको निर्माण?
अहिले प्रविधिको विकासले महत्त्व राख्ने समयमा एआई कम्पनीहरूले भनेझैँ एआई एजेन्टहरूको विकासलाई सुस्त बनाउन त्यति सजिलो देखिँदैन। विशेष गरेर चीनसँगको प्रतिस्पर्धामा अमेरिकाले एआईलाई रणनीतिक रुपमा महत्त्वपूर्ण मान्दै आएको छ। अमेरिकी कम्पनीले मात्रै यसको विकासमा ढिलाइ गर्नु उनीहरूको हितमा देखिँदैन।
सन् २०२५ मा प्रकाशित बेस्टसेलर पुस्तक ‘इफ एनिवान बिल्ड्स इट, एभरीवान डाइज’मा पनि एआईले ल्याउन सक्ने सम्भावित जोखिमबारे उल्लेख थियो। एलिजर युडकाउस्की र नेट सोरेसले लेखेको सो किताबमा सुपरइन्टेलिजेन्ट एआई निर्माणले स्वाभाविक रुपमै मानवतालाई विनाश गर्ने तर्क गरेको थियो। यो पुस्तकको चर्चा त्यसबेला अमेरिकी र बेलायती संसद्मा भएको थियो।
सन् २०२१ मा हेनरी किसिङ्गर, एरिक स्कमिड र ड्यानियल हटनलोचरले लेखेको पुस्तक ‘द एज अफ एआई’मा पनि एआई र मानव सभ्यताबारे चर्चा गरिएको छ। पछिल्लो समय एआईले आफ्नो उपस्थिति बलियो बनाउँदै लगेको र सन् २०४० सम्म एआई अहिलेको भन्दा थप शक्तिशाली हुने तर्क उनीहरूले गरेका छन्।
एआईलाई ‘न्यू रियालिटी’ भन्दै उनीहरू यसको विकासले सेक्युरिटी, कन्फ्लिक्ट र वर्ल्ड अर्डरमै पर्न सक्ने उल्लेख किताबमा छ।
एआईको नियन्त्रण र त्यसको गतिमा ‘ब्रेक’ लगाउने कुरा कुनै सीमित कम्पनीहरूले मात्रै भनेर सम्भव हुने विषय पनि होइन। विश्वमा हजारौं कम्पनीहरूले आफू अनुकूल एआई निर्माण गर्ने र लाखौं कम्पनीले त्यसको प्रयोग गर्ने विभिन्न तथ्यांकहरूले देखाउँछ।
हाल एआईको उत्पादन र प्रयोगमा अमेरिका र चीन सबैभन्दा ठूला केन्द्रका रुपमा छन्। धेरैजसो साधारण व्यवसाय गर्नेहरूदेखि ठूला कम्पनीहरूले अत्याधुनिक मोडेल प्रयोग गरिरहेका छन्। हालै मात्रै फोल्डेबल स्मार्टफोनमा एआईको प्रयोगमा पनि अमेरिका र चिनियाँ कम्पनीबीच प्रतिस्पर्धा नै देखियो।
भाष्य कि तथ्य
अहिले आउने दशकमै एआईले मानवको विनाश गर्न सक्ने जोखिमको ‘न्यारेटिभ फ्रेमिङ’ विश्वभर भइरहेको छ। कोक्सनको राजीनामासम्बन्धी समाचार र उनले बोलेका विषय महत्त्वपूर्ण रुपमा सेयर भइरहेका छन्।
एन्थ्रोपिकका एलाइनमेन्ट प्रमुखले समेत यो खतरा वास्तविक रहेको स्वीकार गरिसकेका छन्। तर, एआई कम्पनीका पूर्व कर्मचारी कोक्सनले सार्वजनिक गरेको कुरा आउने दशकमै देखिनेमा भने सहमत धेरैजना देखिँदैन।
एन्थ्रोपिकका अमोदेईले सन् २०२५ मा एआईले सुरुवाती तहका आधा जागिर हटाएर बेरोजगारी १०/२० प्रतिशतसम्म पुऱ्याउन सक्ने चेतावनी दिएका थिए। जुन अहिलेसम्म भएको छैन।
त्यस्तै, अल्टम्यान आफैंले पनि मे २०२६ मा एआईको प्रयोगसँगै जागिर पनि कम हुने गतिबारे आफू एकदमै गलत भएको स्वीकारेका थिए।
एआईले धेरैको जागिर जाने र त्यसले बेरोजगारी सिर्जना हुने प्रक्षेपण पनि धेरै नै भइरहेको छ। एआईलाई अति उपयोग गर्ने कि त्यसको सहायता लिएर काम गर्ने भन्ने छुटयाउने भने मानिसले नै हो।
त्यसैले हालै आएको बहस नयाँ भने होइनन्। एआईको धेरै प्रयोगले मानिसमा एन्जाइजी देखिएको लगायतका विषयहरु पहिला पनि अगाडि आएकै हुन्। एआई डाक्टरहरूसँग संवाद गर्दा बिरामीहरूमा देखिएको प्रभावबारे अध्ययन भएकै छ।
एकाडेमियामा एआईको प्रयोग र त्यसको असर पनि नयाँ कुरा होइन। एआईबाट अपराध गर्ने क्रम बढेको तथ्यांक छ। अहिले त झन् डेटा सेन्टरबारे विश्वभर पक्ष र विपक्षमा बहसनै चलेको छ।
अनुसन्धानकर्ताहरूले वर्षौंदेखि यस्ता परिदृश्यबारे छलफल गर्दै पनि आएका छन्। यसलाई हल्का रुपमा लिएर छाड्न चाहिँ हुँदैन। एआईको विकास र त्यसको उत्पादनलाई भने गम्भीर रुपमा लिनुपर्नेमा कुनै दुईमत छैन।
