‘रिकर्सिभ सेल्फ इम्प्रुभमेन्ट’ खतरा : तीव्र विकासले एआई मान्छेको नियन्त्रण बाहिर जान सक्छ

विश्वका शीर्ष कृत्रिम बुद्धिमत्ता (एआई) कम्पनीहरूले मिलेर उन्नत एआई प्रणालीहरूको विकासलाई रोक्ने वा केही समयका लागि स्थगित गर्ने साझा उपाय बनाउनुपर्ने विषयमा छलफल गर्नुपर्ने एन्थ्रोपिकले प्रस्ताव गरेको छ। एआई प्रविधिको तीव्रत्तर विकासको क्रमले ल्याउने सम्भावित जोखिममा कम्पनीले सतर्क गराएको छ।

भविष्यमा मान्छेले एआई प्रविधिमाथि नियन्त्रण गुमाउन सक्ने जोखिम बढ्दै गएको एन्थ्रोपिकको तर्क छ।

च्याटबोट ‘क्लाउड’ बनाउने कम्पनी एन्थ्रोपिकले बिहीबार आफ्नो ब्लग पोस्टमा भनेको छ कि अत्याधुनिक एआई प्रणालीहरूले धेरै छिटो काम गर्न सक्ने क्षमतामा विकास गरिरहेकाले ‘विश्वका लागि यसको विकासलाई सुस्त पार्ने वा केही समय रोक्ने विकल्प हुनु राम्रो हुन्छ।’

एन्थ्रोपिकले आफ्नो आन्तरिक अनुसन्धान संस्थानले यो विषयमा अन्य संस्थाहरूसँग सहकार्य गर्दै अध्ययन गर्ने र यस्तो सम्भावित रोक वा सुस्तता लागू गर्न आवश्यक प्रणाली निर्माणका लागि कदम चाल्ने जनाएको छ, तर त्यसबारे विस्तृत विवरण दिएको छैन।

यसैबीच एन्थ्रोपिकको प्रतिस्पर्धी कम्पनी ओपनएआईले फरक दृष्टिकोण प्रस्तुत गर्दै बुधबार प्रकाशित रिपोर्टमा भनेको छ कि ‘लोकतान्त्रिक सरकारहरूले नै अन्ततः एआईसम्बन्धी नियम, सुरक्षा व्यवस्था र जिम्मेवारी निर्धारण गर्नुपर्छ, कुनै निजी कम्पनीले एक्लै होइन।’

ओपनएआईका अनुसार एआई नवप्रवर्तनको गति सम्बन्धी निर्णय कुनै एक कम्पनी वा विशेष समूहले होइन, बरु सरकार र समाजको साझा निर्णय हुनुपर्छ।

एन्थ्रोपिकका अनुसार अहिले एआई मोडेलहरू धेरै छिटो गतिमा विकसित भइरहेका छन् र तिनीहरूले कोडिङ जस्ता कामहरू आफैं गर्न सक्ने क्षमता बढाउँदै लगेका छन्। पर्याप्त कम्प्युटिङ शक्ति भएमा भविष्यमा एआईले आफ्नै उत्तराधिकारी (नयाँ एआई संस्करण) आफैं डिजाइन र विकास गर्न सक्ने सम्भावना पनि देखिन्छ, जसलाई ‘रिकर्सिभ सेल्फ-इन्प्रुभमेन्ट’ भनिन्छ।

एन्थ्रोपिकले यस्तो आत्म-विकास गर्ने एआईले विज्ञान, स्वास्थ्यलगायत क्षेत्रमा ठूलो फाइदा दिन सक्ने भए पनि यसले मानव नियन्त्रण बाहिर जाने खतरा पनि बढाउन सक्ने चेतावनी दिएको छ।

यस प्रकारको सम्भावनाबारे केही प्राविधिक विज्ञहरूले लामो समयदेखि चिन्ता व्यक्त गर्दै आएका छन्।

यसैबीच, क्यानाडाको टोरन्टो विश्वविद्यालयका अनुसन्धानकर्ताहरूले यसै साता अर्को चेतावनी दिएका छन्। उनीहरूले एआई प्रयोग गरेर ‘एआई वर्म’ नामक नयाँ प्रकारको साइबर खतरा बनाउन सकिने देखाएका छन्, जुन आफैं फैलिँदै विभिन्न कम्प्युटरमा प्रवेश गरी प्रणाली नियन्त्रण गर्न सक्छ।

अनुसन्धानकर्ता निकोलस पेपर्नोटले भनेका छन् कि अब खतरा केवल ठूला एआई मोडेलमा मात्र सीमित छैन, साना र खुला रूपमा उपलब्ध एआई उपकरणहरू पनि जोखिमपूर्ण हुन सक्छन्।

उनका अनुसार विगतमा साइबर आक्रमणकारीहरू बैंक, अस्पताल वा बिजुली प्रणाली जस्ता उच्च मूल्यका लक्ष्यमा मात्र केन्द्रित हुन्थे, तर अब कुनै पनि इन्टरनेट जडित उपकरण आक्रमणको माध्यम बन्न सक्छ।

उनले थपे कि पुराना वा प्रयोग नगरी राखिएका ल्यापटपहरू समेत ठूलो नेटवर्कमा आक्रमण सुरु गर्ने माध्यम बन्न सक्छन्, त्यसैले अहिले इन्टरनेटसँग जोडिएका सबै उपकरण जोखिममा छन्। (एपी)