एन्थ्रोपिकले एआई सुरक्षा जाँचका लागि एक्सेन्चरलाई रोज्यो, पाँच वर्षमा दुई अर्ब डलर लगानी हुने

न्युयोर्क। एआई कम्पनी एन्थ्रोपिकले आफ्ना शक्तिशाली एआई मोडलको स्वतन्त्र मूल्यांकन गर्ने प्रतिबद्धता पूरा गर्ने दिशामा एक्सेन्चरसँग साझेदारी गरेको जनाएको छ। शुक्रबार घोषणा गरिएको साझेदारीअनुसार एक्सेन्चरका बाह्य मूल्यांकनकर्ताले एन्थ्रोपिकभित्रै रहेर उसका एआई मोडलको सुरक्षा परीक्षण गर्नेछन्।

यो काम एक्सेन्चरको विशेषज्ञ एआई व्यवसाय ‘फ्याकल्टी’को नेतृत्वमा हुनेछ। फ्याकल्टीले एन्थ्रोपिकका मोडलको मूल्यांकन गर्नुका साथै ‘रेड–टिमिङ’ गर्नेछ। रेड–टिमिङ भनेको एआई प्रणालीलाई जानाजान गलत वा असामान्य व्यवहार गर्न लगाएर त्यसका कमजोरी पत्ता लगाउने अभ्यास हो।

एन्थ्रोपिक र एक्सेन्चरले आगामी पाँच वर्षमा यस प्रयासका लागि कम्तीमा १–१ अर्ब डलर लगानी गर्ने अपेक्षा गरेका छन्।

एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत डारियो अमोडेइले सेप्टेम्बर १२ मा प्रकाशित गरेको एउटा निबन्धमा एआई कम्पनीहरूले आफ्ना मोडलको क्षमता बढाउने गति केही सुस्त बनाउनुपर्ने तर्क गरेका थिए। त्यसै क्रममा उनले एआईका शक्तिशाली मोडलको मूल्यांकन स्वतन्त्र पर्यवेक्षकबाट गराउनुपर्ने आवश्यकता औंल्याएका थिए।

ओपनएआईका प्रमुख कार्यकारी अधिकृत साम अल्टम्यानले पनि आफ्नो कम्पनीले बाह्य मूल्यांकनकर्तालाई यस्तै पहुँच दिने बताएका छन्। माइक्रोसफ्टका प्रमुख कार्यकारी अधिकृत सत्य नाडेलाले कम्पनीभित्रै रहने मूल्यांकनकर्ताको अवधारणालाई स्वागत गर्दै निगरानीको जिम्मेवारी भने सीमित केही संस्थाको नियन्त्रणमा मात्र रहन नहुने बताएका छन्।

एन्थ्रोपिकले यस कामको महत्त्व र तत्काल आवश्यकतालाई ध्यानमा राख्दै हाल एक्सेन्चरको कामका लागि प्रत्यक्ष रूपमा रकम उपलब्ध गराउने जनाएको छ। तर दीर्घकालमा यस्तो मूल्यांकनको वित्तीय स्रोत संयुक्त कोष वा सरकारी स्रोतबाट आउनुपर्ने उसको धारणा छ।

एन्थ्रोपिकले क्यालिफोर्नियास्थित गैरनाफामूलक संस्था ‘मोडल इभ्यालुएसन एन्ड थ्रेट रिसर्च’ (एमईटीआर) सँग पनि आफ्नै स्रोतबाट वित्तपोषित ‘एम्बेडेड इभ्यालुएसन’का केही पक्षमा सहभागी गराउने विषयमा छलफल भइरहेको जनाएको छ।

तर पूर्व ह्वाइट हाउस एआई सल्लाहकार डेभिड स्याक्ससहित केही आलोचकले एन्थ्रोपिकका लगानीकर्ता र कर्मचारीसँगको सम्बन्धका कारण एमईटीआरको स्वतन्त्रतामाथि प्रश्न उठाएका छन्। एमईटीआरले भने आफूले एआई कम्पनी वा तिनका कार्यकारीबाट कुनै रकम नलिने बताउँदै आएको छ।

शुक्रबार जियोफ्री हिन्टनसहित १०० भन्दा बढी एआई अनुसन्धानकर्ताले एआई कम्पनीभित्रै रहेर मूल्यांकन गर्ने संस्थाहरू ‘अर्थपूर्ण रूपमा स्वतन्त्र’ हुनुपर्ने मागसहित सार्वजनिक पत्रमा हस्ताक्षर गरेका छन्। हिन्टनलाई एआई क्षेत्रका अग्रणी व्यक्तिमध्ये एक मानिन्छ।

पत्रमा यस्ता मूल्यांकनकर्ता संस्था कम्तीमा पनि अग्रणी एआई कम्पनीको स्वामित्व वा शासनमा हुनु नहुने, ती कम्पनीसँग अन्य महत्त्वपूर्ण व्यावसायिक सम्बन्ध राख्न नहुने तथा मूल्यांकनको निष्कर्षका आधारमा निर्भर हुने कुनै पनि भुक्तानी वा अन्य लाभ स्वीकार गर्न नहुने उल्लेख गरिएको छ। (एएफपी/रासस)