गत फेब्रुअरी २० मा भारतमा प्रमुख विपक्षी पार्टी भारतीय नेसनल कंग्रेसले प्रधानमन्त्री नरेन्द्र मोदीको एक प्यारोडी भिडियो इन्स्टाग्राममा अपलोड गर्‍यो। त्यस भिडियोलाई छोटो समयमै १६ लाखभन्दा बढीले हेरे।  

‘चोर’ नामको हिन्दी म्युजिक एल्बमबाट निकालिएको उक्त छोटो क्लिपमा मोदीको डिजिटल फेक भिडियो तयार पारी उनलाई लिड सिंगरका रूपमा उभ्याइएको छ। गीतका शब्दहरुमा चोरका रुपमा उनीसँग निकट एक भारतीय बिजनेस टाइकुनलाई कोइला खानी, बन्दरगाह, प्रसारण लाइन गर्दै अन्त्यमा देश नै चोर्न सक्ने व्यक्तिका रुपमा व्याख्या गरिएको छ।

भिडियो वास्तविक होइन। तर, यसमा प्रयोग भएका शब्द तथा मोदीको अनुहारको क्लोनले उनी निकट भारतीय बिजनेस बादशाहप्रति गरेको कटाक्षका कारण यसप्रति सोसल मिडियामा निकै चर्चा चल्यो।  

उही दिन भारतीय जनता पार्टीको आधिकारिक इन्स्टाग्राममा पनि एक मिनेटको एक भिडियो क्लिप अपलोड भयो। यो भिडियोमा मोदीको वास्तविक फुटेज राखिएको छ, जहाँ प्रधानमन्त्री नरेन्द्र मोदी सडकमा छन्। यो भिडियोको पृष्ठभूमिमा राष्ट्रभक्ति भरिएको महेन्द्र कपुरले गाएको पुरानो हिन्दी गीत बजिरहेको छ। सन् २००८ मै निधन भइसकेका महेन्द्र कपुरको आवाजलाई यस भिडियोमा एआईका माध्यमबाट स्वर ‘रि-क्रिएट’ गरिएको छ।

भारतमा पछिल्लो ९ वर्षमा मोदीले हासिल गरेका उपलब्धिलाई झल्काउने गरी गीतका बोलहरु राखिएका छन्। मोदीले किसानहरुलाई सहयोग गरेको तथा भारतीय वैज्ञानिकहरुलाई चन्द्रमासम्म पुग्नेगरि पूर्वाधार विकास र सहयोग प्रदान गरेको भिडियोमा देखाइएको छ। अडियो फरेन्सिक एक्सपर्टका अनुसार उहिल्यै निधन भइसकेका महेन्द्र कपुरको आवाजमा गाइएको त्यो ताजा गीत एआई जेनेरेट हो। सर्वसाधारणलाई यो सबैसँग के मतलब ! उनीहरुले त भिडियो सामग्रीहरु रमाइलो मानी मानी हेरिरहेका छन्।

भारतमा एआई सिर्जित ‘मिम-युद्ध‘ पछिल्लो एक वर्षदेखि चलिरहे पनि गत फेब्रुअरी २० को त्यो कन्टेन्ट भने एआई सिर्जित थियो। दुवै भिडियोहरु भाजपा र कंग्रेस पार्टीका आधिकारिक ह्याण्डलबाट नै सेयर भएका थिए।

युनिभर्सिटी अफ मिचिगनका एसोसिएट प्रोफेसर जोयोजीत पाल भन्छन्, ‘यो भिजुअल पोलिटिक्सको विशुद्ध नयाँ तरिका हो। यसलाई ‘इन्फ्लेक्सन’ का रुपमा पनि व्याख्या गर्न सकिन्छ। हामीले उपभोग गरिरहेको मल्टिमिडियामा देखिएको यो आधारभूत परिवर्तन पनि हो, जहाँ चुनावी अभियानहरुमा मल्टिमिडियाको प्रयोग व्यापक हुन थालेको रुपमा यसलाई हामीले बुझ्न सक्छौं।’

गत फेब्रुअरी २० यता दुवै पार्टीले एआईबाट सिर्जना गरिएका त्यस्ता किसिमका राजनीतिक कन्टेन्टहरु कम्तीमा पनि ३ वटा अपलोड गरिसकेका छन्। जति चुनावको चर्चा बढ्दै छ त्यति नै राजनीतिक दलहरुले एआईको प्रयोगबाट आफ्ना लोकप्रियताको चर्चा र विपक्षीहरुप्रति नकारात्मकता फैलाउने किसिमका भिडियो सार्वजनिक गरी हद नै पार गर्न थालेको देखिन्छ।  

यस्ता किसिमका प्लाटफर्ममा राजनीतिक कन्टेन्ट सार्वजनिक गर्दा आफ्नो सीमा के-कतिसम्म हो भन्ने ख्याल गरिएको छैन। कुनै हेक्का नराखी सामग्रीहरु अपलोड भइरहेका छन्। इन्स्टामा प्रस्तुत ती भिडियोहरु युट्युब र फेसबुकमा समेत पोष्ट भएका देखिन्छन्।

के मेटा, युट्युब र एक्स प्लाटफर्म यस्ता कुराबाट बेखबर छन्? पक्कै छैनन्।

एआई एडिटेड राजनीतिक विज्ञापनहरु सार्वजनिक गर्नुअघि विज्ञापनदाताले यसबारे जानकारी दिनुपर्ने मेटाको नियम छ। तर, मेटाको नियम कुनै पनि राजनीतिक पेज र राजनीतिक पार्टीका एकाउन्टका हकमा लागू भएको देखिँदैन।

मानवअधिकारको क्षेत्रमा काम गर्ने संस्था विटनेसका कार्यकारी निर्देशक साम ग्रेगोरी भन्छन्, ‘एआईलाई राजनीतिक सन्दर्भमा प्रयोग गर्ने कुरामा पारदर्शिता हुनैपर्छ। कुनै पनि सोसल साइटमा जब एआईको प्रयोग भएको देखिन्छ त्यसको प्रमाणीकरण गरेर त्यसबारेका पूर्वसर्त वा प्रावधान वा नियमन अन्य साइटमा जस्तै राजनीतिक पार्टीका पेज तथा एकाउन्टका हकमा पनि सोही नियम लागू हुनुपर्छ। यसबाट सिर्जना हुनसक्ने झुठा, भ्रामक वा पूर्ण गलत कन्टेन्टहरुको जोखिम घटाउन पनि अझ बढी सचेत हुनुपर्छ।’

सन् २०२४ को सुरुवातमै मेटाले आफ्नो प्लाटफर्ममा आउने एआई सिर्जित कन्टेन्टलाई आफ्नै ‘टुल्स’ प्रयोग गरी वर्गीकरण गर्ने घोषणा गरेको थियो। उसले यसका लागि आफ्ना प्राविधिक पार्टनरहरुसँग काम गरिरहेको र यसले एआईबाट सिर्जित अडियो र भिडियो कन्टेन्ट पहिचान गर्न मद्दत पुग्ने पनि बताएको थियो।

कुनै पनि कम्पनीले म्यानुपुलेट गर्ने किसिमको भिडियो पोलिसीको आलोचना गर्दै मेटाले कभर, फेक अडियो, त्यसको मिसलिडिङ कन्टेन्ट र त्यसँग राखिएको लेभलको आलोचना गर्दै यस्ता कन्टेन्टमा परिवर्तन गर्ने नीति लिने प्रतिबद्धता जनाइसकेको छ।

यस्तै युट्युबले पनि एआईबाट तयार पारिएका भिडियोको वर्गीकरण गर्ने र लेबलिङ गर्ने जनाएको छ।

युट्युबका प्रवक्ताले सन् २०२३ को नोभेम्बरमै कुनै पनि कन्टेन्ट वास्तविक हुन् वा सिन्थेटिक त्यो खुलाउन आवश्यक हुने बताएका थिए। उनले भनेका थिए, ‘हामीले ड्रिमस्क्रिन जस्ता फीचर्स प्रयोग गरी एआई सिर्जित कन्टेन्टको लेबलिङ गर्न सुरु गरेका छौं।’

मोदी ‘चोर’ भिडियो भारतीय कंग्रेसको आधिकारिक इन्स्टाग्राम ह्याण्डलबाटै सार्वजनिक भएको हो। यस्तो किसिमका भिडियोमा ओठको चाल मिसम्याच देखिन्छ। यसमा मोदीको अनुहार पनि डिपफेक तथा एआईबाट तयार पारिएको देखिन्छ।

भिडियोमा ठूलो मात्रामा हाँसोसहितका कमेन्ट पनि छन्। भारतका इतिहासविद् इशान शर्माले यो भिडियोमा कमेन्ट गरेका छन्, ‘सन् २०२४ को चुनावबारे त थाहा छैन। तर यो भिडियो चाहिँ मिम फेस्टमा स्पष्ट विजेता भएको देखिन्छ।’

भारतीय कंग्रेसको सन् २०२४ को चुनावी क्याम्पेनका संचार प्रमुख वैभव वालिया एआई वा मिम बेस्ड कम्युनिकेसन पार्टीको सन्देश सामाजिक सञ्जालमा पुर्‍याउने सशक्त माध्यम भएको बताउँछन्।

एआईको प्रयोग गर्नुका कारणबारे उनी भन्छन्, ‘यसले मतदाताको आँखालाई सजिलै तान्छ र उनीहरलाई वर्तमान सोसल मिडिया ट्रेन्डको बारेमा सचेत पनि बनाउँछ। जब सबैतिर हाँस्यव्यंग्य र मिम्सको सञ्चार भइरहेको छ भने दलहरु मात्र औपचारिक हुनुपर्ने हामी देख्दैनौं। हुन सकिंदैन पनि। अचेल हरेक कुरालाई व्यंग्य तथा कटाक्षको भाषामा भनिने ट्रेन्ड नै छ।’

भारतमा पार्टीका आधिकारिक च्यानलहरु जता हावा बग्यो त्यतैतिर बहने ट्रेन्ड चलिरहेको उनले बताए। ‘हाम्रो पार्टीमा पनि जोश र उम्लँदो रगत भएका युवाहरु छन् जसले बीजेपीलाई जवाफ दिन उस्तै कटाक्षको भाषा प्रयोग गरिरहेका छन्,’ उनले भने।

बीजेपीको आधिकारिक इस्टाग्राम ह्याण्डलबाट सेयर गरिएका दुई वटा शंकास्पद एआई क्लिप पनि डीपफेक र राजनीतिक मिमिक्रीका रुपमा सेयर गरिएको छ। भिडियोमा प्रयोग भएको गीतको आवाज पनि एआई जेनेरेटेड भएको बताइन्छ।

सिन्थेटिक ट्रान्सफर्म

कुनै पनि राजनीतिक पार्टीको आधिकारिक ह्यान्डलबाटै एआई सिर्जित क्लिपहरु सेयर हुन थाल्नु अब सामान्य बन्नेछ भन्ने मान्यता हो भने त्यसमा उनीहरुले एआई सिर्जित भनेर ‘डिस्क्लेमर’ राख्नैपर्ने हुन्छ। तर उनीहरु कुनै पनि सूचनाविना नै सर्वसाधारणमा त्यो कन्टेन्ट फीड गरिरहेका छन्।

‘अझ आश्चर्य त के हो भने उनीहरुले त्यो कन्टेन्टलाई वास्तविक जसरी नै सेयर गरिरहेका छन्। दुवै क्लिप वास्तविक जस्तै फाइन ट्युन छन् र सर्वसाधारणले त्यसलाई वास्तविक वा सिन्थेटिक भनेर खुट्याउनै सक्दैनन्,’ राजनीतिक विश्लेषक सागर बिस्नोइले भने।

यस्तै, गत फेब्रुअरी २४ मा तामिलनाडूकी राजनीतिक आइकोन मानिने जे जयललिताको एक मिनेट लामो अडियो क्लिप उसैगरी सार्वजनिक भयो। उनको पार्टीको आधिकारिक एक्स ह्याण्डलमा आएको उक्त क्लिपमा सन् २०१६ मै निधन भइसकेकी जयललिताको एआई प्रयोग गरी तयार पारिएको यस्तो अडियो छ जहाँ आगामी चुनावमा पार्टीलाई साथ दिन अपिल गरिएको छ।

‘पार्टीका कार्यकर्ताहरु जो अम्माको उपनाम दिइएकी जयललिताको आवाज सुन्दै हुर्किएका थिए उनीहरुले यो आवाज सुन्दा आफूहरुमा रकेटको जस्तो ऊर्जा सञ्चार भएको महसुस गरे,’ पार्टीका आइटी विभागका सचिव राज सत्यानले भने।

सत्यान जयललिताका सच्चा अनुयायीहरुका लागि अम्माको आवाज रि-क्रिएट गरी ऊर्जाका रुपमा दिन खोजेको भन्दै पार्टीका २ करोड कार्यकर्ताका लागि यो आवाज प्रेरणाको स्रोत भएको बताउँछन्।

तर उक्त अडियोमा भने पूर्वसूचना दिएरै डिस्क्लेमर राखिएको थियो, ‘यो क्लिप एआई जेनेरेटेड हो।’ पार्टीले एआईलाई २०२४ को चुनावी अभियानमा भरपुर प्रयोग गर्ने उनले बताए।

डिस्क्लेमर किन चाहिन्छ?

राजनीतिक संगठनहरुले यस्ता नयाँ एआई सिर्जित मिम तथा भिडियोलाई सामाजिक सञ्जाल तथा इन्फ्लुएन्सरका लागि पृथक तरिकाको सञ्चार भनेका छन्।

तर यसले मानिसहरुमा भ्रम पैदा गर्न सक्ने खतरा पनि उत्तिकै छ। यसकारण प्रविधि कम्पनी तथा राजनीतिक पार्टीहरुले यस्ता भिडियोको आधिकारिकताका विषयलाई स्पष्ट पार्न तथा भिडियोको व्यवस्थापन प्रक्रियामा परिवर्तन ल्याउन आवश्यक देखिन्छ।

‘भविष्यमा यस्ता कन्टेन्ट कहाँबाट कसरी प्रवाहित हुन सक्छन् भन्ने बारेमा तथा प्रयोगकर्ताले कहाँबाट कन्टेन्ट आइरहेको छ भन्नेबारे थाहा पाउन र निर्क्योल गर्न आवश्यक हुन्छ। टेक कम्पनीहरुले यसको सन्दर्भमा हाल गरिरहेको काम निकै फितलो छ,’ मिचिगन युनिभर्सिटीका एसोसिएट प्रोफेसर पाल भन्छन्।

कुनै पनि एआई टच दिइएका भिडियो वा कन्टेन्टलाई राजनीतिक पार्टीका आधिकारिक ह्यान्डलबाट सेयर गर्दा अनिवार्यरूपमा जानकारी दिन बाध्यकारी प्रावधान राख्नुपर्ने विज्ञहरुको राय छ।  

यो विशेषगरी एआई सिर्जित आवाजहरुका लागि अनिवार्य हुन्छ। कुनै पनि तस्वीर वा भिडियो हेर्दा एआई सिर्जित भनेर अनुमान गर्न सहज हुन्छ। तर आवाजलाई स्पष्ट छुट्याउन सकिँदैन। त्यसैले पनि अडियो भिडियो माध्यमको सम्पादन हुँदा अडियन्सलाई एआई प्रयोग भएको भनेर पूर्वजानकारी दिनैपर्छ जसले अडियन्सलाई सम्भावित ‘मिसलिडिङ’बाट जोगाउँछ।

मिस इन्फर्मेसनका विषयमा अनुसन्धानरत तरुणिमा प्रभाकर एआई सिर्जित कन्टेन्टले वास्तविकतालाई कपी गर्ने र द्रुत गतिमा प्रवाह गर्ने भएकाले एआई प्रयोग भएको सिर्जना हो भनेर खुलाउन अत्यावश्यक छ भन्छिन्।

उनकै पहलमा यसबारे हेल्पलाइन ‘डीपफेक एनालाइसिस युनिट’को स्थापना भएको छ जहाँ प्रयोगकर्ताहरुले भिडियोको बारेमा रिपोर्ट गर्न सक्छन्।

भारतको निर्वाचन आयोगले भने अहिलेसम्म पनि राजनीतिक पार्टीका ह्याण्डलहरुमा सेयर भएका एआई सिर्जित कन्टेन्टबारे केही बताएको छैन।

एआई व्यंग्य सधैं स्वागतयोग्य हुँदैन

राजनीतिक दलहरुले चुनावी अभियानका क्रममा एआईको प्रयोगको सूचना नदिइ यस्ता कन्टेन्ट राखिरहेका छन्। तर, भारतमै केही कन्टेन्टहरुले समस्या समेत निम्त्याएका छन्। गत जनवरीमा भारतमै एक युवालाई एआई सिर्जित प्यारोडी भिडियो सेयर गरेबापत पक्राउ गरियो।

८७ सेकेन्डको उक्त भिडियो एक व्यंग्य कविताको थियो, जसमा एक प्रभावशाली कविको तस्वीर र आवाज प्रयोग गरिएको थियो। यसमा तालिमनाडूका एक कविले तामिलनाडूकै पूर्वमुख्यमन्त्रीलाई खराब राजनीतिज्ञ र भ्रष्टाचारीको रुपमा व्यंग्य गरेका थिए।

ती युवकलाई तामिलनाडूका पूर्वमुख्यमन्त्रीका बारेमा अफवाह फैलाएको र उनको प्रतिष्ठामा आँच पुर्‍याएको आरोप लाग्यो। उनले जुन कविको आवाज र तस्वीरको नक्कल गरेका थिए, ती कविको पनि छविमा गम्भीर असर परेको कारण देखाउँदै उनलाई पक्राउ गरिएको थियो।

एआई प्रविधि प्रयोग भएको उक्त भिडियो एक्समा सेयर भएको केही समयमा नै करिब २० हजारले हेरे र धेरैपटक रिपोष्ट पनि भयो। यसले ती राजनीतिक नेता र कवि दुवैको छविमा नराम्रो क्षति पुर्‍यायो। हुन त यो भिडियोको सुरुवातमै आवाज एआई जेनेरेटेड हो र वास्तविक होइन भनेर डिस्क्लेमर राखिएको थियो। तैपनि प्रहरीले यो भिडियोसम्बद्ध व्यक्तिलाई पक्राउ गर्‍यो।

‘हुन त यो भिडियोमा कुनै छली थिएन। स्पष्ट रुपमै यो वास्तविक होइन भनेर पूर्वसूचना दिइएको थियो,’ यल ल स्कुलको इन्फर्मेसन सोसाइटी प्रोजेक्टका विद्यार्थी प्रनेश प्रकाश भन्छन्, ‘आइटी सम्बन्धी कानुनले कुनै पनि कम्प्युटरको स्रोत प्रयोग गरी छली गरेमा सजाय दिने भन्ने छ। तर यो केसमा स्पष्ट रुपमा डिस्क्लेमर छ। त्यसैले यहाँ कुनै फ्रड वा बेइमानी थिएन तर पनि सजाय दिइएको छ।’

कुनै पनि एआई सिर्जित व्यंग्य अभिव्यक्ति स्वतन्त्रताको महत्त्वपूर्ण पक्ष हुन्। हाँस्यव्यंग्य कविताहरुमा स्पष्ट रूपमा डिस्क्लेमर राखिए वा वास्तविक होइन भनेर फर्म्याटमै तयार पारिएमा त्यसलाई स्वीकार गर्ने कानुन हुनुपर्छ। त्यसैले एआईको प्रयोग तथा यसबारे अझ बढी स्पष्ट र जानकार हुनुपर्छ भन्छन् मानवअधिकारकर्मी ग्रेगोरी।

भारतमा एआई प्रयोग गरी सिर्जना गरिएको व्यंग्यमा सजाय दिइएको यो दोस्रो पटक थियो। पहिलो पटक सन् २००२१ मा २८ वर्षका गुजराती युवा पक्राउ परेका थिए। उनले मुख्यमन्त्री विजय रुपानीले अमेरिकी गायिका टेलर स्वीफ्टको गीत गाइरहेको सन्दर्भ राखेर एक व्यंग्य सिर्जना गरेका थिए।

कुनै पनि प्रजातान्त्रिक मुलुकले एआईको प्रयोगबाट बनाइएको भन्दैमा कन्टेन्टलाई नै बन्देज लगाएका छैनन्। तर उनीहरुले त्यसमा नियमनको प्रस्ताव गरेका छन्। यूरोपेली युनियनको एआईसम्बन्धी ऐनमा पनि स्पष्टरुपमै यस्ता व्यंग्यात्मक कन्टेन्टलाई जवाफदेही र पारदर्शी बनाउन भनिएको छ। तर चीन जस्तो गैरप्रजातान्त्रिक मुलुकमा भने यस्ता सामग्रीमाथि कडा नियमन मात्र नभइ प्यारोडी र सटायरलाई पनि बन्देज लगाइएको छ।

डीपफेकहरुले सटायर र फोटो रियालिस्टिक वा अडियो रियालिस्टिकबीचको फरकलाई जटिल बनाइदिएकाले अझ बढी समस्या देखिन थालेको हो। तर पनि स्पष्टरूपमा यसका बारेमा पूर्वजानकारी दिएर प्रयोग गर्न पाउनुपर्ने विज्ञहरुको राय छ।  

हाल विकास भइरहेका पूर्वाधार र कानुनले हामीलाई कसरी एआई प्रयोग भएका चित्र, आवाज वा भिडियोहरु हामीले उपभोग गरिरहेका छौं भन्ने बारेमा जानकारी लिन मद्दत गर्नुपर्ने देखिन्छ।

खासमा यस्ता कानुन बन्नुपर्छ जसले यस्ता भिडियो कसले बनाउँछ भन्ने खोज्नमा भन्दा पनि ‘मिडिया मेकिङ’मा यस्ता भिडियो कन्टनेन्ट कसरी हावी हुँदैछन् भन्नेतर्फ लक्षित रहोस्। यसप्रति सचेत भइसकेपछि एआईले सिर्जना गरेका कन्टेन्टका बारेमा सर्वसाधारणले पनि सहजै बुझ्न सक्नेछन्–’यो केवल व्यंग्य हो, दुष्प्रचार होइन।’