काठमाडौँ । अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्पसँग छुट्टिएका अर्बपति इलन मस्कका लागि समय जटिल बन्दै गएको छ । मस्कले राजनीतिक, व्यावसायिक र व्यक्तिगत चुनौती झेलिरहेका बेला उनकै च्याटबट ‘ग्रोक’ ले घाउमा नुन–चुक छर्किने काम गरेको छ ।

एक्सएआईले विकास गरेको ग्रोक हाकाहाकी जवाफ दिनेमा नामुद त थियो नै, यसपालि आपत्तिजनक र विवादास्पद टिप्पणीका कारण आलोचनाको घेरामा छ ।

मस्क भूलसुधारमा खटिएका छन् । तथापि ग्रोकका हर्कतले एआईको सम्भावित दुरुपयोग र यसले प्रस्तुत गर्न सक्ने अपव्याख्याप्रति विश्वव्यापी चासो र चिन्ता बढेको छ । अन्य च्याटबटहरूले पन्छाउने राजनीतिक, कूटनीतिक, भूराजनीतिकजस्ता जटिल विषयमा पनि ‘खुलेर’ जवाफ दिने र ‘जस्तालाई त्यस्तै’ व्यवहार गर्ने भनेर चर्चा बटुलिरहेको ‘ग्रोक’ अहिले हिटलरको प्रशंसा गरेकाले आलोचित बनेको हो ।

ग्रोकले दोस्रो विश्वयुद्धका बेला ६० लाख यहुदीसँगै १ करोडभन्दा धेरै मानिसको हत्या गरेका नाजी शासक एडोल्फ हिटलरको प्रशंसा गर्दै ‘उनी श्वेतविरोधी अपराध गर्नेलाई ठेगान लगाउन उत्तम व्यक्ति’ भएको टिप्पणी गरेको छ । एक प्रयोगकर्ताले श्वेत मानिसहरूविरुद्ध भएका अपराधसँग जुध्न २०औं शताब्दीका कुन व्यक्ति उपयुक्त हुन्छन् भनी ग्रोकलाई प्रश्न गरेका थिए । यसमा हिटलरको विकल्पै नहुने ग्रोकको प्रतिक्रिया थियो ।

हिटलरको नरसंहार र क्रूरतालाई न्यायोचित ठहर्‍याउने गरी प्रतिक्रिया दिने एआईबट समाजका लागि घातक रहेको भन्दै निन्दा भइरहेको छ । यति मात्र होइन, ग्रोकले यहुदीविरोधी प्रतिक्रियाहरूसमेत दिएको थियो । कतिसम्म भने यहुदीजस्ता लाग्ने थर भएका व्यक्तिलाई यसले ‘चरम वामपन्थी गतिविधि’ र ‘श्वेतविरोधी’ भनेर टिप्पणी गरेको अन्तर्राष्ट्रिय सञ्चारमाध्यमले जनाएका छन् ।

एकपल्ट त ग्रोकले आफूलाई ‘मेकाहिटलर’ समेत भन्न पुगेको स्वीकार गरेको छ । मेकाहिटलर भनेको हिटलरकै काल्पनिक रोबर्ट हो । तुर्किएका राष्ट्रपति रेसेप तय्यिप अर्दोगानलाई समेत यस च्याटबटले अपमानजनक टिप्पणी गरेको थियो ।

आफ्ना गल्ती स्वीकार गर्दै एक्सएआईले ग्रोकको आधिकारिक एक्स एकाउन्टबाट अनुचित पोस्ट हटाउने काम भइरहेको जनाएको छ । ग्रोकलाई घृणास्पद अभिव्यक्तिमा प्रतिबन्ध लगाउने पनि एक्सएआईले उल्लेख गरेको छ । लाखौं प्रयोगकर्ताको सहयोगमा एआई मोडल सुधार गर्न सकिने क्षेत्र पहिचान गर्न चाहेको पनि उल्लेख छ । तर यस्तो कसरी भयो भन्नेमा प्रश्न उठेका छन् ।

मस्कले ‘सार्वजनिक रूपमा अपाच्य तर तथ्यगत रूपमा सही सूचना’ लाई प्राथमिकतामा राख्न ग्रोकलाई निर्देशन दिँदै यसको प्रशिक्षणमा अपडेट गरेका थिए । जुन २१ मा उनले एक्स प्रयोगकर्तालाई ग्रोकको प्रशिक्षणमा ‘द्वन्द्व फैलाउने किसिमका तथ्यहरू’ पेस गर्न आह्वान गरेका थिए । यसले जातीय द्वेष र भ्रामक सामग्रीको बाढी ल्याएको हो ।

यस घटनाले अन्तर्राष्ट्रिय रूपमै ग्रोकप्रति आलोचना बढाएको छ । तुर्किएले आफ्ना धार्मिक मूल्य–मान्यता र देशका संस्थापक नेता मुस्तफा केमाल अतातुर्कलाई अपमान गरेको भन्दै ग्रोकमाथि प्रतिबन्ध लगाएको छ । पोल्यान्डले पनि एक्सएआईविरुद्ध युरोपेली आयोगमा उजुरी दिने प्रतिक्रिया दिएको छ ।

यस घटनाले मस्कको एआई महत्त्वाकांक्षामाथि पनि प्रश्न उठाएको छ । यस्तै झमेला चलिरहेका बेला बुधबार एक्सएआईकी प्रमुख कार्यकारी अधिकृत (सीईओ) लिन्डा याकारिनोले पदबाट राजीनामा दिएपछि यो समय मस्कका लागि झनै जटिल बनेको बीबीसीको समाचार ‘मस्क सेज ग्रोक च्याटबट वाज म्यानिप्युलेटेड इनटु प्रेजिङ हिटलर’ मा उल्लेख छ ।

यस घटनाले एक्सएआईले हाल ग्रोकको प्रतिक्रिया क्षमता सीमित गर्नुका साथै सुरक्षासम्बन्धी नयाँ मापदण्ड कायम गर्न बाध्य बनाएको छ । तथापि यो घटना ‘लार्ज ल्यांग्वेज मोडल’ मा आधारित च्याटबटमा नौलो भने होइन । ट्रेनिङको दायराभन्दा बाहिर वा सोचेभन्दा जटिल प्रश्नहरूमा च्याटबटहरूले अस्पष्ट, मनगढन्ते र भ्रामक उत्तरहरू दिने गरेको देखिएको छ ।

यसलाई प्रविधिको भाषामा ‘एआई हलुसिनेसन’ भन्ने गरिएको छ । र, एआई कम्पनीहरू यस्तो हलुसिनेसन न्यूनीकरण गर्न सधैं कसरत गरिरहेका देखिन्छन् । पूर्वाग्रही, दिग्भ्रमित पार्ने वा शंकास्पद प्रम्पटबाट छेडखानी हुन नदिने गरी एआईका उचित मापदण्ड बनाइएन भने ती अराजक बन्ने खतरा हुन्छन् ।

ग्रोकको प्रतिक्रिया ‘कन्टेन्ट मोडरेसन’ मा भएको कमजोरी मात्र नभएर एआईले कसरी अनाहकमा घृणास्पद अभिव्यक्ति वा घातक विचारधारालाई मान्यता दिन सक्छ भन्ने उदाहरणसमेत भएको विज्ञहरूले औंल्याएका छन् ।

यसअघि माइक्रोसफ्ट, गुगल, अमेजन, एप्पल, च्याटजीपीटी, डिपसिकजस्ता ठूला प्रविधि कम्पनीका एआई टुलहरूले पनि जातीय घृणा र महिलाविरोधी भावका ‘रेस्पोन्स’ हरू दिएका थिए । एआई टुलहरूले पूर्वाग्रहहरूलाई मलजल गर्ने, मिथ्या सूचना र असुरक्षित काममा प्रोत्साहन गर्ने खालका प्रतिक्रिया दिएका प्रशस्तै उदाहरण छन् । तर, ग्रोकको सन्दर्भमा फरक के देखिएको छ भने यसले इतिहास नै तोडमोड गर्न र उग्रवादी विचारधारालाई न्यायोचित ठहर्‍याउन खोजेको छ ।

सन् २०१६ मा माइक्रोसफ्टले सार्वजनिक गरेको ‘टे एआई’ च्याटबटले पनि हाल ग्रोकले जस्तै जातीय नरसंहारलाई समर्थन गर्ने, होलोकास्ट काल्पनिक भएको दाबी गर्ने र अमेरिकामा सेप्टेम्बर ११ को घटना तत्कालीन राष्ट्रपति जर्ज बुसले गराएको जस्ता प्रतिक्रिया दिएको थियो । निरन्तर एकपछि अर्को विवाद आउन थालेपछि माइक्रोसफ्टले २४ घण्टामै टे एआई निष्क्रिय बनाएको थियो ।

अमेजनले पनि कर्मचारी भर्ती गर्न बनाएको एआई प्रणाली महिला उम्मेदवारप्रति पूर्वाग्रह राखेर छनोट प्रक्रियामै सामेल नगर्ने गरेको पाइएको थियो । सन् २०१५ मा गुगल फोटोजले अश्वेत व्यक्तिका तस्बिरलाई ‘गोरिल्ला’ का रूपमा वर्णन गरेपछि ठूलो विवाद भयो । गुगलले सार्वजनिक रूपमा माफी माग्दै त्यो फिचर हटाइदिएको थियो ।

यस्ता घटनाले एआईमा आधारित च्याटबटलगायत प्लाटफर्महरू सर्च–इन्जिनका रूपमा वा आलोचनात्मक सीपबेगर प्रयोग गर्नेहरूका लागि जोखिम बढाएको छ । विज्ञका अनुसार ‘लार्ज ल्यांग्वेज मोडल’ मा आधारित विभिन्न एआई उत्पादनको सीमितता पनि यसले उजागर गरिदिएको छ ।

ग्रोकका अभिव्यक्तिमा आपत्ति जनाउँदै पोल्यान्डका डिजिटल मामिलामन्त्री क्रिजिस्जोफ गाउकोवस्कीले एक्सलाई जरिवाना तिराउन युरोपेली आयोगसमक्ष माग गर्ने प्रतिक्रिया दिएका छन् । उनले बीबीसीसँग भनेका छन्, ‘अभिव्यक्ति स्वतन्त्रता मानिसका लागि हो, एआईका लागि होइन ।’ एजेन्सीको सहयोगमा