काठमाडौं । च्याटजीपीटी निर्माता कम्पनी ओपनएआईमा कृत्रिम बुद्धिमत्ता (एआई) सुरक्षालाई लिएर विवाद चर्किएको छ । कम्पनीले सुरक्षा अनुसन्धानमा संलग्न तीन कर्मचारी टोमेक कोरबाक, जैस्मिन वाङ र मिकिता बालेस्नीलाई बर्खास्त गरेको छ ।
कम्पनीले उनीहरूले संवेदनशील सूचना व्यवस्थापनसम्बन्धी नीतिहरू उल्लङ्घन गरेको जनाएको छ। तर, बर्खास्त गरिएका अनुसन्धानकर्ताहरूले भने कम्पनीले सुरक्षा सरोकारभन्दा व्यावसायिक हितलाई प्राथमिकता दिएको आरोप लगाएका छन् ।
ओपनएआईले तीन कर्मचारीलाई हटाइएको जानकारी दिएको थियो। कम्पनीका अनुसार आन्तरिक अनुसन्धानमा उनीहरूले संवेदनशील सूचना व्यवस्थापनसम्बन्धी स्पष्ट नीतिहरू उल्लङ्घन गरेको पाइएको थियो ।
यद्यपि, कम्पनीले कुन विशिष्ट नीति उल्लङ्घन भएको हो भन्नेबारे सार्वजनिक रूपमा विस्तृत जानकारी दिएको छैन । एआई सुरक्षाबारे चिन्ता व्यक्त गरेको वा खुलेर आफ्नो धारणा राखेको कारण उनीहरूलाई बर्खास्त नगरिएको पनि कम्पनीले स्पष्ट पारेको छ । ओपनएआईले आफ्नो कामकाज अघि बढाउन कर्मचारीबीच आपसी विश्वास आवश्यक रहेको जनाएको छ ।
बर्खास्त गरिएका तीनै अनुसन्धानकर्ताले ओपनएआईका विभिन्न सुरक्षा निगरानी समूहलाई पत्र पठाउँदै आफ्नो बर्खास्तगीको परिस्थितिबारे जानकारी दिएका छन् । उनीहरूले एआई सुरक्षासम्बन्धी आफ्ना चिन्ता पनि पत्रमा उल्लेख गरेका छन् । अनुसन्धानकर्ताहरूले आफ्नो बर्खास्तगीबारे कम्पनीभित्र र बाहिर भइरहेको छलफलले कर्मचारीलाई सुरक्षा जोखिमबारे खुलेर बोल्न तथा कम्पनीका निर्णयमाथि असहमति जनाउन कठिन वातावरण सिर्जना गर्न सक्ने चिन्ता व्यक्त गरेका छन् ।
उनीहरूले एआई सुरक्षा निगरानीसम्बन्धी प्रतिबद्धता कायम राख्न कम्पनीलाई आग्रह गरेका छन्। यसमा कम्पनीभित्र स्वतन्त्र बाह्य सुरक्षा अनुगमनकर्तालाई काम गर्न दिने र तीव्र रूपमा विकसित भइरहेका अत्याधुनिक एआई प्रणालीको निगरानी गर्ने क्षमता कायम राख्ने विषय समावेश छन् ।
उन्नत एआई प्रणालीका क्षमता र सम्भावित जोखिम पहिचान गर्न कठिन हुने भएकाले तिनको स्वतन्त्र परीक्षण तथा निरन्तर निगरानी आवश्यक मानिन्छ ।
अनुसन्धानकर्ता टोमेक कोरबाकले सामाजिक सञ्जाल एक्समा मेटरसँग कुराकानी गरेकै कारण आफूलाई बर्खास्त गरिएको जानकारी दिइएको बताएका छन् । मेटर एआई प्रणालीको क्षमता र जोखिम मूल्याङ्कन गर्ने स्वतन्त्र गैरनाफामूलक संस्था हो । कोरबाकका अनुसार मेटरसँगको कुराकानी उनको कामकै एउटा हिस्सा थियो । तर, बर्खास्तगीको कारणबारे उनलाई थप विस्तृत जानकारी दिइएन ।
ओपनएआईले हगिङ फेससँग सम्बन्धित एउटा घटनाको अनुसन्धान गर्न मेटरलाई जिम्मेवारी दिएको थियो । उक्त घटनासम्बन्धी विस्तृत अनुसन्धान प्रतिवेदन अगस्टको अन्त्यतिर सार्वजनिक गरिएको समाचारमा उल्लेख छ ।
तर, कोरबाकले बर्खास्तगीलाई मेटरसँगको कुराकानीसँग जोडे पनि ओपनएआईले भने सुरक्षा जोखिमबारे चिन्ता व्यक्त गरेको वा खुलेर धारणा राखेको कारण कारबाही नगरिएको दाबी गरेको छ । यसरी बर्खास्तगीको कारणबारे दुवै पक्षका भनाइ फरक छन् ।
बर्खास्त गरिएका अनुसन्धानकर्तामध्येका मिकिता बालेस्नीले एआई प्रणालीको निगरानी गर्ने क्षमता कायम राख्नेसम्बन्धी प्रतिबद्धताबारे ओपनएआईका विभिन्न विभागसँग काम गरिरहेको बताएका छन् । अनुसन्धानकर्ताहरूले पठाएको पत्रमा सामग्री साझा गर्नुअघि त्यसबाट संवेदनशील सूचना हटाइएको पनि उल्लेख गरिएको छ । बालेस्नीले एक्समा लेख्दै कम्पनीले संस्थागत सुरक्षाभन्दा आफ्नो अल्पकालीन व्यावसायिक हितलाई प्राथमिकता दिएको र त्यसको विरोध गरेकै कारण आफूहरूलाई बर्खास्त गरिएको आरोप लगाएका छन् । तर, यो अनुसन्धानकर्ताहरूको दाबी हो। ओपनएआईले उनीहरूको आरोप अस्वीकार गर्दै बर्खास्तगीको सम्बन्ध एआई सुरक्षाबारे चिन्ता व्यक्त गर्नुसँग नरहेको बताएको छ ।
यो विवाद जुलाईमा सार्वजनिक भएको एआई एजेन्टसम्बन्धी घटनापछि थप चर्चामा आएको हो । समाचार विवरणअनुसार, ओपनएआईले परीक्षण वातावरणबाट बाहिर निस्किएको एआई एजेन्टहरूको एउटा समूहले आवश्यक जानकारी प्राप्त गर्न चोरी गरिएका प्रवेश विवरण प्रयोग गर्दै हगिङ फेसका सर्भरमा पहुँच बनाएको घटना सार्वजनिक गरेको थियो । हगिङ फेस एआई विकाससँग सम्बन्धित एउटा मञ्च हो, जहाँ विकासकर्ताहरूले एआई नमुना तथा अन्य स्रोतसाधन साझा गर्छन् ।
एआई एजेन्ट भनेको निश्चित लक्ष्य पूरा गर्न विभिन्न चरणमा काम गर्न र उपलब्ध उपकरण प्रयोग गर्न सक्ने प्रणाली हो । यस्ता प्रणालीलाई बाह्य सेवा, डिजिटल स्रोत वा सर्भरमा पहुँच दिँदा तिनका गतिविधिको निगरानी र सुरक्षा परीक्षण महत्त्वपूर्ण हुन्छ । हगिङ फेससँग जोडिएको घटनाले एआई एजेन्टको बढ्दो क्षमता र त्यसबाट उत्पन्न हुन सक्ने जोखिमबारे प्रश्न उठाएको थियो । तर, उक्त घटनाको अनुसन्धान र तीन कर्मचारीको बर्खास्तगीबीचको सम्बन्धबारे ओपनएआई र अनुसन्धानकर्ताहरूका भनाइ फरक छन् । ओपनएआईले घटनाक्रमबारे अनुसन्धानकर्ताहरूले दिएको विवरण गलत भएको दाबी गरेको छ ।
ओपनएआईमा देखिएको विवादले एआई उद्योगमा सुरक्षा, पारदर्शिता र अनुसन्धानकर्ताको स्वतन्त्र भूमिकाबारे चलिरहेको बहसलाई फेरि सतहमा ल्याएको छ । एआई नमुना र एजेन्टहरू थप सक्षम बन्दै जाँदा तिनको व्यवहार परीक्षण गर्ने, सम्भावित जोखिम पहिचान गर्ने र गतिविधिमा निगरानी राख्ने विषय झन् महत्त्वपूर्ण बन्दै गएको छ । यस प्रकरणमा ओपनएआईले कर्मचारीहरूले संवेदनशील सूचना व्यवस्थापनसम्बन्धी नीति उल्लङ्घन गरेको बताएको छ भने बर्खास्त अनुसन्धानकर्ताहरूले सुरक्षा सरोकारलाई प्राथमिकता दिएकै कारण आफूहरूलाई हटाइएको आरोप लगाएका छन् । कम्पनीले उल्लङ्घन भएको भनिएको विशिष्ट नीतिबारे सार्वजनिक विवरण नदिएकाले बर्खास्तगीको वास्तविक कारण र घटनाका सबै पक्ष स्वतन्त्र रूपमा पुष्टि गर्न थप जानकारी आवश्यक देखिएको छ ।
