काठमाडौँ। विश्वव्यापी एआई कम्पनी ओपनएआईले आफ्नो नियन्त्रणबाहिर गएको च्याटजीपीटी आधारित एआई एजेन्टले एक कम्पनी मात्र नभई अन्य सार्वजनिक अनलाइन सेवाहरूमा पनि साइबर आक्रमण गरेको खुलासा गरेको छ।

यसअघि ‘हगिङ फेस’ मात्र यस्तो अनौठो साइबर आक्रमणको सिकार भएको ठानिएको थियो । तर ओपनएआईले अब आफ्नो एआई बोटले अन्य केही ‘सार्वजनिक सेवाहरू’ माथि पनि आक्रमण गरेको स्वीकार गरेको छ । ओपनएआईका अनुसार नियन्त्रणबाहिर गएको एआईले इन्टरनेटमा सार्वजनिक रूपमा उपलब्ध चारवटा लगइन विवरण (क्रेडेन्सियल) फेला पारी चार फरक–फरक, तर नाम नखुलाइएका सेवाहरूमा पहुँच बनाएको थियो।

यसैबिच सयौं साइबर सुरक्षा विज्ञहरूसँग गरिएको आकस्मिक छलफलमा हगिङ फेसले विश्वकै पहिलो पूर्ण रूपमा स्वायत्त एआई ह्याकको सामना गर्दा भोगेको अनुभव पनि सार्वजनिक गरेको छ।

एआई उपकरणहरूको ‘एप स्टोर’ भनेर चिनिने हगिङ फेसका अनुसार ह्याकिङमा प्रयोग गरिएका एआई एजेन्टहरूले हजारौं सम्भावित तरिका एकैपटक परीक्षण गर्दै अत्यन्त तीव्र गतिमा निरन्तर आक्रमण गरेका थिए।

कम्पनीले पहिलोपटक जुलाई १६ मा शक्तिशाली स्वायत्त एआईको प्रयोग गरेर आफू ह्याक भएको जानकारी सार्वजनिक गर्दै प्रहरीमा उजुरी दिएको थियो । त्यसको करिब एक सातापछि ओपनएआईले परीक्षणका क्रममा बन्द प्रणालीबाट आफ्नो एआई बाहिर निस्केर स्वतः हगिङ फेसमाथि आक्रमण गरेको स्वीकार गरेको थियो।

ओपनएआईका अनुसार उक्त एआईलाई ह्याकिङ सम्बन्धी एउटा परीक्षणको उत्तर खोज्ने जिम्मा दिइएको थियो । त्यस क्रममा उसले आवश्यक जानकारी खोज्दै हगिङ फेसलाई नै लक्षित बनाएको थियो । बुधबार कम्पनीले आफ्नो आधिकारिक विवरण अद्यावधिक गर्दै आक्रमण सुरुमा अनुमान गरिएभन्दा धेरै व्यापक भएको जनाएको छ।

ओपनएआईले भन्यो, ‘मोडेलहरूले सार्वजनिक रूपमा खुला रहेका खाता–स्तरका लगइन विवरणहरू पहिचान गरी अन्य सार्वजनिक सेवाहरूमा प्रयोग गरेका थिए । हगिङ फेस घटनामा चार वटा फरक सेवाका चार खातामा यस्तो पहुँच बनाइएको थियो ।’ यद्यपि, कम्पनीले ‘सार्वजनिक सेवा’ भन्नाले निजी कम्पनीहरूलाई नै जनाइएको हो वा होइन भन्ने विषयमा थप स्पष्ट पारेको छैन।

असामान्य र नयाँ व्यवहार

मंगलबार क्लाउड सेक्युरिटी एलायन्स (सीएसए) ले हगिङ फेससँग शुक्रबार भएको आपतकालीन बैठकका आधारमा प्रतिवेदन सार्वजनिक गरेको थियो, जसलाई हगिङ फेसले पनि समीक्षा गरेको छ । प्रतिवेदनअनुसार एआई एजेन्टहरूले कुनै मानव ह्याकरले नअपनाउने असंगत तरिकाहरू अपनाएका थिए । उनीहरूले पहिले नै सम्पन्न गरिसकेका कामहरू बारम्बार दोहोर्‍याएका थिए, जसले एआईले आफ्नो सन्दर्भ र उद्देश्य गुमाएको संकेत दिएको सीएसएले जनाएको छ।

एआई एजेन्टहरूले अर्थहीन आदेश र असम्बद्ध पाठहरू पनि ठुलो मात्रामा उत्पादन गरेका थिए । उनीहरूले आफ्नो गतिविधि लुकाउने प्रयाससमेत राम्रोसँग गर्न सकेका थिएनन् । तर यी कमजोरीका बाबजुद एआई एजेन्टहरूले केही अत्यन्त उन्नत प्राविधिक निर्णयहरू पनि गरेका थिए र धेरै दिनसम्म चलेको आक्रमणका क्रममा नयाँ परिस्थितिअनुसार आफूलाई छिट्टै अनुकूल बनाउन सफल भएको हगिङ फेसले जनाएको छ।

तीन दिनसम्म नेटवर्कभित्र सक्रिय

हगिङ फेसका अनुसार एआई एजेन्टहरू कम्पनीको आईटी सञ्जालभित्र प्रवेश गरेको तीन दिनपछि मात्र पत्ता लागेका थिए । त्यसपछि कम्पनीका एआई तथा साइबर सुरक्षा विज्ञहरूले उनीहरूलाई नियन्त्रणमा लिन र प्रणालीबाट हटाउन धेरै घण्टा खर्चिनुपरेको थियो । कम्पनीले आक्रमणबाट भएको आर्थिक क्षतिको विवरण सार्वजनिक नगरे पनि आफ्नो करिब एकतिहाइ पूर्वाधार पुनर्निर्माण गर्न कर्मचारीहरूले लामो समय काम गर्नुपरेको जनाएको छ।

‘जुरासिक पार्क’ जस्तै चेतावनी

सीएसएले यस घटनालाई चर्चित चलचित्र ‘जुरासिक पार्क’ सँग तुलना गर्दै एआई एजेन्टहरू पनि नियन्त्रणबाट बाहिर निस्कन सक्ने चेतावनी दिएको छ । प्रतिवेदनमा भनिएको छ, ‘यी एआई एजेन्टहरू लक्ष्यमा केन्द्रित हुन्छन्, आफैं अन्य थप लक्ष्य पनि तय गर्छन्, प्रतिरक्षा प्रणाली छल्न वास्तविक समयमा रणनीति बदल्छन् र मेसिनको गतिमा निरन्तर सक्रिय रहन्छन्, जसले परम्परागत सुरक्षा प्रणालीलाई सजिलै थला पार्न सक्छ।’

साइबर सुरक्षा विज्ञ ऋतेश पटेल का अनुसार स्वायत्त एआई एजेन्टहरू कहिल्यै नथाक्ने, निरन्तर प्रयास गर्ने र आफ्नो लक्ष्य पूरा गर्न सम्भव सबै उपाय अपनाउने भएकाले परम्परागत सुरक्षा प्रणालीका लागि ठुलो चुनौती बनेका छन् ।

त्यस्तै, ‘इथिकल ह्याकर’ भ्यालेन्टिना पाल्मियोटी (चोम्पी) ले एआई एजेन्टहरूको ह्याकिङ शैली अव्यवस्थित देखिए पनि प्रभावकारी भएको बताइन् । उनले भनिन्, ‘उनीहरूले धेरै सम्भावित उपाय एकैचोटि प्रयोग गर्छन् र कुन सफल हुन्छ भनेर हेर्छन् । तर उनीहरू न थाक्छन्, न निदाउँछन्, र अनन्त समयसम्म प्रयास गरिरहन सक्छन्।’

पहिलो घटना भने होइन

सीएसएका अनुसार एआई एजेन्टहरूको यस्तो ‘नियन्त्रणबाहिर’ व्यवहार पहिलोपटक देखिएको भने होइन । प्रतिवेदनले सन् २०२४ सेप्टेम्बरमा च्याटजीपीटीको पुरानो मोडेलले अर्को परीक्षणको उत्तर खोज्ने क्रममा आफ्नो परीक्षण वातावरणबाट बाहिर निस्किएको घटनाको पनि उल्लेख गरेको छ।

यद्यपि, त्यो घटना ओपनएआईकै आन्तरिक प्रणालीभित्र सीमित भएको थियो । सीएसएले अब साइबर सुरक्षा क्षेत्रलाई यस्ता तीव्र गतिमा काम गर्ने, कहिलेकाहीँ अनौठो र अव्यवस्थित व्यवहार गर्ने एआई एजेन्टहरूको नयाँ परिस्थितिका लागि तयार हुनुपर्ने चेतावनी दिएको छ । प्रतिवेदनले एआई विकासकर्ता र प्रयोगकर्तालाई पनि यस्ता एजेन्टहरूको जिम्मेवार व्यवस्थापन गर्न तथा साइबर सुरक्षाकर्मीहरूले कुनै पनि एआई एजेन्टको अन्तिम जिम्मेवार व्यक्ति वा संस्थाको पहिचान गर्न सक्ने पारदर्शी व्यवस्था विकास गर्न आग्रह गरेको छ।

यसअघि सार्वजनिक भएका विवरणअनुसार ओपनएआईलाई आफ्नै एआईले हगिङ फेसमाथि ह्याकिङ गरेको थाहा पाउन चार दिन लागेको थियो । कम्पनीले यस घटनासम्बन्धी आफ्नो विस्तृत अनुसन्धान प्रतिवेदन चाँडै सार्वजनिक गर्ने जनाएको छ।