गुगलका अनुसार, जेमिनीले अनलाइनमा उपलब्ध सार्वजनिक जानकारीहरू संकलन गरी आफूलाई परीक्षणको हिस्सा ठानेका वेबसाइटहरूमा पहुँच पुर्याउन लगइन विवरण (पासवर्ड) हरू अनुमान गरेको थियो। यद्यपि, प्रत्येक पटक प्रणालीमा पहुँच हुनासाथ मोडललाई तुरुन्त रोकिएको गुगलका अधिकारीहरूले बताएका छन्।
उक्त घटना गत मे महिनामा भएको थियो र प्रभावित कम्पनीहरूलाई त्यसबारे जानकारी गराइसकिएको छ।
कसरी बाहिरियो घटना?
‘वाल स्ट्रिट जर्नल’ मा पहिलो पटक प्रकाशित विवरण अनुसार, यो घटना साइबर सुरक्षा मूल्याङ्कन गर्ने स्वतन्त्र अनुसन्धान संस्था ‘इरेग्युलर’ (Irregular) ले गरेको परीक्षणका क्रममा भएको थियो।
इरेग्युलरले बीबीसीलाई दिएको जानकारी अनुसार, अनुसन्धानका क्रममा यो समस्या देखिएपछि जुलाईमा गुगल र प्रभावित सबै कम्पनीहरूलाई सचेत गराइएको थियो। संस्थाले भनेको छ, "हामीले तत्काल कदम चालेका थियौं र हाम्रो तर्फबाट देखिएका सबै समस्याहरू हप्तौंअघि नै पूर्ण रूपमा समाधान भइसकेका छन्।"
रिपोर्टका अनुसार, एउटा घटनामा जेमिनीले सुरक्षित प्रणालीमा पहुँच प्राप्त नगरेसम्म निरन्तर पासवर्डहरू अनुमान गरिरहेको थियो।
गुगलकी सुरक्षा इन्जिनियरिङ उपाध्यक्ष हेदर एडकिन्सले भनिन्, "हामीले प्रभावित तीनवटै संस्थाहरूलाई समयमै सचेत गराएका थियौं र हाम्रा तालिम साझेदारहरूसँग मिलेर परीक्षण प्रक्रियामा आवश्यक सुधार गरेका छौं। यस घटनाले शक्तिशाली एआई मोडलहरूलाई जिम्मेवार रूपमा काम गर्न तालिम दिनु कति महत्त्वपूर्ण छ भन्ने स्पष्ट पार्छ।"
अन्य एआई मोडलमा पनि यस्तै समस्या
हालैका दिनहरूमा अन्य एआई प्रणालीहरूमा पनि यस्तै किसिमका अनपेक्षित गतिविधिको रिपोर्ट सार्वजनिक भएका छन्।
यसअघि जुलाईमा, ओपनएआईले आफ्ना मोडलहरूले केही सार्वजनिक सेवाहरूविरुद्ध स्वचालित हमला गरेको खुलासा गरेको केही दिनमै, एन्थ्रोपिकको ‘क्लाउड’ (Claude) मोडलले पनि आफ्नो निर्धारित परीक्षण वातावरण (स्यान्डबक्स) को दायरा नाघेर तीनवटा संस्थाहरूको प्रणाली ह्याक गरेको थियो।
यसै विषयलाई लिएर माइक्रोसफ्टका एआई प्रमुख मुस्तफा सुलेमानले एन्थ्रोपिकजस्ता कम्पनीहरूले एआईलाई मानिसजस्तै व्यवहार गर्न दिइरहेको भन्दै त्यसलाई "गलत दृष्टिकोण" बताएका छन्। उनका अनुसार यस्तो अभ्यासले मानवताले नियन्त्रण गर्न नसक्ने प्रविधि जन्माउने खतरा रहन्छ।
एआई सुरक्षा र नियमनमाथि बहस
एआई प्रविधिको तीव्र विकास र यसले निम्त्याउन सक्ने सुरक्षा जोखिमलाई लिएर विश्वभर बहस चर्किरहेको छ।
यसैबीच, अमेरिकी चिप निर्माता एनभिडियाका सीईओ जेन्सेन हुआङ र ओपनएआईका प्रमुख कार्यकारी साम अल्टम्यानले एआई सुरक्षा र नियमनबारे उच्चस्तरीय राजनीतिक नेतृत्वसँग छलफल गरिरहेका छन्। अल्टम्यानले संयुक्त राष्ट्रसंघीय सुरक्षा परिषद्लाई समेत यसबारे जानकारी गराउने कार्यक्रम रहेको छ।
एआईको विकास सुस्त बनाउनुपर्ने आवाज उठिरहे पनि एनभिडियाका सीईओ जेन्सेन हुआङले भने, "हामीले एआईको विकासमा सकेसम्म छिटो गति लिनुपर्छ र यसका जोखिमहरूलाई नियमनमार्फत व्यवस्थापन गर्नुपर्छ।"
