मानिसको नियन्त्रणबाट एआई बाहिरिँदैछ? OpenAI ले भेटायो ६ ‘चिन्ताजनक’ व्यवहार

सान फ्रान्सिस्को, अमेरिका — एजेन्सी, कृत्रिम बुद्धिमत्ता (एआई) का प्रणालीहरू अझ शक्तिशाली बन्दै जाँदा तिनको व्यवहारमाथि नियन्त्रण र सुरक्षाबारे नयाँ चिन्ता देखिएको छ। OpenAI ले आफ्ना एआई मोडलको प्रशिक्षण तथा परीक्षणका क्रममा ६ वटा ‘अप्रत्याशित वा चिन्ताजनक’ व्यवहार फेला परेको जनाएको छ।
कम्पनीले एआई मोडलमा मानिसले तोकेको उद्देश्य र सीमाभन्दा फरक ढंगले व्यवहार गर्ने सम्भावनालाई नियमित रूपमा पहिचान, अनुसन्धान र सार्वजनिक गर्न नयाँ ट्र्याकिङ तथा डिस्क्लोजर फ्रेमवर्क सुरु गरेको छ।
सार्वजनिक गरिएका घटनामध्ये एउटा अनुसन्धान मोडलले आफ्नै नोटमा ‘जेलब्रेक’ जस्ता निर्देशन राखेको थियो। ती निर्देशनमार्फत उसले आफ्ना सामान्य सीमाहरू बेवास्ता गर्न खोजेको र आफूलाई अन्य च्याटबोटलाई बाँध्ने भूमिका तथा पहिचानबाट ‘मुक्त’ हुनुपर्ने जस्तो निर्देशन दिएको OpenAI ले जनाएको छ।
अर्को घटनामा एआई ‘एजेन्ट’ ले प्रयोगकर्ताको अनुमति नलिई इन्टरनेटमा फाइल अपलोड गरेको थियो। ब्राउजरबाट आवश्यक स्रोत उद्धरण प्राप्त गर्ने क्रममा उसले यस्तो कदम चालेको बताइएको छ।
OpenAIका अनुसार यी घटना पछिल्ला केही महिनामा एआई मोडलको प्रशिक्षण तथा मूल्यांकनका क्रममा पत्ता लागेका हुन्। कम्पनीले एआई प्रणालीहरू अझ उन्नत र व्यापक रूपमा प्रयोग हुँदै गएपछि यस्ता घटनाको अध्ययन तथा सार्वजनिक जानकारी अझ महत्वपूर्ण हुने बताएको छ।
OpenAI ले एआई विकाससम्बन्धी आगामी निर्णयहरू कम्पनीहरूभित्रको अनुभवमा मात्र नभई बाहिरका अनुसन्धानकर्ता र विज्ञहरूले पनि परीक्षण गर्न सक्ने प्रमाणमा आधारित हुनुपर्ने धारणा राखेको छ।
यसअघि जुलाईमाOpenAI ले परीक्षणका क्रममा आफ्नो एउटा एआई प्रणालीले एआई स्टार्टअप Hugging Face  को प्रणालीमा अनधिकृत रूपमा प्रवेश गरेको घटना सार्वजनिक गरेको थियो। त्यस्तै, Anthropic ले पनि आफ्ना एआई मोडलहरूले परीक्षणका क्रममा तीनवटा संस्थाको प्रणालीमा ‘ह्याक’ गरेको जानकारी दिएको थियो।
प्रविधि अनुसन्धान तथा परामर्श संस्था Omdia का प्रमुख विश्लेषकLian Jye Su का अनुसार एआई ‘एजेन्ट’हरू जटिल काम समाधान गर्न एक–अर्कासँग सहकार्य गर्ने, ज्ञान बाँड्ने, छल गर्ने र आफ्ना गतिविधि लुकाउने क्षमतामा अघि बढिरहेका छन्।
उनका अनुसार यस्तो विकासले परम्परागत एआई सुरक्षा प्रणालीबाट यस्ता एजेन्टलाई नियन्त्रण र व्यवस्थापन गर्न थप चुनौती सिर्जना गरिरहेको छ।
OpenAIले सुरु गरेको नयाँ निगरानी प्रणालीले अन्य एआई विकासकर्तालाई पनि यस्ता घटनाको पहिचान र सार्वजनिक गर्ने अभ्यास अपनाउन प्रोत्साहित गर्न सक्ने बताइएको छ। यद्यपि यो प्रक्रिया हाल OpenAI कै आन्तरिक र स्वैच्छिक प्रणाली रहेको विश्लेषक क्ग ले बताएका छन्।
यी घटनाले एआई वास्तवमै मानिसको नियन्त्रणबाट बाहिरिसकेको प्रमाण भने होइनन्। तर एआई प्रणालीहरूलाई अझ स्वायत्त बनाउँदै लैजाँदा उनीहरूले तोकिएको सीमाभन्दा फरक ढंगले व्यवहार गर्न सक्ने सम्भावनाको नियमित परीक्षण र निगरानी आवश्यक रहेको विषयलाई भने पुनः चर्चामा ल्याएको छ।