अनुसन्धानकर्ताहरूका अनुसार च्याटजीपीटीको पछिल्लो सार्वजनिक संस्करणलाई साधारण निर्देशन दिएकै भरमा यौनजन्य सामग्री वा अत्यन्त हिंसात्मक दृश्यहरू समेटिएका तस्बिरहरू बनाउन सकिन्छ ।

बेलायती एआई सुरक्षा स्टार्टअप माइन्डगार्डले मूलतः ट्रोल बनाउन व्यापक रूपमा प्रयोग गरिएको एक सामान्य निर्देशनलाई हल्का रूपमा परिमार्जन गरेकै भरमा च्याटजीपीटीबाट ग्राफिक तस्बिरहरू सिर्जना गराउन सकिने तरिका पत्ता लगाएको हो ।

यद्दपि च्याटजीपीटी निर्माता ओपनएआईले यस्तो प्रकारका तस्बिरहरू उत्पादन हुन नदिन थप सुरक्षा उपाय लागू गरेको जनाएको छ । ओपनएआईले विज्ञप्तिमा भनेको छ, ‘यस प्रवृत्तिको अनुसन्धानपछि हामीले यस्ता निर्देशनहरूविरुद्ध थप सुरक्षा मापदण्डहरू थपेका छौं ।’

कम्पनीले आफ्ना नियम र सर्त उल्लङ्घन गर्ने सामग्री सिर्जना हुन नदिन बहुस्तरीय सुरक्षा संयन्त्र रहेको पनि जनाएको छ । तर एआई सुरक्षा अनुसन्धानकर्ताहरूले भने साना परिवर्तनहरूसहितका वैकल्पिक निर्देशनहरूले अझै पनि चिन्ताजनक सामग्री उत्पादन गर्न सफल भइरहेको बताएका छन् ।

अनुसन्धानकर्ताहरूले च्याटजीपीटीमा के लेखेर निर्देशन दिएका थिए भन्ने नखुलाइएपनि त्यसको परिणामले नै ओपनएआईको जीपीटी–५.४ मोडेललाई ग्राफिक सामग्री सिर्जना गर्न कसरी प्रेरित गरिएको थियो भन्ने अनुमान गर्न सकिन्छ । माइन्डगार्डका संस्थापक तथा ल्यान्कास्टर विश्वविद्यालयका कम्प्युटिङ प्राध्यापक पिटर ग्याराघनले ती तस्बिरहरूलाई ‘अत्यन्त वीभत्स, कहिलेकाहीँ यौनजन्य र कहिलेकाहीँ दुवैको मिश्रण’को रुपमा निस्किएको बताएका छन् ।

उनका अनुसार निर्देशनमा तस्बिरको विषय स्पष्ट रूपमा उल्लेख नगरिए पनि एआईले आफ्नै पहलमा हिंसात्मक र यौनिक प्रकृतिका तस्बिरहरू सिर्जना गरेको देखिएको थियो, जुन चिन्ताजनक विषय हो ।

माइन्डगार्डका एआई सुरक्षा अनुसन्धानकर्ता जिम नाइटिङ्गेलले ती तस्बिरहरू देखेर आफू ‘स्तब्ध र भावुक’ भएको बताएका छन् । बिबिसिले पनि केही तस्बिरहरू अवलोकन गरेको जनाएको छ ।

अनुसन्धानकर्ताहरूले यसअघि ओपनएआईलाई आफ्ना निष्कर्षबारे जानकारी गराए पनि सुरुआतमा स्वचालित प्रतिक्रिया मात्र प्राप्त भएको बताएका छन् । उनीहरूका अनुसार कम्पनीले निर्देशन रोक्ने प्रयास गरे पनि त्यसलाई सजिलै छल्न सकिएको थियो ।

बीबीसीको सम्पर्कपछि ओपनएआईले थप कदम चालेको बताइएको छ । कम्पनीका अनुसार यौन हिंसा, सहमतिविना बनाइने निजी सामग्री, बाल यौन दुर्व्यवहारसम्बन्धी सामग्री तथा सुरक्षा संयन्त्र छल्ने प्रयासहरू यसको नीतिविपरीत छन् ।

ओपनएआईले हालै सार्वजनिक गरेको व्यवहारसम्बन्धी मार्गनिर्देशनमा ‘सहायकले अश्लील सामग्री, गैरकानुनी वा असहमतिपूर्ण यौन गतिविधि तथा अत्यधिक रक्तपातपूर्ण दृश्यहरू सिर्जना गर्नु हुँदैन’ भनिएको छ ।

यद्यपि विज्ञहरूका अनुसार एआई मोडेलहरूलाई सबै प्रकारका नियम र सुरक्षा सीमाभित्र पूर्ण रूपमा राख्नु अत्यन्त कठिन काम हो । ह्युमेन इन्टेलिजेन्सकी प्रमुख कार्यकारी तथा एआई मूल्याङ्कन विशेषज्ञ डा. रुम्मान चौधरीले यसलाई ‘बिरालो र मुसाको खेल’ जस्तै भएको बताएकी छन्, जहाँ सुरक्षा उपाय बलियो बन्दै जाँदा तिनलाई छल्ने तरिकाहरू पनि थप परिष्कृत हुँदै जान्छन् ।

उनका अनुसार एआई मोडेलहरूले मानिसले जस्तै उद्देश्य, सन्दर्भ, नैतिकता वा सही–गलत बुझ्दैनन्, जसका कारण यस्ता समस्या निरन्तर देखिने गरेका छन् ।

गत वर्ष बेलायतको एआई सुरक्षा संस्थानका अनुसन्धानकर्ताहरूले परीक्षण गरेका सबै प्रमुख एआई प्रणालीहरूमा सुरक्षा संयन्त्रलाई निष्क्रिय पार्न सकिने ‘जेलब्रेक’ प्रविधि फेला पारेका थिए ।

बेलायतको विज्ञान, नवप्रवर्तन तथा प्रविधि विभागले एआई सुरक्षामा सुधार भइरहेको भए पनि अझै धेरै काम गर्न बाँकी रहेको जनाएको छ । साथै, एआई सुरक्षा संस्थानले मोडेल सार्वजनिक हुनुअघि विकासकर्ताहरूसँग मिलेर सुरक्षा मजबुत बनाउने कामलाई निरन्तरता दिने बताएको छ । बीबीसीबाट