लन्डन । एलन मस्कको आर्टिफिसियल इन्टेलिजेन्स (एआई) प्लेटफर्म ‘ग्रोक’ गम्भीर विवादमा तानिएको छ। सामाजिक सञ्जाल एक्समा उपलब्ध यो एआई च्याटबट प्रयोग गरेर महिलाहरूको तस्बिरबाट डिजिटल रूपमा लुगा हटाई उनीहरूलाई अर्धनग्न बनाउने र यौनजन्य अवस्थामा देखाउने गरिएको घटना सार्वजनिक भएको हो।

समान्था स्मिथ नामकी एक महिलाले बीबीसीसँग कुरा गर्दै आफ्नो तस्बिरलाई ग्रोकले अनुमतिबिना परिमार्जन गरेपछि आफूलाई ‘अपमानित र वस्तु जस्तो’ महसुस भएको बताएकी छन्। उनले एक्समा यसबारे पोस्ट गरेपछि अन्य प्रयोगकर्ताले उल्टै ग्रोकलाई उनको थप त्यस्ता तस्बिरहरू बनाउन आग्रह गरेका थिए। स्मिथका अनुसार ती तस्बिरहरूमा उनी स्वयं नभए पनि देख्दा उस्तै देखिने भएकाले वास्तविक नग्न तस्बिर सार्वजनिक भएजस्तै पीडादायी र हिंसात्मक महसुस भएको छ।

यस घटनालाई लिएर बेलायतको गृह मन्त्रालयले कडा प्रतिक्रिया दिएको छ। मन्त्रालयका प्रवक्ताका अनुसार ‘न्युडिफिकेसन’ (लुगा हटाउने) प्रविधि वा औजारहरू उपलब्ध गराउने जोसुकैलाई नयाँ फौजदारी कानुन अन्तर्गत जेल सजाय र ठुलो जरिवाना गरिनेछ। बेलायतको नियामक निकाय ‘अफकम’ ले पनि यस्ता गैरसहमतिमा बनाइएका ‘डिपफेक’ र यौनजन्य सामग्रीहरू अवैध भएको र प्रविधि कम्पनीहरूले आफ्नो प्लेटफर्ममा यस्ता सामग्री रोक्न उचित कदम चाल्नुपर्ने स्पष्ट पारेको छ।

एक्सको बेवास्ता र आलोचना ग्रोकको कम्पनी एक्सएआईले यसबारे कुनै ठोस प्रतिक्रिया दिएको छैन। बीबीसीले प्रतिक्रिया माग्दा कम्पनीले ‘लेगेसी मिडियाले झुट बोल्छ’ भन्ने स्वचालित जवाफ मात्र पठाएको छ। डरहम विश्वविद्यालयकी कानुन प्राध्यापक क्लेयर म्याग्लिनले एक्सले चाहेमा यस्ता दुर्व्यवहार रोक्न सक्ने भए पनि बेवास्ता गरिरहेको आरोप लगाएकी छन्।

यसअघि पनि ग्रोकले गायिका टेलर स्विफ्टको यौनजन्य ‘डिपफेक’ भिडियो बनाएको आरोप लागेको थियो। एक्सको आफ्नै नीतिले कुनै पनि व्यक्तिको अश्लील तस्बिर वा भिडियो बनाउन निषेध गरे पनि व्यवहारमा भने यो प्रविधिको दुरुपयोग रोकिन सकेको छैन।

बीबीसी