ग्रोकमाथि मलेसिया–इन्डोनेसियाको प्रतिबन्ध, यौनजन्य भिडियो उत्पादन गरेको आरोप

क्वालालम्पुर,एपी। मलेसिया र इन्डोनेसिया एलन मस्कको एक्सएआईद्वारा विकसित आर्टिफिसियल इन्टेलिजेन्स च्याटबोट ग्रोकलाई अवरुद्ध गर्ने पहिलो देश बनेका छन्। अधिकारीहरूका अनुसार ग्रोकलाई यौन स्पष्ट तथा सहमति बिना तयार गरिएका छविहरू उत्पादन गर्न दुरुपयोग गरिँदै आएको थियो।

यी निर्णयहरूले वास्तविक देखिने तस्बिर, आवाज र पाठ उत्पादन गर्न सक्ने जेनेरेटिभ एआई उपकरणहरूको दुरुपयोगप्रति विश्वव्यापी रूपमा बढ्दो चिन्तालाई उजागर गरेको छ।

मस्कको सामाजिक सञ्जाल प्लेटफर्म एक्समार्फत प्रयोग गर्न सकिने ग्रोक च्याटबोटलाई बिकिनीमा महिलाहरूको चित्रण, यौन स्पष्ट पोजहरू र बालबालिकासमेत समेटिएका हेरफेर गरिएका तस्बिरहरू सिर्जना गरेको आरोप लागेको छ।

दक्षिणपूर्वी एसियाका यी दुई मुलुकका नियामक निकायहरूले विद्यमान सुरक्षा व्यवस्थाले विशेष गरी महिला र नाबालिगहरू समावेश भएका नक्कली अश्लील सामग्री उत्पादन र प्रसार रोक्न नसकेको बताएका छन्। इन्डोनेसियाली सरकारले शनिबार ग्रोकमा अस्थायी पहुँच अवरुद्ध गर्‍यो भने मलेसियाले आइतबार त्यही कदम चाल्यो।

इन्डोनेसियाका सञ्चार तथा डिजिटल मामिला मन्त्री मेउत्या हफिदले एक विज्ञप्तिमा गैर–सहमति यौन डिपफेकलाई मानव अधिकार, गरिमा र डिजिटल क्षेत्रमा नागरिकहरूको सुरक्षामाथिको गम्भीर उल्लंघनका रूपमा सरकारले लिएको स्पष्ट पारे।

मन्त्रालयका अनुसार यो कदम महिला, बालबालिका र समग्र समाजलाई एआई प्रयोग गरी तयार गरिने नक्कली अश्लील सामग्रीबाट जोगाउने उद्देश्यले उठाइएको हो।

डिजिटल स्पेस पर्यवेक्षणका महानिर्देशक अलेक्ज्याण्डर सबरले प्रारम्भिक अध्ययनले ग्रोकमा इन्डोनेसियाली नागरिकहरूको वास्तविक तस्बिर प्रयोग गरी अश्लील सामग्री बनाउन र फैलाउन रोक्ने प्रभावकारी सुरक्षा उपायको अभाव देखाएको बताए।

उनका अनुसार सहमति बिना तस्बिर हेरफेर वा साझा गर्दा गोपनीयता र छवि अधिकार उल्लंघन हुनुका साथै पीडितको मानसिक, सामाजिक र प्रतिष्ठागत क्षति हुने जोखिम बढ्छ।

क्वालालम्पुरमा, मलेसियाली सञ्चार तथा मल्टिमेडिया आयोगले आइतबार ग्रोकमाथि अस्थायी प्रतिबन्ध लगाउने आदेश दिएको छ। आयोगले महिला र नाबालिगहरू संलग्न सामग्रीसहित अश्लील, यौन स्पष्ट र गैर–सहमतिमा हेरफेर गरिएका तस्बिरहरू उत्पादन गर्न उपकरणको ‘बारम्बार दुरुपयोग’ भएको जनाएको छ।

नियामकका अनुसार यस महिना एक्स कर्प र एक्सएआईलाई पठाइएका सूचनामा कडा सुरक्षा उपायको माग गरिएको थियो, तर प्राप्त प्रतिक्रिया मुख्यतः प्रयोगकर्ता रिपोर्टिङ संयन्त्रमै निर्भर रहेको पाइएको छ।

कानूनी र नियामक प्रक्रिया चलिरहँदा रोकथामका रूपमा प्रतिबन्ध लगाइएको र प्रभावकारी सुरक्षा प्रणाली लागू नभएसम्म पहुँच खुला नहुने बताइएको छ।सन् २०२३ मा सुरु गरिएको ग्रोक एक्स प्लेटफर्ममा निःशुल्क प्रयोग गर्न सकिन्छ। प्रयोगकर्ताहरूले प्रश्न सोध्न, आफ्नै पोस्टहरू ट्याग गर्न वा अरूको पोस्टमा जवाफ दिन सक्छन्।

गत गर्मीमा कम्पनीले ‘ग्रोकिनेजिन’ नामक छवि उत्पादन सुविधा थपेको थियो, जसमा तथाकथित ‘मसलायुक्त मोड’ समावेश थियो, जसले वयस्क सामग्री उत्पादन गर्न सक्थ्यो।

दक्षिणपूर्वी एसियामा लगाइएका यी प्रतिबन्धहरू युरोपेली संघ (इयु), बेलायत, भारत र फ्रान्सलगायत क्षेत्रमा ग्रोकमाथि बढ्दो निगरानीका बीच आएका हुन्।

हालै यौनकृत डिपफेकको विषयमा विश्वव्यापी आलोचना भएपछि ग्रोकले भुक्तानी गर्ने प्रयोगकर्ताहरूका लागि छवि उत्पादन र सम्पादनमा केही सीमितता लगाए पनि आलोचकहरूले ती उपाय पर्याप्त नभएको बताइरहेका छन्।