आक्रोश बेचेर अर्बौँ कमाउँदै फेसबुक, इन्स्टा र टिकटक, जानाजानी फैलाउँदै विशाक्त सामग्री

सामाजिक सञ्जालका ठूला कम्पनीहरूले आफ्ना एल्गोरिदमहरूमा गरिएका आन्तरिक अनुसन्धानबाट आक्रोशले प्रयोगकर्ताहरूको इन्गेजमेन्ट बढाउने कुरा पत्ता लागेपछि मानिसहरूको फिडमा थप हानिकारक सामग्रीहरू देखिने गरी निर्णयहरू गरेको सूचनादाताहरूले दाबी गरेका छन्। एक दर्जनभन्दा बढी सूचनादाता र भित्रियाहरूले प्रयोगकर्ताको ध्यान तान्ने प्रतिस्पर्धामा यी कम्पनीहरूले हिंसा, यौन ब्ल्याकमेल र आतंकवाद जस्ता विषयहरूमा सुरक्षा जोखिम मोलेको खुलासा गरेका छन्।

फेसबुक र इन्स्टाग्रामको स्वामित्व रहेको मेटाका एक इन्जिनियरले बताए अनुसार, टिकटकसँग प्रतिस्पर्धा गर्नका लागि व्यवस्थापनले उनलाई प्रयोगकर्ताको फिडमा थप हानिकारक सामग्रीहरू, जसमा महिलाद्वेष र षड्यन्त्रका सिद्धान्तहरू समावेश छन्, राख्न अनुमति दिन निर्देशन दिएको थियो।

‘उनीहरूले हामीलाई हाम्रो स्टकको मूल्य घटेको कारण यस्तो गरिएको हो भनेर बताए,’ ती इन्जिनियरले भने। त्यस्तै, टिकटकका एक कर्मचारीले बीबीसीलाई कम्पनीको आन्तरिक ड्यासबोर्डमा दुर्लभ पहुँच दिएका छन्। त्यहाँ प्राप्त प्रमाणहरू अनुसार, कर्मचारीहरूलाई बच्चाहरू समावेश भएका हानिकारक पोस्टहरूका रिपोर्टहरू भन्दा राजनीतिज्ञहरू संलग्न भएका मुद्दाहरूलाई प्राथमिकता दिन निर्देशन दिइएको थियो।

टिकटकका कर्मचारीका अनुसार प्रयोगकर्ताहरूको जोखिमभन्दा पनि नियमन वा प्रतिबन्धको खतराबाट बच्न र राजनीतिक व्यक्तित्वहरूसँग ‘बलियो सम्बन्ध कायम राख्न’ यस्ता निर्णयहरू गरिएका थिए। बीबीसीको वृत्तचित्र इनसाइड द रेज मेसिनमा बोल्ने यी सूचनादाताहरूले टिकटकको तीव्र वृद्धिपछि सामाजिक सञ्जालको क्षेत्रमा कसरी प्रतिस्पर्धात्मक उन्माद छायो भन्ने कुराको नजिकबाट चित्रण गरेका छन्।

मेटाका वरिष्ठ अनुसन्धानकर्ता म्याट मोटिलले टिकटकसँग प्रतिस्पर्धा गर्न ल्याइएको इन्स्टाग्राम रिल्स सन् २०२० मा पर्याप्त सुरक्षा उपायहरू बिना नै सुरु गरिएको बताए। बीबीसीलाई प्राप्त आन्तरिक अनुसन्धानले देखाए अनुसार, रिल्समा गरिने टिप्पणीहरूमा इन्स्टाग्रामका अन्य भागको तुलनामा बुलिङ, उत्पीडन, घृणास्पद अभिव्यक्ति र हिंसा भड्काउने सामग्रीहरूको अनुपात धेरै उच्च थियो।

एक पूर्व वरिष्ठ कर्मचारीका अनुसार, मेटाले रिल्समा सुधार गर्न ७०० कर्मचारी भर्ना गर्‍यो, तर बालबालिकाको सुरक्षाका लागि २ जना विशेषज्ञ र चुनावको निष्पक्षताका लागि १० जना कर्मचारी थप्ने प्रस्ताव भने अस्वीकार गरेको थियो।

एल्गोरिदम र फास्ट-फूड को तुलना
मोटिलले बीबीसीलाई दर्जनौं अनुसन्धान कागजातहरू दिएका छन् जसले प्रयोगकर्ताहरूलाई हुने विभिन्न प्रकारका हानिहरू देखाउँछन्। ती मध्ये एक अध्ययनले फेसबुकलाई आफ्नो एल्गोरिदमले निम्त्याउने समस्याबारे पहिल्यै जानकारी भएको देखाउँछ।

उक्त अध्ययन अनुसार एल्गोरिदमले सामग्री निर्माताहरूलाई यस्तो बाटो देखाउँछ, जसले दर्शकको भलाइलाई दाउमा राखेर नाफालाई बढावा दिन्छ। यसले फेसबुकले प्रयोगकर्ताहरूलाई ‘फास्ट-फूड’ खुवाइरहन सक्ने तर त्यो धेरै समय नटिक्ने चेतावनी दिएको थियो।

जवाफमा मेटाले भनेको छ, ‘हामीले आर्थिक लाभका लागि जानाजानी हानिकारक सामग्री फैलाएको भन्ने कुनै पनि सुझाव गलत हो।’ टिकटकले पनि यी दाबीहरूलाई मनगढन्ते भन्दै हानिकारक सामग्री रोक्न प्रविधिमा लगानी गरिरहेको बताएको छ।

एल्गोरिदम: एउटा ब्ल्याक बक्स
सन् २०२० देखि २०२४ सम्म टिकटकको सिफारिस इन्जिनमा काम गरेका मेसिन-लर्निङ इन्जिनियर रुओफान डिङले एल्गोरिदमलाई एउटा ‘ब्ल्याक बक्स’ को संज्ञा दिए, जसको आन्तरिक कार्यप्रणाली बुझ्न गाह्रो हुन्छ। उनले भने, ‘हाम्रो आफ्नै डिप-लर्निङ एल्गोरिदममा हाम्रो नियन्त्रण हुँदैन।’

डिङका अनुसार टिकटकले बजार हिस्सा ओगट्न हरेक हप्ता एल्गोरिदम सुधार गर्ने क्रममा धेरै बोर्डरलाइन सामग्री वा समस्याग्रस्त पोस्टहरू देखिन थालेका थिए।

किशोर-किशोरीमा परेको प्रभाव
१९ वर्षीय क्यालमले आफू १४ वर्षको उमेरदेखि नै एल्गोरिदमद्वारा कट्टरपन्थी बनेको बताए। उनका अनुसार एल्गोरिदमले उनलाई यस्ता सामग्रीहरू देखायो जसले उनलाई आक्रोशित बनायो र अन्ततः उनले जातिवादी र महिलाद्वेषी विचारहरू अपनाउन पुगे।

बेलायतका आतंककारी विरोधी प्रहरी विशेषज्ञहरूले पनि पछिल्लो समय सामाजिक सञ्जालमा यहूदी विरोधी, जातिवादी र हिंसात्मक पोस्टहरू सामान्य बन्दै गएकोमा चिन्ता व्यक्त गरेका छन्।

टिकटक हटाउनुहोस्
टिकटकको ट्रस्ट एण्ड सेफ्टी टोलीमा काम गर्ने निक (परिवर्तित नाम) ले भने कि कामको चाप र एआईको प्रयोगले गर्दा हानिकारक सामग्रीहरू प्रभावकारी रूपमा हटाउन गाह्रो भइरहेको छ। उनले बीबीसीलाई यस्तो प्रमाण देखाए जहाँ एक राजनीतिज्ञलाई कुखुरा सँग तुलना गरेर जिस्क्याइएको सामान्य घटनालाई, नाबालिगमाथि भएको यौन ब्ल्याकमेलको गम्भीर मुद्दाभन्दा उच्च प्राथमिकता दिइएको थियो।

निको स्पष्ट सल्लाह छ: ‘आफ्ना छोराछोरीलाई टिकटकबाट जतिसक्दो टाढा राख्नुहोस्, यसलाई डिलिट गरिदिनुहोस्।’

टिकटकले भने बालबालिकाको सुरक्षालाई कम प्राथमिकता दिएको कुरालाई ठाडै अस्वीकार गरेको छ र किशोर-किशोरीका लागि ५० भन्दा बढी सुरक्षा फिचरहरू रहेको दाबी गरेको छ।

मेटाले पनि पछिल्लो दशकमा सुरक्षा र सुरक्षामा ठूलो लगानी गरेको र हालै टिन एकाउन्ट्समार्फत थप सुरक्षा उपायहरू लागू गरेको बताएको छ। –बीबीसी