సోషల్ మీడియాలో 'అడల్ట్' సెగ.. యువత భవిష్యత్తు ప్రశ్నార్థకమేనా?

దిశ, వెబ్‌డెస్క్: ప్రస్తుతం సోషల్ మీడియా ప్రపంచాన్ని ఒక కొత్త వైరస్ వణికిస్తోంది. అదే 'అడల్ట్ కంటెంట్'. ఒకప్పుడు సెన్సార్‌షిప్ ఉన్న సినిమాలకో లేదా ప్రత్యేక వెబ్‌సైట్లకో పరిమితమైన ఈ అశ్లీల కంటెంట్.. ఇప్పుడు మన అరచేతిలో ఉండే స్మార్ట్‌ఫోన్ ద్వారా ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్, ఎక్స్ (X) ఫీడ్‌లలో యథేచ్ఛగా దర్శనమిస్తోంది.

ఏఐ అస్త్రంతో కేటుగాళ్ల పంజా

సాధారణంగా సోషల్ మీడియా సంస్థలు అడల్ట్ కంటెంట్‌ను గుర్తించడానికి ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) అల్గారిథమ్‌లను వాడుతుంటాయి. అయితే.. కేటుగాళ్లు అంతకుమించి ఆలోచిస్తున్నారు. ఏఐ అల్గారిథమ్‌లను మోసం చేసేందుకు వీడియోలపై రకరకాల ఫిల్టర్లు వాడటం, అసభ్య పదజాలాన్ని డైరెక్ట్ గా వాడకుండా కోడ్ లాంగ్వేజ్‌ను ఉపయోగించడం చేస్తున్నారు. ఫలితంగా ఈ వీడియోలు ఫిల్టర్లకు చిక్కకుండా నెటిజన్ల ఫీడ్‌లోకి వచ్చేస్తున్నాయి. ఇది నేటి యువత ఆలోచనా ధోరణిని చెడు మార్గం వైపు మళ్లిస్తోందని సామాజిక విశ్లేషకులు ఆందోళన వ్యక్తం చేస్తున్నారు.

హెచ్చరించిన ప్రభుత్వం.. దిగివచ్చిన ఎక్స్

గతంలో హీరోయిన్ల డీప్‌ఫేక్ వీడియోలు, ఇతర అసభ్యకర పోస్టుల విషయంలో 'ఎక్స్' (గతంలో ట్విట్టర్) వ్యవహరించిన తీరుపై భారత ప్రభుత్వం తీవ్రస్థాయిలో ఆగ్రహం వ్యక్తం చేసింది. ఐటీ నిబంధనల ప్రకారం కంటెంట్ నియంత్రణ చేయకపోతే.. ఆ సంస్థకు ఉన్న 'సేఫ్ హార్బర్' రక్షణను తొలగిస్తామని, అవసరమైతే దేశంలో కార్యకలాపాలు నిలిపివేయాల్సి ఉంటుందని (Ban) హెచ్చరించింది. దీనిపై స్పందించిన ఎక్స్ యాజమాన్యం, ఈ ఏడాది జనవరిలో భారీ ప్రక్షాళన చేపట్టింది. అధికారిక లెక్కల ప్రకారం.. నిబంధనలు ఉల్లంఘించిన 600కు పైగా ఖాతాలను శాశ్వతంగా బ్లాక్ చేయడంతో పాటు, సుమారు 3500కు పైగా అడల్ట్ పోస్టులను తొలగించింది.

ఆదాయం కోసం అనుమతి.. ఏజ్ గేటింగ్ పరిష్కారమా?

ఎక్స్ ప్లాట్‌ఫారమ్ ఇటీవల తన పాలసీలో కీలక మార్పులు చేసింది. 'కన్సెన్సువల్ అడల్ట్ కంటెంట్' (పరస్పర అంగీకారంతో కూడిన అశ్లీల కంటెంట్) ను అధికారికంగా అనుమతిస్తూ నిర్ణయం తీసుకుంది. అడల్ట్ కంటెంట్ క్రియేటర్ల ద్వారా ప్లాట్‌ఫారమ్‌కు భారీగా యూజర్ ట్రాఫిక్ రావడంతో పాటు సబ్‌స్క్రిప్షన్ ఆదాయం లభిస్తోంది. అందుకే దీనిని పూర్తిగా నిషేధించడానికి ఎక్స్ సిద్ధంగా లేదనడంలో సందేహం లేదు. అయితే.. 18 ఏళ్ల లోపు యువతకు, తమ ప్రొఫైల్‌లో పుట్టిన తేదీ పేర్కొనని వారికి ఈ కంటెంట్ కనిపించకుండా 'ఏజ్ గేటింగ్' (Age-gating) అనే సాంకేతికతను అమలు చేస్తోంది.

మెటా ప్లాట్‌ఫారమ్‌ల పరిస్థితి ఏంటి?

ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్ వంటి మెటా ప్లాట్‌ఫారమ్‌లు నిబంధనల విషయంలో ఎక్స్ కంటే కఠినంగా ఉన్నాయని చెబుతున్నా, క్షేత్రస్థాయిలో పరిస్థితి భిన్నంగా ఉంది. ఒక అసభ్యకర అకౌంట్‌ను బ్లాక్ చేస్తే, అదే పేరుతో లేదా వేరే ఐడీతో మరో పది అకౌంట్లు పుట్టుకొస్తున్నాయి. ఇది ఒక సవాలుగా మారింది. టెక్నాలజీ మారుతున్న కొద్దీ అశ్లీలత కొత్త రూపాలు సంతరించుకుంటోంది. కేవలం కంపెనీల సెన్సార్‌షిప్‌పైనే ఆధారపడకుండా, వినియోగదారులు కూడా అవగాహనతో ఉండాలి. అసభ్యకర కంటెంట్‌ను చూసిన వెంటనే రిపోర్ట్ చేయడం, సెట్టింగ్స్‌లో సెన్సిటివ్ కంటెంట్ కంట్రోల్ ఉపయోగించడం ద్వారా కొంతవరకు ఈ ముప్పును అరికట్టవచ్చు. ప్రభుత్వం కూడా ఐటీ చట్టాలను మరింత కఠినతరం చేయాల్సిన సమయం ఆసన్నమైంది.

ఈ చర్యలతో అశ్లీలతకు అడ్డుకట్ట?

సోషల్ మీడియా యాజమాన్యాలు అశ్లీల కంటెంట్‌ను అరికట్టడానికి కేవలం నిబంధనలు విధించడమే కాకుండా, టెక్నాలజీ, హ్యూమన్ వర్కర్ల సమన్వయంతో కఠిన చర్యలు తీసుకోవాలి. మల్టీ-లేయర్డ్ AI అల్గారిథమ్స్ ద్వారా అప్‌లోడ్ అయ్యే ప్రతి వీడియోను స్కాన్ చేసి, అసభ్యకరంగా ఉంటే ఆటోమేటిక్‌గా రిజెక్ట్ చేయాలి. ముఖ్యంగా ఏఐని మోసం చేసేలా వాడే ఫిల్టర్లు, కోడ్ లాంగ్వేజ్‌లను గుర్తించేలా అల్గారిథమ్‌లను నిరంతరం అప్‌డేట్ చేయాలి. కేంద్రీకృత ఏజ్ వెరిఫికేషన్ (Age Verification) వ్యవస్థను ప్రవేశపెట్టి, కేవలం ఆధార్ లేదా అధికారిక గుర్తింపు కార్డుల ద్వారా వయస్సు నిర్ధారణ అయిన వారికే సున్నితమైన కంటెంట్ కనిపించేలా చూడాలి. డీప్‌ఫేక్ (Deepfake) కంటెంట్‌ను గుర్తించే వాటర్ మార్కింగ్ టెక్నాలజీని వాడాలి. పదేపదే నిబంధనలు ఉల్లంఘించే వారిని డివైస్ లెవల్ బ్యాన్ (Device Ban) చేయడం ద్వారా కొత్త అకౌంట్లు తెరవకుండా అడ్డుకోవచ్చు. అలాగే.. యూజర్ల నుండి వచ్చే రిపోర్ట్‌లపై స్పందించడానికి హ్యూమన్ మోడరేషన్ టీమ్‌ను పెంచాలి. ఆదాయం కంటే సామాజిక బాధ్యతకే ప్రాధాన్యతనిస్తూ, అశ్లీల కంటెంట్ ద్వారా వచ్చే అడ్వర్టైజ్‌మెంట్ ఆదాయాన్ని నియంత్రించినప్పుడే ఈ సమస్యకు శాశ్వత పరిష్కారం లభిస్తుంది.