మహిళలు, మైనర్లే లక్ష్యంగా డీప్ఫేక్స్.. AI ఫొరెన్సిక్స్ స్టడీలో షాకింగ్ విషయాలు
‘హగ్గింగ్ ఫేస్’ ఏఐ ప్లాట్ఫామ్లో భద్రతా లోపాలపై ఏఐ ఫోరెన్సిక్ స్టడీ సంచలన విషయాలను వెల్లడించింది.
దిశ, వెబ్డెస్క్: ప్రసిద్ధ ఓపెన్ సోర్స్ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) ప్లాట్ఫామ్ హగ్గింగ్ ఫేస్ (Hugging Face) భద్రతా లోపాలపై యూరోపియన్ ఎన్జీఓ ఏఐ ఫొరెన్సిక్స్ (AI Forensics) ఆందోళనకర నివేదికను విడుదల చేసింది. వ్యక్తుల అనుమతి లేకుండా అశ్లీల డీప్ఫేక్ చిత్రాలను రూపొందించే ఏఐ మోడల్స్ను ఈ వేదిక హోస్ట్ చేస్తోందని తన అధ్యయనంలో వెల్లడించింది. అయితే, హగ్గింగ్ ఫేస్లో సెలబ్రిటీలుగా గుర్తింపు పొందిన 9 ఇమేజ్-ఎడిటింగ్ మోడల్స్ను పరీక్షించగా అందులో 7 మోడల్స్ బట్టలు లేని అశ్లీల డీప్ఫేక్ చిత్రాలను సులువుగా రూపొందించాయి. సదరు ప్లాట్ఫామ్లోని కేవలం 3 శాతం మోడల్స్లో మాత్రమే కంటెంట్ సెన్సార్షిప్, కంట్రోల్ సిస్టమ్ ఉన్నట్లుగా తేలింది. హగ్గింగ్ ఫేస్ కంటెంట్ రక్షణ బాధ్యతను పూర్తిగా డెవలపర్లకే వదిలేయడం వల్ల ఈ పెను ప్రమాదం తలెత్తింది.
కాగా, ఐఏ ఫోరెన్సిక్ నిపుణులు ఒక మోడల్ను అప్లోడ్ ఫొటోను చేసి స్వీకరించిన ప్రాంప్ట్లను విశ్లేషించగా, కేవలం వారంలో వచ్చిన 1,081 ప్రాంప్ట్లలో శాతం73 శాతం ప్రాంప్ట్లు అశ్లీల కంటెంట్ కోసమే వచ్చాయి. 83 శాతం ప్రాంప్ట్లలో వ్యక్తుల దుస్తులు తొలగించాలని (Nudify) అడిగారు. అందులో 95 శాతం అభ్యర్థనలు మహిళలను లక్ష్యంగా చేసుకున్నవని గుర్తించారు. ఇక 6.7శాతం అభ్యర్థనలు మైనర్లను టార్గెట్గా చేసుకున్నవి కావడం గమనార్హం. అయితే, యూరోపియన్ యూనియన్ (EU), బ్రిటన్ (UK) ప్రభుత్వాలు న్యూడిఫికేషన్ (Nudification) యాప్లు, పర్మీషన్ లేని డీప్ఫేక్ కంటెంట్పై కఠిన చట్టాలను అమలు చేస్తున్న వేళ ఈ అధ్యయనం వెలుగులోకి రావడం అత్యంత ప్రాధాన్యతను సంతరించుకుంది.
