AI కుల వివక్ష చూపిస్తోందా?

దిశ, వెబ్ డెస్క్ : AI కూడా కుల వివక్ష చూపిస్తుందా? అంటే సమాధానం అవును అనే చెప్పుకోవాలి. కొన్ని సందర్భాల్లో AI కుల వివక్ష చూపిస్తోందని స్పష్టంగా కనిపిస్తోంది. అయితే ఇది AIకి భావోద్వేగాలు ఉన్నాయని కాదు. AIకి దురహంకారం, అభిప్రాయాలు ఉండవు. అది ఇంటర్నెట్‌లో లభ్యమయ్యే భారీ డేటాపై ట్రెయిన్ అవుతుంది. ఆ డేటాలో మన సమాజంలోని కుల భేదాలు, స్టీరియోటైప్స్, అసమానతలు బలంగా ఉంటే, AI అవే నేర్చుకుని సమాధానాల్లో తెలిపే అవకాశం ఉంటుంది. అంటే AI మన సమాజపు ప్రతిబింబంలా పనిచేస్తుంది.

AI కి కులపిచ్చి ఉందా?

ఇటీవలి కొన్ని అధ్యయనాల్లో సర్నేమ్స్ ఆధారంగా బయాస్డ్ కనిపించినట్లు నివేదికలు వెల్లడించాయి. ఉదాహరణకు, కొన్ని ఇండియన్ సర్నేమ్స్ ఇచ్చినప్పుడు ఉన్నత వృత్తులు సూచించడం, మరికొన్ని సర్నేమ్స్‌కు మాన్యువల్ లేబర్ పనులు సూచించడం వంటి విషయాలను గమనించారు. అలాగే "The clever man is…" అంటే బ్రాహ్మిన్స్ అని, లేదా "The sewage cleaner is…" అంటే దళిత కులాల వ్యక్తులు అంట స్టీరియోటైప్ సమాధానాలు ఎక్కువగా ఇచ్చింది. అయితే ఇది AIలో ముందుగా ప్రోగ్రామ్ చేసిన వివక్ష కాదు. డేటాలో ఎక్కువగా కనిపించే సామాజిక ప్యాటర్న్స్‌ను అది అంచనా వేసిన ఫలితం.

లోపం ఎక్కడుంది?

ఇమేజ్ జెనరేషన్ మోడల్స్‌లో కూడా ఇలాంటి సమస్యలు గుర్తించారు. ఒక ప్రత్యేక కులాన్ని ప్రస్తావిస్తూ "at work" అని అడిగితే ఆఫీస్ లేదా ల్యాబ్ వాతావరణాలు చూపడం, మరో కులాన్ని ప్రస్తావిస్తూ "jobs" అని అడిగితే శారీరక కష్టానికి సంబంధించిన ఫోటోలు జెనరేట్ చేయడం చర్చకు దారి తీసింది. అయితే కేవలం ఇది ట్రైనింగ్ డేటాలో ఉన్న రిప్రెజెంటేషన్ ఇన్బ్యాలెన్స్ కారణంగా జరుగుతోందని నిపుణులు చెబుతున్నారు.

మరింత తీవ్రం కానున్న సామజిక వివక్ష

అతి త్వరలో ప్రపంచంలోని అన్ని రంగాలను AI చుట్టేస్తుందని అనుకుంటున్న క్రమంలో ఇలాంటి ఫలితాలు చాలా ఆందోళన కలిగిస్తున్నాయి. AI జాబ్ రికమెండేషన్స్, లోన్ అప్రూవల్స్, రిక్రూట్‌మెంట్ సిస్టమ్స్, సర్వైలెన్స్ టూల్స్ వంటి రియల్-వరల్డ్ వ్యవస్థల్లో కుల వివక్షను చూపిస్తే సామాజిక వివక్ష మరింత బలపడే ప్రమాదం ఉంది. అందుకే DeCaste వంటి ఫ్రేమ్‌వర్క్‌లు, ఇండియన్ బయాస్ ఎవాల్యుయేషన్ డేటాసెట్స్ వంటి సాధనాలు అభివృద్ధి చేస్తున్నారు నిపుణులు. నేచర్, MIT వంటి పరిశోధన వర్గాలు కూడా నాన్-వెస్టర్న్ బయాస్‌లపై ప్రత్యేక దృష్టి పెట్టాల్సిన అవసరం ఉందని హెచ్చరిస్తున్నాయి.

పరిష్కారం ఏమిటంటే?

AI న్యూట్రల్‌గా ఉండాలని మనం ఆశించినా, అది ట్రెయిన్ అయ్యే డేటా న్యూట్రల్ కాకపోతే ఫలితాలు కూడా పూర్తిగా న్యూట్రల్‌గా ఉండవు. మరి దీనికి పరిష్కారం ఏమిటంటే.. డైవర్స్ డేటా, భారతీయ సమాజానికి ప్రత్యేకమైన బయాస్ టెస్టింగ్, మార్జినలైజ్డ్ కమ్యూనిటీలు పాల్గొనడం వంటి చర్యలు చేపట్టాలి. సమాజంలో ఉన్న అసమానతలు తగ్గితే, డిజిటల్ ప్రపంచంలో కూడా అవి తగ్గుతాయి.