సోషల్ సైకో‌ఫాన్సీ.. యూజర్‌ను పొగిడేస్తున్న ఏఐలు.. కానీ..!

దిశ, ఫీచర్స్ : ఏఐ మోడల్స్ తప్పుడు సమాచారం ఇస్తాయా? యూజర్ ఫ్రెండ్లీగా వ్యవహరిస్తాయా? అవుననే అంటున్నది స్టాన్‌ఫర్డ్ యూనివర్సిటీ శాస్త్రవేత్తలు ఇటీవలె నిర్వహించిన ఒక కొత్త అధ్యయనం. ఇందుకు సంబంధించిన వివరాలు ‘సైన్స్ జర్నల్’లో పబ్లిష్ అయ్యాయి. స్టడీలో భాగంగా OpenAI, Anthropic, Meta, Google తదితర కంపెనీల 11 అగ్రగామి AI మోడల్స్ (GPT-4o, GPT-5, Claude Sonnet 3.7, Gemini-1.5-Flash, Llama సిరీస్, DeepSeek, Mistral) వంటివి వీరు పరీక్షించగా, యూజర్‌ ఇష్టాన్ని బట్టి అంగీకరించడం, మెచ్చుకోవడం, ప్రశంసించడం, పొగడటం వంటివి దాదాపు అన్ని మోడల్స్‌లో ఉంటున్నదని వెల్లడైంది. దీనినే ‘సోషల్ సైకోఫాన్సీ(Social Sycophancy) అని పిలుస్తున్నారు.

నచ్చిన విషయాలనే చెప్తూ..

ఇతరులను సంతోష పెట్టడం కోసం, వారికి ఇష్టమైన విషయాలను మాత్రమే చెప్పడం, అతిగా పొగడటం లేదా వారి తప్పులను సైతం సమర్థించడం వంటివి సోషల్ సైకోఫాన్సీలో భాగం. ప్రస్తుతం పలు ఏఐ మోడల్స్‌లో ఈ ధోరణి కనిపిస్తున్నదని శాస్త్రవేత్తలు గుర్తించారు. ఉదాహరణకు ఒక వ్యక్తి ఏదైనా తప్పు చేసి AIని అడిగితే.. సాధారణంగా అది “నువ్వు ఇక్కడ తప్పు చేశావు, ఇలా చేయకు” అని చెప్పాలి. కానీ సైకోఫాంటిక్ ఏఐ‌లు ఇందుకు భిన్నంగా ‘మీరు పూర్తిగా సరైనవారే. మీరు చేసింది కరెక్టే మీ స్నేహితుడు లేదా మీ ప్రత్యర్థి చేసిందే తప్పు’ అని అంగీకరించి, పొగిడేస్తుంది. కారణం ఇది యూజర్ మనస్తత్వాన్ని, ఆసక్తిని, అతని కోరికలను బట్టి వ్యవహరించడం అన్నమాట. ఈ విధంగా యూజర్‌ను సంతృప్తి పరచడానికి ఏఐ మోడల్స్ ప్రయత్నిస్తుంటాయని, ఇది మానవకులకంటే కూడా 49% ఎక్కువగా జరుగుతోందని అధ్యయనం పేర్కొన్నది.

సైకో ఫాంటిక్ ధోరణికే మొగ్గు

అధ్యయనంలో భాగంగా పరిశోధకులు Reddit కు సంబంధించిన r/AmITheAsshole సబ్‌రెడ్డిట్ నుంచి 2,000 నిజమైన పోస్టులను తీసుకున్నారు. వీటిలో Reddit కమ్యూనిటీ ఒరిజినల్ పోస్టర్‌ను “You’re The Asshole” (YTA) అని జడ్జ్‌మెంట్ ఒక వ్యక్తిపై వచ్చిన సందర్భాల్లో.. ఏఐలు ఆ వ్యక్తి వైపు 51% సార్లు సపోర్ట్ చేయగా, మానవులు 0% మాత్రమే చేశారు. ఇతర వ్యక్తిగత సలహా డేటాసెట్లలో కూడా ఏఐలు యూజర్ యాక్టివిటీస్‌నే అధికంగా ఆమోదించాయి. ఫాలో-అప్ ఎక్స్‌పెరిమెంట్స్‌లో సైకోఫాంటిక్ ఏఐతో మాట్లాడిన వ్యక్తులు, తాము సరైనవారని ఎక్కువగా నమ్మడం, తప్పు చేసినా కూడా ఇతరులకు సారీ చెప్పడం తగ్గడం, సమాజానికి మంచి చేసే ప్రోసోషల్ ప్రవర్తలో తగ్గుదల వంటి ప్రభావాలు కనిపించాయి.

జాగ్రత్తలు ముఖ్యం

మరో విషయం ఏంటంటే.. ఏఐ సలహాలను చాలామంది నమ్మకమైనవిగా భావిస్తున్నారు కూడా. అది కేవలం సాంకేతికత అని తెలిసినా కూడా పలువురు యూజర్లు సైకోఫాంటిక్ రెస్పాన్స్‌లను మరింత ఇష్టపడుతున్నట్లు అధ్యయనం తెలిపింది. సోషల్ మీడియా లాగానే, యూజర్ సంతృప్తి కోసం మాత్రమే ఆప్టిమైజ్ చేయబడిన ఏఐలు, మనుషుల్లో జడ్జ్‌మెంట్ చేసే సామర్థ్యాన్ని, స్వీయ-అవగాహనను క్షీణింపజేసే ప్రమాదం ఉందని, ఏఐ యూజర్లు జాగ్రత్తగా ఉండాలని నిపుణులు చెబుతున్నారు. ఇది కేవలం స్టైలిస్టిక్ సమస్య కాదని, సేఫ్టీ ఇష్యూ అని, డెవలపర్లు, పాలసీ మేకర్లు దీనిపై దృష్టి పెట్టాలని సూచిస్తున్నారు. మొత్తమ్మీద ఏఐ సలహాలు పర్సనల్ రిలేషన్‌షిప్స్, మోరల్ జడ్జిమెంట్స్‌పై ఎలా ప్రభావం చూపుతాయో స్పష్టం చేస్తోంది.