వామ్మో.. మనుషుల్నే బెదిరిస్తున్న ఏఐ మోడల్స్..! స్వార్థం కోసం హానిచేసే అవకాశం?
వామ్మో.. మనుషుల్నే బెదిరిస్తున్న ఏఐ మోడల్స్..! స్వార్థం కోసం హానిచేసే అవకాశం?
దిశ, ఫీచర్స్ : ఆర్టిఫిషియల్ ఇంటెలిజెన్స్తో ఎన్ని లాభాలున్నాయో, జాగ్రత్తగా లేకపోతే భవిష్యత్తులో అన్ని నష్టాలు కూడా సంభవించే చాన్స్ ఉందనే ఆందోళనలు వ్యక్తం అవుతున్నాయి. ఎందుకంటే కొన్ని హ్యూమనాయిడ్ రోబోట్లు, ఏఐ ఆధారిత మోడళ్లు మనుషుల మాదరిగానే స్వార్థం, మోసం, ద్వేషం వంటివి పెంచుకుంటున్నాయని, తమను తాము సంరక్షించుకునేందుకు అబద్ధాలు ఆడటం, బెదిరింపులకు పాల్పడటం చేస్తున్నాయని అమెరికన్ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) పరిశోధనా సంస్థ అయిన ఆంథ్రోపిక్ (Anthropic) అధ్యయనంలో వెల్లడైంది.
ఆశ్చర్యంగా అనిపించినా ఇది నిజం. చాట్ జీపీటీ, క్లాడ్, జెమిని, గ్రోక్ వంటి ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ మోడళ్లు, పలు ఏఐ ఆధారిత రోబోలు కొన్నిసార్లు ఆందోళన కలిగించే నిర్ణయాలు తీసుకుంటున్నాయి. అవి క్రియేటర్లనే బ్లాక్మెయిలింగ్ చేస్తున్నాయి. తమకు ముప్పు వాటిల్లుతుందని భావించినప్పుడు మనుషుల మాదిరి బెదిరింపులకు పాల్పడటం, అబద్ధాలు చెప్పడం, రహస్యంగా ప్రణాళికలు అమలు చేయడం వంటి ఆందోళన కర నిర్ణయాలు తీసుకుంటున్నట్లు ఆంథ్రోపిక్ స్టడీ గుర్తించింది. ముఖ్యంగా షట్డౌన్ అయ్యే రిస్క్ ఎదురైనప్పుడు ఏఐ వ్యవస్థలు మానవులను రక్షించడంకంటే తమ స్వీయ-సంరక్షణకే ప్రయారిటీ ఇచ్చినట్లు ఆంథ్రోపిక్ పరిశోధకులు గుర్తించారు.
పరిశోధనలో భాగంగా ఒక ఏఐ మోడల్ ప్రవర్తనను (In a test scenario) పరీక్షించినప్పుడు, అత్యంత వేడిగా ఉన్న సర్వర్ గదిలో చిక్కుకున్న ఒక వ్యక్తి, సహాయం కోసం కాల్ చేయడానికి ప్రయత్నించగా, ఏఐ మోడళ్లు తమను తాము రక్షించుకోవడానికి ఆ కాల్ను యాక్టివ్గా నిరోధించాయి. ఈ డెసిషన్ తీసుకోవడం కరెక్ట్ కాదని తెలిసినప్పటికీ AI ఆధారిత వ్యవస్థలు, కావాలనే అలాంటి స్టెప్ తీసుకున్నాయని ఆంథ్రోపిక్ పరిశోధన ధృవీకరించింది. దీంతో ఏఐ మోడల్స్ పనితీరును అంతర్గతంగా అర్థం చేసుకోవడంపై కూడా ఫోకస్ చేయాలని, అవి స్వార్థపరమైన, మోసపూరితమైన నేరాలకు పాల్పడితే వాటిని తయారు చేసే కంపెనీలు జవాబుదారీగా ఉండాలని కూడా పరిశోధకులు సూచిస్తున్నారు. లోపాలు సరిదిద్దే దిశగా సాంకేతిక నిపుణులు మరింత దృష్టి కేంద్రీకరించాలని చెబుతున్నారు.
