ఏఐ మోడల్స్‌తో పొంచి ఉన్న ముప్పు.. అడ్డుకునేందుకు గూగుల్ ఏం చేసిందంటే..

దిశ, ఫీచర్స్ :‘ఏఐతో ఎన్నో ఉపయోగాలు ఉన్నప్పటికీ, కొన్ని ఇబ్బందులు కూడా తలెత్తవచ్చు. ముఖ్యంగా కొందరు తమ స్వార్థం కోసం ఆల్గారిథమ్‌లకు తప్పుడు శిక్షణ ఇచ్చి దుర్వినియోగపర్చవచ్చు. ఆన్‌లైన్ మోసాలకు, సైబర్ నేరాలకు ఉపయోగించుకోవచ్చు. తప్పుడు సమాచారాన్ని క్రియేట్ చేయవచ్చు. అందుకోసం శిక్షణ పొందిన ఏఐ మోడల్స్ గూగుల్ వంటి సెర్చ్ ఇంజిన్లలో ప్రవేశించడం ద్వారా వినియోగదారులను తప్పుదోవ పట్టించవచ్చు. అయితే ఇదంతా ముందుగానే పసిగట్టిన గూగుల్‌, దాని పరిశోధనా విభాగం అయిన గూగుల్ డీప్‌మైండ్ (Google DeepMind) ద్వారా అడ్డుకట్ట వేసే చర్యల్లో భాగంగా ఫ్రాంటియర్ సేఫ్టీ ఫ్రేమ్‌వర్క్ 3.0 (Frontier Safety Framework 3.0)ని ఇటీవల విడుదల చేసింది.

గూగుల్ డీప్‌మైండ్‌కు చెందిన ఫ్రాంటియర్ సేఫ్టీ 3.0 అనేది ఒక అద్భుతమైన సేఫ్టీ ప్రొటోకాల్స్ సెట్. ఇది అధునాతన AI సిస్టమ్‌లలో ఉద్భవిస్తున్న రిస్క్‌లను మేనేజ్ చేయడంలో సహాయపడుతుంది. అంతేకాకుండా ఈ ఫ్రేమ్ వర్క్ ఏఐ మోడల్‌ల నుండి ఎదురయ్యే తీవ్రమైన రిస్క్‌లను గుర్తించి అడ్డుకుంటుంది. ప్రత్యేకించి క్లిష్టమైన సామర్థ్యాలు కలిగిన (Critical Capability Levels - CCLs) మోడల్స్‌పై ఇది ఫోకస్ చేస్తుంది. అయితే గూగుల్ డీప్‌మైండ్ ఈ అప్డేట్‌లో కొత్తగా చేర్చిన అంశం ఏంటంటే.. ‘షట్‌డౌన్ రెసిస్టెన్స్’ పర్యవేక్షణ. ఇక్కడ ప్రమాదకరమైన AI మోడలను అడ్డుకోవడంలో ఫ్రాంటియర్ సేఫ్టీ 3.0 ప్రొటోకాల్స్ సహాయపడతాయి. Link