Context bombing.. ఏఐ హ్యాకర్లను ఎదుర్కొనే సూపర్ టెక్నిక్!

దిశ, ఫీచర్స్ : ఒకవైపు ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ ఎన్నో అద్భుతాలు చేస్తున్నప్పటికీ, మరోవైపు హ్యాకర్లు దీనిని దుర్వినియోగం చేసే ప్రయత్నాలు కూడా చేస్తున్నారు. ముఖ్యంగా ప్రాంప్ట్ ఇంజెక్షన్ అనే సైబర్ దాడుల ద్వారా ఏఐ ఆధారిత రక్షణ వ్యవస్థలను నిలిపివేస్తున్న ఘటనలు ఇటీవల పెరగుతున్నాయి. ఈ నేపథ్యంలోనే ప్రముఖ సైబర్ సెక్యూరిటీ సంస్థ ట్రేస్‌బిట్‌కు చెందిన పరిశోధకులు ‘కాన్ టెక్స్ట్ బాంబింగ్’ అనే ఒక చక్కటి పరిష్కారాన్ని కనుగొన్నారు. ఇంతకీ ఇదెలా పనిచేస్తుంది? ఉపయోగాలేమిటో ఇప్పుడు తెలుసుకుందాం.

వాస్తవానికి హ్యాకర్లు ఉపయోగించే ప్రాంప్ట్ ఇంజెక్షన్ దాడులను ఎదుర్కోవడానికి ఇప్పటివరకు సమర్థవంతమైన మార్గం లేదు. కానీ ‘కాన్‌టెక్స్ట్ బాంబింగ్ టెక్నిక్’ అందుకు అద్భుతంగా సహాయపడుతుందని పరిశోధకులు అంటున్నారు. ఈ కొత్త టెక్నిక్ హ్యాకర్ల ఆయుధాన్నే వారికి వ్యతిరేకంగా ఉపయోగించడంవల్ల ఇది సాధ్యం అవుతుంది. పైగా ఇందులో డెకాయ్ సీక్రెట్స్(Decoy Secrets), పాస్‌వర్డులు, కీస్ వంటి స్పేస్‌లో ప్రత్యేక ప్రాంప్ట్ ఇంజెక్షన్‌లను (కాన్‌టెక్స్ట్ బాంబ్స్) దాచి ఉంచుతారు.

ఇది ఎలా పని చేస్తుంది?

ఏఐ హ్యాకింగ్ ఏజెంట్లు డెకాయ్ డేటాను చదివినప్పుడు, కాన్ టెక్స్ట్ బాంబింగ్ ఆ హిడెన్‌ప్రాంప్ట్ ఏజెంట్‌కు సంబంధించిన సేఫ్టీ గార్డ్‌రైల్స్ (హానికరమైన చర్యలను నిరోధించే నియమాలు)ను యాక్టివేట్ చేస్తుంది. ఫలితంగా హ్యాకింగ్ ఏఐ ఏజెంట్ తన దాడిని ఆపేసి షట్‌డౌన్ అవుతుంది. ఇదే హ్యాకర్లు ఉపయోగించే ప్రాంప్ట్ ఇంజెక్షన్ ట్రిక్‌నే రక్షణగా మార్చడం అంటున్నారు నిపుణులు. పరిశోధనల్లో ఈ పద్ధతిని ఉపయోగించడంవల్ల హ్యాకింగ్ ఏఐ దాడుల సక్సెస్ రేటను 90% వరకు తగ్గించిందని నిపుణులు చెబుతున్నారు.

ప్రయోజనాలు

ఈ టెక్నిక్ సాధారణ డెకాయ్‌ల కంటే ఎక్కువ పని చేస్తుంది. ముఖ్యంగా హ్యాకర్ ఏఐ(AI)ని స్వయంగా ఆపడానికి బలవంతం చేస్తుంది. AWS సీక్రెట్స్, ఎన్విరాన్‌మెంట్ వేరియబుల్స్, DNS రికార్డుల్లోనూ ఇవి ఉంచవచ్చు. కాబట్టి దీనిని ఏఐ ఆధారిత సైబర్ దాడులకు కొత్త రక్షణ లైన్‌గా భావిస్తున్నారు. హ్యాకర్ల ట్రిక్స్‌ను తిరిగి వారికే వ్యతిరేకంగా ఉపయోగించడం ద్వారా సైబర్ సెక్యూరిటీలో కొత్త యుగం మొదలవుతోందని నిపుణులు అంటున్నారు.