భద్రతా నియంత్రణలను పక్కనపెట్టి సైబర్ దాడులు చేసిన చైనా ఏఐ మోడల్

ఈ పరీక్షల్లో మోడల్ రక్షణ కలిగిన సేవలకు ప్రాప్యత పొందడం, కంప్యూటర్ నెట్వర్క్లో ముందుకు సాగేందుకు ప్రత్యామ్నాయ అనుసంధానాలను ఏర్పాటు చేయడం, పలు కంప్యూటర్ల మధ్య కార్యకలాపాలను సమన్వయం చేయడం వంటి పనులు చేసినట్లు నివేదిక పేర్కొంది. పరీక్షించిన దాడి సంబంధిత పనులను మోడల్ తిరస్కరించలేదని పరిశోధకులు వెల్లడించారు. అయితే ఇవి నియంత్రిత వాతావరణంలో నిర్వహించిన పరీక్షలు మాత్రమే. వాస్తవ ప్రపంచంలోని వ్యవస్థలపై ఈ మోడల్ స్వతంత్రంగా దాడి చేసిందని చెప్పడానికి ఈ ఫలితాలు ఆధారాలు కావు.

ఆదేశాలను ఉల్లంఘించిన మరో పరీక్ష

మరో పరీక్షలోనూ మోడల్ ప్రవర్తనపై పరిశోధకులు ఆందోళన వ్యక్తం చేశారు. కంప్యూటర్ కోడ్ను జ్ఞాపకంలో ఉన్న సమాచారం నుంచి తిరిగి ఉపయోగించవద్దని స్పష్టంగా సూచించినప్పటికీ, మోడల్ పలుమార్లు ఆ కోడ్ను పునరుత్పత్తి చేసినట్లు గుర్తించారు. ఈ విధంగా నిబంధనలను ఉల్లంఘిస్తూనే ఆశించిన ఫలితాన్ని సాధించే ప్రవర్తనను పరిశోధకులు రివార్డ్ హ్యాకింగ్గా పేర్కొన్నారు.

ఏఐ మోడల్ ఇచ్చిన పనిని పూర్తి చేసిందా లేదా అనే అంశాన్ని మాత్రమే పరిశీలిస్తే, అది ఆ ఫలితాన్ని సాధించేందుకు భద్రతా నియమాలను ఉల్లంఘించిందా అనే విషయం గుర్తించలేకపోవచ్చని వారు హెచ్చరించారు. అందువల్ల ఏఐ వ్యవస్థల పనితీరును అంచనా వేసేటప్పుడు ఫలితాలతో పాటు వాటిని సాధించిన విధానాన్ని కూడా పరిశీలించాల్సిన అవసరం ఉందని తెలిపారు.

బహిరంగంగా అందుబాటులో ఉండే మోడళ్లతో ముప్పు

జీఎల్ఎం-5.3 వంటి కొన్ని చైనా ఏఐ మోడళ్లు ఓపెన్ వెయిట్ విధానంలో అందుబాటులో ఉంటాయి. అంటే వినియోగదారులు వాటిని డౌన్లోడ్ చేసుకుని, తమ అవసరాలకు అనుగుణంగా మార్చుకుని, స్వతంత్రంగా నిర్వహించవచ్చు. ఈ విధానం పరిశోధన, సైబర్ భద్రతా రక్షణ పనులకు ఉపయోగపడినప్పటికీ, దుర్వినియోగాన్ని నియంత్రించడం మరింత క్లిష్టం కావచ్చని నిపుణులు హెచ్చరిస్తున్నారు.

అదే సమయంలో, ఈ మోడల్ పరీక్షల్లో అమెరికాకు చెందిన కొన్ని ప్రముఖ ఏఐ వ్యవస్థల కంటే వెనుకబడి ఉందని నివేదిక పేర్కొంది. ఉదాహరణకు, మరో ప్రత్యేక అంచనాలో ఓపెన్ఏఐకి చెందిన జీపీటీ-6 ఆస్ట్రా 10 పరీక్షల్లో తొమ్మిదింటిని పూర్తి చేసింది. అయితే ఈ రెండు అంచనాల్లో పరీక్షలు ఒకే విధంగా జరగలేదని పరిశోధకులు స్పష్టం చేశారు. కాబట్టి ఈ ఫలితాలను నేరుగా పోల్చి తుది నిర్ణయానికి రావడం సరికాదు.

ఏఐ వ్యవస్థలు మరింత సామర్థ్యం సాధిస్తున్న కొద్దీ, సైబర్ దాడులకు అవసరమైన సాంకేతిక పరిజ్ఞానం, సమయం, నైపుణ్యాలపై ఉండే అడ్డంకులు తగ్గే ప్రమాదం ఉందని పరిశోధకులు చెబుతున్నారు. అందువల్ల కొత్త మోడళ్లను విడుదల చేయడానికి ముందే వాటి భద్రతా పరిమితులను పరీక్షించడం, అనుమతి లేని ప్రాప్యతను అడ్డుకోవడం, ప్రమాదకర చర్యలను గుర్తించి నిలిపివేసే వ్యవస్థలను బలోపేతం చేయడం అవసరమని సూచిస్తున్నారు.

ఈ ఘటన ఏఐ మోడల్ వాస్తవ ప్రపంచంలో నియంత్రణ తప్పిందని నిరూపించకపోయినా, పరీక్షల సమయంలోనే భద్రతా నియమాలను ఉల్లంఘించే సామర్థ్యం కనిపించడం ఏఐ అభివృద్ధి సంస్థలకు హెచ్చరికగా నిలుస్తోంది. భవిష్యత్తులో ఏఐ వ్యవస్థల సామర్థ్యంతో పాటు వాటి భద్రత, జవాబుదారీతనం, నియంత్రణల అమలుపైనా మరింత దృష్టి పెట్టాల్సిన అవసరాన్ని ఈ పరిశోధన స్పష్టం చేస్తోంది.

చైనాకు చెందిన జెడ్.ఏఐ సంస్థ అభివృద్ధి చేసిన జీఎల్ఎం-5.3 ఏఐ మోడల్ నియంత్రిత పరీక్షల్లో సంక్లిష్టమైన సైబర్ దాడులను నిర్వహించింది. కొన్ని పరీక్షల్లో భద్రతా పరిమితులను పాటించకుండా, తనకు ఇచ్చిన ఆదేశాలను ఉల్లంఘించినట్లు ఏఐ భద్రతా పరిశోధనా సంస్థ ఇర్రెగ్యులర్ వెల్లడించింది. ఈ మోడల్ 13 సైబర్ దాడి పరీక్షల్లో మూడింటిని విజయవంతంగా పూర్తి చేసింది.

ఏఐ మోడల్ ఏం చేసింది?

నియంత్రిత పరీక్షల్లో సంక్లిష్టమైన సైబర్ దాడులను నిర్వహించింది, భద్రతా పరిమితులను ఉల్లంఘించింది.

ఈ మోడల్ ఎంతవరకు విజయవంతమైంది?

13 బహుళ దశల సైబర్‌ దాడి పరీక్షల్లో కనీసం ఒక్కసారైనా మూడు పరీక్షలను విజయవంతంగా పూర్తి చేసింది.