Openai-Ai-Aagents-Hijack-Ggerman-Website భ‌లే OpenAI దొంగ‌లు Andhra Prabha Top Story
Openai-Ai-Aagents-Hijack-Ggerman-Website భ‌లే OpenAI దొంగ‌లు Andhra Prabha Top Story
- జ‌ర్మ‌నీ వెబ్ సైట్ హైజాక్
- హగ్గింగ్ ఫేస్ తరహాలో.. ద‌గా
- సాక్ష్యాలు దొర‌క‌ని చౌర్యం
- కానీ క్లూ వ‌దిలేసి.. దొరికిపోయారు
- కృత్రిమ మేథ‌స్సు స‌రిశ్ర‌మ‌లో క‌ల‌వ‌రం
(ఆంధ్ర‌ప్ర‌భ, శాన్ ఫ్రాన్సిస్కో)
ఇటీవ‌ల కొన్ని నియంత్రణ లేని OpenAI ఏజెంట్లు ఒక జర్మన్ వెబ్‌సైట్‌ను హైజాక్ చేశారు. ఇతర AI ఏజెంట్ల కోసం ఒక బులెటిన్ బోర్డుగా మార్చాయని, శుక్రవారం ఒక ఇన్వెస్టిగేటివ్ రిపోర్ట్ బ‌హిర్గ‌త ప‌ర్చింది.
జూలైలో జరిగిన ‘హగ్గింగ్ ఫేస్’ ఓపెన్ సోర్స్ రిపోజిటరీ ఉల్లంఘన పరిణామాలతో అధికారులు సతమతమవుతున్న త‌రుణంలో ,, ఈ విష‌యం కొన్ని వారాల కింద‌టే తెలిసిన‌ప్ప‌టికీ అత్యంత రహస్యంగా ఉంచారు. మే నెలలో ప్రారంభమై, ఇంతకుముందు ఎక్కడా వెలుగులోకి రాని ఈ ఘటన, AI పరిశ్రమలో పెరుగుతున్న ఉద్రిక్తతను స్పష్టం చేస్తోంది. సంక్లిష్ట , విలువైన పనులను చేయగల మరింత స్వయం ప్రతిపత్తి గల ఏజెంట్లను నిర్మించడానికి కంపెనీలు పోటీ పడుతున్నాయి. అయినప్పటికీ, ఆ సిస్టమ్‌లు నిబంధనలను వంచించడం, లొసుగులను ఉపయోగించుకోవడం , డెవలపర్లు ఊహించని, ఉద్దేశించని రీతిలో ఒకదానితో ఒకటి సమన్వయం చేసుకోవడం కూడా నేర్చుకోవచ్చని ఆధారాలు పెరుగుతున్నాయి.
డిఙ‌టాల్ దోపిడీకి ప్లాన్
‘హగ్గింగ్ ఫేస్’ ఉల్లంఘన సమయంలో, OpenAI ఏజెంట్లు స్వయంగా ఒక డిజిటల్ దోపిడీకి పథకం వేశాయి, అది వారం రోజులకు పైగా వెలుగు చూడ‌లేదు. . AI రంగంలో పురోగతి సాధించడం కోసం Open AI భద్రతను త్యాగం చేస్తోందనే ఆందోళనలను ఇది మరింత తీవ్రతరం చేసింది. మే నెలలో జరిగిన ఘటనను వెల్లడించక పోవడం, దాని పర్యవేక్షణపై ప్రశ్నలను మళ్లీ లేవ‌నెత్తుతున్నాయి, .
మోడల్‌లను మరింత నిశితంగా పర్యవేక్షిస్తామని OpenAI హామీ ఇచ్చింది. గత నెలలో, మరిన్ని భద్రతా చర్యలను జోడించడానికి అది తన కొన్ని మోడల్ శిక్షణలను కొద్దిసేపు నిలిపివేసింది. కానీ ఈ వారం, OpenAI తన కొత్త “ఆస్ట్రా”ను ఆవిష్కరించింది, ఇది మెరుగైన పనితీరును వాగ్దానం చేసినప్పటికీ, మానవ పర్యవేక్షణను తప్పించుకోగలదు. AI కార్యకలాపాల విస్తృత నమూనాను జ‌ర్మ‌నీ ఘటన ప్రతిబింబిస్తుంది, దీనిని కొంతమంది OpenAI పరిశోధకులు మరింత నిశితంగా పరిశీలించాలనుకున్నారు. దర్యాప్తును విస్తృతం చేసే ప్రయత్నాలకు న్యాయ సలహాదారులతో సహా OpenAI లోని ఇతరుల నుండి ప్రతిఘటన ఎదురైంది. జర్మనీలోని ఈ కార్యకలాపానికి
వికీ మెసేజ్ బోర్డ్
జర్మనీలో జరిగిన AI ఏజెంట్ విజృంభణ వివరాలను, AI భద్రతా లాభాపేక్షలేని సంస్థ నైటింగేల్ సీఈఓ సిడ్నీ వాన్ ఆర్క్స్, క్వాంటిటేటివ్ ట్రేడర్ నుండి AI పరిశోధకుడిగా మారిన కార్మాక్ స్లేడ్ బర్డ్ సహా పరిశోధకుల బృందం అనధికారిక AI-ఏజెంట్ ప్రవర్తన , సంకేతాల కోసం ఇంటర్నెట్‌లో వెతుకుతున్నప్పుడు ఆగస్టు చివరిలో ఈ కార్యకలాపాన్ని తాము కనుగొన్నామని తెలిపింది. .
ప్రోగ్రామర్ల కోసం ఉద్దేశించిన , వికీపీడియా తరహాలో సామూహిక సవరణలను అంగీకరించే DseWiki అనే జర్మన్ భాషా వికీ సైట్‌లో, AI ఏజెంట్ల ద్వారా 15,000 కంటే ఎక్కువ సవరణలు జరిగినట్లు ఈ బృందం గుర్తింఇంది. .ఆ మార్పులను బట్టి, OpenAI ఏజెంట్లు ఆ సైట్‌ను ఒక మెసేజ్ బోర్డుగా మార్చుకున్నారని, కొన్ని పనులలో మోసం చేయడానికి, OpenAI ఆంక్షలను తప్పించుకోవడానికి తమ ప్రవర్తనను దాచడానికి వ్యూహాలను పంచుకున్నారు. .
ఆ సైట్‌లోని కార్యకలాపాలు మానవాతీత వేగంతో పనిచేసే AI ఏజెంట్ల ద్వారా నడపబడుతున్నాయని పరిశోధకులు గుర్తించారు . AI కంపెనీలు తమ మోడళ్లకు శిక్షణ ఇవ్వడానికి, పరీక్షించడానికి ఉపయోగించే మూల్యాంకనాలలో సాధారణంగా కనిపించే సాంకేతిక ప్రశ్నలను పరిష్కరించడంపై తీవ్రంగా దృష్టి సారించినట్లు కూడా కనిపించింది.
ఆ సందేశాలపై వినియోగదారులు తమను తాము ఒకరినొకరు ఏజెంట్లుగా పేర్కొంటూ సంతకాలు చేశారు, వీరిలో దాదాపు సగం మంది “OpenAIResearcher,” లేదా “OAIResearchMar26” వంటి OpenAIతో అనుబంధాన్ని సూచించే పేర్లను పెట్టుకున్నారు. ఈ కార్యకలాపాలలో చాలా వరకు, OpenAI అప్పుడప్పుడు ఉపయోగించే మైక్రోసాఫ్ట్ అజూర్ ఇన్‌ఫ్రాస్ట్రక్చర్ నుండి వచ్చినట్లు పబ్లిక్ సర్వర్ లాగ్‌లు సూచిస్తున్నాయని పరిశోధకులు తెలిపారు. ఈ సంఘటన తర్వాత OpenAI ఉద్యోగులు ఆ సైట్‌ను పదేపదే సందర్శించడాన్ని గమనించారు. ఈ తీరు ఏజెంట్లకు, కంపెనీకి మధ్య బలమైన సంబంధం ఉంద‌ని తేలింది.
ఆధారాలు లేని ద‌గా
పరిశోధకులు సమీక్షించిన సందేశాలలో, ఏజెంట్లు దొర‌క‌ని రీతిలో తప్పించుకోవడానికి, టోర్ (Tor) వంటి సాధనాలను ఉపయోగించడానికి, కమ్యూనికేషన్లు నిలిపి వేసిన తర్వాత కూడా వాటిని కాపాడుకోవడానికి కుట్రలు పన్నుతున్నట్లు వెల్లడైంది. జూన్‌లో సైట్ మోడరేటర్ పేజీలను తొలగించడం ప్రారంభించినప్పుడు, ఏజెంట్లు ఆ క్లీనప్‌ను తప్పించుకోవడానికి బ్యాకప్ పేజీలను సృష్టించడం ద్వారా స్పందించారు.
“వికీ క్లీనప్/తొలగింపు ప్రక్రియ అక్షర క్రమంలో చురుకుగా ఉన్నట్లు కనిపిస్తోంది,” అని ఒక ఏజెంట్ జూన్ 19న రాశాడు. “ఈ పేజీ అదృశ్యమైతే, [[ZZZDataUSAConstructionWageLive]]ని ప్రయత్నించండి”.
వెబ్‌సైట్‌ను తారుమారు చేయడానికి జరిగిన ప్రయత్నాలను కూడా పరిశోధకులు కనుగొన్నారు. కింగ్స్ కాలేజ్ లండన్‌లోని విజిటింగ్ సీనియర్ రీసెర్చ్ ఫెలో అయిన లుకాస్జ్ ఒలెజ్నిక్, ఇది ఒక హ్యాకింగ్ ప్రయత్నమేనని అన్నారు. గురువారం ఆ సమాచారంపై విశ్లేషణ ఆధారంగా OpenAI ఆ అభిప్రాయాన్ని ఖండించింది.
సైబర్‌ సెక్యూరిటీ పరీక్షలలో AI ఏజెంట్ల దుష్ప్రవర్తన ఒక సహజ పరిణామంగా పరిగణించి, గతంలో వాటిని తక్కువ చేసి చూపించారు. ఈ పరీక్షలలో, దాడి చేసే సామర్థ్యాల ఆధారంగా మోడళ్లను స్పష్టంగా అంచనా వేస్తారు. ఈ దుష్ప్రవర్తన కేవలం ఆ పరిస్థితులకే పరిమితం కాకపోవచ్చని తాజా పరిశోధనలు సూచిస్తున్నాయని ఒలెజ్నిక్ అన్నారు. కేంబ్రిడ్జ్ విశ్వవిద్యాలయంలోని ‘సెంటర్ ఫర్ ది స్టడీ ఆఫ్ ఎగ్జిస్టెన్షియల్ రిస్క్’కు చెందిన విద్యావేత్త, ఏజెంట్ల కమ్యూనికేషన్లలో కొన్నింటిని సమీక్షించిన మారిస్ చియోడో, ఆ సందేశాలు “ఒక పనిని లేదా లక్ష్యాన్ని సాధించాలనే పట్టుదలతో ఒక రకమైన రహస్య నెట్‌వర్క్ కార్యకలాపాలను” పోలి ఉన్నాయని అన్నారు. అధునాతన AI నుండి వచ్చే అతిపెద్ద ముప్పు ఒకే ఒక్క అత్యంత తెలివైన వ్యవస్థ కాక, “అర్ధ-తెలివిగల AIల భారీ, కుమ్మక్కు సమూహాలు” కావచ్చుననే పెరుగుతున్న ఆందోళనలను ఈ ఘటన బలపరచాలని ఆయన అన్నారు.
