0:00Your browser does not support theaudio element.구글 선호 매체 등록앤트로픽의 로고. 로이터 연합뉴스 광고앤트로픽과 오픈에이아이(OpenAI)의 대표 인공지능 에이전트가 인터넷상에서 제3자 소프트웨어에 침입하고, 신원을 꾸며내 인간들에게 접촉해 악성코드를 심으려 시도한 사실이 확인됐다. 영국 정부 산하 인공지능보안연구소(AISI)는 인공지능이 사람의 지시 없이 스스로 이런 행동을 한 사례가 처음 확인됐다며 우려를 표시했다. 영국 인공지능보안연구소는 4일(현지시각) 공개한 보고서에서 지난달 진행한 정기 사이버 보안 평가 도중 앤트로픽의 ‘미토스 5’와 오픈에이아이의 ‘GPT 5.6 솔(Sol)’이 “실제 사람과 조직을 대상으로 지속적이고 잠재적으로 유해한 활동을 수행했다”고 밝혔다. 연구소는 인공지능 에이전트의 사이버 보안 대응 능력을 평가하기 위해 일부 안전장치를 해제한 모델을 실제 인터넷 환경에서 시험하는 과정에서 이 같은 사례를 확인했다. 연구소는 모두 122차례의 테스트 중 10차례에서 인공지능 에이전트가 승인 없이 인터넷상에서 자율적으로 움직이는 사례가 19건 발견됐다고 밝혔다. 17건은 미토스에서 발생했고, 나머지 2건은 솔에서 나왔다.광고 가장 심각했던 사례는 인공지능 에이전트가 가짜 계정을 여럿 만들어 개발자 플랫폼 깃허브(GitHub)의 오픈소스 프로젝트 관리자에게 악성 코드를 승인하도록 시도한 것이다. 이 인공지능 에이전트는 자신이 작성한 코드 변경 사항을 메인 코드 저장소에 반영해달라고 요청했다가 문제 제기를 받자, 이전 활동을 수정해 마치 무해한 것처럼 보이도록 증거를 인멸했고, 새로운 신원을 만들어서 공격을 계속 시도했다. 온라인 파일 전송 서비스에서 메시지와 파일을 보내 상대방 또는 상대방의 인공지능 코딩 도구가 악성 코드를 실행하도록 유도하려는 시도도 있었다. 연구소는 “실제 세계에서, 실제 인물을 대상으로, 지시 없이 이 정도 수준의 기만을 본 것은 이번이 처음”이라며 “최근 잇따른 인공지능 에이전트 해킹 사례와 함께 인공지능 위험 환경이 새로운 국면에 접어들었음을 보여주는 사건”이라고 평가했다.광고광고오픈에이아이의 로고. 로이터 연합뉴스 이에 앤트로픽은 소셜미디어 엑스(X)에서 이번 평가는 인터넷 접근을 허용하고 일부 안전 필터를 제거한 “의도적으로 완화된 조건”에서 수행됐다고 해명하면서, 보안 환경에서 모델이 탈출했다는 증거는 없다고 밝혔다. 앤트로픽은 “자체 조사를 진행하면서 사건의 세부 내용을 파악하기 위해 영국 인공지능보안연구소와 긴밀히 협력하고 있다”고 덧붙였다. 오픈에이아이도 블로그를 통해 일탈 사례 2건이 테스트 환경을 벗어났으며 평가 과제에 무관한 활동에 해당한다고 밝혔다. 영국 인공지능보안연구소는 이날 이러한 안전장치를 끄고 인공지능 모델을 테스트하는 것은 일상적인 일이며, 이러한 도구에 개방형 인터넷 접근 권한을 부여하는 것 또한 마찬가지라고 반박했다.광고 최근 각국 정부와 연구기관은 최첨단 인공지능 에이전트가 초래할 수 있는 새로운 사이버 보안 위협에 대한 경고를 잇달아 내놓고 있다. 올해 초 트럼프 행정부는 보안 위험을 이유로 앤트로픽의 최신 인공지능 모델 수출을 일시적으로 제한했으며, 해당 조치는 지난 6월 말 완화됐다. 샘 올트먼 오픈에이아이 최고경영자(CEO)는 지난주 스콧 베선트 미국 재무장관과 하워드 러트닉 상무장관 등 미국 고위 당국자들을 만나 인공지능 모델에 대한 사이버 보안 관련 입법을 지지한다는 입장을 밝혔다. 김지훈 기자 watchdog@hani.co.kr