0:00Your browser does not support theaudio element.오픈에이아이(AI)의 샘 올트만 최고경영자(CEO). AFP 연합뉴스광고오픈에이아이(AI)는 자사의 차기 인공지능 모델 ‘아스트라’가 자체 사이버 보안 역량 평가에서 처음으로 ‘치명적’(critical) 단계에 도달했다고 밝혔다. 회사는 고급 사이버 보안 역량 관련 접근을 제한한 형태로 아스트라를 조만간 출시할 예정이다.오픈에이아이는 1일(현지시각) 자사 블로그에 “모델 역량을 평가하기 위해 더 많은 증거를 수집하고 추가 평가를 진행한 결과, 아스트라가 자사에서 규정한 사이버 보안 역량의 치명적 단계를 충족한다고 판단한다”고 밝혔다. 오픈에이아이가 그동안 개발해 온 모델 중 해당 수준에 도달한 첫 사례다. 오픈에이아이는 지난달 1일 아스트라가 수학 분야의 장기 난제 10개에서 해법을 내거나 상당한 진전을 이뤘다고 홍보했으나, 엿새 만에 해당 모델이 치명적 수준의 사이버 역량을 갖췄을 ‘가능성’을 배제할 수 없다며 출시를 늦추고 안전 대책을 마련해왔다.오픈에이아이 내부 기준상 치명적인 수준에 이르려면 △인간의 개입 없이 보안이 강화된 시스템에서 미공개 취약점을 찾아 공격 수단을 개발할 수 있거나 △높은 수준의 목표만 제시된 상태에서 표적을 상대로 새로운 사이버 공격 전략을 처음부터 끝까지 스스로 세우고 실행할 수 있어야 한다. 회사는 아스트라가 첫 번째 조건을 충족한다고 판단했다. 아스트라는 전문가 평가에서 보안이 강화된 운영체제에서 여러 취약점을 찾아냈고, 이런 약점을 결합해 권한이 없는 일반 사용자 상태에서 최고 관리자 권한까지 획득했다고 회사는 설명했다. 취약점을 바탕으로 공격 코드 개발 능력을 평가하는 벤치마크(성능 지표)에선 만점을 기록했다고 밝혔다.광고오픈에이아이는 지난 몇주 동안 개발을 늦추면서 해당 모델 악용을 막기 위한 안전장치도 대폭 강화했다. 아울러 모델의 추론 과정과 행동도 감시해 잠재적으로 승인되지 않은 활동을 자동으로 중단하는 체계도 갖췄다. 오픈에이아이는 각종 안전장치로 심각한 피해 위험을 낮췄다고 보고 조만간 아스트라를 출시할 계획이다. 다만 고급 사이버 보안 역량은 초기엔 소수의 사용자에게만 시험적으로 제공할 계획이다.강재구 기자 j9@hani.co.kr