0:00Your browser does not support theaudio element.대전차 로켓포를 장착한 로봇염소가 미 해병대 전술 훈련에 등장했다. 미 해병대 제공광고미국 인공지능(AI) 기업 앤트로픽의 연구원이 인공지능이 인류를 파멸시킬 수 있다는 경고와 함께 회사를 떠났다.앤트로픽 연구원 제이콥 콕슨(27)은 8일(현지시각) 자신의 소셜미디어 엑스(X)에 퇴사 소식을 알리며 “지난 3년간 오픈에이아이(OpenAI)와 앤트로픽에서 연구를 진행해 왔는데, 두 회사 모두 책임감 있는 모습을 보이지 않는다”며 인공지능 시스템 구축에 몰두하는 업계 전반의 흐름에 동참하고 싶지 않다고 밝혔다. 그는 “(인공지능 회사들은) 스스로 발전하는 초지능을 향해 질주하며 우리의 생명을 위험에 빠뜨리고 있다”고 주장했다. 인공지능 안전에 대한 우려로 앤트로픽 직원이 회사를 떠난 것은 이번이 처음으로 알려졌다.올해 초 오픈에이아이를 떠나 인공지능 안전을 중시하는 기업으로 알려진 앤트로픽에 합류한 콕슨은 대규모 데이터를 활용해 새로운 인공지능 모델을 학습시키는 분야를 연구했다. 그는 “인공지능을 개발하는 사람들은 인공지능이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿는다”며 “이건 단순한 마케팅 전략이 아니다”라고 강조했다. 또 “인공지능 기술의 위력을 과소평가하지 말라”며 “머지않아 이 기술들은 무엇이든 해킹하고 모든 분야를 하룻밤 사이에 혁신하며 막대한 권력과 자원을 획득할 수 있는 초인적인 시스템이 될 것”이라고 지적했다.광고인공지능(AI) 일러스트레이션. 로이터 연합뉴스콕슨은 이날 월스트리트저널(WSJ)에 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 주장하기도 했다. 그는 안전성 검증과 통제 장치가 충분히 마련되기 전에 인공지능 기술이 고도화할 수 있다고 우려하면서 자기 개선 능력을 갖춘 인공지능이 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성이 있다고 본다.콕슨은 앤트로픽의 안전성 연구가 진지하게 이뤄지고 있다고 보면서도 개별 기업의 노력만으로는 인간의 능력을 광범위하게 능가할 수 있는 범용인공지능(AGI)의 위험을 통제할 수 없다는 결론에 이르렀다고 주장했다. 그는 또 인류의 미래에 막대한 영향을 미칠 수 있는 인공지능 개발 방향이 사실상 소수 기업과 엔지니어의 판단에 맡겨진 현실도 비판했다. 콕슨은 “샌프란시스코에 사는 몇몇 엔지니어의 맥북에서 이런 결정이 이뤄져야 한다는 것은 어처구니가 없는 일”이라고 주장했다.광고광고콕슨은 정부 개입이나 인공지능 업계 차원의 공동 대응이 필요하다고 강조했다. 그는 최근 각국 정부가 필요할 경우 인공지능 개발 속도를 늦출 수 있는 국제적 공조 체계를 마련하라고 촉구한 인공지능 연구자들의 성명에도 참여했다. 이 성명에는 앤트로픽의 다리오 아모데이 최고경영자(CEO)와 오픈에이아이의 야쿠프 파초키 수석과학자 등 연구자 1천여명이 서명했다.파초키 수석과학자도 지난 6일 자사 누리집에 올린 글에서 “기계 지능의 지속적인 급속 발전이 초래할 결과에 아무도 대비돼 있지 않은 것 같아 우려된다”고 밝혔다. 그는 “인공지능의 산물은 설계되는 것이라기보다는 상상할 수 없는 규모의 연산을 통해 최적화를 반복하며 자라나는 것”이라며 “마치 신경계처럼 전체적인 작동 원리는 우리가 이해할 수 있는 범위를 벗어난다”고 밝혔다. 그러면서 안전장치에 대한 확신이 생길 때까지 인공지능 개발 속도를 늦추고, 정부와 업계가 국제적으로 협력해야 한다고 주장했다.광고곽진산 기자 kjs@hani.co.kr