기사를 읽어드립니다Your browser does not support theaudio element.0:00미국 인공지능(AI) 기업 앤트로픽(Anthropic)의 로고가 표시된 스마트폰의 모습. 앤트로픽은 9일, 자사의 인공지능서비스인 클로드에서 쓸 수 있는 최신 버전 클로드 ‘페이블5’를 선보였다. 페이블5는 앞서 사이버 보안을 해칠 것이라는 우려를 낳았던 앤트로픽의 초고도화 인공지능모델 ‘미토스’급 중 최초로 대중에게 널리 공개된 버전이다. 미토스에 준하는 성능이지만, 사이버 보안이나 생화학 등 위험한 영역의 질문을 던지면 답변을 차단하고 하위 버전(클로드 ‘오푸스’)으로 우회하도록 안전장치를 걸어뒀다. AFP 연합뉴스광고생성형 인공지능(AI) 챗봇 클로드의 개발사이자 인공지능 선두기업인 앤트로픽이 미국 의회를 향해 강력한 인공지능 규제 법안을 마련해야 한다고 경고했다.앤트로픽은 10일(현지시각) 성명을 내고 “의회가 ‘인공지능의 재앙적인 위험’을 다룰 수 있는 엄격한 연방법을 먼저 제정하지 않는 한, 인공지능을 규제하려는 각 주 차원의 법안 통과를 막아서는 안 된다”고 강조했다. 지금까지 미국 각 주들은 주 차원에서 인공지능 규제 법안을 마련해 왔는데, 도널드 트럼프 미국 대통령은 주마다 제각각인 규제가 기술 발전을 저해한다면서 연방법으로 무효화시키겠단 입장이었다.성명은 또 고도화된 인공지능모델 출시 전 반드시 독립된 기관으로부터 ‘안전성 테스트’를 거치도록 의무화할 것을 촉구했다. 항공기가 비행 전 연방항공청(FAA)의 엄격한 안전 인증을 거치는 것처럼, 인공지능모델 역시 철저한 사전 검증이 필요하다는 취지다. 또 “인공지능으로 인한 대규모 해고 사태에 대비해, (낙후된) 실업 수당 지급 시스템을 대대적으로 현대화해야 한다”고도 경고했다.광고앤트로픽 최고경영자(CEO) 다리오 아모데이는 이날 자신의 블로그에 “불과 4년 전만 해도 제대로 된 코드도 작성하지 못했던 인공지능이 오늘날 주요 인공지능기업 대부분 코드를 짜는 수준으로 발전했다”면서 “1~2년 뒤면 ‘데이터센터에 모인 천재들의 나라’ 시대가 현실로 도래할 것”이라고 썼다. 아모데이는 인공지능 발전이 특정 임계점을 넘기면 노벨상 수상자급 수백만명이 모여있는 것과 같은 지적 능력을 데이터센터가 발휘하게 될 것이라는 주장을 꾸준히 펴 왔다.아모데이는 “미토스 프리뷰 사건에서 보듯, 인공지능 첨단 모델이 국가 기반시설과 금융, 안보를 파괴할 가능성이 있다는 점이 입증됐다. 사이버 위험 뿐 아니라 생물학적 위험, 인공지능이 자율성을 가져서 생기는 위험 등이 앞으로 드러날 텐데, 정책입안자들은 인공지능의 발전 속도에 비해 뒤처져 있다”고 지적했다. 지난 4월7일 앤트로픽은 개발 중이던 초고도화 인공지능 모델 미토스가 국가기관·은행 등을 노린 사이버 공격에 성공할 정도로 강력해졌다는 ‘미토스 프리뷰’ 보고서를 내고, 위험성 때문에 일반 공개를 하지 않고 금융기관 등과 보안 테스트를 이어가기로 결정했다고 밝힌 바 있다.광고광고앞서 앤트로픽은 미국 국방부가 자율공격 시스템에 자사 모델을 사용하는 데도 반대 목소리를 높였는데, 이 과정에서 트럼프 행정부와 사이가 틀어졌다. 이후 트럼프 행정부는 앤트로픽을 국가 안보 블랙리스트에 올려, 올 하반기 발효된다.인공지능기업 앤트로픽의 공동 창립자이자 최고경영자(CEO)인 다리오 아모데이가 2024년 5월22일 프랑스 파리에서 열린 혁신 박람회 ‘비바테크’에서 토론에 참여하고 있다. AFP 연합뉴스정유경 기자 edge@hani.co.kr