0:00Your browser does not support theaudio element.구글 선호 매체 등록오픈AI 샘 올트만 최고경영자가 2024년 미국 시에틀 콘벤션센터에서 열린 마이크로소프트 빌드 컨퍼런스에 참석해 발언하고 있다. AFP 연합뉴스광고최근 생성형 인공지능(AI) 개발사들이 자사 최신 모델을 선보이면서 성능 뿐 아니라 ‘비용 효율’을 핵심 경쟁력으로 내세우고 있다. 기업 고객들이 인공지능 모델 사용료 부담을 본격적으로 따지기 시작하면서 성능 중심이던 인공지능 모델 경쟁도 토큰 효율과 비용으로 넓어지는 모양새다.오픈에이아이(AI)는 9일(현지시각) 새 인공지능 모델 ‘지피티(GPT)-5.6’을 선보이면서 발표문 첫머리부터 “토큰마다 더 많은 지능, 달러당 더 강한 성능”을 가졌다고 강조했다. 회사는 이번에 처음으로 성능 수준에 따라 솔·테라·루나로 세부 모델을 나눠 출시했는데, 이들 모델을 두고서도 “지능과 효율성 모두 새로운 기준을 제시”(솔) 했다거나, 지식업무 평가에서 “지피티-5.5보다 각각 성능이 뛰어나거나 유사하면서 비용은 훨씬 저렴”(테라·루나)하다는 등 비용 효율성을 거듭 부각했다.오픈에이아이가 9일(현지시각) 새 인공지능 모델 지피티-5.6을 공개했다. 오픈에이아이 누리집 갈무리같은 날 페이스북 모회사 메타는 차세대 모델 ‘뮤즈 스파크1.1’을 공개하고 처음으로 개발자 대상 유료 요금 모델을 내놓으면서 100만 토큰당 입·출력 비용을 각각 1.25달러와 4.25달러로 설정했다. 이는 지피티-5.6 솔 모델(100만 토큰 당 입력 5달러·출력 30달러)보다 4분의 1 이하로 저렴한 수준이다. 메타와 오픈에이아이보다 하루 앞서 새 모델 ‘그록4.5’을 출시한 스페이스엑스에이아이도 경쟁사 선두 모델보다 그록 4.5의 토큰 효율이 2배가량 높다고 밝혔다.광고인공지능 개발사들 간의 효율성 경쟁이 거세진 배경엔 급격히 불어난 기업들의 토큰 비용 부담이 있다. 인공지능 도입 초기 미국 실리콘밸리 기업들 사이에선 직원들에게 인공지능을 최대한 많이 쓰도록 독려하고 이를 생산성 지표로 여기는 ‘토큰맥싱’이 유행했다. 하지만 기업들이 막대한 토큰 사용료 청구서를 떠안은 뒤 토큰을 효율적으로 쓰는 일이 핵심 과업으로 부상한 상태이다. 클로드 코드 도입 뒤 1년 치 인공지능 코딩 도구 예산을 4개월 만에 소진한 우버는 비용 통제에 들어섰고, 미국 일부 기업들은 비용 부담에 가성비를 앞세운 중국 인공지능 모델 활용에 나선 상황이다. 샘 올트먼 오픈에이아이 최고경영자(CEO)는 9일 미국 시엔비시(CNBC) 인터뷰에서 “올해가 인공지능 비용이 화두가 된 첫해”라며 “모두가 지출을 줄이거나 가치를 높이는 데 우리가 무엇을 도울 수 있는지 묻고 있다”고 말하기도 했다.비용 경쟁의 압박을 받는 개발사들은 모델 효율성 개선에 더해 자체 칩 개발로 원가 절감에 나서고 있다. 대규모 연산으로 학습·추론 비용이 커진 만큼, 자체 추론칩 개발을 병행해 엔비디아 등 외부 의존도를 낮추고 원가 구조 개선에 나선 것이다. 로이터는 최근 메타가 올해 9월부터 자체 설계한 인공지능 칩 ‘아이리스’ 양산을 시작할 계획이라고 보도했다. 오픈에이아이는 지난달 말 브로드컴과 공동개발한 추론 전용 반도체 시제품을 공개한 바 있다.강재구 기자 j9@hani.co.kr
기업 고객 토큰 비용 비명에…AI모델 ‘가성비’ 경쟁
최근 생성형 인공지능(AI) 개발사들이 자사 최신 모델을 선보이면서 성능 뿐 아니라 ‘비용 효율’을 핵심 경쟁력으로 내세우고 있다. 기업 고객들이 인공지능 모델 사용료 부담을 본격적으로 따지기 시작하면서 성능 중심이던 인공지능 모델 경쟁도 토큰 효율과 비용으로 넓어지는








