저렴하고 효율적인 인공지능 모델이 등장하면 값비싼 인공지능 반도체와 데이터센터 투자 수요는 줄어들까요.

최근 중국 인공지능 스타트업 문샷AI가 공개한 ‘키미 K3’를 둘러싸고 시장은 처음에는 그렇다고 판단했습니다. 반도체주는 매도세가 쏟아졌고 필라델피아반도체지수는 최근 고점보다 20% 넘게 떨어지며 약세장에 진입했습니다.

그러나 정작 키미 K3가 서비스를 시작하자 예상과는 전혀 다른 일이 벌어졌습니다. 이용자가 몰리면서 컴퓨팅 용량이 한계에 도달했고, 기존 이용자에게 컴퓨팅 자원을 우선 배분하기 위해 결국 신규 가입을 일시 중단한 것입니다. 값싼 인공지능이 반도체 수요를 줄인 것이 아니라, 오히려 서버 부족을 드러낸 것이죠.

시장에서는 키미 K3와 같은 저비용 인공지능 모델이 확산되면 빅테크 기업들이 고가의 그래픽처리장치와 고대역폭메모리에 투입하는 자금을 줄일 수 있다는 우려가 제기돼 왔습니다. 적은 비용으로 비슷한 성능을 낼 수 있다면 대규모 인공지능 인프라를 구축할 필요도 감소할 것이라는 논리입니다.

하지만 키미 K3의 실제 운영 사례는 모델의 효율성과 서비스에 필요한 전체 컴퓨팅 자원이 반드시 같은 방향으로 움직이지 않는다는 점을 보여줬습니다. 개별 질문을 처리하는 비용은 낮아졌지만, 낮은 가격에 끌린 이용자가 급증하면서 전체 연산량은 오히려 커졌습니다.

월가에서는 이를 ‘제번스의 역설’로 해석하고 있습니다. 어떤 기술의 효율이 개선돼 이용 비용이 낮아지면 소비가 줄어드는 것이 아니라 사용처가 늘어나 전체 자원 소비가 오히려 증가할 수 있다는 개념입니다.

기업들은 모든 업무에 최고 성능의 모델을 사용하는 대신 단순한 작업에는 저가형 모델을, 높은 정확도와 추론 능력이 필요한 업무에는 최첨단 모델을 배치할 것으로 예상됩니다. 이 같은 혼합 운용이 확산되면 고가 모델의 수요가 사라지는 것이 아니라 저가 인공지능이 새로운 시장을 만들면서 전체 추론량을 확대하는 구조가 형성될 수 있습니다.

키미 K3의 구조도 이러한 전망을 뒷받침합니다. 전체 파라미터는 2조8000억 개에 달하지만 실제 작업에 사용하는 활성 파라미터는 약 500억 개 수준인데요. 필요한 일부 파라미터만 선택적으로 활용해 한 번의 연산에 들어가는 비용은 줄였지만, 모델을 운영하려면 전체 파라미터를 메모리에 유지해야 합니다. 연산 효율이 높아졌다고 해도 대규모 메모리와 서버 인프라가 필요하다는 의미입니다.

키미 K3의 이용료는 출력 기준 100만 토큰당 15달러로, 오픈AI와 앤트로픽의 주요 모델보다 저렴합니다. 그러나 낮은 이용료는 더 많은 이용자를 끌어들이고, 이용자가 늘어날수록 서버와 인공지능 가속기, 메모리에 대한 수요도 함께 증가합니다. 특히 인공지능 서비스의 중심이 모델을 학습시키는 단계에서 실제 이용자의 요청에 답하는 추론 단계로 이동하면서 안정적인 서비스 운영을 위한 컴퓨팅 자원 확보가 더욱 중요해지고 있습니다.

이는 고대역폭메모리 시장을 주도하는 SK하이닉스와 삼성전자, 마이크론에도 중요한 신호입니다. 대형 인공지능 모델은 파라미터 규모가 커질수록 칩당 메모리 용량과 서버 클러스터 규모를 확대해야 합니다. 고대역폭메모리 공급 부족이 이어지는 상황에서는 주요 생산 업체들이 가격 결정력을 유지할 가능성도 큽니다. 엔비디아와 브로드컴 등 그래픽처리장치 및 맞춤형 인공지능 반도체 기업 역시 하이퍼스케일러와 기업들의 인프라 확보 경쟁에서 수혜를 볼 수 있습니다.

선소연 머니투데이방송 MTN 기자