틱톡의 중국 모회사 바이트댄스가 AI 챗봇 ‘더우바오(豆包)’ 신모델을 출시했다. 더우바오는 지난 8월 처음으로 딥시크를 제치고 중국 AI 앱 이용자 수 1위에 오른 뒤로 가파른 상승세를 이어가고 있다.
16일 차이신(财新)에 따르면, 바이트댄스 산하 훠산엔진(火山引擎)은 우한에서 더우바오 1.6 업데이트 버전을 출시하고 국내 최초로 ‘사고 차원의 단계별 조절’ 기능을 지원한다고 밝혔다.
이번에 공개된 업데이트 버전은 4가지 단계의 사고 차원을 선택할 수 있다. 이는 기업이 다양한 사용 환경에서 모델 성능, 지연 시간, 비용 등 각기 다른 요구에 대응하기 위한 시도로 사고 효율을 개선하고 사용 중 모드를 자체 전환할 수 있도록 설계됐다.
탄다이(谭待) 훠산엔진 총재는 “실제 운영 과정에서 ‘심층 사고 모드’를 활성화하면 모델 성능이 평균 31% 상승해 모델의 시간 지연과 사용 비용을 높인다”면서 “심층 사고 모드를 사용하는 비중은 실제 사용 중 18% 비중만을 차지한다”고 설명했다.
이어 “사고 차원을 낮은 단계로 전환하면 이전 단일 사고 모드에 비해 토큰 출력량과 사고 시간을 줄일 수 있다”면서 “다만 모델 성능은 동일하게 유지된다”고 강조했다.
해당 기능은 기업의 ‘가성비(가격 대비 성능)’ 문제 해결을 위한 조치로 풀이된다. 훠산엔진은 이날 플랫폼이 사용자 요구에 따라 가장 적합한 모델을 선택해 주는 ‘스마트 모델 라우터’도 발표했다.
이날 훠산엔진은 더우바오 챗봇의 이용 현황도 공개했다. 9월 말 기준, 더우바오의 일일 평균 토큰 호출량은 30조 개를 돌파해 4개월 만에 2배 가까이 급증했다. 이는 더우바오가 처음 출시된 2024년 5월보다 235배 급증한 수치다.
IDC 보고서에 따르면, 올해 상반기 중국 공공 클라우드 대형모델 서비스 시장에서 훠산엔진은 49.2%에 달하는 점유율로 1위를 차지했다. 이어 알리클라우드와 바이두 인텔리전트 클라우드가 각각 27%, 6.8% 점유율로 나란히 2~3위에 올랐다. 보고서는 올해 상반기 대형모델 공공 클라우드 서비스 시장의 전체 토큰 호출량이 2024년 연간 호출량보다 약 4배 급증했다고 밝혔다.
탄다이 총재는 이날 발표회에서 “훠산엔진은 지난 4년 동안 매년 매출 목표를 기대치 이상으로 달성했으며 올해도 그렇게 될 것”이라며 “훠산엔진이 시장 선두에 오를 수 있는 것은 모델, 도구 등 여러 방면의 혁신 때문이었다”고 말했다.
한편, 더우바오는 중국 국내에서는 드물게 오픈소스를 하지 않는 대형모델로 꼽힌다. 이와 관련해 탄다이 총재는 “훠산엔진은 클라우드 서비스 기업으로 모델의 호출 성능을 가장 중요하게 생각하고 모델이 오픈소스 여부는 중요하지 않다”면서 “고객의 관심도 모델의 성능과 비용, 안정성에 있으며 기업의 실제 의사결정에서 오픈소스인지 아닌지는 영향이 적다”고 강조했다.
유재희 기자
About The Author
