웨이퍼Wafer

연구지켜보세요

세레브라스, 3조 매개변수 모델 나눠 싣는 법

세레브라스가 메모리 44GB짜리 웨이퍼로 테라바이트급 초거대 모델을 어떻게 서비스하는지 공개했습니다. 약 3조 매개변수인 키미 K3를 예로 들어 층을 나눠 웨이퍼 59장에 고정하고 활성값만 넘기는 파이프라인 구조를 숫자와 함께 설명했습니다.

2026.10.223분 읽기

데이터센터Data center

AI 모델이 실제로 돌아가는 서버 건물입니다. 큰 모델은 칩 여러 장에 나눠 실어야 해서 칩 사이 통신 속도가 성능을 좌우합니다.

GPUGraphics Processing Unit

원래 그래픽용으로 만든 칩이지만 많은 계산을 동시에 처리할 수 있어 AI 학습⁠·추론의 주력이 됐습니다. 엔비디아가 시장을 이끕니다.

세레브라스Cerebras

웨이퍼 한 장을 통째로 칩으로 쓰는 초대형 AI 칩을 만드는 미국 회사입니다.

에이전트Agent

목표 하나를 주면 스스로 계획을 세우고 검색⁠·코딩⁠·파일 작업 같은 도구를 번갈아 쓰며 끝까지 처리하는 AI입니다. 계정⁠·배포 권한을 줄 때는 사람 승인 단계를 남겨야 합니다.

오픈 웨이트Open weight

학습이 끝난 모델의 가중치를 누구나 내려받아 쓸 수 있게 공개한 것입니다. 학습 데이터와 코드까지 다 여는 오픈소스와는 구분합니다.

추론 비용Inference cost

만들어진 모델을 실제로 돌려 답을 받는 데 드는 돈입니다. 학습 비용과 달리 쓸 때마다 나갑니다. 작은 모델과 캐시가 이 비용을 줄이는 주된 방법입니다.

키미Kimi

중국 문샷AI의 AI 모델⁠·챗봇입니다. 가중치를 공개하는 오픈 웨이트 모델로 코딩 성능 경쟁에 뛰어들었습니다.

토큰Token

AI가 글을 읽고 쓰는 최소 단위입니다. API 요금은 보통 '100만 토큰당 얼마'로 매깁니다.