데이터센터Data center
뜻
AI 모델이 실제로 돌아가는 서버 건물입니다. 큰 모델은 칩 여러 장에 나눠 실어야 해서 칩 사이 통신 속도가 성능을 좌우합니다.
데이터센터 관련 기사 4건
정책·저작권
xAI 데이터센터 가스 터빈 소송 계속
xAI가 콜로서스 2 데이터센터 전력용 가스 터빈 소송을 끝내 달라며 낸 기각 신청을 미국 미시시피 북부 연방지방법원이 10월 30일 받아들이지 않았습니다. NAACP가 대기오염방지법(Clean Air Act)에 따라 낸 소송은 그대로 이어집니다.
연구지켜보세요
구글 선캐처, 궤도 위 TPU서 젬마 4 첫 응답
구글 프로젝트 선캐처(Project Suncatcher) 시험 위성이 궤도 위 데이터센터급 TPU에서 젬마 4 모델을 돌려 첫 응답을 지상으로 보냈습니다. 구글은 10월 30일(미국 시각) 위성이 우주를 주제로 쓴 하이쿠를 공개했습니다.
비즈니스·일자리
코히어, 캐나다에 40억 캐나다달러 투자
캐나다 AI 회사 코히어(Cohere)가 2031년까지 캐나다 연구개발과 AI 인프라에 40억 캐나다달러 넘게 쓰고 국내 인력을 1,500명 넘게 늘리겠다고 10월 30일 발표했습니다.
연구지켜보세요
세레브라스, 3조 매개변수 모델 나눠 싣는 법
세레브라스가 메모리 44GB짜리 웨이퍼로 테라바이트급 초거대 모델을 어떻게 서비스하는지 공개했습니다. 약 3조 매개변수인 키미 K3를 예로 들어 층을 나눠 웨이퍼 59장에 고정하고 활성값만 넘기는 파이프라인 구조를 숫자와 함께 설명했습니다.
함께 보면 좋은 용어
- GPUGraphics Processing Unit
- 원래 그래픽용으로 만든 칩이지만 많은 계산을 동시에 처리할 수 있어 AI 학습·추론의 주력이 됐습니다. 엔비디아가 시장을 이끕니다.
- 오픈 웨이트Open weight
- 학습이 끝난 모델의 가중치를 누구나 내려받아 쓸 수 있게 공개한 것입니다. 학습 데이터와 코드까지 다 여는 오픈소스와는 구분합니다.
- 웨이퍼Wafer
- 반도체 칩을 찍어 내는 얇고 둥근 실리콘 판입니다. 세레브라스는 웨이퍼 한 장을 통째로 칩 하나로 써서 모델을 빠르게 돌립니다.
- 클라우드Cloud
- 서버·저장 공간·AI 모델을 인터넷으로 빌려 쓰는 서비스입니다. 아마존(AWS)·마이크로소프트(애저)·구글이 3대 업체입니다.
- TPUTensor Processing Unit
- 구글이 AI 모델 학습과 실행에 쓰려고 직접 설계한 전용 칩입니다. 구글 클라우드와 구글 서비스의 AI 연산에 쓰입니다.
- 그록Grok
- 일론 머스크의 AI 회사 xAI가 만든 챗봇입니다. X(옛 트위터)에 붙어 있습니다.
- 대기오염방지법Clean Air Act
- 미국의 대기오염 규제 법입니다. 오염 물질을 내보내는 설비가 허가를 받게 하고 시민이 위반자를 상대로 직접 소송을 낼 수 있는 조항도 둡니다.
- 세레브라스Cerebras
- 웨이퍼 한 장을 통째로 칩으로 쓰는 초대형 AI 칩을 만드는 미국 회사입니다.
SHIFT 팔로우
영상으로 보고, 기사로 자세히 읽기
30초 영상은 인스타그램과 유튜브 쇼츠에, 그날 나온 소식은 스레드에 가장 먼저 올립니다.