HBMHigh Bandwidth Memory
뜻
메모리 칩을 여러 층 쌓아 데이터를 한꺼번에 많이 보내는 고성능 메모리입니다. AI용 GPU 바로 옆에 붙으며 SK하이닉스·삼성전자가 주요 공급사입니다.
함께 보면 좋은 용어
- 데이터센터Data center
- AI 모델이 실제로 돌아가는 서버 건물입니다. 큰 모델은 칩 여러 장에 나눠 실어야 해서 칩 사이 통신 속도가 성능을 좌우합니다.
- 디지털 트윈Digital Twin
- 실제 공장이나 도시, 건물을 컴퓨터 안에 똑같이 옮겨 놓고 시뮬레이션하는 모델입니다. 계획을 현실에 적용하기 전에 결과를 미리 확인하는 데 씁니다.
- 반도체Semiconductor
- 칩의 재료이자 칩 자체를 이르는 말입니다. 모델을 돌리는 GPU와 메모리가 모두 반도체라서 AI 경쟁은 곧 반도체 경쟁이기도 합니다.
- 서버Server
- 요청을 받아 계산하고 결과를 돌려주는 컴퓨터입니다. 챗봇에 질문하면 답은 회사 서버(대개 데이터센터 안)에서 만들어집니다.
- 온디바이스 AIOn-device AI
- 서버 대신 스마트폰·노트북 안에서 바로 돌아가는 AI입니다. 데이터가 기기 밖으로 나가지 않는 것이 장점입니다.
- 웨어러블Wearable
- 스마트워치나 스마트 링처럼 몸에 착용하고 심박 같은 신체 신호를 재는 기기입니다.
- 웨이퍼Wafer
- 반도체 칩을 찍어 내는 얇고 둥근 실리콘 판입니다. 세레브라스는 웨이퍼 한 장을 통째로 칩 하나로 써서 모델을 빠르게 돌립니다.
- 웹 호스팅Web hosting
- 웹사이트 파일을 올려 두고 인터넷에 24시간 보여 주는 서버를 빌려주는 서비스입니다. 업체에 따라 PHP·워드프레스 업데이트를 대신 해 주기도 합니다.
SHIFT 팔로우
영상으로 보고, 기사로 자세히 읽기
30초 영상은 인스타그램과 유튜브 쇼츠에, 그날 나온 소식은 스레드에 가장 먼저 올립니다.
