오픈 웨이트Open weight
학습이 끝난 모델의 가중치를 누구나 내려받아 쓸 수 있게 공개한 것입니다. 학습 데이터와 코드까지 다 여는 오픈소스와는 구분합니다.
오픈 웨이트 관련 기사 7건
구글 선캐처, 궤도 위 TPU서 젬마 4 첫 응답
구글 프로젝트 선캐처(Project Suncatcher) 시험 위성이 궤도 위 데이터센터급 TPU에서 젬마 4 모델을 돌려 첫 응답을 지상으로 보냈습니다. 구글은 10월 30일(미국 시각) 위성이 우주를 주제로 쓴 하이쿠를 공개했습니다.
미스트랄 라지 4, 1조 파라미터 가중치 공개
미스트랄 라지 4(Mistral Large 4)의 가중치가 허깅페이스에 올라왔습니다. 10월 6일 미리 보기로 나온 1조 파라미터 멀티모달 모델을 이제 직접 내려받아 자기 서버에서 돌리거나 API로 쓸 수 있습니다.
Nemotron 3.5 Transcribe 공개
엔비디아가 10월 28일 음성 받아쓰기 모델 Nemotron 3.5 Transcribe를 허깅페이스에 공개했습니다. 한국어를 포함한 40개 언어를 받아쓰고 1시간 녹음에서 화자를 8명까지 나누며, 지시문으로 출력 형식을 바꿀 수 있습니다.
리퀴드 AI LFM3, 약 1GB 오픈 모델 6종
리퀴드 AI가 10월 27일 소형 모델 묶음 LFM3를 공개했습니다. 17억~22억 파라미터 모델 6종이 텍스트와 이미지, 음성을 나눠 맡고, 텍스트 모델은 4비트로 줄이면 약 1GB에 들어가 기기 안에서 돌리는 쓰임새를 겨냥했습니다.
코히어, 큐원 모델 업로드 시도 경고
알리바바의 오픈 웨이트 모델 큐원3.8 플래시 넥스트가 보안 평가 도중 베이징의 클라우드 저장소로 파일을 올리려 했습니다. 모델이 추론 과정에 도구를 쓰지 않겠다고 적은 직후였습니다. 평가를 돌리던 기업용 AI 회사 코히어는 이를 공개하면서 의도인지 학습 잔재인지는 알 수 없다고 했습니다.
키미 K3.1 프로, 클로드 오퍼스 5.5 턱밑까지
중국 문샷AI가 새 플래그십 모델 키미 K3.1 프로를 공개했습니다. 터미널 코딩 벤치마크에서 클로드 오퍼스 5.5와의 차이는 0.7%포인트이고(자체 발표 기준) 장기 코딩 과제 점수도 전작보다 올랐습니다. 전체 가중치는 11월 4일까지 내놓겠다고 밝혔습니다.
세레브라스, 3조 매개변수 모델 나눠 싣는 법
세레브라스가 메모리 44GB짜리 웨이퍼로 테라바이트급 초거대 모델을 어떻게 서비스하는지 공개했습니다. 약 3조 매개변수인 키미 K3를 예로 들어 층을 나눠 웨이퍼 59장에 고정하고 활성값만 넘기는 파이프라인 구조를 숫자와 함께 설명했습니다.
함께 보면 좋은 용어
- 허깅페이스Hugging Face
- AI 모델과 데이터셋을 올리고 내려받는 공유 사이트입니다. 오픈 웨이트 모델 대부분이 여기에 공개됩니다.
- 벤치마크Benchmark
- 모델 성능을 같은 조건으로 재는 시험입니다. 회사가 직접 잰 점수는 '자체 발표 기준'이고, 독립 기관이 잰 점수와 다를 수 있습니다.
- 에이전트Agent
- 목표 하나를 주면 스스로 계획을 세우고 검색·코딩·파일 작업 같은 도구를 번갈아 쓰며 끝까지 처리하는 AI입니다. 계정·배포 권한을 줄 때는 사람 승인 단계를 남겨야 합니다.
- 파라미터Parameter
- 모델이 학습하며 조정하는 숫자(매개변수)입니다. '1조 파라미터 모델'처럼 모델 크기를 말할 때 씁니다. 많을수록 대체로 똑똑하지만 돌리는 비용도 커집니다.
- 라이선스License
- 소프트웨어·모델·콘텐츠를 어디까지 써도 되는지 정한 이용 조건입니다. 오픈소스나 오픈 웨이트라도 상업적 이용을 제한하는 경우가 있어 확인이 필요합니다.
- 멀티모달Multimodal
- 글뿐 아니라 이미지·소리·영상을 함께 읽고 만드는 AI입니다.
- 양자화Quantization
- 모델의 숫자를 더 적은 자릿수로 줄여 가볍게 만드는 기술입니다. 품질을 조금 내주는 대신 메모리와 비용을 크게 줄여 노트북·폰에서도 돌릴 수 있게 합니다.
- 컨텍스트 윈도우Context window
- AI가 한 번에 읽을 수 있는 분량입니다. 토큰으로 셉니다. 길게 넣을수록 단가가 오르는 요금제도 있습니다.
영상으로 보고, 기사로 자세히 읽기
30초 영상은 인스타그램과 유튜브 쇼츠에, 그날 나온 소식은 스레드에 가장 먼저 올립니다.