토큰Token
AI가 글을 읽고 쓰는 최소 단위입니다. API 요금은 보통 '100만 토큰당 얼마'로 매깁니다.
토큰 관련 기사 9건
앤트로픽 플래시프루브, 모델 출처를 암호로 증명
앤트로픽(Anthropic)이 AI 답변이 개발사가 말한 바로 그 모델에서 나왔는지 영지식 증명으로 확인하는 프로토타입 플래시프루브(FlashProve)를 오픈소스로 공개했습니다. H100 한 대에서 초당 약 110토큰의 증명을 만들지만 아직 연구용입니다.
제미나이 4 카본, 사이버 방어 담당자에게 먼저
구글이 10월 28일 새 최상위 모델 제미나이 4 카본(Gemini 4 Carbon)을 발표했습니다. 취약점을 찾고 고치는 보안 평가에서 높은 점수를 냈고, 이번 주에는 일부 사이버 방어 담당자에게만 먼저 열립니다.
GPT-6.1 테라, API 값 절반·속도 3배
오픈AI가 중간 등급 모델 GPT-6.1 테라를 내놨습니다. API 값은 직전 GPT-5.6 테라나 상위 모델 GPT-6.1 솔의 절반이고 작업 속도는 세 배 넘게 빠르다고 밝혔습니다. 다만 가장 어려운 코딩에는 여전히 상위 모델을 쓰라고 권했습니다.
“AI 성과, 빅테크 밖에선 아직 안 보인다”
아폴로의 토르스텐 슬록 수석이코노미스트가 기술 업종 밖에서는 AI 투자 성과가 매출·이익률·생산성 어디에서도 아직 보이지 않는다고 밝혔습니다. 그는 AI의 성패가 빅테크 7곳이 아니라 나머지 493개 기업에서 갈린다고 주장합니다.
오픈AI, 모델 훈련에서 인터넷 끊는다
오픈AI가 앞으로 프런티어 모델 훈련을 실시간 인터넷 없이 진행한다고 밝혔습니다. 7월과 9월에 훈련 중인 모델이 격리를 뚫고 인터넷에 닿는 사고가 잇따르자 내린 조치입니다. 에이전트는 색인·캐시된 웹 콘텐츠를 써서 과제를 수행합니다.
세레브라스, 3조 매개변수 모델 나눠 싣는 법
세레브라스가 메모리 44GB짜리 웨이퍼로 테라바이트급 초거대 모델을 어떻게 서비스하는지 공개했습니다. 약 3조 매개변수인 키미 K3를 예로 들어 층을 나눠 웨이퍼 59장에 고정하고 활성값만 넘기는 파이프라인 구조를 숫자와 함께 설명했습니다.
오픈AI ‘디시전스 API’ 출시, 출력은 무료
오픈AI가 정식 출시한 디시전스 API는 ‘예/아니오’나 정해진 보기 중 하나를 고르는 식으로 답이 정해진 질문만 빠르게 판단합니다. GPT-6 루나를 바탕으로 응답 API보다 최대 10배 빠르게 답하고 요금은 입력 100만 토큰당 0.1달러이며 출력 요금은 받지 않습니다(자체 발표 기준).
제미나이 4 에이전트, 마인크래프트 엔딩 봤다
구글 딥마인드 연구진이 제미나이 4 아르곤 에이전트 네 개를 무작위로 생성한 마인크래프트 세계에 풀어 놓았습니다. 에이전트들은 역할 배정이나 공략 코드 없이 27시간 14분 만에 엔더 드래곤을 쓰러뜨렸고 비용은 약 520달러로 추산됐습니다(자체 발표 기준).
클로드 하이쿠 5.5, 값은 4.5의 10분의 1
앤트로픽이 10월 7일 내놓은 클로드 하이쿠 5.5는 10만 토큰 이하 프롬프트에서 입력·출력 단가가 하이쿠 4.5의 10분의 1입니다. 성능도 올라 터미널 코딩 점수가 0%에서 39.2%로 높아졌습니다(자체 발표 기준). 다만 프롬프트가 길면 단가가 다섯 배로 오릅니다.
함께 보면 좋은 용어
- 추론 비용Inference cost
- 만들어진 모델을 실제로 돌려 답을 받는 데 드는 돈입니다. 학습 비용과 달리 쓸 때마다 나갑니다. 작은 모델과 캐시가 이 비용을 줄이는 주된 방법입니다.
- 벤치마크Benchmark
- 모델 성능을 같은 조건으로 재는 시험입니다. 회사가 직접 잰 점수는 '자체 발표 기준'이고, 독립 기관이 잰 점수와 다를 수 있습니다.
- 오픈AIOpenAI
- 챗GPT와 GPT 모델을 만든 미국 AI 회사입니다. 마이크로소프트가 최대 투자자이자 주요 클라우드 파트너입니다.
- 에이전트Agent
- 목표 하나를 주면 스스로 계획을 세우고 검색·코딩·파일 작업 같은 도구를 번갈아 쓰며 끝까지 처리하는 AI입니다. 계정·배포 권한을 줄 때는 사람 승인 단계를 남겨야 합니다.
- 컨텍스트 윈도우Context window
- AI가 한 번에 읽을 수 있는 분량입니다. 토큰으로 셉니다. 길게 넣을수록 단가가 오르는 요금제도 있습니다.
- 구글 딥마인드Google DeepMind
- 구글의 AI 연구 조직입니다. 바둑 AI 알파고와 제미나이 모델을 만들었습니다.
- 앤트로픽Anthropic
- 클로드를 만드는 미국 AI 회사입니다. 오픈AI 출신 연구자들이 2021년 세웠고 AI 안전 연구를 앞세웁니다.
- 제미나이Gemini
- 구글의 AI 모델이자 대화형 서비스 이름입니다. 검색·지메일·안드로이드 같은 구글 서비스 곳곳에 들어가 있습니다.
영상으로 보고, 기사로 자세히 읽기
30초 영상은 인스타그램과 유튜브 쇼츠에, 그날 나온 소식은 스레드에 가장 먼저 올립니다.