추론 강도Reasoning effort
뜻
추론 모델이 답하기 전에 얼마나 오래 생각할지 정하는 설정입니다. 높일수록 어려운 문제를 더 잘 풀지만 시간과 토큰이 더 듭니다.
추론 강도 관련 기사 1건
함께 보면 좋은 용어
- 벤치마크Benchmark
- 모델 성능을 같은 조건으로 재는 시험입니다. 회사가 직접 잰 점수는 '자체 발표 기준'이고, 독립 기관이 잰 점수와 다를 수 있습니다.
- 토큰Token
- AI가 글을 읽고 쓰는 최소 단위입니다. API 요금은 보통 '100만 토큰당 얼마'로 매깁니다.
- 오픈AIOpenAI
- 챗GPT와 GPT 모델을 만든 미국 AI 회사입니다. 마이크로소프트가 최대 투자자이자 주요 클라우드 파트너입니다.
- 챗GPTChatGPT
- 오픈AI의 대화형 AI 서비스입니다. 2022년 11월 공개돼 생성형 AI 붐을 일으켰습니다. 무료판과 유료 요금제가 있고, 무료판에는 광고가 붙기 시작했습니다.
- 코덱스Codex
- 오픈AI의 코딩 에이전트입니다. 코드를 쓰고 고치며 보안 취약점을 찾는 데도 쓰입니다.
- APIApplication Programming Interface
- 프로그램끼리 기능을 주고받는 창구입니다. AI 회사는 모델을 API로 팔고, 개발자는 이를 불러 자기 앱에 AI 기능을 붙입니다. 보통 쓴 만큼(토큰 단위) 돈을 냅니다.
- GPTGenerative Pre-trained Transformer
- 오픈AI가 만든 대규모 언어 모델 계열의 이름입니다. '미리 학습한 생성형 트랜스포머'라는 뜻으로, 챗GPT가 이 모델 위에서 돌아갑니다.
- GPT-6GPT-6
- 오픈AI의 6세대 GPT 모델 계열입니다. 아스트라·솔·테라·루나처럼 등급마다 이름이 붙는데, 테라는 중간 등급이고 루나는 값이 싼 모델입니다.
SHIFT 팔로우
영상으로 보고, 기사로 자세히 읽기
30초 영상은 인스타그램과 유튜브 쇼츠에, 그날 나온 소식은 스레드에 가장 먼저 올립니다.
