사전 학습Pre-training
뜻
특정 용도 없이 아주 많은 글로 먼저 기본기를 익히는 단계입니다. 그다음 파인튜닝·강화학습으로 다듬습니다.
함께 보면 좋은 용어
- 가중치Weights
- 학습이 끝난 모델 안에 담긴 파라미터 값입니다. 가중치를 공개하면 누구나 그 모델을 내려받아 돌릴 수 있습니다(오픈 웨이트).
- 강화학습Reinforcement learning
- 잘하면 보상, 못하면 벌점을 주며 스스로 더 나은 답을 찾게 하는 학습 방식입니다. 추론 모델 훈련에 많이 쓰입니다.
- 단어 오류율(WER)Word error rate
- 음성 받아쓰기가 얼마나 틀렸는지 재는 지표입니다. 정답 문장과 비교해 빠지거나 바뀌거나 더해진 단어의 비율이고 낮을수록 정확합니다.
- 데이터셋Dataset
- 학습이나 평가에 쓰려고 모아 정리한 데이터 묶음입니다.
- 딥러닝Deep learning
- 여러 층으로 쌓은 신경망으로 학습하는 머신러닝입니다. 이미지 인식·번역·챗봇 같은 최근 AI 대부분이 딥러닝입니다.
- 딥리서치Deep research
- AI가 스스로 여러 웹페이지를 찾아 읽고 출처를 달아 보고서를 써 주는 기능입니다. 여러 챗봇이 이름을 조금씩 달리해 제공합니다.
- 리더보드Leaderboard
- 여러 모델의 시험 점수를 순위표로 보여 주는 곳입니다. 사람들이 두 답 중 더 나은 쪽을 고르는 투표형 순위표도 있습니다.
- 머신러닝Machine learning
- 사람이 규칙을 일일이 짜 주는 대신 컴퓨터가 데이터에서 규칙을 스스로 찾게 하는 방법입니다. AI를 만드는 가장 대표적인 방식입니다.
SHIFT 팔로우
영상으로 보고, 기사로 자세히 읽기
30초 영상은 인스타그램과 유튜브 쇼츠에, 그날 나온 소식은 스레드에 가장 먼저 올립니다.
