온디바이스 AIOn-device AI
뜻
서버 대신 스마트폰·노트북 안에서 바로 돌아가는 AI입니다. 데이터가 기기 밖으로 나가지 않는 것이 장점입니다.
온디바이스 AI 관련 기사 3건
모델·제품지켜보세요
Phonon TTS, 첫 소리까지 28ms
Phonon TTS는 약 65MB와 75MB 크기의 온디바이스 음성 합성 모델입니다. 서버 없이 CPU에서 돌고 첫 소리까지 28ms가 걸린다고 하지만, 지원 언어는 영어·프랑스어·독일어·스페인어·포르투갈어이고 한국어는 없습니다.
모델·제품지켜보세요
리퀴드 AI LFM3, 약 1GB 오픈 모델 6종
리퀴드 AI가 10월 27일 소형 모델 묶음 LFM3를 공개했습니다. 17억~22억 파라미터 모델 6종이 텍스트와 이미지, 음성을 나눠 맡고, 텍스트 모델은 4비트로 줄이면 약 1GB에 들어가 기기 안에서 돌리는 쓰임새를 겨냥했습니다.
비즈니스·일자리과장이에요
트레이스위브, 트랜스포머 대신 새 구조
네이버 D2SF가 스마트폰 CPU만으로 여러 단계 에이전트를 돌리는 온디바이스 AI 스타트업 트레이스위브에 투자했습니다. 트레이스위브는 입력이 길어져도 메모리 사용량이 일정한 자체 구조 ‘페이즈-타이탄’을 내세우며 시드 라운드에서 약 30억 원을 모았습니다.
함께 보면 좋은 용어
- NPUNeural Processing Unit
- AI 계산을 빠르고 적은 전력으로 하도록 만든 칩입니다. 스마트폰·노트북의 온디바이스 AI에 많이 들어갑니다.
- 라이선스License
- 소프트웨어·모델·콘텐츠를 어디까지 써도 되는지 정한 이용 조건입니다. 오픈소스나 오픈 웨이트라도 상업적 이용을 제한하는 경우가 있어 확인이 필요합니다.
- 허깅페이스Hugging Face
- AI 모델과 데이터셋을 올리고 내려받는 공유 사이트입니다. 오픈 웨이트 모델 대부분이 여기에 공개됩니다.
- CPUCPU
- 컴퓨터에서 계산과 명령 처리를 맡는 중앙 처리 장치입니다. GPU 없이 CPU만으로 돌아가는 AI는 일반 노트북이나 휴대폰에서도 쓸 수 있습니다.
- GPUGraphics Processing Unit
- 원래 그래픽용으로 만든 칩이지만 많은 계산을 동시에 처리할 수 있어 AI 학습·추론의 주력이 됐습니다. 엔비디아가 시장을 이끕니다.
- 리퀴드 AILiquid AI
- LFM이라는 이름의 소형 AI 모델을 만드는 회사입니다. 2026년 10월에 텍스트·이미지·음성 모델 6종을 묶은 LFM3를 공개했습니다.
- 멀티모달Multimodal
- 글뿐 아니라 이미지·소리·영상을 함께 읽고 만드는 AI입니다.
- 벤치마크Benchmark
- 모델 성능을 같은 조건으로 재는 시험입니다. 회사가 직접 잰 점수는 '자체 발표 기준'이고, 독립 기관이 잰 점수와 다를 수 있습니다.
SHIFT 팔로우
영상으로 보고, 기사로 자세히 읽기
30초 영상은 인스타그램과 유튜브 쇼츠에, 그날 나온 소식은 스레드에 가장 먼저 올립니다.