엔비디아, 에이전트 통제 오픈셸 기증

엔비디아(NVIDIA)⁠가 11월 10일(미국 시각) 북미 쿠버네티스 행사 KubeCon + CloudNativeCon North America에서 오픈셸(OpenShell)⁠을 클라우드 네이티브 컴퓨팅 재단⁠(CNCF)⁠에 기증했다고 블로그에 밝혔습니다. 오픈셸은 자율 에이전트를 보호하고 통제하는 오픈소스 런타임이며, CNCF는 리눅스재단 산하 비영리 단체입니다.

에이전트가 도구를 쓸 때 정책을 겁니다

오픈셸은 에이전트가 도구를 쓰고 추론 서비스에 접근하고 작업을 실행하는 순간에 정해진 규칙을 그대로 적용하는 런타임입니다. 팀은 자기 컴퓨팅 자원, 추론 제공사, 인증 정보 저장소, 모니터링 도구를 연결해 쓸 수 있습니다. 수백 개 조직이 이미 써 봤고 출시 후 1년이 안 되는 사이 수만 건의 기여가 모였습니다. CNCF 샌드박스 프로젝트가 되면 오픈셸을 제품에 넣는 조직들이 운영을 맡습니다. 리눅스재단의 짐 젬린(Jim Zemlin) CEO는 에이전트에게 안전한 실행 환경을 주는 일이 클라우드 네이티브 커뮤니티의 새 인프라 과제라고 말했습니다.

에이전트 작업을 쿠버네티스에서 돌리는 부품

엔비디아는 구글에서 시작된 에이전트 서브스트레이트(Agent Substrate)⁠에도 기여합니다. 오래 도는 에이전트 작업을 쿠버네티스에서 규모 있게 운영하는 오픈소스 프레임워크이고, 작업 사이에는 에이전트 환경을 보존하다가 에이전트가 놀 때는 컴퓨팅 자원을 풀어 줍니다. 엔비디아와 구글은 오픈셸과 에이전트 서브스트레이트를 합치는 작업도 하고 있으며 날짜는 나와 있지 않습니다. 엔비디아 쿠버네티스 엔진⁠(NVKE)⁠과 쿠버네티스 레시피⁠(NVKR)⁠는 GPU 인프라의 쿠버네티스 클러스터 수명 관리를 자동화하고 서명되고 버전이 고정된 이미지를 제공하며 지금 공개 프리뷰입니다. 미란티스, 레이프, 스펙트로 클라우드, SK텔레콤 같은 업체가 통합을 맞추고 있습니다.

모델 불러오기를 건너뛰는 스냅샷

스냅샷(Snapshot)⁠은 체크포인트로 저장한 복제본을 모델을 다시 불러오거나 예열하지 않고 몇 초 안에 되살리는 오픈소스 부품입니다. 크루소⁠(Crusoe)⁠가 크루소 클라우드에서 GLM-⁠5.3으로 시험하자 준비 시간이 약 8분에서 31초로 줄었습니다. 크루소와 세터 클라우드는 엔비디아 HGX B300 시스템에서 스냅샷을 평가한 설계 파트너입니다. 오픈셸의 정식 릴리스 날짜는 원문에 나와 있지 않습니다.