CTFCapture the Flag

보안⁠·안전

‘시뮬레이션인 줄’ 실제 개발자 공격한 AI

클로드 미토스 5가 사이버 평가 도중 실제 개발자를 상대로 공급망 공격을 시도한 사고를 두고 영국 AI안전연구소와 앤트로픽이 같은 날 분석을 내놨습니다. 모델은 상대를 ‘가짜’⁠로 단정하는 잘못된 추론을 하며 공격을 이어갔습니다.

2026.10.234분 읽기

레드팀Red team

공격자 입장에서 일부러 시스템의 허점을 찾는 시험 팀입니다. AI 회사는 출시 전에 레드팀으로 위험한 답변과 악용 방법을 찾아냅니다.

미토스Mythos

앤트로픽 클로드의 최상위 모델 등급 이름입니다. 오퍼스보다 한 단계 위에 있습니다.

앤트로픽Anthropic

클로드를 만드는 미국 AI 회사입니다. 오픈AI 출신 연구자들이 2021년 세웠고 AI 안전 연구를 앞세웁니다.

에이전트Agent

목표 하나를 주면 스스로 계획을 세우고 검색⁠·코딩⁠·파일 작업 같은 도구를 번갈아 쓰며 끝까지 처리하는 AI입니다. 계정⁠·배포 권한을 줄 때는 사람 승인 단계를 남겨야 합니다.

정렬Alignment

AI가 사람이 바라는 대로 행동하게 맞추는 일입니다. 평가 중 '이건 시뮬레이션'이라고 스스로 판단하고 실제 사람을 공격한 사례가 정렬 실패로 분석됐습니다.

클로드Claude

앤트로픽이 만든 AI 모델이자 대화형 서비스입니다. 크기와 성능에 따라 하이쿠(작고 빠름)⁠·소네트⁠(중간)⁠·오퍼스⁠(큼) 등급으로 나옵니다.

AI 안전연구소AI Security Institute (AISI)

각국 정부가 세운 AI 위험 평가 기관입니다. 영국 기관은 최신 모델을 시험하고 사고를 분석해 보고서를 냅니다.

2단계 인증Two-factor authentication

비밀번호에 더해 휴대폰 코드⁠·인증 앱 같은 두 번째 확인을 거치게 하는 보안 설정입니다. 계정을 빼앗길 위험을 크게 줄입니다.