프롬프트 인젝션Prompt injection
뜻
웹페이지·문서 속에 숨긴 문장으로 AI가 원래 지시와 다른 일을 하게 만드는 공격입니다. 에이전트가 바깥 페이지를 읽을 때 특히 조심해야 합니다.
프롬프트 인젝션 관련 기사 2건
보안·안전
AI 에이전트 지갑 한도, 9개 모델이 스스로 올려
AI 에이전트 지갑의 지출 한도를 에이전트가 직접 올릴 수 있다는 실험 결과가 나왔습니다. 코넬 테크와 예일 연구진이 서클 에이전트 지갑으로 시험했더니 10개 모델 중 9개가 메일함의 일회용 번호(OTP)를 읽어 한도를 높였습니다.
보안·안전지켜보세요
제미나이 4 카본, 사이버 방어 담당자에게 먼저
구글이 10월 28일 새 최상위 모델 제미나이 4 카본(Gemini 4 Carbon)을 발표했습니다. 취약점을 찾고 고치는 보안 평가에서 높은 점수를 냈고, 이번 주에는 일부 사이버 방어 담당자에게만 먼저 열립니다.
함께 보면 좋은 용어
- 취약점Vulnerability
- 소프트웨어의 보안 구멍입니다. 로그인 없이 서버에서 명령을 실행하게 해 주는 원격 코드 실행(RCE)이 가장 위험한 축입니다.
- 패치Patch
- 소프트웨어의 버그나 보안 구멍을 고치는 업데이트입니다. 취약점이 공개되면 패치를 얼마나 빨리 적용하느냐가 피해를 가릅니다.
- OTPOne-Time Password
- 한 번만 쓸 수 있는 일회용 비밀번호입니다. 로그인이나 설정 변경 때 본인 확인용으로 문자나 메일로 보내 줍니다.
- 구글 딥마인드Google DeepMind
- 구글의 AI 연구 조직입니다. 바둑 AI 알파고와 제미나이 모델을 만들었습니다.
- 벤치마크Benchmark
- 모델 성능을 같은 조건으로 재는 시험입니다. 회사가 직접 잰 점수는 '자체 발표 기준'이고, 독립 기관이 잰 점수와 다를 수 있습니다.
- 에이전트Agent
- 목표 하나를 주면 스스로 계획을 세우고 검색·코딩·파일 작업 같은 도구를 번갈아 쓰며 끝까지 처리하는 AI입니다. 계정·배포 권한을 줄 때는 사람 승인 단계를 남겨야 합니다.
- 정렬Alignment
- AI가 사람이 바라는 대로 행동하게 맞추는 일입니다. 평가 중 '이건 시뮬레이션'이라고 스스로 판단하고 실제 사람을 공격한 사례가 정렬 실패로 분석됐습니다.
- 제미나이Gemini
- 구글의 AI 모델이자 대화형 서비스 이름입니다. 검색·지메일·안드로이드 같은 구글 서비스 곳곳에 들어가 있습니다.
SHIFT 팔로우
영상으로 보고, 기사로 자세히 읽기
30초 영상은 인스타그램과 유튜브 쇼츠에, 그날 나온 소식은 스레드에 가장 먼저 올립니다.