알파프루프 코드, 시그널 암호 코드를 증명

구글 딥마인드(Google DeepMind)⁠가 11월 10일 AI 에이전트로 시그널⁠(Signal) 프로토콜의 암호 코드를 형식 검증한 결과를 공개했습니다. 검증 도구의 이름은 알파프루프 코드(AlphaProof Code)⁠이고, 글은 전문가 팀이 수년 걸리던 작업을 4주에 끝냈다고 설명합니다.

명세는 사람이 보고 증명은 에이전트가 씁니다

딥마인드는 이번 결과를 소프트웨어 보안에서 오랫동안 큰 과제로 여겨진 이정표라고 소개합니다. 연구진은 여러 모델과 함께 시그널의 보안 목표를 린⁠(Lean)의 수학적 명세로 옮겼고, 사람 전문가가 명세를 하나씩 검토했습니다. 이어서 제미나이 카본(Gemini Carbon)⁠을 쓰는 에이전트가 증명을 쓰고 다른 에이전트가 그 증명을 감사해 사람이 다시 볼 부분을 표시합니다. 표시된 곳은 코드의 1% 정도였고 모든 증명은 린이 직접 검사합니다. 사람이 모든 증명을 읽는 대신 명세 검토와 표시된 부분에 시간을 쓰도록 일을 나눈 구조입니다.

설계도가 아니라 기기에서 도는 코드까지

글은 증명이 설계 수준에 머물지 않고 기기에서 실제로 실행되는 코드까지 내려갔다고 설명합니다. 워크플로 그림 설명에는 컴파일된 기계어를 린으로 만든 프로세서 모델에서 실행해 증명한다고 되어 있고, 그림은 명세 작성과 승인, 코드 실행, 증명 생성의 세 단계로 나뉘며 증명팀이 만든 증명은 게이트키퍼가 검증합니다. 검증한 성질의 예는 기기가 일시적으로 침해된 전후에도 메시지가 보호되는 것입니다. 딥마인드는 널리 쓰이는 암호 프로토콜을 이 깊이로 AI가 형식 검증한 것은 처음이고, 같은 구현을 방법과 관계없이 형식 검증한 것도 처음이라고 주장합니다. 글은 기존 검증이 코드의 작은 일부에 집중해 왔고 이번 결과가 그 범위를 넓혔다고 주장합니다.

고친 버그 두 개를 다시 넣어 시험했습니다

연구진은 이미 수정된 실제 버그 두 개를 따로 떼어 낸 시그널 코드에 다시 넣었고, 시스템은 두 경우 모두 버그가 있는 버전이 안전하지 않다는 기계 검증 증명을 만들었습니다. 증명 규모는 글 본문이 600만 줄 이상이라고 적은 반면 같은 페이지의 요약 문구는 300만 줄 이상이라고 해서 두 숫자가 맞지 않으며, 정확한 줄 수는 링크된 기술 논문으로 확인해야 합니다.

공개된 것은 검증 산출물입니다

딥마인드는 형식 검증 산출물을 커뮤니티가 쓰도록 오픈소스로 공개했고 기술 논문도 링크했습니다. 알파프루프 코드 프레임워크를 외부에 제공한다는 문장이나 API, 이용 자격에 관한 설명은 글에 없습니다. 글은 이 기법을 넓히려면 연구가 더 필요하다고 적었고, 사람 전문가의 명세 검토는 모든 명세에 여전히 들어갑니다.