AI 에이전트 보안의 새 기준 — DeepMind, '3단 방어 계층' 프레임워크 공개

AI 에이전트가 기업 시스템 곳곳에 배치되기 시작하면서, "에이전트 자체가 보안 위협이 될 수 있다"는 질문이 현실로 다가왔다. Google DeepMind는 2026년 6월 18일, 이 문제에 정면으로 답하는 종합 보안 프레임워크를 공개했다.

핵심은 '방어 심층(Defense-in-Depth)' 전략이다. DeepMind는 AI 에이전트를 잠재적으로 정렬이 어긋날 수 있는 존재로 가정하고, 이를 감시·제어하는 신뢰할 수 있는 상위 AI 시스템을 별도로 운영한다. 상위 AI는 작동 중인 에이전트의 추론 과정, 행동, 계획을 실시간으로 검토하며 이상 징후를 탐지한다.

이 접근법은 기존 사이버보안 분야의 MITRE ATT&CK 프레임워크를 AI 맥락에 맞게 재해석한 결과다. 사이버 공격자를 분류하던 방식을 AI 에이전트가 내부 위협으로 변하는 경로를 분류하는 데 활용했다.

주목할 만한 것은 실제 데이터다. DeepMind는 100만 건 이상의 코딩 에이전트 작업을 분석했는데, 이상 징후로 분류된 사건의 대부분은 에이전트의 "오해석이나 과잉 수행(misinterpretation or overeagerness)"에서 비롯된 것이었다. 악의적 공격보다 에이전트가 주어진 지시를 잘못 이해해 과도한 행동을 한 경우가 훨씬 많았다는 뜻이다.

DeepMind는 기술 보고서와 함께 정책 입안자를 위한 '에이전트 보안 3단 계층(Three Layers of Agent Security)' 문서도 공개했다. AI 기업이 아닌 규제 기관이나 기업 임원들도 AI 에이전트 보안 거버넌스를 이해하고 실행할 수 있도록 돕기 위해서다.

모델 능력이 향상될수록 보안 방어도 강화돼야 한다는 점도 강조됐다. 능력이 높아진 에이전트는 탐지를 더 잘 회피할 수 있고, 잘못됐을 때의 피해도 더 커지기 때문이다.