AI 에이전트는 자율적으로 작동하며, 몇 초 만에 생성됐다가 사라지면서 기존의 상시 로그인 기반 신뢰 모델을 무너뜨린다.

 

작성자: Mike Engle

보도일자: 2026년 1월 19일

출처: Biometricupdate.com

 

1Kosmos 공동 창업자 겸 최고전략책임자(CSO) 마이크 앵글 작성.

 

기업용 아이덴티티 시스템은 예측 가능한 사용자와 개별적인 접근 이벤트를 전제로 설계되었지, 스스로 의사결정을 내리고 민감한 거래를 수행하는 일시적인 AI 에이전트를 염두에 두고 만들어진 것이 아니다. 지능형 시스템이 재검증을 기다리지 않은 채 워크플로를 시작하고, API를 호출하며, 민감한 데이터를 이동시키는 상황에서 신뢰는 종종 한 번만 부여되고 만료 시점 없이 유지된다. 이러한 가정은 실행 중인 과정에서 보안팀을 사실상 ‘눈먼’ 상태로 만들며, 바로 그 순간에 의도, 권한, 그리고 영향이 모니터링되고 관리되어야 한다.

 

이러한 변화는 기업 아이덴티티의 근본적 전제를 조용히 무너뜨렸다. 즉, 인증은 세션 시작 시 한 번만 수행하면 된다는 가정이다. 인간과 달리 AI 에이전트는 보안팀이 실시간으로 검증하고, 해석하며, 신뢰해야 할 방대한 양의 행동을 생성한다.

 

기로에 선 전통적 아이덴티티

다음은 이 보안 격차를 드러내는 간단한 사례다. 나는 회의 후속 조치를 간소화해 줄 작은 에이전트를 원했다. 필요한 기능은 내 캘린더를 읽고, 회의 기록에 접근하며, 감사 이메일 작성을 돕는 것뿐이었다.

 

그런데 Microsoft Entra의 권한을 정의하는 데만 컨설턴트들과 3주간의 조율이 필요했다. 마침내 테스트를 했을 때, 그 에이전트는 누구도 예상하지 못한 수준의 과도한 접근 권한을 갖고 있었고, 원래는 절대 접근해서는 안 될 데이터까지 볼 수 있었다.

 

이것은 기술적인 실패가 아니었다. 구조적(아키텍처) 실패였다. 에이전트를 위한 권한 모델은 설계하기도 복잡하고, 관리하기는 더 어렵다.

 

‘입사-이동-퇴사(joiner-mover-leaver)’ 워크플로우와 정적 권한 할당에 기반한 아이덴티티 모델은 AI 에이전트의 유동적이고 일시적인 특성을 따라갈 수 없다. 이러한 시스템은 아이덴티티가 신중하게 생성되고, 권한이 의도적으로 부여되며, 변화는 거의 일어나지 않는다는 전제를 갖고 있다. AI는 이 모든 것을 바꿔 놓는다. 에이전트는 몇 초 만에 생성되어 민감한 작업을 수행하고 바로 종료될 수 있다. 만약 인증 모델이 로그인 시점에만 아이덴티티를 확인한다면, 그 세션 전체를 취약한 상태로 방치하는 셈이다.

 

검증할 수 없다면 AI를 확장하지 말라

그렇기 때문에 우리는 ‘검증자의 법칙(Verifier’s Law)’ 이라는 원칙을 도입해야 한다. 즉, AI 에이전트는 그 결과를 검증할 수 있는 속도까지만 배포해야 한다는 것이다.

 

에이전트가 무엇을 하고 있는지 이해하지 못하고, 올바른 일을 했는지 확인할 수 없으며, 기대된 행동에서 벗어나기 시작하는 순간을 감지하지 못한다면, 그것은 자동화가 아니라 도박이다.

 

우리는 이미 그 결과를 목격하고 있다. 기업용 검색 에이전트를 실험한 조직들은 그 에이전트가 회사조차 존재를 몰랐던 문서를 끌어올리거나, 지나치게 많은 사람들에게 노출되어 있다는 사실을 인지하지 못했던 자료를 표면으로 드러낸다는 점을 곧 깨닫는다. 또 다른 팀들은 겉보기에는 무해해 보이는 코딩 어시스턴트가 사실은 아무도 검증하지 않은 외부 API를 호출하거나 오픈소스 패키지를 조용히 가져오고 있다는 사실을 발견한다.

 

이러한 에이전트들은 악의적이지 않다. 그저 빠르고, 집요하며, 극도로 문자 그대로 작동할 뿐이다. 아이덴티티 검증과 접근 통제가 같은 속도로 작동하지 않는다면, 사소한 관리 소홀이 곧 중대한 거버넌스 실패로 이어지게 된다.

 

정적 아이덴티티는 동적인 AI를 상대할 수 없다

인증, 단계적 추가 인증(step-up challenge), 그리고 강력한 생체인식까지도 인간을 검증하는 데에는 핵심적인 역할을 한다. 그러나 이러한 방식들은 AI 고유의 아이덴티티 문제 네 가지를 해결하지는 못한다.

• 일시적인 수명(Ephemeral lifespans): 에이전트는 몇 초 만에 생성되었다가 곧바로 사라진다.
• 과도한 권한 요청(Expansive permission requests): 대부분의 에이전트는 설계가 쉽다는 이유로 광범위한 접근 권한을 요구한다.
• 불투명한 의사결정(Opaque decision-making): 잘 설계된 에이전트조차도 모호한 지시를 받으면 예기치 않게 행동할 수 있다.
• 무제한적 확장성(Unbounded scale): 한 명의 인간이 서로 다른 접근 권한과 행동 프로필을 가진 수백 개의 에이전트를 생성할 수 있다.

 

실행 시점 제어 평면으로서의 아이덴티티 검증

AI 기반 기업을 안전하게 운영하라면, 전통적인 방화벽에서 제로 트러스트 아키텍처로 전환할 때와 유사한 변화가 필요하다. 우리는 네트워크를 없앤 것이 아니라, 정책과 검증을 실행 시점(runtime)에서 지속적으로 작동하도록 격상시켰다. AI를 위한 아이덴티티 검증도 같은 길을 따라야 한다. 이는 다음과 같은 기능을 갖춘 시스템을 구축해야 함을 의미한다.

• 모든 인간 및 기계 행위자에게 검증 가능한 아이덴티티를 부여
• 상황과 의도에 따라 권한을 동적으로 평가
• 고속 환경에서도 최소 권한 원칙을 강제
• 진입 지점뿐 아니라 행위 자체를 검증
• 드리프트나 이상 행동을 실시간을 감지
• 조건이 변경되면 즉시 접근을 종료

 

이 때문에 SPIFFE와 같은 프레임워크, 그리고 현대적인 워크로드 아이덴티티 시스템이 큰 주목을 받고 있다. 이들은 아이덴티티를 짧은 수명의 암호학적으로 검증 가능한 개체로 다루며, 몇 초 만에 생성·사용·폐기할 수 있도록 설계되어 있다. 이는 바로 AI 에이전트가 요구하는 모델이다.

 

자율 시스템이 인간보다 훨씬 빠르게 행동하고, 거버넌스가 따라잡기도 전에 생성되고 종료되는 상황에서, 인간의 활동은 점점 소수가 되고 있다. 그렇기 때문에 아이덴티티 검증은 단순한 체크포인트에서 벗어나, 인간이든 AI든 모든 행위자의 모든 행동을 평가하는 실시간 신뢰 엔진으로 전환되어야 한다.

 

AI 에이전트는 단순히 업무 수행 방식을 바꾸는 데 그치지 않고, 아이덴티티 그 자체를 재정의하고 있다. 검증 또한 그 변화에 맞춰 진화해야 한다.

 

저자 소개

1Kosmos의 공동 창업자이자 최고전략책임자(CSO)인 마이크 앵글은 검증된 정보기술(IT) 임원이며, 기업 구축가이자 기업가다. 그는 정보보안, 사업 개발, 인증, 생체인증, 그리고 제품 설계·개발 분야의 전문가다. 그의 경력에는 리먼브라더스(Lehman Brothers)의 정보 보안 책임자와 Bastille Networks 공동 창업자가 포함되어 있다.