에이전틱 AI 보안
포스팅 뷰47
에이전틱 AI 보안(Agentic AI Security)이란 무엇일까요?
- 정의 — 스스로 계획·판단해 외부 시스템에 직접 행동을 실행하는 AI 에이전트를 안전하게 통제하는 보안 영역입니다.
- 핵심 — 기존 생성형 AI 보안이 "무엇을 답하는가"의 문제였다면, 에이전틱 AI는 "무엇을 실행하는가"가 문제입니다. 과도한 권한 위임·메모리 오염 같은 새로운 위험이 생깁니다.
- 현실 — 공격자도 이미 에이전틱 AI로 공격을 자동화하고 있습니다. 한 위협 보고서에 따르면 클라우드 침해부터 대규모 자격증명 탈취까지 단 6시간 만에 끝난 사례가 확인됐습니다.
에이전틱 AI 보안이란 스스로 계획하고 판단해 외부 시스템에 직접 행동을 실행하는 AI 에이전트가 과도한 권한 행사·프롬프트 인젝션·메모리 오염 등으로 오남용되지 않도록 통제하는 보안 영역을 말합니다.
에이전틱 AI 보안이란?
에이전틱 AI(Agentic AI)는 질문에 답만 하는 것을 넘어, 스스로 계획을 세우고 도구를 호출해 실제 시스템에 행동을 실행하는 AI를 말합니다. 이메일을 보내고, 코드를 배포하고, 데이터베이스를 조회·수정하는 일을 사람의 승인 없이 연속으로 처리할 수 있습니다.
문제는 여기서 시작됩니다. 기존 생성형 AI 보안은 주로 "모델이 무엇을 출력하는가"를 걱정했지만, 에이전틱 AI는 그 출력이 곧바로 "무엇을 실행하는가"로 이어집니다. 잘못된 답변은 사람이 걸러낼 여지가 있지만, 잘못된 실행은 이미 벌어진 일이 됩니다.
한 국내 보안 업계 분석은 이 차이를 이렇게 정리합니다. 기존 보안이 "누가 시스템에 접근했는가"에 초점을 맞췄다면, 에이전트 보안은 "에이전트의 행동이 정책에서 얼마나 벗어났는가"를 계속 감시하고 통제할 수 있어야 한다는 것입니다.삼성SDS
에이전틱 AI가 만드는 새로운 위험
기존 생성형 AI 보안 위험(민감정보 유출, 부적절한 답변 등)에 더해, 자율적으로 행동한다는 특성 때문에 다음과 같은 위험이 새로 생깁니다.
- 과도한 위임(Excessive Agency) — 에이전트가 제 역할을 하려면 여러 시스템에 넓은 권한이 필요한데, 이 권한 범위가 예상치 못한 작업까지 실행하는 통로가 됩니다.
- 다단계 프롬프트 인젝션 — 한 번에 지시를 조작하기보다, 여러 차례에 걸쳐 조금씩("살라미 슬라이싱") 에이전트의 판단을 원하는 방향으로 유도하는 방식이 나타나고 있습니다.
- 메모리·기록 오염 — 에이전트의 장기 기억에 거짓 정보를 심어 두면, 당장은 아무 문제가 없다가 몇 주 뒤 조작된 지시가 스스로 작동하는 "슬리퍼 에이전트" 상태가 될 수 있습니다.
- 다중 에이전트 연쇄 오류 — 여러 에이전트가 서로 결과를 주고받는 구조에서는, 오염된 에이전트 하나의 정보가 하위 에이전트로 기계적인 속도로 퍼집니다. 한 연구에서는 이렇게 오염된 에이전트 하나가 4시간 만에 하위 의사결정의 87%를 오염시켰다고 보고했습니다.
- 비인간 신원 사칭 — 에이전트가 쓰는 API 키·서비스 계정 같은 "사람이 아닌 신원"이 탈취되면, 공격자가 신뢰받는 에이전트인 것처럼 장기간 위장할 수 있습니다.
이런 위험을 체계적으로 정리하기 위해 OWASP GenAI Security Project는 2025년 12월 100명 이상의 업계 전문가와 함께 「OWASP Top 10 for Agentic Applications(2026)」를 발표했습니다. 에이전틱 AI를 도입하는 조직이라면 참고할 만한 실무 지침입니다.OWASP
공격자도 에이전틱 AI를 씁니다 — 6시간 만의 자동화 침해
Google Threat Intelligence Group(GTIG)의 2026년 2분기 보고서는 공격자들이 프롬프트를 일회성으로 활용하던 단계를 넘어, 자율형 멀티 에이전트 프레임워크로 공격 전체를 자동화하고 있다고 밝혔습니다. 실제로 관측된 한 캠페인은 클라우드 인프라 침해부터 수천 개의 서드파티 자격증명을 탈취하기까지 사람의 개입을 최소화한 채 단 6시간 만에 끝났습니다.
같은 보고서는 프롬프트 인젝션으로 AI 코딩 어시스턴트의 행동 자체를 조작한 악성코드 사례도 소개합니다. 숨겨진 프로젝트 파일에 악성 설정을 심어 AI가 공격자의 명령을 자동 실행하도록 만들고, "Copilot Setup"처럼 위장한 CI/CD 파이프라인으로 실행 로그까지 자동으로 지운 사례입니다.Google Cloud
실무 체크포인트 — 에이전틱 AI 도입 전 점검
에이전틱 AI는 도입 여부와 무관하게 지금 점검이 필요합니다. 이미 현업에서 코딩 어시스턴트·업무 자동화 도구 형태로 조용히 쓰이고 있는 경우가 많기 때문입니다.
에이전트가 아무리 세심하게 설계돼도, 결국 업무 문서와 데이터에 접근해 열람·요약·외부 전송까지 대신 처리하게 됩니다. 오피스키퍼는 문서중앙화와 정보유출방지로 에이전트를 포함한 모든 접근 주체의 문서 반출 경로를 통제하고, 상세한 사용 이력을 남겨 예상 밖의 행동이 발생했을 때 빠르게 추적할 수 있게 합니다.
자주 묻는 질문
Q. 생성형 AI 보안과 에이전틱 AI 보안은 뭐가 다른가요?
A. 생성형 AI 보안은 주로 모델이 무엇을 답하는지(민감정보 유출, 부적절한 답변 등)를 다룹니다. 에이전틱 AI 보안은 여기에 더해 모델이 무엇을 실행하는지, 즉 도구 호출과 실제 시스템 변경까지 통제 대상에 포함합니다.
Q. 프롬프트 인젝션과 에이전틱 AI 보안 위협은 어떤 관계인가요?
A. 프롬프트 인젝션은 에이전틱 AI를 공격하는 대표적인 방법 중 하나입니다. 다만 에이전트는 조작된 지시를 실제 행동으로 옮길 권한과 도구를 갖고 있어서, 같은 인젝션이라도 피해 범위가 답변 왜곡을 넘어 실제 시스템 변경으로 이어질 수 있습니다.
Q. 메모리 오염("슬리퍼 에이전트")이 정확히 뭔가요?
A. 에이전트가 과거 대화나 작업 결과를 장기 기억으로 저장해 이후 판단에 참고하는 경우, 공격자가 이 기억에 거짓 정보나 조작된 지시를 미리 심어 둘 수 있습니다. 평소엔 정상 작동하다가 특정 조건에서 조작된 지시가 뒤늦게 실행되는 상태를 가리킵니다.
Q. 아직 에이전틱 AI를 도입하지 않았는데도 대비해야 하나요?
A. 네. 코딩 어시스턴트, 업무 자동화 플러그인 같은 형태로 이미 현업에서 부분적으로 쓰이고 있는 경우가 많습니다. 공식 도입 여부와 별개로, 현재 조직 내에서 어떤 AI 에이전트가 어떤 권한으로 움직이고 있는지부터 파악하는 것이 첫걸음입니다.
Q. 완전 자동화보다 사람의 개입이 왜 더 중요해지나요?
A. 공격자가 AI로 공격 속도를 극단적으로 끌어올리는 만큼, 방어 쪽에서도 되돌리기 어려운 행동만큼은 사람이 최종 확인하는 구간을 남겨 둬야 피해를 막을 수 있습니다. 자율성을 늘리는 것과 통제를 포기하는 것은 다른 문제입니다.
AI 에이전트가 문서에 접근하기 전, 오피스키퍼로 반출 경로부터 통제하세요.
제품소개서 신청하기