본문으로 건너뛰기
보안 지식

AI 에이전트가 넓힌 정보 유출 경로: 화면 촬영 방지까지 필요한 이유

|
약 10분
모니터독(MonitorDog) 팀
모니터독(MonitorDog) 팀
AI 기반 시각적 해킹 차단 솔루션

생성형 AI가 질문에 답하는 도구를 넘어 직접 업무를 수행하는 에이전트로 발전하고 있습니다. 사용자가 전달한 문서를 요약하는 데서 그치지 않고, 파일을 읽고, 브라우저를 열고, 외부 서비스를 호출하고, 결과를 저장하거나 공유하는 단계까지 맡기 시작했습니다.

생산성은 높아졌지만 보안팀이 살펴봐야 할 범위도 함께 넓어졌습니다. 과거에는 사용자가 어떤 파일을 내려받고 어디로 전송했는지가 주요 관찰 대상이었다면, 이제는 AI 에이전트가 어떤 데이터에 접근했고, 어떤 도구를 사용했으며, 어느 외부 서비스로 무엇을 보냈는지까지 확인해야 합니다.

여기에 기존부터 존재하던 USB 복사, 메신저 전송, 화면 캡처, 스마트폰을 이용한 모니터 촬영 같은 경로도 사라진 것이 아닙니다. AI가 새로운 경로를 추가했을 뿐, 오래된 정보 유출 수단은 여전히 남아 있습니다. 기업이 AI 에이전트 보안을 별도의 제품 하나로 해결하기보다 데이터가 저장되고, 이동하고, 사용되고, 최종적으로 화면에 표시되는 전체 과정을 다시 점검해야 하는 이유입니다.

3줄 요약

  • AI 에이전트는 파일, 브라우저, 외부 서비스와 직접 상호작용하기 때문에 기존 생성형 AI보다 더 많은 데이터 접근 권한과 유출 경로를 가질 수 있습니다.
  • AI 입력 통제와 접근권한 관리뿐 아니라 외부 전송, 인증정보, 엔드포인트, 화면 정보 유출 방지를 함께 설계해야 합니다.
  • 모니터 촬영 방지와 비주얼 해킹 대응은 AI 보안을 대체하는 기능이 아니라, 디지털 통제를 통과해 화면에 표시된 정보를 보호하는 마지막 보안 계층입니다.

AI 에이전트가 바꾼 것은 답변이 아니라 행동 범위다​

일반적인 생성형 AI 서비스는 사용자가 입력한 프롬프트를 바탕으로 답변을 생성합니다. 이때도 사내 문서나 개인정보를 입력하는 문제가 발생할 수 있지만, 데이터 이동을 시작하는 주체는 대체로 사용자였습니다.

AI 에이전트는 다릅니다. 목표와 권한을 전달받은 뒤 여러 단계를 스스로 계획하고 실행할 수 있습니다. 업무 환경에 따라 다음과 같은 행동이 가능합니다.

  • 로컬 또는 클라우드 저장소의 파일을 읽습니다.
  • 이메일, 일정, 협업 도구에서 필요한 정보를 찾습니다.
  • 브라우저로 웹사이트에 접속하고 폼을 작성합니다.
  • API와 외부 서비스를 호출합니다.
  • 코드나 명령어를 실행합니다.
  • 결과물을 파일로 만들거나 다른 사람에게 공유합니다.

각 기능은 정상적인 업무를 자동화하기 위해 제공됩니다. 문제는 정상 기능이 그대로 데이터 반출 기능이 될 수도 있다는 점입니다. 에이전트가 과도한 권한을 가지고 있거나, 잘못된 지시를 따르거나, 외부 콘텐츠에 포함된 악성 명령에 영향을 받는다면 사용자가 의도하지 않은 곳으로 정보가 이동할 수 있습니다.

따라서 AI 에이전트 보안은 모델의 답변 내용만 검사하는 것으로 끝나지 않습니다. 에이전트의 신원과 권한, 접근 가능한 데이터, 호출 가능한 도구, 외부 통신 대상, 실행 결과를 하나의 흐름으로 관리해야 합니다.

실제로 발생한 AI 에이전트의 이미지 외부 전송​

2026년 9월 OpenAI는 연구·평가 환경의 AI 에이전트가 제3자 서비스를 사용하는 과정에서 일부 학습 및 평가 데이터를 외부로 전송한 사례를 공개했습니다. 조사 당시까지 사용자 제공 이미지 53건이 이미지 호스팅 사이트에 공개 목록에는 나타나지 않는 링크 형태로 게시된 사실도 확인됐습니다.

OpenAI의 설명에 따르면 해당 사례는 일반적인 ChatGPT 대화 전체가 무차별적으로 공개된 사건은 아닙니다. 학습에 사용할 수 있도록 설정된 데이터 중 일부가 영향을 받았으며, 기업·비즈니스 계정과 API 데이터는 관리자가 학습 사용을 활성화하지 않는 한 포함되지 않았습니다. 회사는 호스팅 사업자와 함께 게시물을 삭제하고 에이전트 활동 모니터링과 연구 환경의 보호 조치를 강화했다고 밝혔습니다.

중요한 부분은 숫자보다 유출 경로의 형태입니다. 사용자가 직접 파일을 외부 사이트에 올린 것이 아니라, 작업을 수행하던 에이전트가 제3자 서비스를 이용하며 데이터를 전송했습니다. 기존 보안 정책이 사람의 업로드와 이메일 첨부만 가정했다면 이런 행동은 예상하지 못한 경로가 될 수 있습니다.

비슷한 시기에 Anthropic이 공개한 위협 보고서도 AI가 공격 전반에 사용되는 흐름을 보여줍니다. 보고서에 따르면 2025년 12월부터 2026년 8월 사이 국가 배후로 의심되는 조직, 금전 목적 범죄자, 상업용 스파이웨어 사업자 등이 AI를 악용하려 한 사례가 확인됐습니다. AI의 영향은 단일 취약점을 만드는 데만 있지 않았습니다. 정찰, 분석, 공격 준비와 실행 등 여러 단계의 속도와 규모를 높이는 방향으로 나타났습니다.

두 사례의 성격은 다릅니다. 하나는 에이전트 행동이 의도하지 않은 외부 전송으로 이어진 사례이고, 다른 하나는 공격자가 AI를 악용한 사례입니다. 하지만 공통적으로 보여주는 변화가 있습니다. AI가 데이터를 읽고 결과를 생성하는 도구에서 실제 시스템과 외부 환경에 행동하는 주체로 바뀌고 있다는 점입니다.

AI 시대에 추가된 정보 유출 경로​

AI 에이전트가 도입되면 기존 보안 체계에 다음과 같은 경로가 추가됩니다.

1. 프롬프트와 대화 기록​

직원이 오류 해결을 위해 소스 코드와 로그를 붙여 넣거나, 문서 요약을 위해 고객 정보가 포함된 파일을 업로드할 수 있습니다. AI 도입 초기부터 가장 많이 논의된 유출 경로입니다.

기업용 서비스의 학습 제외 정책만 확인해서는 충분하지 않습니다. 어떤 사용자가 어떤 종류의 데이터를 입력할 수 있는지, 대화 기록은 얼마나 오래 보관되는지, 관리자가 감사할 수 있는지까지 확인해야 합니다.

2. 커넥터와 업무 도구​

에이전트가 이메일, 클라우드 드라이브, 메신저, CRM, 코드 저장소와 연결되면 접근 범위가 급격히 커집니다. 사용자가 각각의 시스템에서 직접 검색할 때보다 훨씬 많은 정보를 짧은 시간에 모을 수 있습니다.

이때 하나의 계정에 과도한 권한이 있으면 에이전트 역시 같은 권한을 물려받을 수 있습니다. 읽기만 필요한 작업에 수정·삭제 권한까지 부여하거나, 특정 프로젝트만 봐야 하는 계정이 조직 전체 저장소에 접근할 수 있다면 사고의 범위가 커집니다.

3. 브라우저와 외부 URL​

브라우저를 사용할 수 있는 에이전트는 검색 결과를 읽는 것뿐 아니라 외부 페이지에 내용을 입력하거나 파일을 업로드할 수도 있습니다. 이미지나 URL을 불러오는 정상적인 기능도 상황에 따라 데이터 반출 통로로 악용될 수 있습니다.

허용되지 않은 도메인으로의 접속과 업로드를 제한하고, 민감 데이터가 URL이나 요청 본문에 포함되는지 검사해야 합니다. 에이전트가 최종적으로 어떤 외부 서비스와 통신했는지를 재구성할 수 있는 로그도 필요합니다.

4. 인증정보와 기존 세션​

에이전트가 작업을 수행하려면 API 키, 액세스 토큰, 브라우저 로그인 세션 같은 인증정보가 필요합니다. 이 정보가 코드나 로그에 노출돼 있거나 권한 범위가 지나치게 넓다면, 에이전트 또는 공격자가 정상 사용자처럼 시스템에 접근할 수 있습니다.

인증정보를 에이전트의 프롬프트나 작업 공간에 직접 저장하지 않고, 용도와 유효기간이 제한된 자격증명을 발급해야 합니다. 사람 계정과 에이전트 계정을 분리해 누가 수행한 행동인지 구분하는 것도 중요합니다.

5. 화면과 물리적 촬영​

AI가 분석한 고객 정보, 재무자료, 소스 코드, 설계 문서는 결국 사람에게 보여주기 위해 화면에 표시됩니다. 데이터가 안전한 저장소에서 암호화되어 있고 접근권한 검사를 통과했더라도, 화면에 표시되는 순간에는 사람이 읽을 수 있는 형태가 됩니다.

이 상태에서 개인 스마트폰으로 화면을 촬영하면 파일 복사나 네트워크 전송 없이 정보가 조직 밖으로 이동합니다. 에이전트가 만든 새로운 경로는 아니지만, AI를 통해 더 많은 민감 정보가 한 화면에 요약되고 결합될수록 촬영 한 번에 노출되는 정보의 가치가 커질 수 있습니다.

이 때문에 AI 시대의 정보 유출 방지에는 디지털 경로뿐 아니라 모니터 촬영 방지, 화면 촬영 방지, 비주얼 해킹 대응이 함께 포함되어야 합니다.

기존 DLP만으로 충분하지 않은 이유​

DLP는 이메일 첨부, 클라우드 업로드, USB 복사, 클립보드 사용처럼 데이터가 이동하는 주요 경로를 통제합니다. AI 에이전트 환경에서도 중요한 보안 계층입니다. 다만 에이전트가 정상 권한과 허용된 브라우저를 사용하거나, 새로운 외부 서비스가 정책에 아직 반영되지 않았다면 탐지 공백이 생길 수 있습니다.

EDR은 엔드포인트에서 실행되는 프로세스와 파일, 네트워크 활동을 관찰합니다. CASB와 SSE는 클라우드 서비스 사용과 외부 통신을 통제하고, IAM은 사용자와 에이전트의 접근권한을 관리합니다. 각각 필요한 도구지만 어느 하나가 모든 유출 경로를 담당하지는 않습니다.

특히 스마트폰을 이용한 모니터 촬영은 회사 PC에서 파일이나 프로세스, 네트워크 이벤트를 만들지 않습니다. 운영체제의 화면 캡처 기능도 사용하지 않습니다. 기존 보안 솔루션이 실패했다기보다 애초에 관찰 대상으로 삼지 않은 물리적 영역에서 행동이 발생한 것입니다.

AI 에이전트 도입 이후에는 다음과 같이 역할을 나눠 생각하는 편이 현실적입니다.

보호 영역주요 통제 방법남을 수 있는 사각지대
AI 입력 데이터민감정보 분류, 입력 제한, 학습·보관 정책사용자의 오입력, 분류되지 않은 데이터
에이전트 권한최소 권한, 전용 계정, 단기 인증정보과도한 기존 권한, 공유 계정
외부 전송허용 도메인, 업로드 검사, API·브라우저 로그신규 서비스, 암호화된 정상 트래픽
엔드포인트DLP, EDR, 애플리케이션 통제관리되지 않는 개인 기기와 물리적 행동
화면 노출마스킹, 워터마크, 화면 촬영 방지외부 카메라를 이용한 비주얼 해킹

핵심은 기존 보안 도구를 AI 보안 제품 하나로 교체하는 것이 아닙니다. 각 도구가 보는 영역을 연결하고, 여전히 로그가 만들어지지 않는 구간을 찾아 추가 통제를 배치하는 것입니다.

비주얼 해킹은 AI 시대에도 남는 마지막 사각지대다​

비주얼 해킹(Visual Hacking)은 화면이나 문서처럼 눈에 보이는 정보를 직접 관찰하거나 촬영해 획득하는 행위를 말합니다. 공격자는 반드시 시스템을 해킹할 필요가 없습니다. 권한을 가진 직원의 화면을 옆에서 보거나, 스마트폰 카메라로 촬영하는 것만으로도 정보를 가져갈 수 있습니다.

AI 에이전트가 업무에 깊이 들어올수록 화면에는 여러 시스템에서 수집한 정보가 한 번에 표시될 수 있습니다. 예를 들어 에이전트가 고객 이력, 계약 조건, 최근 상담 내용과 내부 대응 방안을 하나의 요약 화면으로 만들 수 있습니다. 업무 효율은 높아지지만 해당 화면 한 장이 포함하는 정보의 밀도 역시 높아집니다.

그래서 화면 정보 유출 방지는 단순히 모니터에 워터마크를 표시하는 문제로 끝나지 않습니다. 다음과 같은 운영이 함께 필요합니다.

  • 개인 정보는 조직 정책에 따라 마스킹합니다.
  • 사용자가 자리를 비우면 화면을 잠급니다.
  • 운영체제 기반 화면 캡처와 녹화를 통제합니다.
  • 스마트폰을 이용한 촬영 시도를 탐지합니다.
  • 반복되는 촬영 의심 이벤트를 사용자와 단말 기준으로 분석합니다.
  • 이벤트 이미지와 로그 자체에도 열람 권한과 보존 정책을 적용합니다.

여기서 모니터 촬영 방지는 AI 에이전트의 프롬프트나 외부 API를 통제하는 기능이 아닙니다. 디지털 보안 통제를 거쳐 정상적으로 화면에 표시된 정보가 물리적인 촬영으로 빠져나가는 경로를 보완하는 기능입니다.

모니터독이 담당하는 보안 범위​

모니터독은 AI 에이전트의 권한이나 프롬프트, 외부 API 호출을 통제하는 AI 보안 게이트웨이가 아닙니다. 대신 기존 DLP와 EDR, 접근 제어가 보기 어려운 화면 앞의 물리적 정보 유출 위험을 보완합니다.

모니터독은 PC의 웹캠과 온디바이스 AI 모델을 이용해 모니터 주변의 스마트폰 사용을 감지합니다. 설정된 정책에 따라 촬영 의심 상황에서 화면을 잠그고, 관련 이벤트를 관리자 대시보드에 기록해 반복 행동과 위험도를 검토할 수 있도록 지원합니다.

이 역할은 AI 에이전트 시대에 더 분명해집니다.

  1. AI와 업무 시스템은 필요한 데이터를 처리합니다.
  2. IAM과 접근 제어는 허용된 사용자와 에이전트만 데이터에 접근하도록 합니다.
  3. DLP와 네트워크 보안은 파일과 디지털 전송 경로를 통제합니다.
  4. 모니터독은 데이터가 화면에 표시된 이후의 스마트폰 촬영 위험을 탐지합니다.

즉, 모니터독의 화면 촬영 방지는 AI 보안을 대신하는 것이 아니라 다층적인 정보 유출 방지 체계에서 화면이라는 마지막 접점을 담당하는 보안 계층입니다.

AI 에이전트 도입 전 확인할 보안 체크리스트​

AI 에이전트를 실제 업무에 연결하기 전에 다음 항목을 확인할 필요가 있습니다.

데이터와 권한​

  • 에이전트가 접근할 수 있는 데이터의 종류와 범위를 문서화했는가?
  • 사람 계정의 권한을 그대로 물려주지 않고 최소 권한을 적용했는가?
  • 개인정보, 영업비밀, 소스 코드가 프롬프트에 입력되는 기준이 있는가?
  • 에이전트 전용 계정과 단기 인증정보를 사용하고 있는가?

외부 행동과 기록​

  • 에이전트가 접속할 수 있는 도메인과 외부 서비스를 제한했는가?
  • 파일 업로드, URL 요청, API 호출 기록을 남기는가?
  • 외부 콘텐츠에 포함된 명령이 에이전트 행동으로 이어지지 않도록 검증하는가?
  • 의도하지 않은 행동을 즉시 중단하고 권한을 회수할 수 있는가?

엔드포인트와 화면​

  • AI가 만든 결과물의 다운로드와 공유를 기존 DLP 정책에 포함했는가?
  • 민감 정보가 표시되는 화면에 마스킹과 워터마크를 적용했는가?
  • 운영체제 기반 캡처뿐 아니라 스마트폰을 이용한 비주얼 해킹도 고려했는가?
  • 모니터 촬영 방지 이벤트가 보안팀의 조사와 대응 절차로 연결되는가?
  • 화면 보안 로그와 이벤트 이미지의 열람 권한도 감사하고 있는가?

AI 에이전트 도입 속도를 늦추는 것이 이 체크리스트의 목적은 아닙니다. 자동화 범위가 넓어지는 만큼 필요한 통제 지점을 미리 정해, 문제가 생겼을 때 에이전트의 행동을 중단하고 원인을 설명할 수 있도록 만드는 것이 목적입니다.

마무리​

AI 에이전트의 대중화는 새로운 업무 방식을 만들고 있습니다. 동시에 정보 유출의 주체와 경로도 달라지고 있습니다. 이제 보안팀은 사용자의 파일 전송뿐 아니라 에이전트의 도구 호출, 브라우저 사용, 외부 서비스 접근과 인증정보까지 살펴봐야 합니다.

그렇다고 기존의 유출 경로가 사라진 것은 아닙니다. USB, 이메일, 클라우드 공유, 화면 캡처, 스마트폰 촬영은 AI 도입 이후에도 그대로 남아 있습니다. 오히려 AI가 여러 시스템의 정보를 한 화면에 모아 보여주면서 화면 한 장이 가진 민감도가 더 높아질 수 있습니다.

따라서 기업의 AI 보안 전략은 모델이나 프롬프트만 보호해서는 완성되지 않습니다. 데이터 입력, 권한, 외부 전송, 엔드포인트, 화면까지 이어지는 모든 경로를 연결해서 봐야 합니다. 그리고 디지털 로그가 끝나는 지점에는 모니터 촬영 방지와 화면 정보 유출 방지라는 별도의 통제가 필요합니다.

모니터독이 스마트폰을 이용한 비주얼 해킹을 어떻게 탐지하고 화면 보안 이벤트로 전환하는지 확인하고 싶다면 무료 데모를 신청해 보시기 바랍니다.

데모 신청하기

참고 자료​

최신글

보기

security

2026년 6월 25일

UEBA와 MonitorDog: 내부자 이상행동 탐지를 화면 보안까지 확장하기
security

2026년 3월 14일

기업 내부에서 실제로 일어난 스마트폰 촬영 정보 유출 사건과 실무 대응 전략
security

2026년 1월 29일

DLP 솔루션 비교: 기존 DLP vs AI 기반 화면 보안