마이크로소프트(MS)는 11일 ‘사이버 펄스’ AI 보안 보고서를 통해 AI 도입이 확산되면서 과도한 접근 권한을 부여받았거나 부적절한 지침을 받은 에이전트는 조직 내 보안 취약점으로 작용하는 ‘섀도우 AI 리스크’로 부상할 수 있다고 경고했다.
현재 포춘 500대 기업의 80%가 로우코드(코딩 최소화)나 노코드 방식으로 AI 활성 에이전트를 운용하고 있는 것으로 조사됐다. 활성 에이전트는 최근 28일 이내에 활동 기록이 확인된 AI 에이전트를 의미한다.



지역별 활성 에이전트의 비중은 유럽·중동·아프리카 릴게임바다이야기사이트 42%, 미국이 29%, 아시아 19%, 아메리카 10% 순이었다../마이크로소프트


지역별 활성 에이전트의 비중은 유럽·중동·아프리카 42%, 미국이 29%, 아시아 19%, 아메리카 10% 순이었다. 산업별로는 소프트웨어·기술 16%, 제조업 13%, 금융 서비스 11%, 리테일 9% 등이었다. 바다이야기릴게임연타
마이크로소프트 디펜더 팀은 최근 메모리 포이즈닝 기법을 악용한 사기성 공격 캠페인을 포착했다. MS는 이는 여러 공격자가 AI 에이전트 메모리를 조작해 응답을 유도하는 공격 방식이라고 설명했다.
마이크로소프트 AI 레드 팀(Microsoft AI Red Team)은 에이전트가 기만적인 인터페이스 요소로 인해 일상적인 콘 릴게임황금성 텐츠에 포함된 유해한 지침을 따르는 사례를 발견했다. 아울러 조작된 작업 프레이밍(task framing)으로 에이전트의 추론 방향이 왜곡되는 사례도 확인했다.
하이포테시스 그룹(Hypothesis Group)이 마이크로소프트 의뢰로 실시한 조사에서는 직원의 29%가 미승인 AI 에이전트를 업무에 사용한 경험이 있는 것으로 나타났다. 또한 릴게임야마토 마이크로소프트 데이터 보안 지수(Data Security Index)에 따르면 생성형 AI 보안 통제를 도입한 조직은 47%에 불과했다.
이에 최근 프런티어 기업은 불필요한 데이터 공유를 최소화하고 통제 체계를 강화하고 있다. 보고서는 이러한 접근이 에이전트 보호를 경쟁 우위로 전환하는 전략적 자산으로 부상하고 있다고 설명했다.
골드몽이어 에이전트 보안의 출발점으로 가시성 확보를 제시했다. 이는 IT·보안·개발자 등 조직 전 계층을 아우르는 제어 플레인(Control Plane)을 구축해, 에이전트 존재 여부, 소유자, 데이터 접근 범위, 행동 양식 등을 파악하는 통합 관리 체계를 의미한다.
가시성은 △에이전트를 식별·관리하는 ‘레지스트리’ △최소 권한 원칙을 적용하는 ‘액세스 제어’ △리스크와 행위를 실시간 모니터링하는 ‘시각화’ △플랫폼 간 일관된 운영을 지원하는 ‘상호 운용성’ △내·외부 위협으로부터 에이전트를 보호하는 ‘보안’ 등 5가지 핵심 영역으로 구성된다.
마이크로소프트는 “비즈니스, IT, 보안, AI팀, 개발자 조직 전체가 협업하고 모든 에이전트를 단일한 중앙 제어 평면에서 일관되게 관리할 수 있는 환경이 필요하다”고 했다.
- Copyright ⓒ 조선비즈 & Chosun.com -