MS 코파일럿의 ‘치명적 배신’… 기밀 이메일 무단 요약 버그 발생, 삼성·SK 반도체 기밀 유출 비상!
- 마이크로소프트 365(M365) 코파일럿이 보안 라벨이 지정된 ‘기밀 이메일’을 권한 없는 사용자에게 요약해 주는 버그가 확인되었습니다.
- MIP(Microsoft Information Protection) 설정이 무력화되면서, 사내 민감 정보가 AI 검색 및 요약 과정을 통해 노출될 수 있는 구조적 결함입니다.
- MS는 해당 버그를 인정하고 수정을 진행 중이나, 기업용 AI 도입에 대한 신뢰도에 막대한 타격이 예상됩니다.
“편리함이 보안을 삼켰습니다. 이것은 단순한 버그가 아니라 AI 거버넌스의 붕괴입니다.”
기밀을 공유하는 AI? 사건의 전말
최근 보안 전문가들은 마이크로소프트의 기업용 AI 비서인 코파일럿(Copilot for Microsoft 365)이 조직 내에서 설정된 보안 가이드라인을 우회한다는 사실을 발견했습니다. 원래대로라면 ‘최고 기밀(Highly Confidential)’ 라벨이 붙은 이메일은 해당 권한이 있는 사람만 열람하고 AI가 처리해야 합니다. 하지만 이번 버그로 인해, 해당 파일에 직접적인 접근 권한이 없는 동료가 코파일럿에게 “최근 프로젝트 관련 중요 내용을 요약해줘”라고 요청할 경우, 기밀 이메일의 내용이 요약된 형태로 노출되는 현상이 발생했습니다.
왜 이런 일이 발생했는가?
- 인덱싱 엔진의 오류: 코파일럿이 데이터를 학습하거나 검색하기 위해 사내 데이터를 인덱싱하는 과정에서, 보안 권한(Permission) 필터링이 제대로 작동하지 않았습니다.
- 의도치 않은 데이터 가시성: 사용자가 문서를 직접 열 수는 없더라도, AI가 그 내부 텍스트를 읽고 ‘요약본’을 생성해 전달함으로써 보안 장벽을 허물어뜨린 것입니다.
실제로 필자가 국내 한 제조사의 AI 보안 컨설팅을 진행할 당시, 임직원들이 가장 우려했던 점이 바로 이 ‘권한 너머의 요약’이었습니다. “파일은 못 열어도 내용은 알 수 있다”는 사실이 현실화된 지금, 기업들은 공포에 휩싸일 수밖에 없습니다.
AI는 과연 믿을 수 있는 동료인가?
마이크로소프트는 이번 사태에 대해 “조사 중이며 신속히 해결하겠다”는 입장이지만, 업계의 시선은 싸늘합니다. 특히 반도체, 이차전지 등 국가 핵심 기술을 다루는 한국 기업들에게 M365는 필수적인 업무 도구입니다. 만약 인사팀의 연봉 협상 내역이나 연구소의 핵심 공정 레시피가 코파일럿의 ‘요약’ 한 줄로 경쟁 부서나 타인에게 흘러간다면? 이것은 명백한 혁명적 위기입니다.
한국은 전 세계에서 M365 도입률이 매우 높은 국가 중 하나입니다. 삼성전자, 현대차, SK 등 대기업들이 디지털 전환(DX)을 위해 코파일럿 도입을 서두르고 있는 상황에서 이번 버그는 찬물을 끼얹는 격입니다.
1. 삼성·SK 등 기술 집약 기업의 긴급 점검 필요: 현재 코파일럿을 테스트 중이거나 전사 도입한 기업들은 즉시 ‘민감도 라벨링(Sensitivity Labeling)’이 코파일럿 검색 결과에 제대로 반영되는지 전수 조사를 실시해야 합니다.
2. ‘AI 접근 제한’ 정책 수립: 보안 수정 패치가 완벽히 검증될 때까지, R&D 및 인사/재무 등 핵심 부서의 데이터에 대해서는 코파일럿의 인덱싱 접근을 일시적으로 차단하는 강도 높은 조치가 필요합니다.
3. 국산 AI 솔루션으로의 눈돌림: 보안에 민감한 한국 정서상, 온프레미스(On-premise) 형태나 보안이 강화된 국산 기업 전용 AI(네이버 하이퍼클로바X 등)에 대한 수요가 다시 급증할 가능성이 큽니다.
행동 지침: 지금 즉시 M365 관리자 센터에서 코파일럿의 데이터 소스 범위를 제한하고, 임직원들에게 AI 요약 기능 사용 시 기밀 정보 포함 여부를 확인하도록 재교육하십시오.
원문 출처: BleepingComputer – Microsoft says bug causes Copilot to summarize confidential emails