Company

Insights Insights

전문가들이 분석한 최신 업계 동향과 인사이트를 확인하세요. 전문가들이 분석한 최신 업계 동향과
인사이트를 확인하세요.

자동화된 보안 시스템에도 취약점이? MS와 크라우드스트라이크 사태에서 배우는 기업 보안의 교훈

18 October 2024

델타항공의 CEO 에드 바스티안은 마이크로소프트와 크라우드스트라이크를 상대로 제기한 5억 달러 규모의 소송에 대해 언급했습니다. 델타 측은 이번 사태에 대해 "델타 생태계에 우선적으로 접근할 권리를 침해한 행위"라고 언급하며 기술 분야에서 "가장 취약한 플랫폼"에 대한 의존도를 재고하겠다고 밝혔습니다. 


MS와 크라우드스트라이크를 겨냥한 델타항공의 대규모 소송 

바스티안은 사고가 발생한 5일 동안 5,000편 이상의 항공편을 취소했고, 40,000대 이상의 서버를 수동으로 재설정했으며 취소 승객에 대한 매출 손실 뿐만 아니라 하루에 수천만 달러의 보상금과 호텔 비용을 포함, 5억 달러의 손실을 입었다고 주장했습니다. 

이번 소송에 대해 델타측은 마이크로소프트와 크라우드스트라이크는 "무료 자문 등 아무것도 제공하지 않았다"고 말했습니다. 또, 델타항공의 IT 시스템 구축 과정에서 마이크로소프트와 크라우드스트라이크는 분명히 핵심적인 요소로 함께 사용됨에도 불구하고, 양사 각각이 사이버 분야에서 경쟁을 하고 있다는 이유로 상호 협조나 파트너십 제공을 비롯한 충분한 기술 지원을 해주지 않았다고 했습니다. 

또한 크라우드스트라이크의 잘못된 검증 프로세스를 정면으로 비난했는데요. "연중무휴 24시간 운영되는 중요한 작업 시스템에 (충분한 검토 없이) 설치한 뒤 버그가 있다고 말해선 안 된다"고 말했습니다.


​MS 기반 보안 시스템의 전면 교체가 해결 방법?

인터뷰 과정에서 바스티안은 이후 마이크로소프트, 크라우드스트라이크를 벗어나기 위한 시스템 구매 포트폴리오를 확보했다는 암시를 남기기도 했습니다. "우리는 마이크로소프트를 다시 생각해야 한다. 내 생각에 윈도우는 아마도 그 분야에서 가장 취약한 플랫폼일 것이다. 애플에서 대규모 장애가 발생했다는 소식을 마지막으로 들은 게 언제인가?"라고 말했는데요.

이 부분에 대해서 우리는 생각을 해 볼 필요가 있습니다. 이번 사태와 관련해 마이크로소프트는 소프트웨어 애플리케이션에 대한 커널 수준 액세스를 재검토하고 있다고 발표했는데요. 에드 바스티안이 언급한대로 MacOS를 기반으로 작동하는 서버, 현재는 단종된 XServe는 아무런 문제가 없는걸까요? 

그렇지는 않습니다. 키체인에 저장된 비밀번호에 아예 접근이 완전히 가능한 'Mojave 취약점' 등 다양한 제로데이 취약점에 노출되어 있습니다. 하지만 타 OS에 비해 크게 문제가 되지 않는 것은 마이크로소프트 윈도우즈나 유닉스 시스템을 기반으로 한 RHEL(Red Hat Enterprise Linux), CentOS와 달리 시장에서 많이 사용되지 않기 때문입니다.


​독이 되어버린 서버 시스템의 막대한 시장 점유율

실제 이번 사고의 영향이 이 정도로 컸던 데에는 서버 시스템에 대한 마이크로소프트의 막대한 시장 점유율이 영향을 줬기 때문입니. 거기다 최근들어 다양한 컴플라이언스 제약이 생기면서 기업들이 자체적인 서버를 구축하지 않고 Azure나 AWS 등 클라우드 시스템에 아웃소싱을 하면서 더욱 윈도우즈 제품군으로 집중되는 현상은 강해졌습니다. 

바스티안이 언급한 애플 제품군이 과거에는 그나마 경쟁이 될 수 있었으나, 클라우드 환경 변화와 더불어 제품 자체가 관공서나 기업에 납품하기 좋은 상태가 아니었기 때문에 사실상 도태된 지 오래라 의미가 없는 상황이 된 것도 독점이 심해지는 이유 중 하나인데요. 

애플의 GPL(General Public License) 라이선스에 대한 병적일 정도의 기피, 레거시 시스템을 인정하지 않는다고 불릴 정도로 하위 호환에 대한 불친절한 대처 등 사실상 서버 시장에선 사용할 수 없는 제품군으로 전락한지 오래가 되어버린거죠.


​중앙화 된 보안 시스템, 검증되지 않은 배포, 뒤늦은 대응의 복합적 문제

물론 현대 보안의 복잡한 인증을 이수하기 위한 컴플라이언스를 모두 달성하기 위해서는 복잡다단한 시스템 관리와 로그 수집, 중앙화 된 보안 제어와 통제, 관리 시스템이 필요합니다. 이를 달성하기 위해서는 어느 정도 커널에 보안 프로그램이 접근해야 할 필요가 있는 것 또한 사실이죠.

이런 상황에서 마이크로소프트가 하위호환을 유지하기 위해 적당한 수준에서 과도한 커널 접근을 정리하지 않은 것도 문제겠지만, 근본적으로는 크라우드스트라이크의 안이한 배포가 이번 사고를 낳은 1차적 책임이 있으며, 빠르게 대응을 하지 않고 시스템 관리를 아웃소싱에 맡긴것이 문제가 되지 않나 생각됩니다.

실제 크라우드스트라이크측에서 밝힌 바에 따르면 이번 사고의 원인은 매개변수가 원래 21개가 정의되어 있어야 하는데 입력되는 값이 20개였고, 테스트 과정에서는 와일드카드를 사용한 정책 검증을 했으나 이후 패치 과정에서 정책 검증 기준이 완전 일치로 바뀌면서 Array OOB(Out-Of-Bound)가 발생하면서 문제가 일어난 것이라고 하는데요. 

크라우드스트라이크는 팔콘 센서 컴파일 과정에서 매개변수를 검증하는 루틴을 넣고, 런타임 과정에서도 다시 한번 체크를 하는 루틴을 넣는 한편 정책 템플릿 개발에서 문제가 발생하지 않도록 하겠다는 등의 수정책을 발표했습니다.


​고도화된 시스템 이전에 보안 담당자의 관리의식 제고 필요

이런 문제가 발생하는 것을 막기 위해 많은 기업에서는 TDD(Test-Driven Development, 테스트 주도 개발)를 개발 방법론으로 도입하고 있습니다만, 시스템이 커지면서 테스트 과정이 점점 많아지면 어느 순간 기계적으로 주어진 테스트 시나리오만 충족하게 되면 배포하는 경우도 많습니다. 

실제로 메타나 오라클같은 경우 조그만 기능 하나 배포하기 위한 테스트 통과 과정만 자동화를 도입했음에도 며칠 이상 걸린다는 이야기도 있을 정도입니다. 이번 사고 역시 템플릿을 활용한 개발, 그리고 기계적으로 와일드 카드를 적용한 테스트, 그리고 테스트 과정에 대한 제대로 된 평가나 변화에 맞춘 테스트 시나리오의 변경/추적 없이 단순히 개발 테스트에 통과했다는 것 만을 근거로 배표를 했기에 이런 사건이 발생하게 된 거였죠.

전적으로 이번 사고는 크라우드스트라이크가 가장 큰 잘못을 저지른 것이 맞습니다. 마이크로소프트 역시 온전히 책임에서 피해갈 수는 없습니다. 하지만 델타에서 언급한 것처럼 델타는 순수한 피해자라고만 보기는 힘듭니다. 

오히려 이번 사고를 통해 기업 IT 시스템 관리에 대한 전체적인 관리 의식의 제고가 필요하다고 생각합니다. 시스템에 사고가 발생할때는 가장 취약한 부분에서, 사람이 지켜보고 있지 않을 때 발생합니다. 델타는 어떻게 보면 관리와 운영을 아웃소싱했던 것에 대한 뼈아픈 댓가를 치르고 있는 셈이겠죠.


​사람이 하는 일은 항상 문제가 생길 수 있습니다. 그것이 자동화된 일이고 정형화된 체계를 따른다 해도 문제는 어디선가 발생합니다. 이번 사고를 보면서 언제건 어디서건 문제와 사고가 일어날 수 있다는 것을 상정하고 충분한 조치가 가능하도록 인력과 자원을 대비해 두는 것 역시 시스템의 안정적 운영과 보안 관리를 위해 CEO와 CISO가 가질 가장 중요한 덕목이 아닐까 생각됩니다.


인텔렉추얼데이터는 기업의 중요 데이터를 취급하는 모든 과정에 걸쳐 보안 담당자의 정밀한 모니터링 및 관리 체계를 구축하고 있으며, 여러 단계에 걸친 보안 시스템을 기반으로 보다 안전한 eDiscovery를 진행하고 있습니다. 데이터 보안이 중요한 eDiscovery를 진행하신다면, 대한민국 eDiscovery의 절대적 기준, 인텔렉추얼데이터와 함께 하세요. 

  • Cyber Security
  • AI와의 대화, 미국 법원에서 eDiscovery 증거가 될까? Heppner, Warner 사건 판례
    AI와의 대화, 미국 법원에서 eDiscovery 증거가 될까? Heppner, Warner 사건 판례

    최근 미국에서는 생성형 AI와 대화한 내용을 소송에서 증거로 제출해야 하는지 여부가 쟁점이 된 판례들이 등장했습니다. 주요 법률 매체와 로펌을 중심으로 관련 분석도 활발히 이루어지고 있습니다. 미국 소송 절차인 eDiscovery(이디스커버리) 과정에서, Attorney-Client Privilege(변호사-의뢰인 비밀유지권)와 Work-Product Doctrine(변호사 업무 결과물 원칙)은 증거 제출 의무를 방어하는 매우 중요한 장치입니다. 오늘 다룰 두 사건은 모두 생성형 AI를 소송 준비 과정에 활용한 경우지만, 법원은 eDiscovery 제출 대상 여부를 각각 다르게 판단했습니다. 인텔렉추얼데이터는 화제의 두 사건 판례를 비교 분석해, 기업이 미국 소송 eDiscovery에서 자료 제출 및 방어를 위해 사전에 점검해야 할 부분을 실무적 관점에서 정리했습니다. ✔ 미국 법조계의 뜨거운 이슈: Heppner, Warner 사건이 화제가 된 이유는? 1. 생성형 AI 사용 확대 흐름에서 등장한 사례2. AI와의 대화의 증거성, 법적 취급에 관한 미국 법원 최초·초기 판결3. 공개 AI 플랫폼에 관한 법원의 판단 기준 제시 두 사건은 생성형 AI를 사용한 소송 준비라는 공통점이 있으나, 같은 날 상반된 판단이 내려졌습니다. 법원은 Heppner 사건을 “first impression”, 즉 해당 쟁점을 최초로 다룬 판결이라고 명시했습니다. Heppner 건은 AI와의 커뮤니케이션이 미국 소송 eDiscovery 과정에서, Attorney-Client Privilege 또는 Work Product 보호, 즉 eDiscovery 제출 의무 방어에 해당하는지 처음 판단한 사건이 되었습니다. 이 사건은 AI 사용 주체 및 목적, 변호사의 개입 여부, 데이터 수집·학습·공개 범위 등에 따라 법원의 판단이 달라질 수 있음을 보여주었습니다. 또한 Warner 사건은 변호사 없이 소송을 진행한 당사자(pro se)가 생성형 AI로 준비한 자료도 Work Product 보호를 받을 수 있음을 보여준 사례로 주목받았습니다. *Attorney-Client Privilege(ACP): 변호사-의뢰인 비밀유지 특권. 의뢰인이 법률 조언을 구하기 위해 변호사와 주고받은 의사소통의 비밀을 보장*Work Product Doctrine: 변호사 업무 결과물 원칙. 소송 준비 과정에서 변호사가 작성하거나, 변호사의 지시·개입에 의해 작성된 자료를 보호하는 원칙  ✔ Heppner - 생성형 AI로 소송을 준비한 자료, eDiscovery 공개 or Privilege(특권) 보호 대상인가?판례: United States v. Heppner, No. 25-cr-00503 (S.D.N.Y. Feb. 17, 2026) 사건 배경 여러 기업 임원으로 재직했던 Heppner는 증권·전신 사기 등의 혐의로 2025년 10월 형사 기소되었습니다. Heppner는 소환장을 받고 변호인을 선임한 상태에서, Anthropic의 소비자용 AI인 클로드(Claude)를 이용해 방어 전략과 법적 주장을 정리한 31개의 프롬프트 및 문서를 작성했고, 이후 이 자료를 변호인과 공유했습니다. FBI 자택 압수수색 과정에서 해당 문서가 담긴 전자기기가 확보되었고, 이에 Heppner 측은 Attorney-Client Privilege와 Work Product Doctrine으로 보호된다고 주장하며 정부의 열람에 이의를 제기했습니다. 사건 쟁점공개 AI 플랫폼과의 대화가 Attorney-Client Privilege 또는 Work Product Doctrine으로 보호받을 수 있는가? 법원의 판단 법원은 피고가 공개 AI 플랫폼과 주고받은 대화 기록 문서가 ACP와 Work Product Doctrine으로 보호받지 않는다고 판결했습니다. 이는 생성형 AI 대화의 증거성에 관한 초기 판례로 평가됩니다. Heppner 사건에서 ACP가 적용되지 않은 이유법원은 아래 세가지를 이유로 Claude와의 소통을 법률 자문으로 볼 수 없다고 판단했습니다. 1. 변호사-의뢰인 관계 부재: Claude는 변호사가 아님2. 합리적 기밀 유지 기대 부족: Claude는 변호사가 아닌 제3자, Anthropic의 개인정보처리방침상 기밀이 유지되지 않음3. 법률 자문 목적 부정: 변호인의 지시를 받지 않았으며, Claude는 법률자문을 제공하지 않음출처: United States v. Heppner , No. 25-cr-00503 (S.D.N.Y. Feb. 17, 2026) 사건 판결문 Anthropic(앤트로픽)은 Claude가 법률 자문을 제공하지 않는다고 명시하고 있습니다. 또한 Anthropic 개인정보처리방침상 Claude에 입력된 프롬프트와 출력 데이터는 AI 모델 학습에 활용되거나 정부 규제 기관을 포함한 제3자에게 공개될 수 있습니다. Heppner 사건에서 Work Product Doctrine이 적용되지 않은 이유Heppner의 변호사는 AI 활용을 지시하지 않았으며, Heppner가 자발적으로 작성한 자료임을 인정했습니다.  ✔ Warner - 생성형 AI와의 대화는 제3자와의 커뮤니케이션인가, 그저 도구의 사용인가?판례: Warner v. Gilbarco, Inc.,No. 2:24-cv-12333 (E.D. Mich. Feb. 10, 2026) 사건 배경원고 Warner는 인종차별을 이유로 전 회사 Gilbarco 등을 상대로 고용 차별 소송을 제기했습니다. 소송 과정에서 AI 사용과 eDiscovery에 관한 법원의 명령(order)이 내려졌습니다. 사건 쟁점생성형 AI 사용 자료의 eDiscovery 대상 여부와 Work Product Doctrine의 보호피고는 원고가 챗지피티(ChatGPT) 등 생성형 AI에 입력·생성한 자료와 AI 사용 기록 일체의 제출을 요구했습니다. 원고는 해당 자료가 소송 준비 과정에서 생성된 것으로, Work Product 보호를 주장하며 제출을 거부했습니다. 법원의 판단 법원은 피고 요구를 기각했습니다. Patti 치안판사는 해당 자료는 디스커버리 대상이 아니며, 대상이라 하더라도 Work Product Doctrine에 의해 보호될 수 있다고 판단했습니다. 이는 생성형 AI 활용 자료의 eDiscovery 범위와 Work Product 보호에 관한 중요한 판례로 평가됩니다. 1. Work Product 보호 인정원고는 pro se(본인 소송) 원고가 ChatGPT 등 생성형 AI을 활용한 소송 준비자료가 Rule 26(b)(3)(A)에 따른 Work Product 보호 대상이 될 수 있다고 판단했습니다. AI 사용만으로 보호가 자동 포기되지는 않는다고 봤습니다. 2. AI는 "제3자(person)"가 아니다법원은 "ChatGPT를 비롯한 생성형 AI는 도구(tool)이지 사람(person)이 아니다"라고 명시했습니다. Work Product 보호 포기(Waiver)는 적대적 당사자나 그에 준하는 제3자에게 정보가 공개된 경우 성립하는데, AI 입력만으로 공개로 볼 수 없다고 판단했습니다. 3. 비례성 미충족법원은 피고의 광범위한 AI 사용 자료 요구는 Rule 26(b)(1)의 관련성·비례성 요건을 충족하지 못하며, 원고의 사고 과정과 소송 전략을 들여다보려는 Fishing Expedition에 해당한다고 판단했습니다.*출처: Warner v. Gilbarco, Inc. ,No. 2:24-cv-12333 (E.D. Mich. Feb. 10, 2026) 사건 판결문  ✔ 인텔렉추얼데이터 eDiscovery 전문가 코멘트AI를 활용해 생성·이용된 자료가 eDiscovery 대상에 포함되는지, 그리고 이에 대해 ACP(Attorney-Client Privilege) 또는 Work Product 보호가 인정되는지는 사건 유형, AI 활용 주체, 사용 목적 등에 따라 판단이 달라질 수 있습니다. 향후 관련 판례와 논의 역시 지속적으로 축적될 것으로 보입니다. 특히 기업 입장에서는 LLM(대규모 언어 모델) 기반 생성형 AI 사용이 확대되는 흐름 속에서, 그에 따른 법률 리스크도 함께 검토할 필요가 있습니다. Heppner 사건의 법리는 형사에 국한되지 않고 민사 소송과 기업 내부 조사에도 확장 적용될 수 있습니다. 임직원이 공개형 AI로 소송 전략이나 법률 분석을 수행할 경우, 기밀정보가 상대방에게 노출되거나 기업에 불리한 내용이 증거로 남을 위험이 있으며, 이는 기업 증거보전(Legal Hold) 및 기밀정보 관리 이슈로도 이어질 수 있습니다. 기업 법무에 AI를 도입할 때에는 Enterprise 플랜 또는 폐쇄형(Private) AI 환경을 기반으로 이용 약관과 정보보안 요건을 검토하는 것이 필요합니다. Warner 사건은 pro se(본인 소송) 사례인 만큼 법원이 유연한 기준을 적용했을 가능성이 있어, 기업 소송에서는 보다 엄격한 기준이 적용될 수 있다는 점도 고려해야 합니다. 사내 AI 활용 정책 수립과 임직원 교육을 통해 기업의 증거 관리 프로세스가 법적으로 방어 가능한(Defensible) 체계를 갖추도록 준비하는 것이 중요합니다.

    May 19 2026

    중국발 인공지능 쇼크, 딥 시크! 계속되는 개인정보 탈취 논란!
    중국발 인공지능 쇼크, 딥 시크! 계속되는 개인정보 탈취 논란!

    중국 생성형 인공지능 딥 시크(DeepSeek R1)의 과도한 이용자 정보 수집이 아직도 논란이 되고 있습니다. Open AI가 있는 미국은 물론이고 한국에서도 금지령이 확산되고 있는데요. ​계속되는 주요 기관의 딥 시크 접속 차단 조치외교부와 국방부, 산업통상자원부가 6일 딥 시크 사이트 접속을 차단한데 이어 통일부와 농림축산식품부, 보건복지부, 환경부, 과학기술정보통신부 등도 7일 딥 시크 금지령에 동참했습니다. 앞서 행정안전부와 국가정보원은 지난 3일 모든 중앙부처와 광역 지방자치단체에 딥 시크, 오픈AI 등 생성형 인공지능(AI)을 사용할 때 민감한 정보는 입력하지 말라는 내용을 담은 보안 가이드라인을 발송한 바 있는데 이 같은 지침에 따라 접속 차단이 늘어나고 있습니다.한국거래소도 지난달 말 딥 시크 접속을 차단하는 등 내부 보안 조치를 실시했습니다. 한국 거래소는 현재 Open AI의 Chat GPT와 구글 제미나이 등 미국 기업들의 AI 서비스 이용은 막지 않고 있습니다. 한국인터넷진흥원(KISA) 역시 <보호나라> 홈페이지를 통해 생성형 AI 사용 시 주민등록번호, 전화번호, 주소 및 금융 정보 등의 개인 정보를 입력하지 않도록 주의하라는 내용이 포함된 ‘생성형 AI 사용 관련 주의 보안권고’를 공지했습니다. 생성형 AI 공개가 하루 이틀 일이 아닌데 이렇게 나오는 것은 다분히 딥 시크를 겨냥한 것이라고 볼 수 있습니다.​딥 시크 코드 해독으로 밝혀진 개인정보 유출?거기다 개인정보 유출 증거가 나왔다며 미국 사이버보안업체 페루트(feroot) 시큐리티의 이반 차린니 최고경영자(CEO)가 AI 소프트웨어를 활용해 딥시크의 코드를 해독한 결과 감춰진 부분을 발견했다는 보도가 미국 ABC방송을 통해 발표되었는데요. 차린니 CEO는 "중국 정부의 통제 아래 있는 서버들과 중국 내 회사로의 직접적 연결이 보인다"며 "이는 과거에는 한 번도 본 적이 없는 것"이라고 말했습니다.딥 시크 코드 내에 차이나모바일의 온라인 레지스트리 사이트 'CMPassport.com'으로 사용자 정보를 전송하는 기능을 지닌 코드가 의도적으로 은폐된 듯한 모양새로 삽입돼 있었다는 게 차린니 CEO의 주장입니다. 이들은 "딥 시크에 가입하거나 로그인하는 사용자는 자신도 모르게 중국 내 계정을 만들게 돼 신원과 사용한 검색어 등이 중국 정부 시스템에 노출될 수 있다는 것"이라고 설명했는데요. 미 국토안보부 차관을 지낸 존 코언은 ABC 방송 인터뷰에서 "국가안보 당국자들은 언제나 중국 기업들이 판매하는 기술제품에 중국 정부가 자료를 들여다볼 수 있는 백도어가 있다고 의심해 왔다"면서 "이번 사례에선 그런 백도어가 발견됐고 열렸으며 이는 우려스러운 일"이라고 말했습니다. 미 하원 정보위원회 소속인 조시 고트하이머 의원도 "모든 정부 기기에서 딥 시크를 즉각 금지해야 한다"면서 "누구도 본인 기기에 내려받지 못하게 해야 하고 대중에도 알려야 할 것"이라고 말했습니다.​오픈 소스인데 백도어 삽입? 지속되는 보안 관련 논란그러나 좀 이상합니다. 클린 코드 원칙 이야기를 하지만 잘 지켜지지 않을뿐더러, 소스가 공개돼 있는데 백도어를 다 보이게 심어놨다는 게 쉽게 납득하기 힘듭니다. 중국 레지스트리 사이트 역시 다른 단계가 아니라 로그인 단계에서 중국 통신사 네트워크 주소가 하드코딩되어 있다는 것을 증거라고 주장하고 있는거죠. 그런데 실제 개발을 해 보면 서버 주소나 암호화 키 등은 암호화가 되어 숨겨집니다. 저렇게 드러내는 것이 오히려 더 어색하죠.일각에서는 이를 보고 '중국의 세계 감시', '기술 탈취'를 이야기하지만 아직까지 드러난 바에 따르면 과도한 공포가 아닐까 하는 의구심을 갖게 한다는 것입니다. 정말로 숨길 의도가 있었다면 더 깔끔한 방법으로, 티나지 않게 숨길 수가 있거든요. 많은 사람들은 이런 갑작스러운 차단에 대해 미국이 OAI를 차세대 성장 동력으로 내세우는 가운데 스타게이트 프로젝트를 발족하면서 딥 시크의 등장이 달갑지 않아서 스타게이트 프로젝트 참가국들을 통해 압박을 하고 있다는 해석을 내놓기도 했습니다. 실제 미국 FCC(연방통신위원회, Federal Radio Commission)은 차이나모바일을 국가안보 위협으로 지정하기도 했는데, 이 상황에서 딥 시크 로그인 페이지에서 해당 기업의 코드가 발견되었다는 점에서 더욱 더 문제시하려는 것 아닌가 하는 의혹도 있습니다.​딥 시크 보안에 대한 우려와 중국 정부의 반발각국 정부와 기업이 보안 우려에 따라 중국 AI 모델 딥 시크 사용 금지에 나서자, 중국은 불법 데이터 수집은 없다며 반발에 나섰는데요. 궈자쿤 중국 외교부 대변인은 정례 브리핑에서 "중국은 국가 안보 개념을 일반화하고 경제·무역 문제를 정치화하는 방식에 일관되게 반대해왔다"며 "지금껏 기업 혹은 개인에 위법한 형식으로 데이터를 수집·저장하라고 요구한 적도 없고 요구하지도 않을 것"이라고 강조했습니다. 아울러 중국 기업의 합법적 권익을 굳게 수호할 것이라며 경우에 따라 보복 조치에 나설 수 있다고 말했습니다. 하지만 중국의 국가정보법 상 모든 조직과 개인이 정부의 정보 활동을 지원하고 협력하도록 요구하고 있기 때문에, 중국 당국은 딥 시크가 수집한 해외 사용자의 데이터에 접근할 가능성이 있다는 우려 자체는 상존하고 있습니다. 실제 중국은 다양한 분야에서 과도한 개인정보를 가져가는 모습을 보여줬거든요. 물론 아직까지 딥 시크가 이런 위험성이 있다는 것이 증명되진 않았지만, 이번 딥 시크 사태를 놓고 미국과 중국이 다투는 것은 AI 기술이 가져올 수 있는 개인정보 보호, 데이터 주권, 국가 안보, 기술 헤게모니 등 다양한 문제를 잘 보여준다고 생각합니다.​국가 간 데이터 흐름을 관리할 통일된 프레임워크의 필요성사실 국제사회는 이런 문제에 대응하기 위해 다양한 규제 프레임워크를 제시하고 있습니다. 대표적인 것이 EU의 COMPL-AI 프레임워크입니다. 이 프레임워크는 AI 모델의 해킹 위험과 편향성을 체계적으로 평가하는 기술적 규제의 선례를 제시하고 있습니다. EU AI Act의 6대 윤리 원칙을 27개의 기술 벤치마크로 구체화하여, 프롬프트 유출이나 목표 변조와 같은 사이버 보안 위협에 대한 모델의 취약성을 진단하고, HarmBench 데이터셋을 활용해 인종과 성별 편향성을 정량화 합니다. 오는 2025년 4월부터 EU AI Act의 공식 감사 도구로 활용됩니다. 하지만 아직까지 범 국가 간 단일 모델, 통일 프레임워크는 만들어지지 않았습니다.그리고 국가 간 데이터 흐름, 소위 크로스보더 데이터 흐름에 대한 관리의 중요성 역시 부각되게 되었습니다. EU의 GDPR, Data Act, 미국 법무부(DOJ) 등의 정책이 충돌하게 된거죠. 프레임워크를 비롯해 데이터 관리에 있어서 까지 국제 공조, 조화가 시급한 과제가 되고 있는 상황입니다. 미-중간의 다툼도, AI의 미래를 위한 경쟁도 좋지만 무엇보다 사람들이 안전한 시스템을 쓸 수 있도록 투명한 체계를 만드는 것이 피할 수 없는 AI의 대두 시대, 그리고 그 시대에서 살아갈 인류의 공공복리를 위해 필요한 내용이 아닐까 생각됩니다.​

    Feb 13 2025