18 October 2024
2022년 8월, 틱톡에서 소위 'Kia Challenge'라며 현대/기아 자동차를 훔치는 것이 유행한 적이 있습니다. 이모빌라이저가 없는 구형 현대/기아 자동차를 노려 도둑질하는 영상이 유행처럼 번진 것인데요. 이런 도둑질을 하는 10대 비행 청소년들은 일명 '기아 보이즈(Kia boys)'라 불리기도 했습니다. 이들에게 특히 현대/기아차가 먹잇감이 되었던 것은 취약한 보안 때문이라는 분석이 있었습니다. '엔진 이모빌라이저' 장치가 없어 쉽게 훔칠 수 있기 때문입니다.
엔진 이모빌라이저에서 시작된 기아 보이즈 사태
엔진 이모빌라이저는 도난 방지용 시동 제어장치로, 자동차 키를 꽂는 곳에 특정 암호를 저장한 칩을 내장하는 장치입니다. 차주가 이 암호와 같은 번호를 가진 자동차 키를 꽂아야 잠금장치가 해제되고 자동차에 시동이 걸리게 되죠.
유럽연합(EU), 캐나다 등은 차량 내 이모빌라이저 장착을 법으로 의무화했으며, 국내에서 보편적으로 쓰이는 스마트키·버튼 시동 시스템 또한 이모빌라이저 기능을 기본으로 합니다. 하지만 미국에서는 여전히 선택 사항이었고, 구 현대/기아차의 취약점이 노출됐죠.
실제 위스콘신주 밀워키에서는 신고가 들어온 도난 차량 가운데 66%가 현대/기아차인 것으로 조사되기도 했는데요. 현대는 부랴부랴 모든 판매 차량에 자체적으로 이모빌라이저를 표준 탑재하기로 했습니다. 하지만 여전히 구버전 차량들에는 문제가 있었죠. 이런 이유로 미국의 대형 자동차보험사 일부는 현대/기아 차량에 대한 보험료를 인상하거나, 아예 신규 보험가입을 거부하기도 했습니다.
소프트웨어 업데이트로도 막지 못한 차량 도난
이에 대응하기 위해 지난 2월, 현대자동차측은 도난방지 소프트웨어 업데이트를 진행, 미 도로교통안전국(NHTSA) 추산치로 약 830만대 규모의 업데이트를 했지만 무용지물이었습니다. 업데이트 이후 15시간만에 2020년 기아 옵티마(K5)가 도난을 당한 것이죠. 전문가들은 USB 케이블을 이용한 기존 도난 수법이 적용되었다고 분석했습니다.
현대자동차 미국 법인측은 보완책으로 보안 키트를 추가로 개발해 고객들에게 제공했습니다. "우리가 제조한 차량은 모든 미국 안전 기준에 부합하거나 초과한다"면서도 "차량 절도 방법을 무력화할 수 있는 새 보안키트를 10월 1일부터 판매하겠다"고 설명했는데요. 하지만 소송은 막지 못했습니다.
미국 내 여러 주에서 현대기아를 상대로 도난사건 발생에 관련해 집단소송이 제기되었죠. 위스콘신을 포함한 7개 주 법원에서는 최근 '설계 결함으로 차량이 도난당했다'며 현대차에 손해배상을 요구하는 소송이 잇따라 제기되었는데요. 현대측은 미국 당국이 요구하는 도난 방지 요건을 갖췄다고 맞섰지만 결국 최대 2700억 원 가량의 현금 보상이라는 합의점에 도달하게 되었습니다.
차량 번호만 알면 원격 제어 가능? 새로운 차량 해킹 악몽
문제는 현대에게 또 시련이 다가왔다는 겁니다. 차량 번호만 알고 있으면 원격제어가 가능한 희대의 취약점이죠. 지난 26일, 화이트 해커이자 취약점 현상금 사냥꾼 샘 커리는 자신의 유튜브에 '기아툴(Kia Tool)'이라는 커스텀 어플리케이션으로 2022년형 기아 EV6를 해킹하는 모습을 직접 게시했습니다. 어떻게 이게 가능했던 걸까요?
그 원인은 취약한 API 구조와 미국 시장의 특수성에 있었습니다. 미국 시장에서 차량 딜러의 권한은 꽤나 큰데요. 우리나라에서 차량을 구매할 때는 자동차 제조 회사에 소속된 영업사원과 대리점에서 상담을 하게 됩니다. 영업사원을 거치는 구조긴 하지만 기본적으로는 자동차 제조 회사에서 직접 고객이 사는 거죠. 고객은 원하는 차에 대한 옵션을 선택하고 대리점에서는 이걸 주문해 주는거죠. 주문대로 공장에서 생산해 주는거고요.
하지만 미국은 '딜러가' 원하는 차를 딜러가 미리 주문해서 받고, 그것을 다시 고객에게 파는 시스템입니다. 또 한국과 달리 딜러는 각 주의 DMV(Department of Motor Vehicles)와 협상하여 번호판을 발급해주는 역할도 하는데요. 그러다 보니 권한이 상당히 강력합니다. 고객들 차대 번호만 알고 있으면 고객 개인정보를 모조리 출력해 볼 수도 있고, 차량 소유주의 개인정보를 임의로 변경할 수도 있습니다. 물론 자동차 딜러가 되기 위해선 교육을 이수하고 라이선스를 취득해야 합니다만, 이렇게 잠재적으로 정보가 유출될 수 있다는 것 자체부터 보안 취약점으로 작용할 수 있었습니다. 그리고 그것이 현실로 일어났죠.
사물인터넷(IoT) 기능 위한 API에서 발견된 보안 취약점
기아자동차 역시 시대에 맞춰 사물인터넷(IoT) 기능을 채택하고 있는데요. 자동차 잠금을 해제하는 등의 원격 작업을 수행하기 위해서는 별도의 WebAPI를 사용해서 통신합니다. 문제는 이 API 서버의 구조였습니다. 앞서 딜러의 역할이 크고 많은 것을 한다고 말씀드렸는데요. 딜러의 세션 키와 VIN, 차대 번호만 알고 있으면 특정 차량의 소유자 정보를 변경할 수 있게 됩니다.
문제는 딜러로 가입해서 세션 키를 발급받는 것은 별다른 제약 없이 누구나 할 수 있다는 겁니다. 또 딜러 시스템과 API 서버는 분명히 별개로 분리되어 있었지만, 이 딜러 시스템이 API 서버와 거의 동일한 API 구조로 만들어져 있어서 도메인 앞부분만 변경하면 거의 동일한 결과를 얻을 수 있다는 겁니다.
그래서 공격자는 임의로 딜러 토큰을 생성하고 → 해당 토큰으로 공격 대상 차량의 VIN을 입력해서 개인정보를 받은 뒤 → 차량 소유자 개인정보를 공격자로 변경하고 → 차량 원격 조작 API 서버에 붙어 원격 조작을 수행, 차량을 탈취할 수 있었던 것입니다.
그런데 이 취약점이 현대차에만 작동하는 것은 아니었다는 게 문제입니다. 벤츠, BMW, 모든 일본차 브랜드, 심지어 롤스로이스까지 완전히 동일한 방식으로 차량을 탈취할 수 있었던 겁니다. 벤츠의 경우 이 딜러 계정으로 웹 사이트의 소스 코드가 담긴 Git 보관소에 접근할 수 있기까지 했습니다. 이것은 사람에 대한 라이선스 발급과 교육 등으로 안전장치를 만들어 놓았다 하더라도 본질적으로 비지니스 로직 자체가 취약점을 가지고 있고, 가장 약한 취약점 고리가 드러나는 순간 보안 사고가 발생할 수 있다는 것을 잘 보여줍니다.
API의 근본적 보안 문제, 기술적인 안전장치 필요해
기본적으로 API는 숨길 수 없고, 쉽게 찾을 수 있는 구조입니다. 또한 요즘 차량들은 모두 인터넷에 연결되어 있는 구조라서 공격할 수 있는 방법이 매우 많기도 하죠. 물론 이 취약성은 지난 6월에 발견, 9월 26일에 모두 조치되었음이 확인 및 공개되어서 지금은 사용할 수 없는 방식입니다. 이 방식으로 차량을 탈취당한 피해자도 아직까지는 없었다고 알려져 있습니다. 하지만 이 취약점으로 12개 완성차 브랜드 웹사이트를 해킹할 수 있었했고, 수백만대 차량을 원격 제어할 수 있었습니다.
이번 사건에 대해 스테판 새비지 교수는 "스마트폰 지원 기능을 통해 젊은 층에 어필하려는 기업들의 노력이 웹사이트를 통해 차량을 원격으로 제어할 수 있는 취약점을 늘렸다. 이러한 사용자 기능과 클라우드 기능을 휴대폰에 연결하면 생각지도 못했던 것들이 공격이 시작된다"고 말했습니다.
많은 기업들이 보안 프로세스를 채택하면서 기술적인 방어만 중시하기도 하고, 업무체계 부분의 방어만을 중시하기도 합니다. 하지만 중요한 것은 항상 보안 취약점은 가장 취약한 연결고리를 끊고 들어온다는 것입니다. 그 고리가 제도 등의 문제로 개선될 수 없다면, 단순히 라이선스를 소유한 사람의 도덕성에 의존하는 것이 아니라 기술적으로도 이중 삼중의 방어장치를 통해 보다 더 꼼꼼한 방어 조치가 수행되어야 할 것입니다.

최근 미국에서는 생성형 AI와 대화한 내용을 소송에서 증거로 제출해야 하는지 여부가 쟁점이 된 판례들이 등장했습니다. 주요 법률 매체와 로펌을 중심으로 관련 분석도 활발히 이루어지고 있습니다. 미국 소송 절차인 eDiscovery(이디스커버리) 과정에서, Attorney-Client Privilege(변호사-의뢰인 비밀유지권)와 Work-Product Doctrine(변호사 업무 결과물 원칙)은 증거 제출 의무를 방어하는 매우 중요한 장치입니다. 오늘 다룰 두 사건은 모두 생성형 AI를 소송 준비 과정에 활용한 경우지만, 법원은 eDiscovery 제출 대상 여부를 각각 다르게 판단했습니다. 인텔렉추얼데이터는 화제의 두 사건 판례를 비교 분석해, 기업이 미국 소송 eDiscovery에서 자료 제출 및 방어를 위해 사전에 점검해야 할 부분을 실무적 관점에서 정리했습니다. ✔ 미국 법조계의 뜨거운 이슈: Heppner, Warner 사건이 화제가 된 이유는? 1. 생성형 AI 사용 확대 흐름에서 등장한 사례2. AI와의 대화의 증거성, 법적 취급에 관한 미국 법원 최초·초기 판결3. 공개 AI 플랫폼에 관한 법원의 판단 기준 제시 두 사건은 생성형 AI를 사용한 소송 준비라는 공통점이 있으나, 같은 날 상반된 판단이 내려졌습니다. 법원은 Heppner 사건을 “first impression”, 즉 해당 쟁점을 최초로 다룬 판결이라고 명시했습니다. Heppner 건은 AI와의 커뮤니케이션이 미국 소송 eDiscovery 과정에서, Attorney-Client Privilege 또는 Work Product 보호, 즉 eDiscovery 제출 의무 방어에 해당하는지 처음 판단한 사건이 되었습니다. 이 사건은 AI 사용 주체 및 목적, 변호사의 개입 여부, 데이터 수집·학습·공개 범위 등에 따라 법원의 판단이 달라질 수 있음을 보여주었습니다. 또한 Warner 사건은 변호사 없이 소송을 진행한 당사자(pro se)가 생성형 AI로 준비한 자료도 Work Product 보호를 받을 수 있음을 보여준 사례로 주목받았습니다. *Attorney-Client Privilege(ACP): 변호사-의뢰인 비밀유지 특권. 의뢰인이 법률 조언을 구하기 위해 변호사와 주고받은 의사소통의 비밀을 보장*Work Product Doctrine: 변호사 업무 결과물 원칙. 소송 준비 과정에서 변호사가 작성하거나, 변호사의 지시·개입에 의해 작성된 자료를 보호하는 원칙 ✔ Heppner - 생성형 AI로 소송을 준비한 자료, eDiscovery 공개 or Privilege(특권) 보호 대상인가?판례: United States v. Heppner, No. 25-cr-00503 (S.D.N.Y. Feb. 17, 2026) 사건 배경 여러 기업 임원으로 재직했던 Heppner는 증권·전신 사기 등의 혐의로 2025년 10월 형사 기소되었습니다. Heppner는 소환장을 받고 변호인을 선임한 상태에서, Anthropic의 소비자용 AI인 클로드(Claude)를 이용해 방어 전략과 법적 주장을 정리한 31개의 프롬프트 및 문서를 작성했고, 이후 이 자료를 변호인과 공유했습니다. FBI 자택 압수수색 과정에서 해당 문서가 담긴 전자기기가 확보되었고, 이에 Heppner 측은 Attorney-Client Privilege와 Work Product Doctrine으로 보호된다고 주장하며 정부의 열람에 이의를 제기했습니다. 사건 쟁점공개 AI 플랫폼과의 대화가 Attorney-Client Privilege 또는 Work Product Doctrine으로 보호받을 수 있는가? 법원의 판단 법원은 피고가 공개 AI 플랫폼과 주고받은 대화 기록 문서가 ACP와 Work Product Doctrine으로 보호받지 않는다고 판결했습니다. 이는 생성형 AI 대화의 증거성에 관한 초기 판례로 평가됩니다. Heppner 사건에서 ACP가 적용되지 않은 이유법원은 아래 세가지를 이유로 Claude와의 소통을 법률 자문으로 볼 수 없다고 판단했습니다. 1. 변호사-의뢰인 관계 부재: Claude는 변호사가 아님2. 합리적 기밀 유지 기대 부족: Claude는 변호사가 아닌 제3자, Anthropic의 개인정보처리방침상 기밀이 유지되지 않음3. 법률 자문 목적 부정: 변호인의 지시를 받지 않았으며, Claude는 법률자문을 제공하지 않음출처: United States v. Heppner , No. 25-cr-00503 (S.D.N.Y. Feb. 17, 2026) 사건 판결문 Anthropic(앤트로픽)은 Claude가 법률 자문을 제공하지 않는다고 명시하고 있습니다. 또한 Anthropic 개인정보처리방침상 Claude에 입력된 프롬프트와 출력 데이터는 AI 모델 학습에 활용되거나 정부 규제 기관을 포함한 제3자에게 공개될 수 있습니다. Heppner 사건에서 Work Product Doctrine이 적용되지 않은 이유Heppner의 변호사는 AI 활용을 지시하지 않았으며, Heppner가 자발적으로 작성한 자료임을 인정했습니다. ✔ Warner - 생성형 AI와의 대화는 제3자와의 커뮤니케이션인가, 그저 도구의 사용인가?판례: Warner v. Gilbarco, Inc.,No. 2:24-cv-12333 (E.D. Mich. Feb. 10, 2026) 사건 배경원고 Warner는 인종차별을 이유로 전 회사 Gilbarco 등을 상대로 고용 차별 소송을 제기했습니다. 소송 과정에서 AI 사용과 eDiscovery에 관한 법원의 명령(order)이 내려졌습니다. 사건 쟁점생성형 AI 사용 자료의 eDiscovery 대상 여부와 Work Product Doctrine의 보호피고는 원고가 챗지피티(ChatGPT) 등 생성형 AI에 입력·생성한 자료와 AI 사용 기록 일체의 제출을 요구했습니다. 원고는 해당 자료가 소송 준비 과정에서 생성된 것으로, Work Product 보호를 주장하며 제출을 거부했습니다. 법원의 판단 법원은 피고 요구를 기각했습니다. Patti 치안판사는 해당 자료는 디스커버리 대상이 아니며, 대상이라 하더라도 Work Product Doctrine에 의해 보호될 수 있다고 판단했습니다. 이는 생성형 AI 활용 자료의 eDiscovery 범위와 Work Product 보호에 관한 중요한 판례로 평가됩니다. 1. Work Product 보호 인정원고는 pro se(본인 소송) 원고가 ChatGPT 등 생성형 AI을 활용한 소송 준비자료가 Rule 26(b)(3)(A)에 따른 Work Product 보호 대상이 될 수 있다고 판단했습니다. AI 사용만으로 보호가 자동 포기되지는 않는다고 봤습니다. 2. AI는 "제3자(person)"가 아니다법원은 "ChatGPT를 비롯한 생성형 AI는 도구(tool)이지 사람(person)이 아니다"라고 명시했습니다. Work Product 보호 포기(Waiver)는 적대적 당사자나 그에 준하는 제3자에게 정보가 공개된 경우 성립하는데, AI 입력만으로 공개로 볼 수 없다고 판단했습니다. 3. 비례성 미충족법원은 피고의 광범위한 AI 사용 자료 요구는 Rule 26(b)(1)의 관련성·비례성 요건을 충족하지 못하며, 원고의 사고 과정과 소송 전략을 들여다보려는 Fishing Expedition에 해당한다고 판단했습니다.*출처: Warner v. Gilbarco, Inc. ,No. 2:24-cv-12333 (E.D. Mich. Feb. 10, 2026) 사건 판결문 ✔ 인텔렉추얼데이터 eDiscovery 전문가 코멘트AI를 활용해 생성·이용된 자료가 eDiscovery 대상에 포함되는지, 그리고 이에 대해 ACP(Attorney-Client Privilege) 또는 Work Product 보호가 인정되는지는 사건 유형, AI 활용 주체, 사용 목적 등에 따라 판단이 달라질 수 있습니다. 향후 관련 판례와 논의 역시 지속적으로 축적될 것으로 보입니다. 특히 기업 입장에서는 LLM(대규모 언어 모델) 기반 생성형 AI 사용이 확대되는 흐름 속에서, 그에 따른 법률 리스크도 함께 검토할 필요가 있습니다. Heppner 사건의 법리는 형사에 국한되지 않고 민사 소송과 기업 내부 조사에도 확장 적용될 수 있습니다. 임직원이 공개형 AI로 소송 전략이나 법률 분석을 수행할 경우, 기밀정보가 상대방에게 노출되거나 기업에 불리한 내용이 증거로 남을 위험이 있으며, 이는 기업 증거보전(Legal Hold) 및 기밀정보 관리 이슈로도 이어질 수 있습니다. 기업 법무에 AI를 도입할 때에는 Enterprise 플랜 또는 폐쇄형(Private) AI 환경을 기반으로 이용 약관과 정보보안 요건을 검토하는 것이 필요합니다. Warner 사건은 pro se(본인 소송) 사례인 만큼 법원이 유연한 기준을 적용했을 가능성이 있어, 기업 소송에서는 보다 엄격한 기준이 적용될 수 있다는 점도 고려해야 합니다. 사내 AI 활용 정책 수립과 임직원 교육을 통해 기업의 증거 관리 프로세스가 법적으로 방어 가능한(Defensible) 체계를 갖추도록 준비하는 것이 중요합니다.
May 19 2026

중국 생성형 인공지능 딥 시크(DeepSeek R1)의 과도한 이용자 정보 수집이 아직도 논란이 되고 있습니다. Open AI가 있는 미국은 물론이고 한국에서도 금지령이 확산되고 있는데요. 계속되는 주요 기관의 딥 시크 접속 차단 조치외교부와 국방부, 산업통상자원부가 6일 딥 시크 사이트 접속을 차단한데 이어 통일부와 농림축산식품부, 보건복지부, 환경부, 과학기술정보통신부 등도 7일 딥 시크 금지령에 동참했습니다. 앞서 행정안전부와 국가정보원은 지난 3일 모든 중앙부처와 광역 지방자치단체에 딥 시크, 오픈AI 등 생성형 인공지능(AI)을 사용할 때 민감한 정보는 입력하지 말라는 내용을 담은 보안 가이드라인을 발송한 바 있는데 이 같은 지침에 따라 접속 차단이 늘어나고 있습니다.한국거래소도 지난달 말 딥 시크 접속을 차단하는 등 내부 보안 조치를 실시했습니다. 한국 거래소는 현재 Open AI의 Chat GPT와 구글 제미나이 등 미국 기업들의 AI 서비스 이용은 막지 않고 있습니다. 한국인터넷진흥원(KISA) 역시 <보호나라> 홈페이지를 통해 생성형 AI 사용 시 주민등록번호, 전화번호, 주소 및 금융 정보 등의 개인 정보를 입력하지 않도록 주의하라는 내용이 포함된 ‘생성형 AI 사용 관련 주의 보안권고’를 공지했습니다. 생성형 AI 공개가 하루 이틀 일이 아닌데 이렇게 나오는 것은 다분히 딥 시크를 겨냥한 것이라고 볼 수 있습니다.딥 시크 코드 해독으로 밝혀진 개인정보 유출?거기다 개인정보 유출 증거가 나왔다며 미국 사이버보안업체 페루트(feroot) 시큐리티의 이반 차린니 최고경영자(CEO)가 AI 소프트웨어를 활용해 딥시크의 코드를 해독한 결과 감춰진 부분을 발견했다는 보도가 미국 ABC방송을 통해 발표되었는데요. 차린니 CEO는 "중국 정부의 통제 아래 있는 서버들과 중국 내 회사로의 직접적 연결이 보인다"며 "이는 과거에는 한 번도 본 적이 없는 것"이라고 말했습니다.딥 시크 코드 내에 차이나모바일의 온라인 레지스트리 사이트 'CMPassport.com'으로 사용자 정보를 전송하는 기능을 지닌 코드가 의도적으로 은폐된 듯한 모양새로 삽입돼 있었다는 게 차린니 CEO의 주장입니다. 이들은 "딥 시크에 가입하거나 로그인하는 사용자는 자신도 모르게 중국 내 계정을 만들게 돼 신원과 사용한 검색어 등이 중국 정부 시스템에 노출될 수 있다는 것"이라고 설명했는데요. 미 국토안보부 차관을 지낸 존 코언은 ABC 방송 인터뷰에서 "국가안보 당국자들은 언제나 중국 기업들이 판매하는 기술제품에 중국 정부가 자료를 들여다볼 수 있는 백도어가 있다고 의심해 왔다"면서 "이번 사례에선 그런 백도어가 발견됐고 열렸으며 이는 우려스러운 일"이라고 말했습니다. 미 하원 정보위원회 소속인 조시 고트하이머 의원도 "모든 정부 기기에서 딥 시크를 즉각 금지해야 한다"면서 "누구도 본인 기기에 내려받지 못하게 해야 하고 대중에도 알려야 할 것"이라고 말했습니다.오픈 소스인데 백도어 삽입? 지속되는 보안 관련 논란그러나 좀 이상합니다. 클린 코드 원칙 이야기를 하지만 잘 지켜지지 않을뿐더러, 소스가 공개돼 있는데 백도어를 다 보이게 심어놨다는 게 쉽게 납득하기 힘듭니다. 중국 레지스트리 사이트 역시 다른 단계가 아니라 로그인 단계에서 중국 통신사 네트워크 주소가 하드코딩되어 있다는 것을 증거라고 주장하고 있는거죠. 그런데 실제 개발을 해 보면 서버 주소나 암호화 키 등은 암호화가 되어 숨겨집니다. 저렇게 드러내는 것이 오히려 더 어색하죠.일각에서는 이를 보고 '중국의 세계 감시', '기술 탈취'를 이야기하지만 아직까지 드러난 바에 따르면 과도한 공포가 아닐까 하는 의구심을 갖게 한다는 것입니다. 정말로 숨길 의도가 있었다면 더 깔끔한 방법으로, 티나지 않게 숨길 수가 있거든요. 많은 사람들은 이런 갑작스러운 차단에 대해 미국이 OAI를 차세대 성장 동력으로 내세우는 가운데 스타게이트 프로젝트를 발족하면서 딥 시크의 등장이 달갑지 않아서 스타게이트 프로젝트 참가국들을 통해 압박을 하고 있다는 해석을 내놓기도 했습니다. 실제 미국 FCC(연방통신위원회, Federal Radio Commission)은 차이나모바일을 국가안보 위협으로 지정하기도 했는데, 이 상황에서 딥 시크 로그인 페이지에서 해당 기업의 코드가 발견되었다는 점에서 더욱 더 문제시하려는 것 아닌가 하는 의혹도 있습니다.딥 시크 보안에 대한 우려와 중국 정부의 반발각국 정부와 기업이 보안 우려에 따라 중국 AI 모델 딥 시크 사용 금지에 나서자, 중국은 불법 데이터 수집은 없다며 반발에 나섰는데요. 궈자쿤 중국 외교부 대변인은 정례 브리핑에서 "중국은 국가 안보 개념을 일반화하고 경제·무역 문제를 정치화하는 방식에 일관되게 반대해왔다"며 "지금껏 기업 혹은 개인에 위법한 형식으로 데이터를 수집·저장하라고 요구한 적도 없고 요구하지도 않을 것"이라고 강조했습니다. 아울러 중국 기업의 합법적 권익을 굳게 수호할 것이라며 경우에 따라 보복 조치에 나설 수 있다고 말했습니다. 하지만 중국의 국가정보법 상 모든 조직과 개인이 정부의 정보 활동을 지원하고 협력하도록 요구하고 있기 때문에, 중국 당국은 딥 시크가 수집한 해외 사용자의 데이터에 접근할 가능성이 있다는 우려 자체는 상존하고 있습니다. 실제 중국은 다양한 분야에서 과도한 개인정보를 가져가는 모습을 보여줬거든요. 물론 아직까지 딥 시크가 이런 위험성이 있다는 것이 증명되진 않았지만, 이번 딥 시크 사태를 놓고 미국과 중국이 다투는 것은 AI 기술이 가져올 수 있는 개인정보 보호, 데이터 주권, 국가 안보, 기술 헤게모니 등 다양한 문제를 잘 보여준다고 생각합니다.국가 간 데이터 흐름을 관리할 통일된 프레임워크의 필요성사실 국제사회는 이런 문제에 대응하기 위해 다양한 규제 프레임워크를 제시하고 있습니다. 대표적인 것이 EU의 COMPL-AI 프레임워크입니다. 이 프레임워크는 AI 모델의 해킹 위험과 편향성을 체계적으로 평가하는 기술적 규제의 선례를 제시하고 있습니다. EU AI Act의 6대 윤리 원칙을 27개의 기술 벤치마크로 구체화하여, 프롬프트 유출이나 목표 변조와 같은 사이버 보안 위협에 대한 모델의 취약성을 진단하고, HarmBench 데이터셋을 활용해 인종과 성별 편향성을 정량화 합니다. 오는 2025년 4월부터 EU AI Act의 공식 감사 도구로 활용됩니다. 하지만 아직까지 범 국가 간 단일 모델, 통일 프레임워크는 만들어지지 않았습니다.그리고 국가 간 데이터 흐름, 소위 크로스보더 데이터 흐름에 대한 관리의 중요성 역시 부각되게 되었습니다. EU의 GDPR, Data Act, 미국 법무부(DOJ) 등의 정책이 충돌하게 된거죠. 프레임워크를 비롯해 데이터 관리에 있어서 까지 국제 공조, 조화가 시급한 과제가 되고 있는 상황입니다. 미-중간의 다툼도, AI의 미래를 위한 경쟁도 좋지만 무엇보다 사람들이 안전한 시스템을 쓸 수 있도록 투명한 체계를 만드는 것이 피할 수 없는 AI의 대두 시대, 그리고 그 시대에서 살아갈 인류의 공공복리를 위해 필요한 내용이 아닐까 생각됩니다.
Feb 13 2025