18 October 2024
몇 주 전부터 갑자기 주식 리딩방 등의 스팸문자 유입이 급증했습니다. 차단을 해도 차단을 해도 다른 번호로 잇따라 들어오고 있는데요. 하루에 많게는 수십 건까지도 들어올 정도입니다. 일각에서는 "부모님보다 리딩방 업자가 나를 더 걱정하는 것 아니냐"는 우스개소리도 나왔는데요.
한국인터넷진흥원(KISA)에 따르면, 6월 1일부터 17일까지 접수된 스팸 신고 건수는 거의 2,800만건으로 전달 동기(1,988만건) 대비 40%나 증가했습니다. 특히 주식 투자, 도박, 스미싱 문자가 대부분이었습니다.
심지어 지난 2022년과 비교하면 수치는 더욱 어마어마한 차이로 나타납니다. 지난해 하반기의 휴대전화 스팸 신고/탐지 건수는 2022년과 비교해 약 8배가 증가했으며, 이용자 월간 스팸 수신량은 2023년 상반기와 비교해 2023년 하반기에는 44.6%가 증가한 10.38통으로 나타났고, 대량 문자 발송서비스의 스팸 비중은 지난해 상반기 97.3%에서 하반기에는 97.9%로 반기 평균 0.3%가 증가했습니다.
대량문자 발송 업체 해킹으로 인한 정보 유출
번호를 아무리 차단해도 스팸 문자 전송 자체가 중계기 조작을 통해 가짜 번호를 만들어 보내는지라 별 효능이 없고, '쥬식'이나 '리딩뱡'처럼 묘하게 한 글자씩 바꾸거나 '주.식', '리☆딩☆방'처럼 특수문자를 섞어 넣어서 키워드 차단을 회피하기도 합니다.
경찰 관계자는 "이번 사건에 대해 해외에 서버를 두고 있는 데다 해킹된 개인정보 DB 거래가 다크 웹에서 이뤄져 단속 및 적발이 쉽지 않다"고 인터뷰했습니다. KISA의 발표에 따르면, 최근 일부 대량문자 발송 위탁업체와 문자 재판매사가 해킹된 사실이 확인되었다고 합니다. 통상 문자 재판매사 해킹이 한 두건에 불과했는데, 최근에는 대규모 해킹이 발생하여 이 데이터베이스가 거래되고 있는 것으로 추정되는데요.
현재 중앙전파관리소에서 파악한 인터넷 대량 문자 발송 업체, 특수부가사업자는 2024년 5월 기준 1,184개소로 전국 10곳의 전파관리소에 각각 분산되어 등록되어 있습니다.
그런데 이 업체들도 문제가 있습니다. 해킹이 아닐 수도 있다는 겁니다. 대량 문자 발송 시장은 통신사 등 주요 중계 회사와 문자 발송을 원하는 업체 사이에 재판매 사업자가 개입하여 영업하는 구조인데요. 경쟁이 심해지다보니 대놓고 불법 영업을 하는 사례도 늘고 있습니다.
스팸차단을 위한 다양한 대책과 한계
실제 텔레그램을 통해 영업 채널을 버젓이 운영하고 있으며, "원하는 문구가 이동통신 3사 휴대전화에서 스팸 처리되지 않는지, 테스트까지 해준다", "스팸 차단에 걸리지 않도록 문자 내용을 수정해준다", "돈 벌려면 스팸 보내야 된다"라는 이야기가 업계에서 나돌고 있을 정도입니다.
경찰 또한 워낙 이런 불법 영업이 만연하고 있는 상황인지라 해킹 신고가 정말인지도 미심쩍다는 반응입니다. 한 보안 관계자는 "막을 수 없었던 해킹인지, 아니면 소위 말하는 도둑놈 들어오라고 문 열어놓고 그거 해킹이라고 이야기하는 사업자도 있으니까요. 실제로 있습니다."라며 의도적으로 보안 취약점을 유출, 불법 영업을 했다고 말하기도 했습니다.
20일 방송통신위원회는 불법 스팸 문자 발송률이 높은 문자중개사와 문자 재판매사의 법적 의무 위반 여부를 조사하기 위한 긴급 현장점검을 수행, 방통위는 지난 2일 대량문자 발송 서비스를 하려는 사업자에게 심사를 거쳐 자격을 부여하는 '전송 자격 인증제'를 도입하기도 했습니다. 하지만 업계 자율 운영이 원칙이라 큰 효용이 있을지는 의문입니다. 심지어 올해 5월까지 불법 스팸 사업자에게 부과한 과태료 512억 원 중 받아낸 돈은 11억 원, 약 2%에 불과할 정도입니다.
이승진 방송통신 이용자보호협회 사무국장은 "과태료 처분은 (불법) 스팸 보낸 날로부터 수개월 후에 날아가는데 그때는 스팸 보낸 사람은 다 도망가고 없고…"라며 이들 업체가 하는 텔레그램 불법 영업이 일종의 '떳다방'처럼 운영되기 때문이라고 언급했습니다.
한편 KISA는 하반기부터 삼성전자 휴대전화에 '악성문자 필터링 서비스'를 도입, KISA의 스팸신고 분석 데이터를 기반으로 스팸 문자를 자동 필터링하는 기능을 추가하겠다고 밝혔습니다만, 다른 OS를 사용하는 휴대전화엔 접근하기 힘든 상황이죠.
보이스피싱, 스미싱 피해로 이어지는 개인정보 유출
이런 개인정보 데이터베이스의 유출은 더 큰 잠재적 피해로 이어집니다. 바로 전 국민이 사용하고 있는 카카오톡과 같은 SNS 메신저입니다. 번호를 알면 친구 추가를 할 수 있는데, 친구 추가를 하면 확인 가능한 사용자 프로필에서 이름과 같은 신상정보를 입수, 보이스피싱/협박전화 공격을 가하는거죠.
실제 지난 4월, JTBC 보도에 따르면 보이스피싱 일당은 자신을 피해자가 이전에 방문했던 '스웨디시 마사지 가게 사장'이라고 소개, 퇴폐 영상을 유포하겠다며 "자신이 흥신소를 운영하고 있어 본인 신상뿐만 아니라 가족·지인 연락처 60개 정도 미리 확보했다. 입금을 하지 않으면 지인들에게 영상을 뿌리겠다"고 협박하기도 했습니다. 이들이 활용한 공격 방식이 바로 SNS 프로필을 통한 정보 입수였던 것입니다.
스미싱 공격 역시 기승을 부리고 있습니다. 지난 2023년 11월 17일 이스트시큐리티 대응센터가 발표한 '스미싱 트렌드'에 따르면, "라인 ID를 추가해 달라"는 광고성 스팸전문자가 다수 발송된 흔적을 파악했다고 합니다.
ESRC 측은 "계정을 추가하면 투자 매니저를 사칭해 투자 리딩방 가입을 유도하는 것으로 확인됐다"면서 "그러나 언제 악성 앱을 유포할지 모르기 때문에, 낯선 사람의 계정은 추가하지 않도록 해야 한다"고 당부하기도 했습니다. 이런 스미싱 문자에는 악성 링크(URL)가 포함돼 있으며, 클릭시 정상 페이지로 위장한 피싱 페이지로 이동, 개인정보 입력을 유도하거나 악성 어플리케이션을 설치할 것을 유도하여 최종적으로 사용자의 스마트폰을 장악하게 되는데요.
악성 어플리케이션 등을 통해 피해자의 SMS, 설치돼 있는 앱 리스트, 연락처, 위치정보, 통화목록, 기기 정보 등을 훔쳐냅니다. 뿐만 아니라 통화 발신·착신·가로채기·강제종료, SMS 읽기·보내기·가로채기, 연락처 삭제·추가·변경, 실시간 도청 등과 같은 기능도 수행할 수 있죠. 이렇게 민감한 개인정보가 유출되면 유출될수록 앞서 언급한 보이스피싱 공격은 더욱 정교해지게 됩니다.
정보유출과 피해 방지를 위한 기본적인 대비책
이러한 공격에서 피해를 입지 않기 위해서는 카카오톡 설정에서 "전화번호로 친구 추가 허용 옵션"을 비활성화 하는 것으로 어느 정도 차단할 수 있습니다. 또한 문자 메세지 내 첨부된 링크의 클릭을 해선 안되며, 링크를 통해 자동으로 내려오는 apk(안드로이드 응용 프로그램 패키지) 설치를 피해야 합니다.
또한 링크를 통해 접근한 피싱 페이지에서 개인정보를 입력하지 않아야 합니다. 또한 협박범들의 전화에 돈을 송금하거나 하는 일이 없어야 할 것입니다. 개인이 아무리 보안의식을 제고하고 대비한다 하더라도 통신사 단계에서 문제가 생겨 스팸문자가 폭증하는 것 자체는 막을 수 없는 일입니다. 하지만 각자가 최선을 다해서 차단하고 걸러내는 것을 통해 2차 피해를 방어해야 할 것입니다.

최근 미국에서는 생성형 AI와 대화한 내용을 소송에서 증거로 제출해야 하는지 여부가 쟁점이 된 판례들이 등장했습니다. 주요 법률 매체와 로펌을 중심으로 관련 분석도 활발히 이루어지고 있습니다. 미국 소송 절차인 eDiscovery(이디스커버리) 과정에서, Attorney-Client Privilege(변호사-의뢰인 비밀유지권)와 Work-Product Doctrine(변호사 업무 결과물 원칙)은 증거 제출 의무를 방어하는 매우 중요한 장치입니다. 오늘 다룰 두 사건은 모두 생성형 AI를 소송 준비 과정에 활용한 경우지만, 법원은 eDiscovery 제출 대상 여부를 각각 다르게 판단했습니다. 인텔렉추얼데이터는 화제의 두 사건 판례를 비교 분석해, 기업이 미국 소송 eDiscovery에서 자료 제출 및 방어를 위해 사전에 점검해야 할 부분을 실무적 관점에서 정리했습니다. ✔ 미국 법조계의 뜨거운 이슈: Heppner, Warner 사건이 화제가 된 이유는? 1. 생성형 AI 사용 확대 흐름에서 등장한 사례2. AI와의 대화의 증거성, 법적 취급에 관한 미국 법원 최초·초기 판결3. 공개 AI 플랫폼에 관한 법원의 판단 기준 제시 두 사건은 생성형 AI를 사용한 소송 준비라는 공통점이 있으나, 같은 날 상반된 판단이 내려졌습니다. 법원은 Heppner 사건을 “first impression”, 즉 해당 쟁점을 최초로 다룬 판결이라고 명시했습니다. Heppner 건은 AI와의 커뮤니케이션이 미국 소송 eDiscovery 과정에서, Attorney-Client Privilege 또는 Work Product 보호, 즉 eDiscovery 제출 의무 방어에 해당하는지 처음 판단한 사건이 되었습니다. 이 사건은 AI 사용 주체 및 목적, 변호사의 개입 여부, 데이터 수집·학습·공개 범위 등에 따라 법원의 판단이 달라질 수 있음을 보여주었습니다. 또한 Warner 사건은 변호사 없이 소송을 진행한 당사자(pro se)가 생성형 AI로 준비한 자료도 Work Product 보호를 받을 수 있음을 보여준 사례로 주목받았습니다. *Attorney-Client Privilege(ACP): 변호사-의뢰인 비밀유지 특권. 의뢰인이 법률 조언을 구하기 위해 변호사와 주고받은 의사소통의 비밀을 보장*Work Product Doctrine: 변호사 업무 결과물 원칙. 소송 준비 과정에서 변호사가 작성하거나, 변호사의 지시·개입에 의해 작성된 자료를 보호하는 원칙 ✔ Heppner - 생성형 AI로 소송을 준비한 자료, eDiscovery 공개 or Privilege(특권) 보호 대상인가?판례: United States v. Heppner, No. 25-cr-00503 (S.D.N.Y. Feb. 17, 2026) 사건 배경 여러 기업 임원으로 재직했던 Heppner는 증권·전신 사기 등의 혐의로 2025년 10월 형사 기소되었습니다. Heppner는 소환장을 받고 변호인을 선임한 상태에서, Anthropic의 소비자용 AI인 클로드(Claude)를 이용해 방어 전략과 법적 주장을 정리한 31개의 프롬프트 및 문서를 작성했고, 이후 이 자료를 변호인과 공유했습니다. FBI 자택 압수수색 과정에서 해당 문서가 담긴 전자기기가 확보되었고, 이에 Heppner 측은 Attorney-Client Privilege와 Work Product Doctrine으로 보호된다고 주장하며 정부의 열람에 이의를 제기했습니다. 사건 쟁점공개 AI 플랫폼과의 대화가 Attorney-Client Privilege 또는 Work Product Doctrine으로 보호받을 수 있는가? 법원의 판단 법원은 피고가 공개 AI 플랫폼과 주고받은 대화 기록 문서가 ACP와 Work Product Doctrine으로 보호받지 않는다고 판결했습니다. 이는 생성형 AI 대화의 증거성에 관한 초기 판례로 평가됩니다. Heppner 사건에서 ACP가 적용되지 않은 이유법원은 아래 세가지를 이유로 Claude와의 소통을 법률 자문으로 볼 수 없다고 판단했습니다. 1. 변호사-의뢰인 관계 부재: Claude는 변호사가 아님2. 합리적 기밀 유지 기대 부족: Claude는 변호사가 아닌 제3자, Anthropic의 개인정보처리방침상 기밀이 유지되지 않음3. 법률 자문 목적 부정: 변호인의 지시를 받지 않았으며, Claude는 법률자문을 제공하지 않음출처: United States v. Heppner , No. 25-cr-00503 (S.D.N.Y. Feb. 17, 2026) 사건 판결문 Anthropic(앤트로픽)은 Claude가 법률 자문을 제공하지 않는다고 명시하고 있습니다. 또한 Anthropic 개인정보처리방침상 Claude에 입력된 프롬프트와 출력 데이터는 AI 모델 학습에 활용되거나 정부 규제 기관을 포함한 제3자에게 공개될 수 있습니다. Heppner 사건에서 Work Product Doctrine이 적용되지 않은 이유Heppner의 변호사는 AI 활용을 지시하지 않았으며, Heppner가 자발적으로 작성한 자료임을 인정했습니다. ✔ Warner - 생성형 AI와의 대화는 제3자와의 커뮤니케이션인가, 그저 도구의 사용인가?판례: Warner v. Gilbarco, Inc.,No. 2:24-cv-12333 (E.D. Mich. Feb. 10, 2026) 사건 배경원고 Warner는 인종차별을 이유로 전 회사 Gilbarco 등을 상대로 고용 차별 소송을 제기했습니다. 소송 과정에서 AI 사용과 eDiscovery에 관한 법원의 명령(order)이 내려졌습니다. 사건 쟁점생성형 AI 사용 자료의 eDiscovery 대상 여부와 Work Product Doctrine의 보호피고는 원고가 챗지피티(ChatGPT) 등 생성형 AI에 입력·생성한 자료와 AI 사용 기록 일체의 제출을 요구했습니다. 원고는 해당 자료가 소송 준비 과정에서 생성된 것으로, Work Product 보호를 주장하며 제출을 거부했습니다. 법원의 판단 법원은 피고 요구를 기각했습니다. Patti 치안판사는 해당 자료는 디스커버리 대상이 아니며, 대상이라 하더라도 Work Product Doctrine에 의해 보호될 수 있다고 판단했습니다. 이는 생성형 AI 활용 자료의 eDiscovery 범위와 Work Product 보호에 관한 중요한 판례로 평가됩니다. 1. Work Product 보호 인정원고는 pro se(본인 소송) 원고가 ChatGPT 등 생성형 AI을 활용한 소송 준비자료가 Rule 26(b)(3)(A)에 따른 Work Product 보호 대상이 될 수 있다고 판단했습니다. AI 사용만으로 보호가 자동 포기되지는 않는다고 봤습니다. 2. AI는 "제3자(person)"가 아니다법원은 "ChatGPT를 비롯한 생성형 AI는 도구(tool)이지 사람(person)이 아니다"라고 명시했습니다. Work Product 보호 포기(Waiver)는 적대적 당사자나 그에 준하는 제3자에게 정보가 공개된 경우 성립하는데, AI 입력만으로 공개로 볼 수 없다고 판단했습니다. 3. 비례성 미충족법원은 피고의 광범위한 AI 사용 자료 요구는 Rule 26(b)(1)의 관련성·비례성 요건을 충족하지 못하며, 원고의 사고 과정과 소송 전략을 들여다보려는 Fishing Expedition에 해당한다고 판단했습니다.*출처: Warner v. Gilbarco, Inc. ,No. 2:24-cv-12333 (E.D. Mich. Feb. 10, 2026) 사건 판결문 ✔ 인텔렉추얼데이터 eDiscovery 전문가 코멘트AI를 활용해 생성·이용된 자료가 eDiscovery 대상에 포함되는지, 그리고 이에 대해 ACP(Attorney-Client Privilege) 또는 Work Product 보호가 인정되는지는 사건 유형, AI 활용 주체, 사용 목적 등에 따라 판단이 달라질 수 있습니다. 향후 관련 판례와 논의 역시 지속적으로 축적될 것으로 보입니다. 특히 기업 입장에서는 LLM(대규모 언어 모델) 기반 생성형 AI 사용이 확대되는 흐름 속에서, 그에 따른 법률 리스크도 함께 검토할 필요가 있습니다. Heppner 사건의 법리는 형사에 국한되지 않고 민사 소송과 기업 내부 조사에도 확장 적용될 수 있습니다. 임직원이 공개형 AI로 소송 전략이나 법률 분석을 수행할 경우, 기밀정보가 상대방에게 노출되거나 기업에 불리한 내용이 증거로 남을 위험이 있으며, 이는 기업 증거보전(Legal Hold) 및 기밀정보 관리 이슈로도 이어질 수 있습니다. 기업 법무에 AI를 도입할 때에는 Enterprise 플랜 또는 폐쇄형(Private) AI 환경을 기반으로 이용 약관과 정보보안 요건을 검토하는 것이 필요합니다. Warner 사건은 pro se(본인 소송) 사례인 만큼 법원이 유연한 기준을 적용했을 가능성이 있어, 기업 소송에서는 보다 엄격한 기준이 적용될 수 있다는 점도 고려해야 합니다. 사내 AI 활용 정책 수립과 임직원 교육을 통해 기업의 증거 관리 프로세스가 법적으로 방어 가능한(Defensible) 체계를 갖추도록 준비하는 것이 중요합니다.
May 19 2026

중국 생성형 인공지능 딥 시크(DeepSeek R1)의 과도한 이용자 정보 수집이 아직도 논란이 되고 있습니다. Open AI가 있는 미국은 물론이고 한국에서도 금지령이 확산되고 있는데요. 계속되는 주요 기관의 딥 시크 접속 차단 조치외교부와 국방부, 산업통상자원부가 6일 딥 시크 사이트 접속을 차단한데 이어 통일부와 농림축산식품부, 보건복지부, 환경부, 과학기술정보통신부 등도 7일 딥 시크 금지령에 동참했습니다. 앞서 행정안전부와 국가정보원은 지난 3일 모든 중앙부처와 광역 지방자치단체에 딥 시크, 오픈AI 등 생성형 인공지능(AI)을 사용할 때 민감한 정보는 입력하지 말라는 내용을 담은 보안 가이드라인을 발송한 바 있는데 이 같은 지침에 따라 접속 차단이 늘어나고 있습니다.한국거래소도 지난달 말 딥 시크 접속을 차단하는 등 내부 보안 조치를 실시했습니다. 한국 거래소는 현재 Open AI의 Chat GPT와 구글 제미나이 등 미국 기업들의 AI 서비스 이용은 막지 않고 있습니다. 한국인터넷진흥원(KISA) 역시 <보호나라> 홈페이지를 통해 생성형 AI 사용 시 주민등록번호, 전화번호, 주소 및 금융 정보 등의 개인 정보를 입력하지 않도록 주의하라는 내용이 포함된 ‘생성형 AI 사용 관련 주의 보안권고’를 공지했습니다. 생성형 AI 공개가 하루 이틀 일이 아닌데 이렇게 나오는 것은 다분히 딥 시크를 겨냥한 것이라고 볼 수 있습니다.딥 시크 코드 해독으로 밝혀진 개인정보 유출?거기다 개인정보 유출 증거가 나왔다며 미국 사이버보안업체 페루트(feroot) 시큐리티의 이반 차린니 최고경영자(CEO)가 AI 소프트웨어를 활용해 딥시크의 코드를 해독한 결과 감춰진 부분을 발견했다는 보도가 미국 ABC방송을 통해 발표되었는데요. 차린니 CEO는 "중국 정부의 통제 아래 있는 서버들과 중국 내 회사로의 직접적 연결이 보인다"며 "이는 과거에는 한 번도 본 적이 없는 것"이라고 말했습니다.딥 시크 코드 내에 차이나모바일의 온라인 레지스트리 사이트 'CMPassport.com'으로 사용자 정보를 전송하는 기능을 지닌 코드가 의도적으로 은폐된 듯한 모양새로 삽입돼 있었다는 게 차린니 CEO의 주장입니다. 이들은 "딥 시크에 가입하거나 로그인하는 사용자는 자신도 모르게 중국 내 계정을 만들게 돼 신원과 사용한 검색어 등이 중국 정부 시스템에 노출될 수 있다는 것"이라고 설명했는데요. 미 국토안보부 차관을 지낸 존 코언은 ABC 방송 인터뷰에서 "국가안보 당국자들은 언제나 중국 기업들이 판매하는 기술제품에 중국 정부가 자료를 들여다볼 수 있는 백도어가 있다고 의심해 왔다"면서 "이번 사례에선 그런 백도어가 발견됐고 열렸으며 이는 우려스러운 일"이라고 말했습니다. 미 하원 정보위원회 소속인 조시 고트하이머 의원도 "모든 정부 기기에서 딥 시크를 즉각 금지해야 한다"면서 "누구도 본인 기기에 내려받지 못하게 해야 하고 대중에도 알려야 할 것"이라고 말했습니다.오픈 소스인데 백도어 삽입? 지속되는 보안 관련 논란그러나 좀 이상합니다. 클린 코드 원칙 이야기를 하지만 잘 지켜지지 않을뿐더러, 소스가 공개돼 있는데 백도어를 다 보이게 심어놨다는 게 쉽게 납득하기 힘듭니다. 중국 레지스트리 사이트 역시 다른 단계가 아니라 로그인 단계에서 중국 통신사 네트워크 주소가 하드코딩되어 있다는 것을 증거라고 주장하고 있는거죠. 그런데 실제 개발을 해 보면 서버 주소나 암호화 키 등은 암호화가 되어 숨겨집니다. 저렇게 드러내는 것이 오히려 더 어색하죠.일각에서는 이를 보고 '중국의 세계 감시', '기술 탈취'를 이야기하지만 아직까지 드러난 바에 따르면 과도한 공포가 아닐까 하는 의구심을 갖게 한다는 것입니다. 정말로 숨길 의도가 있었다면 더 깔끔한 방법으로, 티나지 않게 숨길 수가 있거든요. 많은 사람들은 이런 갑작스러운 차단에 대해 미국이 OAI를 차세대 성장 동력으로 내세우는 가운데 스타게이트 프로젝트를 발족하면서 딥 시크의 등장이 달갑지 않아서 스타게이트 프로젝트 참가국들을 통해 압박을 하고 있다는 해석을 내놓기도 했습니다. 실제 미국 FCC(연방통신위원회, Federal Radio Commission)은 차이나모바일을 국가안보 위협으로 지정하기도 했는데, 이 상황에서 딥 시크 로그인 페이지에서 해당 기업의 코드가 발견되었다는 점에서 더욱 더 문제시하려는 것 아닌가 하는 의혹도 있습니다.딥 시크 보안에 대한 우려와 중국 정부의 반발각국 정부와 기업이 보안 우려에 따라 중국 AI 모델 딥 시크 사용 금지에 나서자, 중국은 불법 데이터 수집은 없다며 반발에 나섰는데요. 궈자쿤 중국 외교부 대변인은 정례 브리핑에서 "중국은 국가 안보 개념을 일반화하고 경제·무역 문제를 정치화하는 방식에 일관되게 반대해왔다"며 "지금껏 기업 혹은 개인에 위법한 형식으로 데이터를 수집·저장하라고 요구한 적도 없고 요구하지도 않을 것"이라고 강조했습니다. 아울러 중국 기업의 합법적 권익을 굳게 수호할 것이라며 경우에 따라 보복 조치에 나설 수 있다고 말했습니다. 하지만 중국의 국가정보법 상 모든 조직과 개인이 정부의 정보 활동을 지원하고 협력하도록 요구하고 있기 때문에, 중국 당국은 딥 시크가 수집한 해외 사용자의 데이터에 접근할 가능성이 있다는 우려 자체는 상존하고 있습니다. 실제 중국은 다양한 분야에서 과도한 개인정보를 가져가는 모습을 보여줬거든요. 물론 아직까지 딥 시크가 이런 위험성이 있다는 것이 증명되진 않았지만, 이번 딥 시크 사태를 놓고 미국과 중국이 다투는 것은 AI 기술이 가져올 수 있는 개인정보 보호, 데이터 주권, 국가 안보, 기술 헤게모니 등 다양한 문제를 잘 보여준다고 생각합니다.국가 간 데이터 흐름을 관리할 통일된 프레임워크의 필요성사실 국제사회는 이런 문제에 대응하기 위해 다양한 규제 프레임워크를 제시하고 있습니다. 대표적인 것이 EU의 COMPL-AI 프레임워크입니다. 이 프레임워크는 AI 모델의 해킹 위험과 편향성을 체계적으로 평가하는 기술적 규제의 선례를 제시하고 있습니다. EU AI Act의 6대 윤리 원칙을 27개의 기술 벤치마크로 구체화하여, 프롬프트 유출이나 목표 변조와 같은 사이버 보안 위협에 대한 모델의 취약성을 진단하고, HarmBench 데이터셋을 활용해 인종과 성별 편향성을 정량화 합니다. 오는 2025년 4월부터 EU AI Act의 공식 감사 도구로 활용됩니다. 하지만 아직까지 범 국가 간 단일 모델, 통일 프레임워크는 만들어지지 않았습니다.그리고 국가 간 데이터 흐름, 소위 크로스보더 데이터 흐름에 대한 관리의 중요성 역시 부각되게 되었습니다. EU의 GDPR, Data Act, 미국 법무부(DOJ) 등의 정책이 충돌하게 된거죠. 프레임워크를 비롯해 데이터 관리에 있어서 까지 국제 공조, 조화가 시급한 과제가 되고 있는 상황입니다. 미-중간의 다툼도, AI의 미래를 위한 경쟁도 좋지만 무엇보다 사람들이 안전한 시스템을 쓸 수 있도록 투명한 체계를 만드는 것이 피할 수 없는 AI의 대두 시대, 그리고 그 시대에서 살아갈 인류의 공공복리를 위해 필요한 내용이 아닐까 생각됩니다.
Feb 13 2025