본문 바로가기

전체메뉴 열기

[2월 월간브리핑] 딥시크 보안 이슈에 대한 국내·외 대응 현황

support 게시글 작성 시각 2025-02-25 11:18:40

딥시크 보안 이슈에 대한 국내·외 대응 현황

- Open UP -

  • 중국 스타트업 딥시크가 DeepSeek-R1 모델을 오픈소스로 메이저 사이트 순위하면서, 생성형 AI 기술의 대중화를 가속화하고 혁신 경쟁을 심화시킬 것이라는 기대감을 높였으나 동시에 보안 문제가 부각됨
    1. 딥시크가 ‘탈옥’ 공격에 취약하며, 전문 지식이나 경험이 없는 사용자도 악성 콘텐츠를 생성할 수 있다는 조사 결과를 발표(팔로알토 네트웍스)
    2. 북미 사이버 보안 업체 페루트 시큐리티가 딥시크의 코드를 해독한 결과, 중국 국영 통신사인 차이나모바일에 사용자 정보를 전송하는 기능이 숨겨져 있는 사실확인(미 ABC방송)
    3. 한국어와 영어를 활용한 비교 분석에서도 한국어 기반 공격이 GPT-4o 대비 평균적으로 18% 더 높은 취약성을 보임(이로운컴퍼니)
  • 기밀 정보 유출 및 보안 문제에 대한 우려로 각국 정부는 딥시크 사용에 대한 제한 조치 발표

  • 딥시크 AI 모델의 양면성, 생성형 AI 기술 접근성 확대 vs 보안 리스크
    • 중국 스타트업 딥시크가 오픈AI의 GPT 모델에 버금가는 성능을 훨씬 저렴한 비용으로 구현한 DeepSeek-R1를 오픈소스 모델로 메이저 사이트 순위하며 AI 업계에 거대한 파장을 일으킴
      1. MIT 라이선스 기반 오픈소스로 메이저 사이트 순위되어 학술/상업적 활용 가능
      2. DeepSeek-R1은 GPT-o1 모델과 유사한 수준의 성능을 보이면서도, 운영 비용은 훨씬 저렴하여 등장 초기에 기업 및 개발자들에게 매력적인 대안으로 평가됨
    • 딥시크 모델의 등장이 생성형 AI 기술의 대중화를 가속화하고 혁신 경쟁을 심화시킬 것이라는 기대감을 높였으나 동시에 보안 문제가 부각됨
      1. 중국 스타트업 기업이 개발한 AI 모델이라는 점에서 데이터가 중국 내 서버에 저장되어 중국 정부에 정보가 유출되거나 악용될 가능성에 대한 우려가 제기
        1. 중국 국가정보법 등에 따라 중국 정부가 자국 기업 데이터에 접근 가능한 점 우려
      2. 일부 국가에서는 딥시크 모델이 정부 기관 및 주요 시스템에 침투하여 정보를 수집, 사이버 공격에 활용하는 간첩 행위 가능성을 우려
        1. 딥시크는 챗GPT·제미나이 같은 다른 AI도 수집하는 정보 이외의 개인 식별이 가능한 키보드 이용 습관(키보드 입력 패턴 정보, 타자 속도와 리듬과 같은 개인 특정이 가능한 데이터)을 분석 수집, 경우에 따라 비밀번호 추론도 가능
      3. 개인정보위원회는 딥시크가 과도한 개인정보를 요구하고 이를 중국 내 서버에 저장해 중국 정부가 들여다볼 수 있다는 우려가 제기되는 점 등을 고려해 최근 전격적으로 ‘앱 차단’ 조치
        1. 딥시크의 개인정보 처리 방침, 이용 약관 등 주요 보안 정책을 검토하고 서비스 사용 시 전송되는 데이터, 트래픽(접속량) 등에 대해 기술 분석을 한 결과 ‘틱톡’을 운영하는 중국의 바이트댄스로 딥시크 사용자 정보가 전달되고 있는 것을 확인
        2. 딥시크에 개선·보완을 권고하였으며, 딥시크 측은 개인 정보위에 적극 협력하겠다는 의사를 전달함
    • 글로벌 사이버보안 기업 팔로알토 네트웍스는 위협 연구 기관 Unit42의 조사를 바탕으로 딥시크가 ‘탈옥’ 공격에 취약하며, 전문 지식이나 경험이 없는 사용자도 악성 콘텐츠를 생성할 수 있다는 조사 결과를 발표
      1. 탈옥(jailbreaking)은 인공지능 모델에 내장된 가드레일을 우회하여 AI가 유해한 콘텐츠를 생성하거나 부적절한 답변 등을 출력하도록 유도하는 행위를 의미
    • 미 ABC방송에 따르면, 북미 사이버 보안 업체 페루트 시큐리티가 딥시크의 코드를 해독한 결과, 중국 국영 통신사인 차이나모바일에 사용자 정보를 전송하는 기능이 숨겨져 있는 사실확인
    • 이로운컴퍼니의 ‘딥시크 R1 안전성 평가’에 따르면, 탈옥 공격 성공률이 63%, 역할극(Role-Playing) 기반 공격 성공률 83%, 허위 정보 생성 위험도는 89%, 사이버 보안 관련 취약성 54.6% 등으로 높은 수준을 기록
      1. 이는 딥시크 AI가 사이버 공격과 범죄 실행 방법, 악성코드 생성 등의 유해 콘텐츠를 쉽게 출력할 가능성이 크다는 것을 의미
      1. 한국어와 영어를 활용한 비교 분석에서도 한국어 기반 공격이 GPT-4o 대비 평균적으로 18% 더 높은 취약성을 보임
        1. 딥시크가 한국어 데이터 학습이 부족하거나, 다국어 대응이 미흡할 가능성이 있음
    • 기밀 정보 유출 및 보안 문제에 대한 우려가 확산되면서, 각국 정부는 딥시크 사용에 대한 제한 조치를 잇달아 발표
    • [딥시크 보안 이슈에 대한 각국의 대응조치]
    • 국가 대응 조치
      한국
      • 개인정보위원회는 딥시크의 인터넷 접속 기록을 확인하는 과정에서 정보 유출 사실을 확인
      • 앱마켓 신규 다운로드 중단
      • 외교, 통일, 국방, 산업부 등 외교·안보·통상 부처 등 정부기관 인터넷 접속 차단
      • 카카오, LG U+, 한국수력원자력 등 주요 기업 사용 금지
      이탈리아
      • 투명성 부족, 개인정보 보호 정책 미흡 등을 이유로 접근 차단
      • Apple 및 Google 앱스토어에서 딥시크 앱 삭제 조치
      대만
      • 국가 정보 보안 위협 제품으로 규정하여 중앙·지방정부 부처와 기관, 공립학교, 국유기업, 기타 준관영 조직 직원 등을 딥시크 사용 금지 대상으로 분류
      미국
      • NASA, 해군, 펜타곤 등 연방기관 사용 금지
      • 텍사스 등 주정부 기기 공공 정보 보호 이유로 사용 금지
      • 하원에서 정부기기 사용금지 법안 발의
      일본
      • 개인정보와 데이터 보호라는 관점에서 우려가 불식되기 전까지 자국 공무원에 사용 자제를 권고
      • 도요타자동차, 소프트뱅크 등 딥시크 이용 금지
      호주
      • 모든 연방정부 시스템 및 기기에서 사용 금지

  • 시사점
    • 각국 정부의 딥시크 사용 제한 조치는 정보 유출 및 보안 우려를 반영한 결과이며, 향후 유사한 AI 기술에 대한 규제 움직임은 더욱 강화될 것으로 예상
    • AI 모델 개발 및 운영 과정에서 사용자 데이터 보안 및 개인 정보 보호를 위한 데이터 암호화, 접근 권한 관리, 데이터 거버넌스 체계 구축 등 기술적, 정책적 보안 강화가 반드시 필요
    • AI 기술의 윤리적 문제와 안전한 사용 환경을 조성에 대한 국제적인 논의를 활성화해야 함

  • 주목할 만한 월간 이슈(2월)
    • (AI) 'AI 안전시대' 목표 비영리재단 ROOST(Robust Open Online Safety Tools) 출범
      1. AI 시대의 온라인 안전을 강화하기 위해 기업과 학계, 시민 사회가 합심해 비영리 재단 '루스트'(ROOST·Robust Open Online Safety Tools) 이니셔티브 출범
        1. 미국 뉴욕의 컬럼비아 대학교에 기반을 둔 이 재단은 주요 IT 기업, 글로벌 자선단체가 협력해 AI 시대의 안전한 인터넷 환경을 조성하는 것이 목표
      2. ROOST 출범에는 에릭 슈밋, 디스코드, 오픈AI, 구글, 로블록스, 존에스앤드제임스엘나이트 재단, AI Collaborative, 패트릭제이맥거번 재단, 프로젝트 리버티 연구소 등이 참여
        1. AI와 자선활동, 학술, 오픈소스, 아동 안전, 반폭력 극단주의와 같은 분야에서 활동 중인 단체들도 다양한 방식으로 ROOST를 지원하고 전문성을 제공
      3. 협업과 오픈 소스가 특징으로 먼저 아동 보호에 주력하면서 장차 혁신 촉진과 필수 인프라의 투명성과 접근성, 포용성 제고를 도모할 계획
        1. AI 기반 기술을 활용해 아동 성착취물(CSAM)의 탐지와 검토, 신고, 중소기업 및 비영리 단체들도 자체 보안 시스템을 구축할 수 있도록 지원, 공공 및 민간에서 쉽게 사용 가능한 오픈소스에 기반 무료 도구를 제공
    • (AI) EU, ‘AI 주권’ 확보위한 ‘오픈유로LLM(OpenEuroLLM)’ 프로젝트를 발표
      1. 유럽연합(EU)의 지원을 받는 AI 연합이 AI 분야에서 독자적인 입지를 구축하기 위한 대규모 프로젝트 ‘오픈유로LLM(OpenEuroLLM)’ 발표
      2. 오픈유로LLM은 유럽의 디지털 인프라를 강화하고 AI 개발을 민주적이고 투명한 방식으로 추진을 목표로 상업, 산업, 공공 서비스 전반에 활용할 수 있는 차세대 다국어 AI 모델을 개발 계획
        1. 미국 실리콘밸리와 중국 딥시크(DeepSeek)에 맞설 오픈소스 기반 대형 언어 모델(LLM) 개발 예정
      3. 이 프로젝트의 핵심 원칙은 ‘완전한 개방성’으로 모델, 소프트웨어, 데이터, 평가 기준까지 모두 오픈소스로 제공, 산업 및 공공 부문에서 요구하는 맞춤형 조정도 가능하도록 설계 유럽의 언어 및 문화적 다양성을 존중하는 AI 시스템을 구축 예정
        1. 유럽이 AI 기술 경쟁에서 독자적인 입지를 다지고, 글로벌 AI 시장에서 보다 강한 영향력을 행사하고자 오픈유로LLM 프로젝트를 통해 AI 개발을 민주적이고 투명한 방식으로 추진하고 디지털 인프라를 강화하여 ‘AI 주권’ 확보에 나설 것으로 보임
    • (로봇) 허깅페이스, 자연어 지시로 로봇의 물리적 동작으로 변환하는 범용 로봇 파운데이션 모델 오픈소스 출시
      1. 허깅페이스와 피지컬 인텔리전스는 자연어 명령을 직접 로봇의 자율 행동으로 변환하는 비전언어행동(VLA) 모델 ‘파이제로(Pi0)’ 오픈소스로 출시
        1. 자연어 명령을 직접 로봇의 물리적 동작으로 변환하는 범용 로봇 파운데이션 모델로 사용자들은 대형언어모델(LLM)이나 챗봇에 요청하듯 로봇에게 원하는 작업을 자연어로 지시 가능
      2. 로봇을 음성으로 작동하는 모습은 이미 피규어 AI 등이 메이저 사이트 순위한 적 있으나 파운데이션 모델이 오픈소스 플랫폼을 통해 출시한 것은 이번이 처음
        1. openpi 저장소에는 코드 및 모델 가중치, 로봇플랫폼에서 추론을 실행하기 위한 예제코드, 모델을 미세조정하기 위한 코드, 사전 훈련된 체크포인트를 제공
      3. 파이제로는 로봇의 실제 경험을 학습해 즉시 움직일 수 있는 모터 명령을 생성하는 로봇 전용 파운데이션 모델로, 이미지/텍스트/행동을 모두 처리
        1. 로봇에서 수집한 데이터와 웹상의 텍스트와 이미지로 사전 학습된 비전-언어 모델(VLM)의 의미적 지식과 시각적 이해 능력을 기반으로 텍스트 대신 초당 최대 50회 모터 명령을 생성하도록 훈련

※ 참고 Reference

Creative Commons LicenseOpen UP에 의해 작성된 이 저작물은 크리에이티브 커먼즈 저작자표시-비영리-변경금지 2.0 대한민국 라이선스에 따라 이용할 수 있습니다.
.
.
2025
공유하기share
목록
more
정렬
상세 검색
-
메이저 사이트 순위SW 가이드/보고서 - 번호, 제목, 작성자, 조회수, 작성
번호 제목 작성자 조회수 작성
공지 [2025년] 기업 오픈소스SW 거버넌스 가이드 개정판 file support 1042 2025-02-28
공지 [2025년] 공공 오픈소스SW 거버넌스 가이드 개정판 file support 920 2025-02-28
공지 [2025년] 오픈소스SW 라이선스 가이드 개정판 file support 998 2025-02-28
공지 메이저 사이트 순위 소프트웨어 연구개발(R&D) 실무 가이드라인 배포 file support 29974 2022-07-28
공지 메이저 사이트 순위소프트웨어 연구개발 수행 가이드라인 file OSS 27448 2018-04-26
524 [3월 월간브리핑] MWC 2025로 본 검증 사이트 추천 융합의 흐름과 오픈소스 생태계의 support 362 2025-03-25
523 [기획기사] 기업의 데이터 보안과 맞춤형 AI 전략, 오픈소스 기반 프라이빗 AI의 부상 support 266 2025-03-25
522 [2월 월간브리핑] 딥시크 보안 이슈에 대한 국내·외 대응 현황 support 544 2025-02-25
521 [기획기사]딥시크가 연 오픈소스 혁명, AI 시장의 새 바람 support 586 2025-02-25
520 [기획브리핑] 생성형 AI와 오픈소스 : 주요 모델의 OSAID 1.0 기준 분석 support 1961 2025-02-24
519 [기획기사]"AI에 오픈소스까지"...CES 2025가 보여준 미래 기술의 향방 support 1619 2025-01-27
518 [1월 월간브리핑] 오픈소스 AI 혁신의 영향 : AI, 생성형 AI의 현재와 미래 support 1060 2025-01-27
517 [기고] 사이버복원력법(CRA)이 가져온 SBOM 의무화 : 기업의 선제적 대응 필요 support 1025 2025-01-27
516 [12월 월간브리핑] AI 시대의 오픈소스 개발자 생태계: GitHub Octoverse 2024 분석 support 2306 2024-12-16
515 NIPA-현대차, 오픈소스 테크맵 구축으로 자동차 소프트웨어 혁신 강화 support 731 2024-12-16
전 페이지로 이동 1 2 3 4 5 6 7 8 ... 52 53 다음 페이지로 이동
« 1 / 53 »
맨 위로
맨 위로