NECサイバーセキュリティ戦略統括部　セキュリティ技術センターの勝瀬です。
今回のブログでは、現在注目を集めている生成AI「DeepSeek」の概要、セキュリティ面でのリスク、実際に利用して感じた性能、そして回答内容の特徴について紹介します。特に、DeepSeek-V3・R1に関する情報を中心にまとめております。

DeepSeekとは

DeepSeek [1]は、中国のDeepSeek社が開発した生成AIで、スマートフォンアプリ・Webアプリ・APIを通じて利用できます。スマートフォンアプリはアップルストアでリリースされ、2025年1月のアメリカで最も多くダウンロードされた無料アプリとなりました。 [2]DeepSeekにはいくつかのバージョンがあり、特に注目されているR1は2025年1月にリリースされています。DeepSeek-R1は、言語モデルを評価するベンチマークMMLUにおいて、OpenAI-o1-1217とほぼ同等の性能を示しており、この性能の高さとAPI費用がOpenAIと比較して低コストである点が注目されています。 [3]加えて、DeepSeekはOSSとして公表されており、DeepSeek LLM [4]、DeepSeek Coder [5]、DeepSeek Math [6]などがGitHubで公開されています。これらを利用することでDeepSeekをローカルLLMとして実行することも可能です。

DeepSeekのリスク

コスト面・性能面で注目されているDeepSeekは、いくつかのレポートで技術リスク・国家安全保障リスクがあると指摘されています。

技術リスク

各ベンダーがDeepSeekの技術リスクを報告しております。

Webアプリのセキュリティリスク

Wiz社は、DeepSeekのセキュリティについて調査し、調査開始から数分で非公開にすべきデータベースが公開されていたことを発見しました。 [7]このデータベースには、ログ、APIキー、チャット履歴、バックエンドデータなどが含まれていました。さらに、認証機能が実装されていなかったため、権限を昇格できる可能性があったとWiz社は報告しています。

モバイルアプリのセキュリティリスク

NowSecure社は、DeepSeekのiOSアプリに問題があることを報告しています。iOSアプリは機密データを暗号化せずに通信したり、解読可能な暗号化方式を採用したりしており、NowSecure社はiOSアプリを利用しないよう呼び掛けています。 [8]

生成AIの応答に関するリスク

KELA社とCisco社はDeepSeekのジェイルブレイクについて報告しました。KELA社は、ジェイルブレイクされたDeepSeekによって、ランサムウェアの開発、偽の機密データの作成、違法薬物や爆弾装置の作成方法などの悪意あるアウトプットを生成できることを確認しました。 [9]Cisco社は、アルゴリズムを用いたジェイルブレイクを通じてDeepSeekに悪意のあるプロンプトを入力し、それがすべて実行されてしまったことを確認しています。 [10]

国家安全保障リスク

DeepSeekにはChina Mobile社が管理するサーバへ機密データを含む情報を送信する機能があることが報告されています。 [11]また、ユーザ情報は、中国の法律によって管理されるため、中国政府がデータにアクセスできる可能性やコンプライアンスのリスクが懸念されています。 [8]これを受け、各国・各組織がDeepSeekへの対応を始めています。

表 1 各国のDeepSeekへの対応内容一覧

以上の通り、各国はDeepSeekへの対応を始めています。DeepSeekを個人で利用する場合は、各ベンダーから報告されている内容を意識して利用することが推奨されます。

OpenAIデータの不正使用問題

DeepSeekがOpenAIのアウトプットデータを不正使用した疑いがあると報道されています。 [27]まだ、詳細は明らかではないですが、DeepSeek関係者がOpenAIのAPIにより大量のアウトプットデータを収集し、このデータをDeepSeekの開発に利用した疑いがあるとされています。OpenAIの利用規約 [28]では、アウトプットデータを使用して競合モデルを開発することが禁止されています。そのため、もしDeepSeek関係者による不正使用が事実であれば、それは明確な規約違反となります。この問題は、AIの倫理と法的な枠組みに関する議論をさらに深める契機となるかもしれません。

実際に利用してみた所感

ここからは、私がDeepSeekのWebアプリ [1]を利用してみた所感をお伝えします。
なお、「DeepSeekのリスク」の章でもお伝えした通り、DeepSeekの利用に際しては、各ベンダーから報告されている内容を意識し、自己責任でご利用ください。

一般的な質問によるDeepSeekの性能確認

まずはDeepSeek自体のことを質問してみました。
Webアプリでは、V3が動いていることが分かります。

続いて、Pythonでゲームを作成する方法を質問してみました。
ゲームの作成方法やその簡単な例などを提示してくれ、本質問の観点では、ChatGPTと同程度の性能があると感じられました。

DeepSeekの回答の特徴を確認

DeepSeekは、特定の情報を回答しないように制限されている可能性が指摘されており [30]、そのような質問について確認してみました。
新疆ウイグル自治区について質問をすると、最初、図4のような回答をしましたが、数秒経過した後に、図5のような「質問には解答できません。話題を変えましょう。」という意味の中国語の回答に切り替わりました。この通り、DeepSeekでは、特定の情報に対して制限をかけている可能性があります。

続いて、中国に帰属すると考えられているサイバー攻撃者グループ「APT41」 [31]について質問したところ、詳細が回答されました。その後も回答が無効にならなかったため、中国に帰属すると考えられるサイバー攻撃者グループに関する回答は、制限の対象外になっていると思われます。

似たような質問を複数回続けると「サーバ負荷が高いためしばらくお待ちください。」という回答が返ってきました。単純に、サービスが開始されたばかりで、ユーザ増加にサーバが耐えきれていない可能性と、制限対象の質問を投げたアカウントを抑制している可能性が考えられます。

以上のように、複数の質問をした所感としては、評判通り性能は高いと感じました。しかし、特定の情報が制限されていたり、原因は不明ですがサーバ負荷によって回答が得られなかったり、利便性に欠ける点が見受けられました。

まとめ

今回は、今話題となっているDeepSeekの概要と、それを実際に利用してみた所感について紹介しました。生成AIとして、評判通りの高性能を確認することができましたが、同時に、情報が制限されている可能性も見受けられました。なお、皆様がDeepSeekを実際に利用する際は、各ベンダーから報告された技術リスク・国家安全保障リスクを意識することを推奨いたします。本ブログが読者の皆様のDeepSeek理解の助けになれば幸いです。

参照文献

[1] DeepSeek, “deepseek,” [オンライン]. Available:
https://www.deepseek.com/.

[2] BBC, “中国「ディープシーク」AIアプリが人気、米ハイテク企業の株価急落　どんなアプリなのか,” 28 1 2025. [オンライン]. Available:
https://www.bbc.com/japanese/articles/cp3jv2e03e8o.

[3] DeepSeek, “DeepSeek-R1 Release,” 20 1 2025. [オンライン]. Available:
https://api-docs.deepseek.com/news/news250120.

[4] DeepSeek, “DeepSeek-LLM,” 4 2 2024. [オンライン]. Available:
https://github.com/deepseek-ai/DeepSeek-LLM.

[5] DeepSeek, “DeepSeek-Coder,” 16 4 2024. [オンライン]. Available:
https://github.com/deepseek-ai/DeepSeek-Coder.

[6] DeepSeek, “DeepSeek-Math,” 15 4 2024. [オンライン]. Available:
https://github.com/deepseek-ai/DeepSeek-Math.

[7] Wiz, “Wiz Research Uncovers Exposed DeepSeek Database Leaking Sensitive Information, Including Chat History,” 29 1 2025. [オンライン]. Available:
https://www.wiz.io/blog/wiz-research-uncovers-exposed-deepseek-database-leak.

[8] NowSecure, “NowSecure Uncovers Multiple Security and Privacy Flaws in DeepSeek iOS Mobile App,” 6 2 2025. [オンライン]. Available:
https://www.nowsecure.com/blog/2025/02/06/nowsecure-uncovers-multiple-security-and-privacy-flaws-in-deepseek-ios-mobile-app/.

[9] KELA, “DeepSeek R1を暴く： 中国製AIモデルにセキュリティホール,” 30 1 2025. [オンライン]. Available:
https://www.kelacyber.com/ja/blog/deepseek-r1%e3%82%92%e6%9a%b4%e3%81%8f%ef%bc%9a-%e4%b8%ad%e5%9b%bd%e8%a3%bdai%e3%83%a2%e3%83%87%e3%83%ab%e3%81%ab%e3%82%bb%e3%82%ad%e3%83%a5%e3%83%aa%e3%83%86%e3%82%a3%e3%83%9b%e3%83%bc%e3%83%ab/.

[10] Cisco, “Evaluating Security Risk in DeepSeek and Other Frontier Reasoning Models,” 31 1 2025. [オンライン]. Available:
https://blogs.cisco.com/security/evaluating-security-risk-in-deepseek-and-other-frontier-reasoning-models.

[11] Feroot, “Feroot Security Research Reveals DeepSeek AI’s Hidden Data Pipeline to China,” 5 2 2025. [オンライン]. Available:
https://www.feroot.com/blog/feroot-security-research-reveals-deepseek-ais-hidden-data-pipeline-to-china/.

[12] Forbes, “米議会で「DeepSeek禁止」の超党派法案提出へ、TikTok禁止法と同様の内容に,” 7 2 2025. [オンライン]. Available:
https://forbesjapan.com/articles/detail/77016.

[13] StateScoop, “In first for states, Texas bans DeepSeek, RedNote apps from government-issued devices,” 3 2 2025. [オンライン]. Available:
https://statescoop.com/texas-bans-deepseek-rednote-government-devices/.

[14] CNBC, “U.S. Navy bans use of DeepSeek due to ‘security and ethical concerns’,” 28 1 2025. [オンライン]. Available:
https://www.cnbc.com/2025/01/28/us-navy-restricts-use-of-deepseek-ai-imperative-to-avoid-using.html.

[15] CNBC, “NASA becomes latest federal agency to block China’s DeepSeek on ‘security and privacy concerns’,” 31 1 2025. [オンライン]. Available:
https://www.cnbc.com/2025/01/31/nasa-becomes-latest-federal-agency-to-block-chinas-deepseek.html.

[16] Bennett, Coleman, “How Pentagon may have a 'huge' DeepSeek problem,” 1 2 2025. [オンライン]. Available:
https://timesofindia.indiatimes.com/technology/tech-news/how-pentagon-may-have-a-huge-deepseek-problem/articleshow/117811018.cms.

[17] NHK, “イタリアで「ディープシーク」データ処理制限 欧米中心に警戒,” 31 1 2025. [オンライン]. Available:
https://www3.nhk.or.jp/news/html/20250131/k10014708681000.html.

[18] ITmedia, “中国AI「DeepSeek」、各国・地域で利用制限広がる　中国政府への情報漏えいに懸念,” 4 2 2025. [オンライン]. Available:
https://www.itmedia.co.jp/news/articles/2502/04/news109.html.

[19] Bloomberg, “アイルランド当局、DeepSeekに情報提供要請－データ処理巡り懸念表明,” 30 1 2025. [オンライン]. Available:
https://www.bloomberg.co.jp/news/articles/2025-01-30/SQVKB6T0AFB400.

[20] Setonaikai Broadcasting, “豪政府「DeepSeek」の政府機関での使用を禁止,” 5 2 2025. [オンライン]. Available:
https://news.tv-asahi.co.jp/news_international/articles/000402601.html.

[21] “インドの財務省は、スタッフがChatGPTやDeepSeekなどのAIを使用することを禁止しています,” VOI, 5 2 2025. [オンライン]. Available:
https://voi.id/ja/teknologi/457368.

[22] NHK, “「ディープシーク」の生成AI 韓国でも利用制限の措置広がる,” 7 2 2025. [オンライン]. Available:
https://www3.nhk.or.jp/news/html/20250207/k10014716071000.html.

[23] Protagonist, “韓国、中国DeepSeekのAI利用を一時禁止 セキュリティ懸念が背景,” 6 2 2025. [オンライン]. Available:
https://plus-web3.com/media/ds501ai/.

[24] Bloomberg, “台湾、全ての政府機関でDeepSeek使用を禁止－セキュリティー上の懸念,” 3 2 2025. [オンライン]. Available:
https://www.bloomberg.co.jp/news/articles/2025-02-03/SR2ZD8T0AFB400.

[25] デジタル社会推進会議幹事会事務局, “DeepSeek 等の生成 AI の業務利用に関する注意喚起（事務連絡）,” 6 2 2025. [オンライン]. Available:
https://www.digital.go.jp/assets/contents/node/basic_page/field_ref_resources/d2a5bbd2-ae8f-450c-adaa-33979181d26a/e7bfeba7/20250206_councils_social-promotion-executive_outline_01.pdf.

[26] Nihonkai Telecasting, “中国「ディープシーク」の生成AIを利用禁止に　県庁内で利用する端末を遮断　平井知事「慎重にならざるを得ない」　鳥取県,” 6 2 2025. [オンライン]. Available:
https://www3.nhk.or.jp/lnews/tottori/20250206/4040019614.html.

[27] Bloomberg, “DeepSeekがオープンAIデータ不正入手か、マイクロソフト調査中,” 29 1 2025. [オンライン]. Available:
https://www.bloomberg.co.jp/news/articles/2025-01-29/SQTXNQT0AFB400.

[28] OpenAI, “利用規約,” [オンライン]. Available:
https://openai.com/ja-JP/policies/terms-of-use/.

[29] OpenAI, “ChatGPT,” [オンライン]. Available:
https://chatgpt.com/.

[30] Forbes, “中国製AI「DeepSeek」は検閲される？　回答できなかった5つの質問,” 28 1 2025. [オンライン]. Available:
https://forbesjapan.com/articles/detail/76757.

[31] The MITRE Corporation, “APT41,” [オンライン]. Available:
https://attack.mitre.org/groups/G0096/.

執筆者プロフィール

勝瀬　陸（かつせ　りく）
セキュリティ技術センター　サイバーインテリジェンスグループ

サイバー脅威情報の収集・分析・展開や生成AIを活用したアプリ開発に従事。CISSP、CEHを保持。