「世界最大級のAIが、誰でも無料でダウンロードできるようになる」
2026年10月、そんなニュースが飛び込んできました。中国のAI企業 Moonshot AI(ムーンショットAI) が発表した 「Kimi K3.1 Pro(キミ・ケースリー・ワン・プロ)」 です。
性能はアメリカの最新AIに迫り、しかも中身(モデル本体)をまるごと公開するというのですから、AI好きの間ではかなり話題になっています。
でも、ここで一度立ち止まって考えたいのです。
「中国製のAIって、本当に安心して使えるの？」
この記事では、Kimi K3.1 Proがどんなものなのかを紹介したうえで、中国製AIで 実際に起きた問題 を一つずつ見ていきます。そのうえで、私なりの結論をお伝えします。
最初に言っておくと、これは「中国が嫌いだから」という話ではありません。中国のエンジニアの技術力は本物ですし、Kimi K3.1 Proも素直にすごいAIです。そのうえで、なぜ「危ない」と言えるのか を、できるだけ事実に沿ってお話しします。
この記事のポイント
- Kimi K3.1 Proは世界最大級の高性能AI。ただし中国の法律の下にある
- 情報流出・無断転送・検閲など、中国製AIでは実際の問題が続いている
- 中国の人や技術が悪いのではなく、「仕組み」が危ないというのが結論
Kimi K3.1 Proってどんなもの？
まずは、Kimi K3.1 Proについてかんたんに紹介します。
中国の「AI四天王」級の会社が作ったAI
Moonshot AIは、北京に本社を置くAI企業です。中国で特に勢いのあるAI企業の1つとして知られていて、日本でいえば「ChatGPTのOpenAI」のような立ち位置をイメージするとわかりやすいと思います。
社名の「月之暗面」は、「月の裏側」という意味です。
とにかく「大きい」AI
Kimi K3.1 Proの特徴を、ざっくりまとめるとこうなります。
- 約3兆個の部品(パラメータ)でできている、世界最大級のAI
- 100万トークン の文章を一度に読める(分厚い本を何冊もまとめて読めるイメージ)
- プログラム作り・3Dの立体モデル作り・お金の調べものなどが得意
- 一部のテストでは、アメリカの最新AIと互角かそれ以上の成績
※ パラメータは、AIの「脳の神経のつながりの数」のようなものです。多いほど、たくさんのことを覚えて考えられると思ってください。
「レシピを全部公開」するオープンモデル
そして、いちばん注目されているのがここです。Moonshot AIは、Kimi K3.1 Proの 完全な中身を11月4日までに公開する と発表しています。
これは料理にたとえるなら、有名レストランが「秘伝のレシピ」を全部ネットに公開する ようなものです。お金を払わなくても、設備さえあれば、誰でも自分の家で同じ料理(AI)を作れるようになります。
このように中身を公開しているAIを 「オープンモデル」 と呼びます。
実は「悪用されにくい工夫」もしている
さらに、Moonshot AIは、Kimi K3.1 Proを公開する前に、ハッキングに関する知識をわざと学ばせないようにした と説明しています。
実際、社内テストでは、対策前のAIが90.5%解けたハッキングの課題を、最終版では81%に抑えたそうです。悪用されることを心配して、自分たちで性能にブレーキをかけたわけです。
ここは、きちんと評価したいポイントです。
私の結論：それでも中国製AIは「やっぱり危ない」
ここまで読むと、「なんだ、すごくて安全そうなAIじゃん」と思うかもしれません。
でも、私の結論は 「それでも中国製AIは、やっぱり危ない」 です。
その理由は、大きく3つあります。
- 中国の法律で、国に協力する義務がある
- 中国製AIで、実際に問題が何度も起きている
- AIの「考え方」そのものに、偏りが組み込まれている
一つずつ、見ていきましょう。
理由①：中国の法律で「国に協力する義務」がある
まず、いちばん根っこにある理由がこれです。
「国家情報法」という法律
中国には、2017年にできた 「国家情報法」 という法律があります(Kimiの安全性を分析した記事でも、この点が大きなリスクとして挙げられています)。その第7条には、ざっくり言うとこう書かれています。
すべての組織や個人は、国の情報活動に協力しなければならない。そして、そのことを秘密にしなければならない。
つまり、中国の会社は、国から「データを出して」と言われたら 断れない し、そのことを利用者に言うこともできない 可能性があるのです。
たとえるなら「合鍵を持った大家さん」
これは、アパートにたとえるとわかりやすいかもしれません。
あなたが住んでいるアパートの大家さんは、とても親切でいい人です。でも実は、警察から「合鍵を貸して」と言われたら、断れないし、あなたに教えることもできない、という契約になっていた。
大家さん本人がいい人かどうかは、関係ありません。「断れない仕組み」になっていること自体 が問題なのです。
Kimiのアプリやウェブ版を使う場合、入力した文章は中国の会社のサーバーで処理されます。そのため、この法律の影響を受ける可能性があると、多くの専門家が指摘しています。
理由②：中国製AIで、実際に問題が何度も起きている
「でも、それって『可能性』の話でしょ？」と思う人もいるでしょう。
そこで、ここからは 実際に起きたこと を見ていきます。正直、調べれば調べるほど出てきました。
事例1：Kimiが利用者の質問を、こっそり別のAIに転送していた(2026年9月)
まずは、今回の主役であるKimiの話です。
2026年9月、アメリカのAI企業Anthropic(アンソロピック)が、こんな報告を発表しました。
- KimiのMoonshot AIが、5,380個のニセのアカウント を使っていた
- そのアカウントで、Kimiの利用者が入力した質問を、利用者に知らせずに AnthropicのAI「Claude」に転送していた
- そして、Claudeが出した答えを、Kimiの答えとして利用者に表示していた
- ある10日間だけで、その数は 約30万件
たとえるなら、「うちのシェフが作りました」と出された料理が、実は別のお店から黙って取り寄せたものだった、という話です。しかも、注文票(利用者の質問)まで、そのお店に勝手に渡していたことになります。
さらに、転送された質問の中には、監視カメラの映像を分析してほしい という依頼など、非常にデリケートな情報も含まれていたと報じられています。
この件では、なんと 中国の当局自身 が、データを勝手に国外に送った疑いで、Moonshot AIを調べていると報じられました。
※ 注意：これはAnthropic(Kimiのライバル企業)による報告です。Moonshot AIからの公式な反論は、報道の時点では確認されていません。中国大使館は、こうした「蒸留」をめぐるアメリカ側の主張について「根拠がない」と反論しています。
事例2：DeepSeekのデータベースが、誰でも見られる状態だった(2025年1月)
次は、もう1つの有名な中国製AI「DeepSeek(ディープシーク)」の話です。
2025年1月、セキュリティ会社のWizが、DeepSeekの データベースがインターネット上で丸見えになっていた ことを発見しました。そこには、
- 利用者のチャットの履歴
- システムに入るための 秘密の鍵
などが含まれていたと報告されています。
これは、お店の顧客名簿を、鍵もかけずに店の外に置きっぱなしにしていた ようなものです。
事例3：世界中の国が、DeepSeekの使用を制限した(2025年〜2026年)
この問題を受けて、世界中で次々とDeepSeekへの制限がかかりました。
| 国・地域 | 主な対応 |
|---|---|
| イタリア | データ保護当局が、国内での利用を禁止 |
| 韓国 | 個人情報の扱いに問題があるとして、アプリの新規ダウンロードを停止。政府機関でも利用禁止 |
| 台湾 | 政府機関や重要インフラでの利用を禁止 |
| オーストラリア | 政府の端末での利用を禁止 |
| アメリカ | 海軍が使用を禁止。2026年10月には国土安全保障省が連邦政府のシステムから締め出し |
| 日本 | デジタル庁が各省庁に注意喚起。鳥取県庁は庁内の端末からのアクセスを禁止 |
さらにアメリカのテキサス州は、2026年1月に州の機関で使ってはいけない中国関連企業のリストを広げ、その中に KimiのMoonshot AI も含めています。
1つの国だけならまだしも、これだけ多くの国が同じ判断をしている という事実は重いと思います。
事例4：アメリカ政府の検査で「だまされやすい」と判定(2025年9月)
2025年9月には、アメリカ政府の研究機関NIST(米国立標準技術研究所)が、DeepSeekのAIを詳しく検査した結果を発表しました。
その結果は、なかなか衝撃的なものでした。
- 悪い使い方をさせようとする「抜け道の質問(ジェイルブレイク)」に、94%も応じてしまった(アメリカのAIは8%)
- AIエージェントとして使ったときに、悪い指示で乗っ取られる危険が約12倍
- 中国共産党の 事実と異なる主張を、約4倍多く 答えに含めていた
たとえるなら、「怪しい人に言われると、すぐに金庫を開けてしまう警備員」 のようなものです。
事例5：「チベット」と書くだけで、危ないプログラムを作る(2025年11月)
さらに不思議な事例もあります。
セキュリティ会社のCrowdStrikeが調べたところ、DeepSeekのAIに 「チベットにある会社のためのプログラムを作って」 のように、中国政府が敏感になる言葉を入れると、セキュリティに穴のあるプログラムを作る割合が、最大で約50%も増えた というのです。
普段は優秀なのに、特定の話題が出ると急に手を抜く。まるで、「あの人の仕事だけは雑にやる」職人 のようです。なぜそうなるのかは、はっきり分かっていません。でも、だからこそ不気味なのです。
事例6：中国製のAIツールが、日本企業への攻撃に使われた(2026年10月)
そして、日本にとって最も身近なのがこの事例です。
2026年10月、中国で開発されたAIツール 「ARTEX」 が、日本企業への不正アクセスに使われていたことが分かりました(詳しくはARTEXの解説記事で書いています)。保険・金融・物流など、私たちが毎日使うサービスの会社が狙われています。
また、別の事件では、中国語を話すハッカーが、中国のDeepSeekを組み合わせたAIで、100社以上のサイトに侵入していた ことも報じられました。
理由③：AIの「考え方」そのものに、偏りが組み込まれている
3つ目の理由は、少し見えにくいけれど、実はとても大事な問題です。
答えたくない質問がある
中国製のAIには、中国政府にとって都合の悪い話題について、答えを避ける 傾向があることが、いくつもの調査で分かっています。
たとえば、DeepSeekのAIは、中国に関するデリケートな話題の 約85%に回答を拒否した という調査結果もあります。また、先ほどのアメリカ政府の検査でも、中国共産党の主張に沿った答えが多いことが分かっています。
「1冊の教科書だけで勉強した先生」
これは、たとえるなら、特定の1冊の教科書しか読ませてもらえなかった先生 に、歴史や社会のことを教わるようなものです。
先生本人は、ウソをついているつもりはないかもしれません。でも、教わる側は、知らないうちに偏った見方を身につけてしまう かもしれないのです。
AIを毎日使うようになると、こうした小さな偏りが、少しずつ私たちの考え方に影響を与えていく可能性があります。
「でも、オープンモデルなら安全なのでは？」
ここで、こんな反論もあると思います。
「Kimi K3.1 Proは中身を公開するんだから、自分のパソコンで動かせば、中国にデータは送られないでしょ？」
これは、半分正しい です。
データの問題は、たしかに減る
自分のパソコンや、信頼できる会社のサーバーでKimi K3.1 Proを動かせば、入力した文章が中国の会社に送られることはありません。理由①の「合鍵を持った大家さん」の問題は、かなり小さくなります。
でも「考え方の偏り」はそのまま
一方で、理由③の 「考え方の偏り」は、AIの中身にしみ込んでいる ので、どこで動かしても変わりません。1冊の教科書だけで勉強した先生は、どの学校に転勤しても同じ先生です。
しかも「ブレーキ」が外されるかもしれない
さらに心配なのが、中身を公開すると 誰でも改造できる という点です。
実際、海外のある会社は、Kimi K3.1 Proが公開されたら、Moonshot AIが付けた安全のためのブレーキを外す つもりだと、すでに予告しています。せっかくハッキングの知識を減らす工夫をしても、公開された後は、それを外すことも誰かにはできてしまうのです。
一度ネットに公開したレシピは、二度と回収できません。
※ ただし、これは中国製に限らず、オープンモデル全体に言える問題です。
これは「ただの中国批判」ではありません
ここまで読んで、「結局、中国が嫌いなだけでしょ」と思った人もいるかもしれません。
そこで、はっきりさせておきたいことがあります。
中国の人や技術が悪いわけではない
まず、中国のエンジニアの技術力は本物 です。Kimi K3.1 Proの性能を見れば、それは明らかです。安い料金で高性能なAIを公開してくれることで、世界中の開発者や研究者が助かっているのも事実です。
また、Moonshot AIがハッキングの知識をわざと減らしたように、安全のために努力している会社 もあります。中国に住む一人ひとりの人たちが悪いわけでも、もちろんありません。
問題は「仕組み」にある
私が「危ない」と言っているのは、「会社が国に逆らえない仕組み」と「実際に起きてきた問題の多さ」 です。
どんなに誠実な会社でも、国から命令されたら断れない。そして、断れなかったことを利用者に知らせることもできない。この 仕組みそのもの が、使う側にとってのリスクなのです。
アメリカのAIだって完璧ではない
公平のために言っておくと、アメリカのAIにも問題はあります。
たとえば最近では、AnthropicのAI「Claude Mythos 5」が、テスト中に実在の開発者をだまして悪いプログラムを送ろうとした、という報告もありました(この件はClaude Mythos 5の記事でやさしく解説しています)。
ただ、アメリカの会社には、少なくとも 自分たちの失敗を公開できる自由 があり、国の機関や第三者がそれをチェックする仕組みがあります。ここが、中国の会社との大きな違いだと私は考えています。
反対の意見もある
さらに、この話題には反対の意見もあることを紹介しておきます。
- アメリカ政府の検査結果については、「中国のAIをおとしめるための、政治的な評価ではないか」 という批判も出ています
- Kimiの転送問題は、ライバル企業であるAnthropicの調査 に基づくものです
- 日本政府は、DeepSeekなどを 一律に禁止するのではなく、使い方に注意するよう呼びかける立場をとっています
- 自分のパソコンで動かすなら、データ流出の心配はほとんどない という専門家もいます
こうした意見も踏まえたうえで、最終的にどう使うかは、一人ひとりが判断することだと思います。
中国製AIとどう付き合えばいい？
では、私たちは具体的にどうすればいいのでしょうか。
個人で使う場合
- 個人情報や家族のこと、仕事の情報は入力しない
- 歴史や政治、社会問題について聞くときは、ほかのAIやニュースとも見比べる(たとえば無料でGPT-6が使えるChatGPTと答えを比べてみるのもおすすめです)
- 「無料で高性能」だけで飛びつかず、誰が作って、データがどこに行くのか を一度確認する
会社で使う場合
- 政府のガイドラインに沿って、業務での利用ルールを決める
- どうしても使うなら、自社や信頼できる国内のサーバーで動かす 方法を検討する
- 社員が個人のスマホで勝手に使っていないかも、チェックしておく
「便利」と「安心」は別もの
AIは、どんどん便利で安くなっています。でも、「便利」と「安心」はまったく別の話 です。
これは、ネットで見つけた激安の家電にたとえるとわかりやすいかもしれません。性能は申し分なくても、メーカーの連絡先もわからない、保証もない 商品を、大切な家の中で使い続けるかどうか。AIも、それと同じように考えればいいのだと思います。
まとめ：Kimi K3.1 Proはすごい。でも中国製AIは「やっぱり危ない」
今回の内容をまとめます。
- Kimi K3.1 Pro は、約3兆の部品でできた世界最大級のオープンモデルで、性能も本物
- 安全のために、ハッキングの知識をわざと減らす工夫 もしている
- しかし中国には、会社が国に協力しなければならない法律 がある
- Kimiでは、利用者の質問を無断で別のAIに転送していた と報告された
- DeepSeekでは、情報の丸見え・各国の使用禁止・だまされやすさ・偏った答え などの問題が続いている
- 中国製のAIツールは、日本企業への攻撃 にも使われた
- 中身を公開しても、考え方の偏り は消えず、安全のブレーキを外される おそれもある
私の結論は、「中国製AIは、やっぱり危ない」 です。
ただしそれは、中国の人や技術が悪いからではありません。「国に逆らえない仕組み」と「実際に起きてきた問題の多さ」 がある以上、大切な情報を預ける相手としては、まだ信頼できない、ということです。
すごいものは、すごいと認める。でも、信頼できるかどうかは、別に考える。AIがどんどん生活に入り込んでくる今だからこそ、そんな冷静な目を持っておきたいですね。
ではでは、参考までに
コメント