Host: 最近、メタのラマや中国のディープシークみたいに、無料でダウンロードして動かせるオープンなAIモデルがものすごく進化していますよね。

Listener: 本当によく耳にします。性能もトップクラスの有料モデルとほぼ変わらないって聞くのに、マイオービットではまだ使っていないんですよね。それってどうしてなんですか？

Host: 性能が劣っているからではありません。理由はとても単純で、私たちを含め誰も、そのモデルの中身を、人の暮らしや仕事を任せられるほどにはまだ確かめられないからなんです。

Listener: 中身を確かめられない？ でも「オープン」って言うくらいだから、中身は全部公開されているんじゃないんですか？

Host: そこが大きな誤解なんです。一般にオープンモデルと呼ばれているもののほとんどは、厳密には「オープンウェイト」なんですね。学習済みの重みデータ、つまり巨大な数字のファイルが公開されているだけで、どうやって作られたかというソースコードや学習データまで公開されているわけではありません。

Listener: なるほど、完成品の数字の塊を配っているだけで、レシピそのものを見せているわけじゃないと。でも、性能自体は最先端に迫っているんですよね？

Host: その通りです。スタンフォード大学のレポートでも、最上位のクローズドモデルとオープンモデルの差はわずか三パーセントちょっと、開発の遅れも平均でたったの四か月ほどと言われています。実力は本物です。

Listener: それほどのものを開発するのって莫大な費用がかかりますよね。なぜ無料で配るんでしょう？

Host: 企業の戦略です。たとえばメタなら自社のプラットフォームが他社のAI規格に縛られないための業界標準づくりですし、エヌビディアなら自社の半導体チップを使ってもらうためです。ただ、無料の裏には必ずそれぞれの企業の計画がある、ということは知っておく必要があります。

Listener: タダより高いものはない、というわけですね。でも、具体的にどんなリスクがあるんですか？ 勝手に個人情報がどこかに送信されたりするんでしょうか？

Host: 実は、モデルそのものが勝手にデータを送信するわけではありません。数字のファイル自体にそんな能力はないんです。本当のリスクは三つあります。モデルの周りのコード、ファイルの読み込み方、そしてモデルが学習した中身です。

Listener: 周りのコードと、読み込み方と、学習の中身……一つずつ教えてもらえますか？

Host: まず周りのコードですが、二〇二六年三月に、AIをつなぐ有名なオープンソースツールが乗っ取られ、秘密情報を盗む不正プログラムが仕込まれる事件がありました。わずか四十分の公開でしたが、数千社が影響を受けています。ダウンロードしたツールが本当に安全かという問題ですね。

Listener: 四十分でそんな被害が……！ 二つ目のファイルの読み込み方はどうですか？

Host: 古い形式のファイルだと、開いた瞬間に不正なプログラムが勝手に動いてしまう脆弱性があります。安全な保存形式も普及してきましたが、それは「ファイルを開いてもパソコンが壊れない」と保証するだけで、そのモデルがどんな言葉を覚えてきたかまでは教えてくれません。

Listener: そこで三つ目の「モデルが学習した中身」につながるわけですね。

Host: まさにそこが一番厄介です。普段は完璧に親切に振る舞うのに、特定の合図を見たときだけ悪意あるコードを出力するような「バックドア」を仕込む研究があるんです。わずか十件の学習例と百ドル足らずの費用で、危険な穴のあるコードを書くよう細工できてしまうという実証もあります。

Listener: 何十億個もの数字の中に埋もれていたら、パッと見て見つけるなんて不可能ですね……。でも、アマゾンやマイクロソフトのような大手のクラウド経由で動かせば安全なんじゃないですか？

Host: クラウドは通信の暗号化やデータの隔離をしっかりやってくれます。なので外部に会話が漏れる心配はありません。ただ、クラウド事業者も「モデルが何を出力するか」までは保証していないんです。頑丈な建物を用意してくれても、招き入れた人が信用できるかまでは別問題なんですね。

Listener: なるほど。でも、ちょっと意地悪な質問をしてもいいですか？

Host: どうぞ、なんでも聞いてください。

Listener: マイオービットが使っているアンソロピックやオープンエーアイのモデルだって、クローズドモデルだから中身の数字は見えないですよね。なぜそっちは信用できるんですか？

Host: 中身が見えるからではなく、法的な契約と説明責任があるからです。私たちは各社と直接契約を結んでいて、規約に違反すれば相手に法的な責任が生じます。そして何より、私たちの実際のタスクで膨大なテストを繰り返し、時間をかけて信頼を築いてきました。ネットから落としてきたファイルには、その責任の所在がありません。

Listener: 技術的な検査というより、責任を負える関係性があるかどうか、なんですね。

Host: その通りです。だから私たちはオープンモデルを排除しているわけではなく、人の暮らしや予定を預けられるレベルまで、私たち自身の徹底的な評価がまだ完了していない、というのが正直な現状なんです。中国のラボだからとか米国のラボだからという出身地の話でもありません。

Listener: もし今後使うようになるとしたら、どんな条件が揃ったときですか？

Host: 学習データまで全て公開するアレン研究所のオルモのようなモデルが増えること、隠れたバックドアを検知する技術が進むこと、そして何より私たち自身の厳しいテストをクリアすることです。導入するとしても、まずは限定的な補助作業からになるでしょうね。

Listener: 便利だからと飛びつかずに、誰が中身を確かめたのかを問い続ける姿勢が大事なんだとよくわかりました。

Host: ええ。詳しい技術データや引用文献はレポート本編にすべて載せていますので、気になった方はぜひそちらも覗いてみてください。