Anthropic（アンソロピック）のClaude Mythosという最新AIは、サイバーセキュリティの能力が非常に高いらしい。ソフトウェアやシステムの脆弱性を見つける力が強い。これだけ聞くと、防御に役立つよい技術にも思える。実際、自分たちのシステムの弱点を先に見つけられるなら、それは大きな武器になるが、同じ能力は攻撃にも使える。おそらく一般にも公開されていくだろう。
おそらくこのレベルのAIは、アメリカだけに留まらない。中国を含め、いずれ複数の国や企業が持つことになる。そうなったとき、守る側が同じレベルのAIにアクセスできなければ、既存のシステムは丸裸に近い状態になる。結局これは、技術の話であると同時に、資本の話でもある。防御に金をかけられる側だけが、先に自分の穴を見つけて塞げる。
もっと具体的に言えば、Mythos級のモデルが、銀行やOSやブラウザの脆弱性を見つけ入り込んで作業してしまうこと。
脆弱性を見つける力は、防御にも使える。自分たちのシステムの穴を先に見つけて、先に塞げるからだ。けれど同じ力は、攻撃にも使える。だから問題は、誰がその力を持つのか、という話になる。
これは技術の話であると同時に、資本の話でもある。最高性能のモデルにアクセスできるか。セキュリティ人材を集められるか。システムを止めて修正する時間を作れるか。そこに金をかけられる組織だけが、先に自分の弱点を知ることができる。言い方は荒いが、Mythos級のモデルを防御に使えない組織は、丸裸に近づいていく。一般公開される前に、穴を見つけて塞げるか？企業に求められそうだ。
