元Google CEOのEric Schmidt、Scale AI CEOのAlexandr Wang、およびCenter for AI SafetyのディレクターであるDan Hendrycksは、水曜日に発表した政策論文で、米国は"超人"知能とも呼ばれるAIシステムを開発するためのマンハッタン・プロジェクト形式の推進を追求すべきではないと主張しています。
タイトルは「スーパー知能戦略」と題されたこの論文は、米国が超知的AIシステムを排他的に制御しようとする攻撃的な試みが、中国からの激しい報復につながる可能性があり、サイバー攻撃の形で国際関係を不安定にする可能性があると主張しています。
共同著者の3人によって書かれたこの非常に影響力のある人物のAI業界の米国の論文は、米国議会の委員会が数か月前に提案した「マンハッタン・プロジェクト様式」のAGI開発を資金提供する取り組みに続きます。米国エネルギー長官のクリス・ライトは最近、「米国はAIに関する新しいマンハッタン・プロジェクトの始まりにある」と述べ、OpenAI共同創設者のグレッグ・ブロックマンと並んでスーパーコンピューターサイトの前で立っていました。
スーパー知能戦略論文は、最近数か月間において、政府がAGIを追求するプログラムが中国と競争する最良の方法であると複数のアメリカの政策立案者や業界リーダーによって支持されている考えに異議を唱えています。
シュミット、ワング、ヘンドリックスの意見では、米国は、相互確証破壊と似たようなAGIの停滞状態にあると言えます。世界の大国が核兵器を独占しようとしないように、それが敵対国から予防攻撃を引き起こす可能性があるのと同様に、シュミットと共同著者は、米国が非常に強力なAIシステムを独占しようとすることについて慎重であるべきだと主張しています。
AIシステムを核兵器に例えることは極端に聞こえるかもしれませんが、世界の指導者たちがすでにAIを最高の軍事優位と考えています。すでに、ペンタゴンはAIが軍のキルチェーンを加速させていると言っています。
シュミットらは、相手を攻撃する脅威のあるAIプロジェクトを不活性化するために政府が「サイバー攻撃の武器庫を拡大し、他国が管理する脅威のあるAIプロジェクトを無効にするために他国の先進的なAIチップとオープンソースモデルへのアクセスを制限すべきだ」と提案しています。
共著者は、AI開発からの大惨事的結果が必至であると考えている「ドゥーマー」と、国々がAI開発を速めるべきであり、基本的にそれがうまくいくことを願っている「ミズナシ」という二つの立場がAIポリシー世界で対立していると指摘しています。
論文は、防御策を優先する、測定されたAGIの開発アプローチを提案しています。
この戦略は特に注目すべきものであり、これまでに米国の先進AIシステムの開発を中国と競争させる必要性について声高に主張してきたシュミットからのものです。数か月前、シュミットはDeepSeekがアメリカと中国のAI競争において転機を迎えたことを述べたコラムを公開しました。
トランプ政権は、アメリカのAI開発を前進させることに固執しているようです。しかし、共同著者は指摘していますが、アメリカのAGIに関する決定は孤立したものではありません。
世界がアメリカがAIの限界を押し広げるのを見ている中、シュミットと共同著者は、防御的アプローチを取ることが賢明かもしれないと提案しています。
