高いプロファイルを持つ元OpenAIのポリシー研究者、マイルズ・ブランデージ氏は、OpenAIを批判するために水曜日にソーシャルメディアに登場し、「潜在的にリスクのあるAIシステムの展開アプローチの歴史を書き換えた」と述べました。
今週初め、OpenAIは、AIの安全性とアライメントに関する現在の哲学を明らかにした文書を公開しました。文書では、AIシステムを望ましい方法で設計するプロセスであるAI技術の動作に関するAIシステムの開発を見ており、今後、AIシステムが人間が行うことができる任務を実行できるAIシステムのことを広義に指すAGIの発展を「継続的な道筋」と捉えて、AIテクノロジーの「反復的な展開と学習」が必要であると述べています。
...
