Gödel Machine

AI researchers have long sought AI that continues learning indefinitely. One route is to have AI rewrite its own code (program) to encourage self-improvement. More than 20 years ago, Jürgen Schmidhuber proposed the Gödel Machine, a hypothetical self-improving AI. A Gödel Machine rewrites its own code when it can mathematically prove that a self-modification will lead to improvement, thereby solving problems optimally. This is an important concept in the field of “meta-learning,” in which AI learns how to learn. However, the Gödel Machine remains a theoretical entity, since it rests on the unrealistic assumption that one can “mathematically prove” that a self-modification brings improvement. We therefore devised a more practical approach in collaboration with Professor Jeff Clune's laboratory at the University of British Columbia. Using principles of open-ended algorithms resembling Darwinian evolution, it explores self-modifications leading to better performance on the basis of experience rather than mathematical proof. https://sakana.ai/dgm-jp/

AI研究者たちは長らく、どこまでも学習し続けるAIの実現を目指してきました。その一つの道筋が、AIに自分自身のコード（プログラム）を書き換えさせ、自己改善を促す方法です。ユルゲン・シュミットフーバー氏は20年以上前に、仮想的な自己改善型AIであるゲーデルマシン（Gödel Machine）を提案しました。ゲーデルマシンは、ある自己修正が改善につながると数学的に証明できた場合に、自身のコードを書き換え、それによって問題を最適に解くことができます。これは、AIが学習方法自体を学習する「メタ学習」の分野では重要概念となっています。 しかし、ゲーデルマシンはあくまで理論上の存在です。自己修正が改善をもたらすことを「数学的に証明できる」という、非現実的な仮定に基づいているためです。そこで私たちは、ブリティッシュコロンビア大学のジェフ・クルーン教授の研究室と共同で、より現実的なアプローチを考案しました。ダーウィン進化にも似たオープンエンドなアルゴリズムの原理を利用し、数学的な証明ではなく経験に基づいて、パフォーマンス向上につながる自己修正を探索するシステムです。 https://sakana.ai/dgm-jp/