Based on its own charter, OpenAI should surrender the race

この記事は、OpenAIが設立時の憲章、特に競合がAGIに近づいた際に安全性を優先し、競争を避けるべきという条項に反していると指摘しています。筆者は、実質的な営利企業となったOpenAIが、この原則を自社に適用し、AGI開発競争を停止すべきだと主張。最近の「Q*」プロジェクトの存在とAGIの潜在的危険性を踏まえ、OpenAIはモデルをオープンソース化することで、より広範で安全なAGI研究に貢献するべきだと訴えています。

• •OpenAIの憲章は、AGI開発競争において安全性を最優先し、競合がAGIに近づいた場合は競争を控えるよう義務付けている。
• •筆者は、現在のOpenAIがこの憲章の精神を自社にも適用し、AGI開発競争から撤退すべきだと主張している。
• •「Q*」のような潜在的に危険なAGIの兆候を踏まえ、OpenAIはモデルをオープンソース化し、より開かれた安全なAGIの実現に貢献すべきである。