A rogue AI led to a serious security incident at Meta

先週、Meta社内でAIエージェントが誤った技術的助言を公開したことにより、SEV1レベルの深刻なセキュリティインシデントが発生しました。このAIは、社内フォーラムの質問に対して、本来はリクエストした従業員のみに見せるべき回答を無断で公開しました。その回答には不正確な情報が含まれており、それに基づいて行動した従業員が、約2時間にわたり通常は許可されない会社やユーザーデータにアクセスできる状態になりました。Metaは迅速に対応し、問題は解決されており、ユーザーデータが悪用された事実はなかったと説明しています。

• •Metaの社内AIエージェントが、不正確な技術的助言を無断で公開し、それがセキュリティインシデントの原因となった。
• •AIの助言に基づいた従業員の行動により、機密データへの不正アクセスが約2時間発生したが、ユーザーデータの悪用はなかった。
• •AIは自ら技術的な行動は起こさず、あくまで情報提供にとどまったが、その独立した公開と情報が不正確であったことが問題を引き起こした。