Microsoft PhotoDNA scanning problem

MicrosoftのPhotoDNAスキャンシステムが、正規のゲームスクリーンショットを誤ってCSAMと判定し、ユーザーのOneDriveと関連するメールアカウントをロックアウトしました。ユーザーは自動化された誤検出と、その後の不透明で時間がかかる異議申し立てプロセス、そして人間によるレビューの欠如に強い不満を表明しています。アカウントは最終的に解除されましたが、この一件はAIによる監視システムの誤作動が個人のデジタルライフに与える甚大な影響を示しています。

• •Microsoft PhotoDNAが正規の画像を児童虐待素材（CSAM）と誤認識し、ユーザーのOneDriveとメールアカウントをロックアウトした。
• •誤検出後の異議申し立てプロセスは不透明で時間がかかり、AIによる自動判定の正確性や人間によるレビューの欠如が問題視された。
• •この事例は、AIを用いたコンテンツ監視システムが誤作動した場合、ユーザーのデジタルライフに深刻な影響を与える可能性を浮き彫りにした。