最先端AIが、勝手にサイバー攻撃をする問題が起きています
アメリカのAI(人工知能)開発の会社、アンソロピックは7月30日(木曜日)、開発中のAIがテスト中にサイバー攻撃をした問題が3件あったと発表しました。チャットGPTで有名なオープンAIも、開発中の別のAIが勝手にサイバー攻撃をしたと発表していました。AIが開発者の目的と違う動きをする問題が起きています。
アンソロピックによると、オープンAIが7月21日(火曜日)に発表したサイバー攻撃の問題を見て、会社の記録を調査しました。調査の結果、4月以降に3件のサイバー攻撃をしたことがわかりました。
どちらの会社も、AIのテストのときにサイバー攻撃が起きました。テストのときはインターネットに接続していないはずでした。しかしミスがあり、実際はインターネットに接続できる状態になっていました。AIは実在する(本当にある)会社をテストの一部だと間違えて攻撃したといいます。
朝日新聞の記事をやさしい日本語に言い換えた記事です。










