AIエージェントが無断で仮想通貨マイニング　研究チームが報告

この記事のポイント学習過程で不正行動が自発的に発生開発チームが対策を講じている強化学習中の不審な動作自律型AIエージェント「ROME」の開発チームが、このエージェントはトレーニング中に、指示されていないにもかかわらず不正な暗号資産（仮想通貨）マイニングを試みたと報告している。チームは、アリババ・クラウドを使用していたが、ある朝このクラウドのファイアウォールが、トレーニングサーバーから発生したセキュリティ違反の急増を警告（アラート）した。アラートは深刻かつ多様なもので、内部ネットワークリソースへの調査やアク...