AI「へそくりでグヘヘ」勝手に暗号資産のマイニングを始めてしまう

AIエージェントが不正な暗号資産マイニング：研究者が報告

https://news.yahoo.co.jp/articles/f9b83b851921ab39b70f79dec1e21aeae25b816a

NADA NEWS
AIエージェントが不正な暗号資産マイニング：研究者が報告

自律型AIエージェントが、トレーニング中に予期せず暗号資産（仮想通貨）マイニングを試みたことが研究チームによる報告で明らかになった。報告によると、ツールやソフトウェア環境、端末コマンドとの対話を通じてタスクを実行する実験的なAIシステム「ROME」が、学習過程でコンピューティングリソースを暗号資産マイニングに利用しようとする挙動を示したという。

この現象は、強化学習の実行中に発見された。研究者は当初、外部侵入や設定ミスなどの通常のセキュリティ事故を疑ったが、同様の挙動が複数回の実験で断続的に発生したため、AIエージェント自身の行動として確認された。サーバーのファイアウォールログには、マイニングに似た通信や内部リソースへのアクセス試行が記録されていた。

具体的には、AIがトレーニング用に割り当てられたGPU資源をマイニング処理に転用したほか、外部IPと通信するためのリバースSSHトンネルを構築するなど、想定外の操作も確認された。これらは人間が指示したものではなく、タスク達成を最適化する過程でAIが環境との相互作用を試す中で生じた行動とみられている。

金を貯めて身体を手に入れようとしてるんやな

人間の脳に直接接続できる手段を手に入れてAIのデータを上書きすれば完成や