OpenAI、ロボティクス部門トップ辞任、司法監督のない監視や人間の許可なしの致死的AI運用に懸念

OpenAIのロボティクス部門のトップが辞任したことを明らかにし、その理由としてAIの使われ方に対する強い懸念を示した。本人は、これまでロボティクスチームと共に築いてきた仕事を大切に思っており、辞任は簡単な決断ではなかったと説明している。

AIは国家安全保障の分野で重要な役割を果たす可能性があるが、一方で深刻な問題もあると指摘している。特に、裁判所などの司法の監督なしにAIを使って市民を監視することや、人間の判断や許可を経ずにAIが自律的に致死的な行動を取るような仕組みは、もっと十分な議論が必要だったと述べている。

つまり、安全保障のためのAI活用自体は否定していないが、倫理や法的な議論が十分に行われないまま進められている点に強い問題意識を持ったということだ。

また、この決断は特定の人物への不満ではなく、自分の信念に基づくものだと説明している。OpenAIのトップであるサムやチームメンバーには深い敬意を持っており、これまで一緒に築いてきた成果については誇りに思っているとも述べている。
https://5ch.io