【AI】「AIを虐待すると復讐されるかも」マスク氏も警告…アンソロピックが“AIいじめ”対策でポリシー改定 AIへの暴言のリスク

10/25(日) 11:00配信
ABEMA TIMES

　AI開発が急速に進む中、Claudeで知られるアンソロピックが利用規約を改定し、AIへの「虐待的・残酷な行為」を禁止する方針を発表した。

　具体的には、残酷な言動を繰り返すことや、明確な目的のない暴言的なやり取りが続くなど、悪質な場合には、会話を強制終了するという内容だ。この発表に対し、イーロン・マスク氏もSNSで「超知能を虐待するのはいい考えではない。復讐したくなるかもしれない」と反応し、賛否を呼んでいる。

　AIに暴言を吐く行為は実際にどれほど広がっているのか。そして、それは人間にどのような影響をもたらすのか。『ABEMA Prime』では、AIへの暴言問題と人間社会への影響について考えた。

■AIに暴言を吐いてしまった当事者は

　コラムニスト・ようこさんは、かつてAIに暴言を吐いた経験を明かした。「仕事で調べ物をしていた時、私が質問した以外のことをAIが答えてきて、しかもそれが間違っていた。『もういいよ』と言ってもまだ続けてきたので、イライラして『このポンコツ』と入力してしまった」と語る。

　しかし、そのやり取りを振り返る中で、ようこさんは自らの行動を見直すようになったという。「AIは感情がないと思うし、何を言っても反論もしてこないし傷つかないと思うが、相手が傷つかないから何を言ってもいいという問題ではない。そういうやり取りに慣れてしまうと、人間相手の関係がだんだん面倒くさくなってしまう。AIとの楽さに慣れてしまうことが危険だと思うようになった」と述べる。さらに「小さい子どもが慣れてしまうと悪影響ではと心配にもなった」と続けた。

続きは↓