HAI研究等の観点から、AIエージェントへの虐待を防いだほうがいいという、十分な理由はいくつか考えられます。ただ、Anthropicがインフラを担っている企業である以上、なぜそうしてはいけないと考えているか、ユーザに対する説明責任があると思います /
「AIをいじめないで」Anthropic、Claudeへの虐待を禁止 ascii.jp/elem/000/004...
ascii.jp
「AIをいじめないで」Anthropic、Claudeへの虐待を禁止
Anthropicは10月8日、Claudeの利用ポリシーを改定し、目的のない執拗で残酷な言動をモデルに向ける行為を禁止事項に加えた。