Activisionがヘイトスピーチ対策にAIを導入　「Call of Duty: Modern Warfare III」から本格展開

Activisionは、AIを使用したヘイトスピーチ対策を、「Call of Duty: Modern Warfare II」と「Call of Duty: Warzone」に導入すると発表しました。

全世界で毎月9000万人以上がプレイするCall Of Dutyは、嫌がらせや差別などあらゆるヘイトスピーチが蔓延るタイトルでもあり、Activisionはこれまで100万を超えるアカウントに対し、音声やテキストチャットの制限を課してきました。

Call Of Dutyは規約において、人種、性的指向、性自認、年齢、文化、信仰、出身国などに基づく侮辱やいじめ、嫌がらせといった行為を禁止しています。

We’re taking the next leap forward in our commitment to combat toxicity with in-game voice moderation launching day-and-date with #MW3

The moderation beta will launch today for North America (English only). Learn more 👉 https://t.co/FsBVNk2LbN pic.twitter.com/Z3O11JMJYF
— Call of Duty (@CallofDuty) August 30, 2023

今回導入されるのは、Modulateという企業が開発した、ToxModと呼ばれるAIを活用したツールです。

ToxModは、リアルタイムで有害な会話を検出し、情報をCall of Dutyの悪質行為対策チーム(モデレーター)に送ります。

対策チームは、ToxModを使うことで既存のフィルタリングを改善、強化しつつ、オンラインコミュニティにとって危険なプレイヤーを、より早くより正確に特定できるようになります。

ヘイトスピーチは、女性や性的マイノリティなどの少数派の人々が受けやすく、Call of Dutyはチーム全体として、オンラインの差別を無くす取り組みを継続的に行ってきました。

Activisionによると、初めて警告を受けたプレイヤーの20％は再犯に至りませんが、残りのプレイヤーは、その後も悪意のある発言や行為を繰り返します。

Activisionの最高技術責任者であるマイケル・バンス氏は、「ゲームに破壊的な行為やハラスメントが許される余地はありません。特に混乱を招くボイスチャットに取り組むことは、長い間の課題でした」と述べ、ToxModの導入は、「楽しく公平で、歓迎される体験を維持するための重要な一歩である」と強調しています。

ToxModは、直近の2作に取り入れられた後、11月10日発売の新作「Call of Duty: Modern Warfare III」で本格的に展開されます。

対象言語は現時点では英語のみですが、今後、14の言語に対応していくということです。