Roblox、AIチャットリフレーザーで不適切な言葉を自動修正
人気オンラインゲームプラットフォーム「Roblox」は、AIを活用したリアルタイムチャットリフレーザー機能を導入しました。この新機能は、ユーザーが入力した不適切な言葉やフレーズを、Robloxのポリシーに沿ったより適切な表現に自動的に置き換えるものです。
これまでのRobloxのチャットフィルターは、不適切な言葉を「####」のようなハッシュマークで置き換える方式でした。しかし、Robloxはこの方法が会話の流れを妨げ、コミュニケーションを困難にしていたことを認めています。新しいリフレーザー機能では、例えば「Hurry TF up」といった表現が「Hurry up!」のように修正されます。
メッセージが言い換えられた場合、チャットに参加している全員にその旨が通知され、送信者自身もどの言葉が編集されたかを確認できます。Robloxの最高安全責任者であるRajiv Bhatia氏は、このシステムがリアルタイムのフィードバックを通じてユーザーがコミュニティ基準を学び、採用する「フライホイール」を生み出すと説明しています。ただし、AIによってメッセージが修正されたとしても、不適切な言葉を繰り返し使用するユーザーはRobloxのポリシー違反としてペナルティの対象となります。
公式情報：Rethinking Chat for Fun, Gameplay, and Civility
年齢確認の強化と続く訴訟問題
このリアルタイムチャットリフレーザー機能は、現在、年齢確認済みの同年齢層のユーザー間のチャットで利用可能であり、Robloxの翻訳ツールがサポートするすべての言語に対応しています。
Robloxは、成人プレイヤーが子供を誘惑する「小児性愛者の問題」が報じられたことを受け、今年1月に義務的な年齢確認システムを導入しました。これにより、13歳未満の子供は特定の体験を除き、ゲーム内チャットを利用できなくなっています。
しかし、年齢確認システムの導入後も、Robloxに対する訴訟は続いています。2月にはロサンゼルス郡が、Robloxのプラットフォームが子供たちを小児性愛者の「容易な餌食」にしていると非難する訴訟を提起しました。さらに、ルイジアナ州の司法長官も最近、Robloxが「性犯罪者が子供たちを食い物にする公共の場を作り出した」と主張する訴訟を起こしています。