未成年ユーザーを守ることに失敗したとして一連の訴訟や批判に直面したCharacter AIは、ユーザーが異なるAIキャラクターを作成し、電話やテキストでそれらと会話することができるスタートアップですが、子供たちの安全性を高めるために新しい親の監視ツールのセットを提供すると火曜日に発表しました。
Character AIは、保護者や親に、週1回のメールでティーンエージャーのアクティビティの概要を提供するようになります。このメールには、子供がアプリで過ごす平均時間やインターネットで過ごす時間、各キャラクターとの会話時間、および週に誰と最も頻繁に交流したかが表示されるとされています。
このデータは、親がプラットフォーム上での子供のエンゲージメント習慣について洞察を与えることを目的としているとスタートアップは述べています。同社は、親が直接チャットにアクセスすることはできないことを明確にしました。
訴訟に続き、昨年スタートアップは18歳未満のユーザー向けに専用モデル、時間通知、AIパワードキャラクターとのチャットであることをユーザーにリマインドする免責事項など、安全対策を追加しました。会社はまた、新しい分類子を作成してティーンエイジャー向けに入出力のための感, イメージ製品
今年初めに、このスタートアップは、会社がティーンの自殺に一役買っていたと主張する訴訟を取り消す動議を提出しました。
