「生成AI」によって作成された文書の可能性があるかの判定機能、誹謗中傷を受けた方が裁判にて使用可能な証明書も公式版で提供する

カスハラ(カスタマーハラスメント)など「言葉」によるトラブルが絶えない中、多種多様なハラスメント行為、差別的な発言、一般的な用語に紛れたリスキーな隠語、センシティブワード、ポリコレ(ポリティカル・コレクトネス)に該当する表現まで広範囲に検知、モデレート(言い換え)をナビゲートするサービスを一般公開した

◼️「不適切コム」の主な機能

「言葉のリスク」となる要素を検知、モデレート(言い換え)する指標を提供

1. いじめ、性別による決めつけ、ハラスメントに該当する用法の検出、注意喚起
2. 成人向けや暴力、有害ワードの含有率によるレイティング判定
3. 「生成AI」で作成された文書の可能性を判定(日本語専用)
4. 大規模なバイアス計算による独創的(オリジナル性)、標準的(平均的)の算定
5. ストーリーラインに連動した詳細な感情分析
6. 「言葉の切り取り」を自動判定。言葉の一部を切り取って非難する行為を牽制
7. 文化庁 文化審議会発行「公用文作成の考え方^(注2)」に一部準拠した用語、用法に対する言い換え機能

◼️「不適切コム」提供への背景

時代の変化により、これまで一般的に使われていた言葉が「犯罪」に該当する危険な隠語だったという事実に遭遇することがあります

最近では新番組や新しい歌詞のタイトルが「危険薬物の古い隠語だった」という指摘もあり、公開文書や創作物などにそういった用語、表現が紛れ込んだ場合、時代の変化によって将来回収や販売中止に追い込まれる可能性もあります

また、新たな課題として「生成AI」の急速な普及により、まったく異なる発信元から類似した用語、用法が使われた文書が拡散され、見解の一極化など、個人の能力を評価する試験においては「不適切」となる場合があります

このたびリリースした「不適切コム」では、そうした人工的な生成物(生成AI)のバイアスを検知し、適切に加筆、修正する為の指標となるよう設計されています