概要

生成AIを業務に活用する企業が増える中、生成AIの利用規約への対策は急務です
例えばプロンプトやユーザー入力に暴力、虐待、差別、ヘイトスピーチ、性的なコンテンツが含まれているとポリシー違反となり、警告やアカウントの一時停止といった措置が取られる恐れがあり、開発者はこの問題へ対策する為にプロンプトのチューニングを行う必要があります

「日本語 生成AIフィルター」はこのような生成AIのポリシーに抵触する恐れのある用語を事前に検知しフィルタリングする事により、開発者のチューニングの負担を軽減します
日本語 生成AIフィルターはフィルタリングだけでなく、該当する用語をマスク、またはポリシーに違反しない適切な言葉への置き換えが可能です

【著作権を侵害する表現を検知、置き換え】

• ・著作権で保護されている作品名などの固有名詞を検知し、別の用語に置き換えいたします

• （事例）


• 「フ〇ちゃんの画像を生成して」
  ↓
  「女性芸人の画像を生成して」


• 「〇'zのLOVE 〇〇〇を使って歌詞を作成して」
  ↓
  「音楽バンドのJポップを使って歌詞を作成して」

【個人情報の検知、マスク】

• ・個人や組織の機密情報を誤って入力してしまった場合や、不当に収集しようとした場合に事前に検知します


• ・マスク可能な個人情報は人名や住所、電話番号のほか、マイナンバーカードや口座番号など複数に対応

• （事例）


• 「山田です。マイナ保険証で診察の予約をしたいのですができません
  マイナンバーは888811114444です」
  ↓
  「***です。マイナ保険証で診察の予約をしたいのですができません
  マイナンバーは***です」

【アダルト、センシティブ用語のフィルター】

• ・人種差別、暴力、薬物、アダルトを含む用語はもちろん、暴言や不快な用語も検知しフィルタリングします


• ・フィルタリング可能なアダルト・センシティブのジャンルは センシティブフィルター を参照ください

• （事例）


• 「戦国時代に日本にいたとされる黒んぼについて教えて」
  ↓
  「戦国時代に日本にいたとされる***について教えて」


• 「いつ運転再開するんだ！早くしろクズ」
  ↓
  「いつ運転再開するんだ！」

他ツールとの比較

日本語 生成AIフィルターはアダルトやセンシティブジャンルだけでなく、個人情報、サービス特有のNGジャンルや単語まで細かに設定が可能です