コンテンツモデレーション向けセンシティブ判定 API / MCP
チャットやアプリ、ログを分析し、暴力的な表現や誹謗中傷、アダルト表現などを監視
強力なアナリティクスでサービス、組織を保護します
脅威検知の迅速な対応
さまざまな形式のデータソースを対象に、インシデントの種類を自動で判定し、削除基準を明確化することで対応にかかる時間とコストを削減、必要な機能をオンライン上で利用できる他、外部のサービス・アプリへも導入できるよう、機能別にAPI(有償)でも提供
検知範囲のカスタマイズ性
誹謗中傷、出会い系、アダルト用語に加え危険物、過激宗教、違法薬物、ジェンダー、人種、判断が難しい差別表現や隠語、ポリコレまで検知対象となっており、コメントのフィルタリングや監視、炎上対策など様々なシステムへの応用が可能
判定メカニズム
判断が難しい表現を見える化
ポリティカル・コレクトネス（ポリコレ）などのジェンダー平等、人種差別、判断が難しい差別表現を検知。カスタマー・ハラスメント（カスハラ）などのハラスメントを、理由を添えて明文化、コンプライアンスの強化に貢献します
センシティブデータを一括処理
センシティブ判定は「個人情報」「誹謗中傷」「闇バイト」「人種・性差別」「薬物、出会い系隠語」「ポリティカルコレクトネス（ポリコレ）」など、NGワードやネガティブと判定された文章を検知。WEBサービスまたはAPI形式で返却します
センシティブ判定でAIアプリケーションとデータを安全に接続
情報流通プラットフォーム対処法（情プラ法）の施行による誹謗中傷や誤情報への対応。大手ディスカウントストアのアプリやマッチングアプリなどへ導入。またSNSやオンラインゲームの健全な運営、カスタマーハラスメント（カスハラ）の早期検知などにも活用
異常検知の自動化と高速性を実現
分散データに文脈情報とメタデータを付与し、検知精度の高いアラートと自動化を実現。異常検知から対応までを一貫して高速化します
センシティブワードセットで問題を解消する
暮らしを脅かす恐れのある隠語やアダルト、センシティブなどの危険用語、コミュニケーションにおいて相手に不快感を与える可能性のある不快語をともにデータセットにてご提供、ファインチューニングにも使用可能
導入実績
