センシティブ判定API
検索しても容易に出てこない隠語を多数駆使し、薬物の売買や詐欺、強盗などの犯罪に加担させ人生を台無しにしてしまうなど社会問題と発展しております
センシティブ判定APIは「誹謗中傷」「闇バイト」「人種・性差別」「薬物、出会い系隠語」「ポリティカルコレクトネス（ポリコレ）」など
センシティブと判定された文章を即座に検知、仕分けして不適切な発信をするユーザーを特定、アプリの健全性を強化します
また、AI開発ではトレーニングデータの仕分けも不可欠です
サービス事業者の早急な対策として、一瞬であっても有害な書き込みやNGワードを見せない、発信者の特定や炎上対策が重要です
キーワードセットについて
報道発表はこちら
デモは以下から
高機能なテキストマイニングにより、雑多なテキストの中から誹謗中傷、出会い系、アダルト用語はもちろん、危険物、過激宗教、薬物、ジェンダー平等、人種差別表現や判断が難しい隠語、ポリコレまでフルカバー
※検知オプションはセンシティブ判定APIにてお試しいただけます
1.「要注意表現（日、英）」オプション
「要注意表現（日、英）」オプションは、一般的な言葉の中に隠れている不適切を検知します
2.「個人情報」オプション
「個人情報」オプションは、人名（性・名）や著名人名、電話番号、口座番号や住民票番号など個人のプライバシーに関わる情報を検知
また、マイナンバー（個人番号）はチェックディジットにより厳格にファクトチェックします
2.「個人情報」オプション
オプションは、人名（性・名）や著名人名、電話番号、口座番号や住民票番号など個人のプライバシーに関わる情報を検知
また、マイナンバー（個人番号）はチェックディジットにより厳格にファクトチェックします
3.「宗教」オプション
「宗教」オプションは、一般的な宗教に関連する用語から、過激な宗教などを検知します
4.「武器」オプション
「武器」オプションは、刃物などの武器となりうるものから、戦争や紛争の名称など広義に検知します
4.「武器」オプション
「武器」オプションは、刃物などの武器となりうるものから、戦争や紛争の名称など広義に検知します
5.「隠語」オプション
「隠語」オプションは、隠語や略語、スラングなどの見落としやすい用語を検知します
| センシティブ判定 | E社 | A社 | |
|---|---|---|---|
| 判定可能ジャンル | 性別、人種、年齢、宗教、障害、性志向・性自認、犯罪、薬物、兵器、個人情報 | 性別、人種、年齡、宗教、障害、性志向・性自認 | 誹謗中傷 |
| カスタマイズ性 | 判定可能ジャンルの選択 単語の指定 |
単語の指定 | - |
| 検知コンテンツ | テキスト | テキスト | テキスト |
| 検知時のアクション | 検知ワードのマーキング 適切な単語への置き換え |
検知ワードのマーキング 適切な単語への置き換え |
検知ワードの表示 適切な単語への置き換え |
| 対応言語 | 日本語、英語、韓国語、中国語 （他言語も対応可能） |
英語 | 日本語 |
