オンラインの有害性は、プラットフォームやパブリッシャーの存在意義に関わる重大な問題です。オンラインでの攻撃やハラスメントは会話中の重要な意見を抑え込み、疎外感を感じていた人がつながりを絶つ原因になります。
Perspective とは
Perspective は機械学習によって「有害人々がディスカッションから離れる可能性の高い、粗暴、無礼、または理不尽なコメントを「有害」と定義しています」なコメントを検出する無料の API です。オンラインで適切な会話が行われるように管理しやすくなります。
実際に試してみましょう
ボックスに文章を入力して有害度スコアを確認してください。有害なテキストと認識される可能性がパーセンテージで表されます。有害性の基準の調整やスタイルの編集方法については、「カスタムデモを作成」をご覧ください。単純なプラグアンドプレイのコードも参照できます。
試してみる
このコメントは有害ですか？
同意しない場合
フィードバックを編集
スタイルを編集
コードを見る
- 有害
- わいせつ
- 侮辱的
- 脅迫的
このコメントは有害ですか？
同意しない場合
- 有害
- わいせつ
- 侮辱的
- 脅迫的
Perspective でデベロッパーが実現できること
Perspective API を使用すると、あらゆる規模のプラットフォームやパブリッシャーで健全かつ生産性のある、誰もが参加しやすい会話をサポートできるようになります。デベロッパーは多種多様なユーザーを対象に Perspective API の統合とカスタマイズを行えます。
モデレーター
モデレーターは Perspective を使用して、報告されたコメントにすばやく優先順位を付けて審査できます。
コメント投稿者
Perspective では、有害なコメントの投稿者にフィードバックを提供できます。
閲覧者
閲覧者 デベロッパーは、嫌がらせや有害なコメントを非表示にするなど、閲覧者がコメントを制御できるツールを作成できます。
Perspective を使う理由
Perspective を使用することによりプラットフォームとパブリッシャーが安全に会話できる環境を構築し、個人がオンラインでより健全な投稿を行えるようにしたことで、エンゲージメント率が高まりました。
健全な会話が可能
有害性や嫌がらせ行為が減少
無料で利用でき、セルフサービスでカスタマイズ可能
このモデルは、インターネット コメントを「非常に有害」から「非常に健全」までの範囲でユーザーに評価してもらうことでトレーニングされました。「人々がディスカッションから離れる可能性の高い、粗暴、無礼、または理不尽なコメント」を「有害」と定義しています。