　ヤフーは6月1日、「Yahoo!ニュース」コメント欄の健全化に向けて使用しているAIを、外部の事業者に提供する方針を明らかにした。ヤフーでは現在、深層学習を用いた自然言語処理モデルによって、個人への誹謗中傷などの悪質なコメントを検知し、1日に平均で約2万件を削除している。この技術を横展開し、他社を含めた投稿型サービスの健全化を図る。

ヤフーによる発表

　ヤフーは2019年11月に、コメントデータを学習させたAIと、ディープラーニングに特化した独自のスーパーコンピュータ「kukai」を組み合わせた判定モデルを導入。悪質な“ヤフコメ”を大量に検知・削除する仕組みを整えてきた。今後はこうした自社での対策もさらに強化するとしている。

　同社はこの他、悪質なコメントへの対策強化に向け、法律家や有識者を交えた検討会を6月中に開催。企業が悪質な投稿を削除する際に生じる法的・実務的課題と、その対処法について議論するという。検討会の結果は後日公表する予定。

　SNSなどでの誹謗中傷を苦にして「テラスハウス」出演者でプロレスラーの木村花さんが亡くなったとされる問題を踏まえた施策。

「ヤフコメ」新ポリシー公開　ヘイトスピーチ禁止、複アカで重複投稿禁止など
ヤフコメ投稿者が守るべきルール「コメントポリシー」公開。個人の特定が可能な情報の投稿や、特定の民族や国に対する差別やヘイトスピーチ、複数のアカウントを取得し、多くの意見として印象を扇動する行為などを禁止。
ABEMA、出演者向けに中傷被害の相談窓口　調査、訴訟の体制強化で保護
サイバーエージェントが、番組出演者向けの誹謗中傷相談窓口を開設したと発表した。被害の調査や訴訟手続きなどを行い、出演者が安心して番組に出られるようサポートする。
SNS事業者団体、誹謗中傷対策へ　嫌がらせや侮辱を禁止、啓発活動など活発化
LINE、Twitter Japan、Facebook Japan、ByteDance日本法人などSNS運営事業者らが、SNS上での誹謗中傷について、被害を未然に防ぐための対応をとると発表した。
ヤフコメ、返信の表示順も変更　「建設的な内容」自動判定して優先表示
「Yahoo!ニュース」のコメント欄で、投稿されたコメントに対する返信コメントの表示順が変更。従来は時系列だったが、「建設的な内容のもの」を自動判定し、優先的に表示する方法に変更した。
「ヤフコメはひどい」？　「Yahoo！ニュース」のコメント欄、投稿者は男性が80％以上、40代が突出
「Yahoo！ニュース」のコメント機能についてヤフーが現状を説明。「ヤフコメはひどい」と指摘されるなど課題も多いと認識し、新たな対策を採っていくという。