「Yahoo!ニュース」は、ユーザーがニュースに関する多様な意見を共有しあい、新たな視点を得るきっかけを創出することを目的として、コメント欄を2007年から提供しています。

「Yahoo!ニュース」では、ユーザーの表現の自由を尊重するとともに、より安心して利用できるサービス環境を目指すべく、以前より誹謗中傷などの内容を含む投稿を禁止し、コメントポリシー（※1）に違反投稿の具体例をわかりやすく明示しています。24時間体制の専門チームによる人的なパトロールに加えて、LINEヤフーが開発したAI「深層学習を用いた自然言語処理モデル」などのテクノロジーを駆使しながら、誹謗中傷をはじめとする違反コメントの削除などの対策に努めています。また、建設的なコメントとしてのスコアが高いものをAIが判定し上位表示させる「建設的コメント順位付けモデル」や、AIが多様な切り口のコメントを上位へ優先的に表示する「コメント多様化モデル」の導入など、コメント欄の健全化のため複数の独自のAIを取り入れてきました。（※2）

そしてこのたび、「Yahoo!ニュース」は「コメントポリシーに違反するコメント」やコメントポリシー違反に該当しないもののコメント閲覧者が「不快と感じる可能性のある表現」に対して、ユーザーがコメントを投稿完了前にAIが表現の見直しを提案する「コメント添削モデル」の導入を開始しました。コメント投稿前に表現を見直す機会をユーザーに提供することについては有識者からも重要性を提起されており、「コメント添削モデル」はそのような意見も踏まえての導入となります。

「コメント添削モデル」により、ユーザーが投稿完了前にコメントを見直す機会を提供することで、該当の記事にまつわる方々や他のユーザーが不快と感じる恐れの少ない表現への改善を促し、コメント欄のさらなる健全化を目指します。

具体的には、コメント投稿フォームにコメントを入力し「投稿する」ボタンを押下した際、「コメント添削モデル」が「コメントポリシーに違反するコメント」や「不快と感じる可能性のある表現」と判断した場合、該当箇所をハイライトで示し、表現の見直しを提案するポップアップが表示されます。ユーザーはコメントを投稿完了前に表現の見直しを行うことが可能です。

※「コメント添削モデル」の詳細な機能説明は「Yahoo!ニュース」のオウンドメディア「newsHACK」で紹介しています。

https://news.yahoo.co.jp/newshack/information/comment_20240909.html

■「コメント添削モデル」の発動イメージ（※画像の内容は一例であり、条件に当てはまるコメントにのみ発動します）

■「コメント添削モデル」の挙動イメージ（※画像の内容は一例であり、条件に当てはまるコメントにのみ発動します）

今後も言論空間へ与える影響や、有識者の意見などを踏まえ、より良いものとなるよう、「コメント添削モデル」の適宜改善を検討していきます。

「Yahoo!ニュース」は今後も、コメント欄で投稿される多様な考えや意見によって、ユーザーがニュースに対する興味や多角的な視点を持つきっかけを提供するとともに、日本のインターネットにおける健全な言論空間を構築し、より良い社会の実現に向けて全力を尽くしていきます。

※1：Yahoo!ニュース コメントポリシー

https://news.yahoo.co.jp/info/comment-policy

※2：AIを軸に振り返る「Yahoo!ニュース コメント」健全化の取り組み（newsHACK）

https://news.yahoo.co.jp/newshack/inside/news_comment2023.html