書込みをAIが事前に「検閲」するのは問題だ。
＜ヤフコメ赤文字の記事はヒットか炎上か
「ヤフコメは無法地帯でひどいコメントばかり」
Yahoo!ニュースの公式コメンテーターを務めていることもあり、公式コメントの下に表示される匿名コメント欄（通称ヤフコメ）について、こんな声をたびたび耳にする。ヤフコメには、建設的な良いコメントも少なくないのだが、炎上した時は確かにひどい。
Yahoo!ニュースは、新聞・通信社やウェブメディアなどが配信した記事を掲載するポータルサイトであり、ここに記事が転載されると驚くほど読まれる。特にトップページ上部にある「Yahoo!ニュース トピックス」（ヤフトピ）に掲載された時のアクセス数はすさまじく、「Yahoo!砲」といわれるほどだ。記事の配信元へのアクセスも増えるため、掲載を望むウェブメディアは多い。
一方で、それだけ多くの人が読むため、ひどい炎上も起きる。コメントが1000件超など特に多いと、見出し末尾のコメント数が赤文字で強調して表示され、話題になっていることが一目でわかる。単に話題性のある記事として盛り上がっているならいいのだが、誹謗(ひぼう)中傷が相次いで投稿されているケースもある。
AIと人の手で管理されるヤフコメ
それでも、われわれが目にしているコメント欄は、ヤフーによって管理され、悪質な投稿が排除された後の状態だ。
ヤフーはコメントポリシーで、特定の個人に対する人権侵害や誹謗中傷に該当する投稿や、不快感や嫌悪感を生じさせるような表現を使って他人やほかのユーザーを攻撃する投稿を禁止し、違反したコメントは削除している。
実際の対応状況を見てみよう。「2021年度メディア透明性レポート」によると、Yahoo!ニュースにおける21年度の投稿数は1億5923万2000件（月平均1326万9000件）で、投稿削除件数は513万1000件（月平均約42万8000件）。投稿削除件数が占める割合は3.22％だ。
新型コロナの感染拡大を受けた緊急事態宣言やオリンピック・パラリンピック開催を背景として投稿件数自体が大幅に増加、それに伴って投稿削除件数も増加した形だ。
ヤフーでは、AIと約70人の専門チームでニュースサイトや各種サービスを24時間体制で監視している。削除件数全体の75.5％は、コメントポリシーに抵触しているとしてAIが投稿からおよそ数秒以内で自動削除しており、ユーザーの目に触れることはほとんどない。
ヤフーと悪質ユーザーの「イタチごっこ」
残りの24％が人の手によって削除されたものだ。人の手で削除した投稿のうち、78.9％は巡回・AI判定を契機としており、ユーザーからの違反申告による割合は21.1％。違反申告は1年間で230万件（月平均18.6万件）。年間の投稿件数に対する割合は1.4％だ。
人の手で削除したうちの53.5％は「不快投稿等」という理由で削除されており、さらにそのうち68.1％が「過度な批判や誹謗中傷等」に該当するとして削除されている。
誹謗中傷対策はコメントの削除だけではない。2018年からは、不適切なコメントを繰り返すユーザーに対する投稿停止措置をとっている。しかし「抜け道」は存在し、別のYahoo! JAPAN IDを新たに取得して再び投稿するケースが相次いだ。
2021年からは、一定以上の投稿数のある記事のコメント欄を対象に、AIが判定した違反コメント数などの基準に従ってコメント欄を自動的に非表示にしている。該当のコメント欄には「違反コメント数などが基準を超えたため、コメント欄を非表示にしています」という一文が表示される。
ヤフーの発表によると、導入開始から2カ月間でコメント欄が非表示となった記事数は216件で、1日あたり平均3.5件だった。1日あたりの配信記事数の0.05％程度だ。
2022年には、秋篠宮家をめぐる誹謗中傷対策として、一部メディアのヤフコメ投稿欄を閉鎖したこともある。
本人確認必須で悪質ユーザーが「半減」
さらに11月からは、ヤフコメを投稿できるユーザーは携帯電話番号を登録したユーザーに限定。その結果、悪質なコメントをするユーザーは56％減少、不適切なコメントも22％減少したと公表した。投稿停止措置を受けたYahoo! JAPAN IDの5割以上が携帯電話番号を設定していなかったという。
結果的に、複数の誹謗中傷対策を講じてきた中で、本人確認が一番効果的だったと言えそうだ。匿名は攻撃性を高めることが知られている。本人確認が済んだ状態では、誹謗中傷コメントもしづらくなるというわけだ。
とはいえ、効果は「半減」であり、携帯電話番号を登録しても誹謗中傷を行うユーザーがまだ多く存在していることは課題として残っている。
Twitterの削除要求件数は日本が世界一
ヤフー以外のプラットフォームの対策はどうなっているのか。
総務省がヤフー、LINE、米Google、米Meta（旧Facebook）、米TwitterのIT大手5社へ聞き取りした結果、2022年3月時点の各社における誹謗中傷削除件数が明らかになっている。結果をまとめた資料を見ると、多くの企業はヤフーと同様、AIと専門人員とで誹謗中傷に対処しているようだ。
Googleによると、YouTubeでは、ヘイトスピーチや嫌がらせ、ネットいじめも含むコミュニティガイドライン違反が原因で2万4153本の削除があり、日本での削除依頼件数は世界で7番目に報告が多いという（2021年10〜12月）。
Googleマップでは、3万2190件が削除対象になり、120万件のレビューが公開前に機械学習でブロックされている（2021年1月〜10月）。
LINEによると、2021年にLINE VOOMで693件の申請中20件、オープンチャットで4701件中56件、LINE LIVEで52件中9件が削除されている。依頼のほとんどは削除以外の対応として、非表示化やラベルの付与などを行っている。
なお、総務省の聞き取りに対して、米Twitterと米Metaの2社は当初非公開としていたが、後に両者とも公開した。米Metaは、Facebookで約5万件、Instagramで約10万件を削除と回答（2021年第1四半期〜第4四半期）。削除要請の件数は不明だ。
米Twitterは、2021年1～6月の削除要求は世界で4万3387件。そのうち日本が1万8518件で最多だ。世界では591万件が削除されているが、国内で削除された件数は公開されていない。
「削除されない相談」が多いのはどこか
運営企業に削除されなかった誹謗中傷の一部は、相談機関に持ち込まれる。違法・有害情報相談センターで受け付けている相談件数は増加傾向にあり、総務省の報告書によると、2021年度の相談件数は6300件以上と、2010年度から約5倍に増加している。
相談件数の内訳は、Twitterが12.1％、Google（検索・YouTube・マップ等）が10.6％、メタ（Instagram・Facebook）が4.3％、5ちゃんねるが3.4％、LINEが2.9％、爆サイが2.8％、破産情報掲載関連サイトが2.1％、Yahoo!（オークション、ニュース、知恵袋等）が0.9％などだ。
ヤフコメはユーザーの目に付きやすいために荒れていると見られがちだが、この結果からも、他のサービスに比べてかなり厳密に管理徹底されていると評価していいだろう。
悪質ユーザーの「避難先」になっているのではないか
ここで注目すべきは、Twitterだ。検索サービスやYouTubeを提供するGoogleよりも相談件数が多い。
イーロン・マスク氏の買収後、大規模な人員削減をした結果、不具合が頻出。ロイターは、EUが米Twitterにコンテンツモデレーション（不適切な投稿の監視・削除）を担当する人材を増やすよう求めたことを報じた。ヘイトやデマが増えたという調査結果も多く報告されている。
ヤフーなどが誹謗中傷対策を年々強化する裏で、悪質なユーザーが対策の行き届いていないTwitterへ流れている可能性が高いのだ。主要プラットフォームの足並みがそろっていない限り、「避難先」ができてしまう。
国境を超えた誹謗中傷対策が求められている
2022年4月、EUでは、違法コンテンツの排除などを義務付ける「デジタルサービス法案」が欧州議会で可決された。日本国内でも同年7月に侮辱罪が厳罰化されたほか、10月には匿名での誹謗中傷における情報開示手続きが簡易かつスピーディーになる改正プロバイダ責任制限法が施行された。このように、誹謗中傷は世界的に社会問題化しており、対策が進んでいる。
一方で、誹謗中傷対策は課題も山積している。そもそも正当な批判なのか、誹謗中傷なのかかという線引きは難しい。誹謗中傷をそのままにすれば問題だが、削除しすぎてしまうと表現の自由が侵されかねない。
国で基準を設けて削除することは、表現の自由を侵食する恐れにもつながるが、ご紹介したように企業によって対応はまちまちだ。
特に海外企業の場合は、日本の法律とは解釈が一致しないことも多い。たとえば米国には侮辱罪に相当するものがなく、過去には米Twitterが開示請求に応じないなどの問題も起きている。AIでの自動削除も、日本語にどの程度対応できているかは不透明なままだ。
インターネット時代、自国だけでの問題解決は難しい。国境を超えて、誹謗中傷問題の解決に取り組むべき時期にきていると言えるだろう＞(以上「MAG2」より引用)
「新規悪質ヤフコメユーザーが56％減小 ヤフー、電話番号必須化の効果を発表」というニュースに「やはり」と慨嘆する。悪質書込みをする人の56%は悪質だと分かっている、という証明だからだ。
「ヤフコメは無法地帯でひどいコメントばかり」
Yahoo!ニュースの公式コメンテーターを務めていることもあり、公式コメントの下に表示される匿名コメント欄（通称ヤフコメ）について、こんな声をたびたび耳にする。ヤフコメには、建設的な良いコメントも少なくないのだが、炎上した時は確かにひどい。
Yahoo!ニュースは、新聞・通信社やウェブメディアなどが配信した記事を掲載するポータルサイトであり、ここに記事が転載されると驚くほど読まれる。特にトップページ上部にある「Yahoo!ニュース トピックス」（ヤフトピ）に掲載された時のアクセス数はすさまじく、「Yahoo!砲」といわれるほどだ。記事の配信元へのアクセスも増えるため、掲載を望むウェブメディアは多い。
一方で、それだけ多くの人が読むため、ひどい炎上も起きる。コメントが1000件超など特に多いと、見出し末尾のコメント数が赤文字で強調して表示され、話題になっていることが一目でわかる。単に話題性のある記事として盛り上がっているならいいのだが、誹謗(ひぼう)中傷が相次いで投稿されているケースもある。
AIと人の手で管理されるヤフコメ
それでも、われわれが目にしているコメント欄は、ヤフーによって管理され、悪質な投稿が排除された後の状態だ。
ヤフーはコメントポリシーで、特定の個人に対する人権侵害や誹謗中傷に該当する投稿や、不快感や嫌悪感を生じさせるような表現を使って他人やほかのユーザーを攻撃する投稿を禁止し、違反したコメントは削除している。
実際の対応状況を見てみよう。「2021年度メディア透明性レポート」によると、Yahoo!ニュースにおける21年度の投稿数は1億5923万2000件（月平均1326万9000件）で、投稿削除件数は513万1000件（月平均約42万8000件）。投稿削除件数が占める割合は3.22％だ。
新型コロナの感染拡大を受けた緊急事態宣言やオリンピック・パラリンピック開催を背景として投稿件数自体が大幅に増加、それに伴って投稿削除件数も増加した形だ。
ヤフーでは、AIと約70人の専門チームでニュースサイトや各種サービスを24時間体制で監視している。削除件数全体の75.5％は、コメントポリシーに抵触しているとしてAIが投稿からおよそ数秒以内で自動削除しており、ユーザーの目に触れることはほとんどない。
ヤフーと悪質ユーザーの「イタチごっこ」
残りの24％が人の手によって削除されたものだ。人の手で削除した投稿のうち、78.9％は巡回・AI判定を契機としており、ユーザーからの違反申告による割合は21.1％。違反申告は1年間で230万件（月平均18.6万件）。年間の投稿件数に対する割合は1.4％だ。
人の手で削除したうちの53.5％は「不快投稿等」という理由で削除されており、さらにそのうち68.1％が「過度な批判や誹謗中傷等」に該当するとして削除されている。
誹謗中傷対策はコメントの削除だけではない。2018年からは、不適切なコメントを繰り返すユーザーに対する投稿停止措置をとっている。しかし「抜け道」は存在し、別のYahoo! JAPAN IDを新たに取得して再び投稿するケースが相次いだ。
2021年からは、一定以上の投稿数のある記事のコメント欄を対象に、AIが判定した違反コメント数などの基準に従ってコメント欄を自動的に非表示にしている。該当のコメント欄には「違反コメント数などが基準を超えたため、コメント欄を非表示にしています」という一文が表示される。
ヤフーの発表によると、導入開始から2カ月間でコメント欄が非表示となった記事数は216件で、1日あたり平均3.5件だった。1日あたりの配信記事数の0.05％程度だ。
2022年には、秋篠宮家をめぐる誹謗中傷対策として、一部メディアのヤフコメ投稿欄を閉鎖したこともある。
本人確認必須で悪質ユーザーが「半減」
さらに11月からは、ヤフコメを投稿できるユーザーは携帯電話番号を登録したユーザーに限定。その結果、悪質なコメントをするユーザーは56％減少、不適切なコメントも22％減少したと公表した。投稿停止措置を受けたYahoo! JAPAN IDの5割以上が携帯電話番号を設定していなかったという。
結果的に、複数の誹謗中傷対策を講じてきた中で、本人確認が一番効果的だったと言えそうだ。匿名は攻撃性を高めることが知られている。本人確認が済んだ状態では、誹謗中傷コメントもしづらくなるというわけだ。
とはいえ、効果は「半減」であり、携帯電話番号を登録しても誹謗中傷を行うユーザーがまだ多く存在していることは課題として残っている。
Twitterの削除要求件数は日本が世界一
ヤフー以外のプラットフォームの対策はどうなっているのか。
総務省がヤフー、LINE、米Google、米Meta（旧Facebook）、米TwitterのIT大手5社へ聞き取りした結果、2022年3月時点の各社における誹謗中傷削除件数が明らかになっている。結果をまとめた資料を見ると、多くの企業はヤフーと同様、AIと専門人員とで誹謗中傷に対処しているようだ。
Googleによると、YouTubeでは、ヘイトスピーチや嫌がらせ、ネットいじめも含むコミュニティガイドライン違反が原因で2万4153本の削除があり、日本での削除依頼件数は世界で7番目に報告が多いという（2021年10〜12月）。
Googleマップでは、3万2190件が削除対象になり、120万件のレビューが公開前に機械学習でブロックされている（2021年1月〜10月）。
LINEによると、2021年にLINE VOOMで693件の申請中20件、オープンチャットで4701件中56件、LINE LIVEで52件中9件が削除されている。依頼のほとんどは削除以外の対応として、非表示化やラベルの付与などを行っている。
なお、総務省の聞き取りに対して、米Twitterと米Metaの2社は当初非公開としていたが、後に両者とも公開した。米Metaは、Facebookで約5万件、Instagramで約10万件を削除と回答（2021年第1四半期〜第4四半期）。削除要請の件数は不明だ。
米Twitterは、2021年1～6月の削除要求は世界で4万3387件。そのうち日本が1万8518件で最多だ。世界では591万件が削除されているが、国内で削除された件数は公開されていない。
「削除されない相談」が多いのはどこか
運営企業に削除されなかった誹謗中傷の一部は、相談機関に持ち込まれる。違法・有害情報相談センターで受け付けている相談件数は増加傾向にあり、総務省の報告書によると、2021年度の相談件数は6300件以上と、2010年度から約5倍に増加している。
相談件数の内訳は、Twitterが12.1％、Google（検索・YouTube・マップ等）が10.6％、メタ（Instagram・Facebook）が4.3％、5ちゃんねるが3.4％、LINEが2.9％、爆サイが2.8％、破産情報掲載関連サイトが2.1％、Yahoo!（オークション、ニュース、知恵袋等）が0.9％などだ。
ヤフコメはユーザーの目に付きやすいために荒れていると見られがちだが、この結果からも、他のサービスに比べてかなり厳密に管理徹底されていると評価していいだろう。
悪質ユーザーの「避難先」になっているのではないか
ここで注目すべきは、Twitterだ。検索サービスやYouTubeを提供するGoogleよりも相談件数が多い。
イーロン・マスク氏の買収後、大規模な人員削減をした結果、不具合が頻出。ロイターは、EUが米Twitterにコンテンツモデレーション（不適切な投稿の監視・削除）を担当する人材を増やすよう求めたことを報じた。ヘイトやデマが増えたという調査結果も多く報告されている。
ヤフーなどが誹謗中傷対策を年々強化する裏で、悪質なユーザーが対策の行き届いていないTwitterへ流れている可能性が高いのだ。主要プラットフォームの足並みがそろっていない限り、「避難先」ができてしまう。
国境を超えた誹謗中傷対策が求められている
2022年4月、EUでは、違法コンテンツの排除などを義務付ける「デジタルサービス法案」が欧州議会で可決された。日本国内でも同年7月に侮辱罪が厳罰化されたほか、10月には匿名での誹謗中傷における情報開示手続きが簡易かつスピーディーになる改正プロバイダ責任制限法が施行された。このように、誹謗中傷は世界的に社会問題化しており、対策が進んでいる。
一方で、誹謗中傷対策は課題も山積している。そもそも正当な批判なのか、誹謗中傷なのかかという線引きは難しい。誹謗中傷をそのままにすれば問題だが、削除しすぎてしまうと表現の自由が侵されかねない。
国で基準を設けて削除することは、表現の自由を侵食する恐れにもつながるが、ご紹介したように企業によって対応はまちまちだ。
特に海外企業の場合は、日本の法律とは解釈が一致しないことも多い。たとえば米国には侮辱罪に相当するものがなく、過去には米Twitterが開示請求に応じないなどの問題も起きている。AIでの自動削除も、日本語にどの程度対応できているかは不透明なままだ。
インターネット時代、自国だけでの問題解決は難しい。国境を超えて、誹謗中傷問題の解決に取り組むべき時期にきていると言えるだろう＞(以上「MAG2」より引用)
「新規悪質ヤフコメユーザーが56％減小 ヤフー、電話番号必須化の効果を発表」というニュースに「やはり」と慨嘆する。悪質書込みをする人の56%は悪質だと分かっている、という証明だからだ。
書き込む以上は、書き込むことによって議論が少しでも前に進むことを期待するものであって欲しい。しかし「悪質書込み」は対象者を貶め希を砕く書込みでしかない。その書き込みが「悪質」だと分かって書き込むとは言語道断だ。
悪質な書き込みに関しては「2022年4月、EUでは、違法コンテンツの排除などを義務付ける「デジタルサービス法案」が欧州議会で可決された。日本国内でも同年7月に侮辱罪が厳罰化されたほか、10月には匿名での誹謗中傷における情報開示手続きが簡易かつスピーディーになる改正プロバイダ責任制限法が施行された。」と引用論評にある通り、迅速な情報開示と厳罰化が図られている。
悪質であろうとなかろうと、書込みには責任が伴う。意見を表明するからには、表明した意見に対する反論が存在するのも想定の内でなければならない。ただ「悪質」と「批判」は紙一重という認識を持たなければならない。そのため、批判にも一定の節度が必要だ。
ただ「悪質書込み」をAIを利用して削除するのには反対だ。多くの人に知らしめるために書込む書込みを「悪質」だとAIが判断したら、その意見は誰の目にも触れないことになる。現代の魔女狩りが「悪質な書き込み」という名のもとに「事前」に削除されるのは問題だ。
たとえば2020米大統領選でtwitterに書き込んでも「不正」や「フェイク」という文言がヒットすると削除され、最悪の場合はアカウント停止の措置まで取られた。トランプ氏のアカウントが停止された暴挙はネットの歴史上「暗黒史」として深く刻まれるだろう。
社会的な規模で「不正」が行われた場合、AIは社会的常識に沿って判断するわけだから、SNS運営者の偏見でなく偏向した常識によりAIが削除しかねない。今後ありうるのは社会的な常識になった「ゼロカーボン社会」に反する書き込みをした場合に削除される可能性があることだ。
AIは決して万能ではない。AIそのものが真理を追究する能力など持ち合わせてはいない。現状のAIは問いに対して、素早く最大公約数的な意見を蓄積されたビッグ・データの中から拾い出して文章を生成するだけだ。その素早さと最大公約数的な論理を纏める能力には舌を巻くが、「ゼロカーボン社会」というスローガン自体が破綻しているとは決して主張しない。その恐ろしさを私たちは認識すべきだ。
削除要請が最も多いのがtwitterだが、その約半数は日本からの依頼だという。日本国民はtwitterの書込みに過敏になってはいないだろうか。確かに「悪質な書き込み」に対しては削除依頼をすべきだし、侮辱罪で告発すべきだ。
ただ削除依頼するのではなく、「悪質な書き込み」をそのまま残して、侮辱罪で告発する「強靭な精神」が必要ではないだろうか。もちろん強靭さは個人差があるだろう。狂人出ない場合は弁護士や警察等に相談すれば良いし、相談を受けた者はネット運営者に対して「相談依頼があった」と通知すべきだ。
私が言いたいのはあらゆる意見を闇から闇へと葬るのは如何なものだろうか、ということだ。「悪質な書き込み」に対しては「あなたの書込みは悪質だ」と教えなければならない。このまま続けるようなら侮辱罪で告発する、と然るべき法的手段で対抗することを伝えるべきだ。
そうしたキャッチボールをすることにより、人の論理は磨かれていくのではないだろうか。「告発系」や「迷惑系」と自称する悪質な書き込みやyou tuberがいるが、彼らは言語道断だ。そして現在では強盗事犯の温床になっている「闇サイト」などはサイト運営業者の責任も問われるべきだ。ネット空間が犯罪者の巣窟にならないためにも、犯意ある者は自ら退出するようにネット空間が成長し成熟することを心から願う。