インターネットで世界は良くなる──誰もがそう考えていた時代が少し前にありました。2024年現在、この記事を読んでくださっているあなたはどう感じていますか。
JADEのミッションは「インターネットを良くする会社」。
「インターネットで良くなる」と「インターネットを良くする」。
ひらがな2文字の違いですが、ひと昔前と今とではインターネットに対する捉え方が変化していることを感じさせられます。
この記事では、日本ファクトチェックセンター（JFC）編集長の古田大輔氏をお招きして、JADEファウンダーの長山一石との対談形式でお届けします。インターネットと共に育った世代として、各メディアで編集長を務められた立場と、各プラットフォーム企業で働いた立場から語っていただきます。対談の司会はJADE代表の伊東周晃です。
偽情報、誤情報。スパム、アビューズ、ミスインフォメーション……メディアやプラットフォームは今のインターネットをどう考えているのか、そして私たちユーザーがとるべき行動について考えるきっかけになれば幸いです。
古田大輔氏プロフィール：朝日新聞で社会部、シンガポール支局長などを経てデジタル編集部。2015年に退社し、BuzzFeed Japan創刊編集長。2019年に独立し、株式会社メディアコラボを設立して報道機関のDXをサポート。2020‐2022年にGoogle News Labフェローとして、記者ら延べ2万人超にデジタル報道セミナーを実施。2022年10月よりJFC編集長。
長山一石プロフィール：Google Search、Google Play、Twitter などで主にスパム・アビューズ対策領域で活躍。Google では、検索と Play における Trust & Safety 領域にプロダクト分析の視点から深く関わる。また、Webmaster Trends Analyst として日本のウェブマスターに向けてオフィスアワーを開き、検索エンジンに関わる知識とベスト・プラクティスの啓蒙、日本のウェブマスターの動向調査を通じた Google サービスの改善などを行った。
2016年はインターネットの分水嶺だった
夢があった時代からの違和感、そして危機感
——インターネットによって情報が民主化され、世界は確実に良くなる、と誰もが思っていた時代がありました。その認識が大きく変わる転換点は、いつだったんでしょうか。
古田 2000年代の前半までは、みんなインターネットに夢を見ていたと思います。インターネットで世界は良くなる。それが所与の前提でした。でも2010年代から違和感が芽生え始め、2020年代には「これは本当になんとかしないと大変なことになる」という危機感に変わっていった。今や民主主義がインターネットで生き残れるのかという議論が始まっています。
その分水嶺となったのが2016年です。イギリスではブレグジット、アメリカでは大統領選。ブレグジットで賛成派が多数を占めたのも、大量の偽情報を流された影響が大きく、「ケンブリッジ・アナリティカ」がFacebookを使って、賛否を迷う人々に対し効率的に情報を送り込んでいった。
それ以前の、各メディアのFacebookへの依存は相当なものでした。とくにBuzzFeedのような成功事例が出て、Facebookを通じて従来のメディアではリーチできなかった若者層に届くと期待していた。Facebookが「pivot to video」を打ち出せば、各メディアは即座に動画制作を始めた時代です。すべてのメディアが動くほどの影響力がFacebookにはありました。
Facebookの光と影
——そんな中、調査で衝撃的な事実が明らかになります。
古田 BuzzFeedカナダ版初代編集長のクレイグ・シルバーマンが調査したスクープです。アメリカ大統領選の後半期には、Facebook上でCNNやワシントンポスト、ニューヨークタイムズの記事より、フェイクニュースサイトの記事の方が多くシェアされていた。「とんでもないデタラメしか書かないようなサイト」の記事の方が拡散していました。
〈当時の記事がこちら〉
古田 私も次の衆院選で、シルバーマンとまったく同じ手法で調査をしました。当時だったらネットでアノニマスポストなどが朝日新聞やNHKと同程度、読売新聞よりもシェアされていて、エンゲージメントが高かったという結果でした。
長山 古田さんと初めてお会いしたのは2017年頃で、やはり話題はインターネットを良くしたいよね、だった気がします。トランプが当選したことによって、積極的に誤情報が政権側から拡散されるといった今までないようなことがアメリカで起こり、それが会話の淵源でしたね。
WELQ事件は日本だから起きた
——同じ頃に、日本でも大きな問題が起きていました。
古田 イギリス・アメリカと文脈が異なり、偽情報や情報の品質が最初に意識されたのは、日本ではWELQ問題です。
〈当時の記事がこちら〉
——BuzzFeedが問題を明るみに出したのですね。
古田 はい。DeNAは「これはUGCです」「私たちは何も悪いことはしていません」と主張しましたが、取材を進めると、コピペ推奨のマニュアルを作って、クラウドソーシングで記事を書かせていた実態が見えてきた。「火傷には濡れタオルを当てる」とか「肩こりの原因はお化け」とか、とんでもない内容の記事もありました。
辻正浩さんが指摘していたことですが、WELQの8割くらいは役に立つ情報でした。これは昔のアメリカのコンテンツファームとは違う。コンテンツファームは10割中10割が本当にひどいコンテンツで、それを大量に作ることで検索流入を増やすだけでした。でもWELQは医療健康問題を分かりやすく伝えるという志があって、それなりに権威のあるWebサイトからコピペしパクっていた。だから、それなりにいいコンテンツができてしまう。
でも結局、BuzzFeedが記事で示した内部資料でコピペ推奨やSEO重視が明らかになり、コンテンツの盗用や質に対する批判が噴出しました。その結果日本のインターネット史上極めて珍しいことに、インターネットメディアの報道をきっかけに大手メディアが追従し、上場企業が謝罪会見を開く事態となったのです。
長山 当時Googleにいた立場からですが、実はWELQ問題的なアルゴリズムのハックは、他のマーケットではまだ起きていなかったんですよ。日本独特の使われ方が、ああいう事態を引き起こしたのですが、Google内部でのアウェアネスがなかなか追いついてこなかった。
Googleは、アメリカの問題なら放っておいてもみんな気づくのですが、アメリカ以外のマーケットで起きている問題は、外で騒いでもらわないと、なかなか内部で対策が進まない。BuzzFeedがしっかりと書いてくれたのは、プラットフォームの中でもありがたかったですね。
——ブレグジットやアメリカ大統領選の結果、Facebookへの期待はどう変化したのでしょうか。
古田 2017年6月にヨーロッパで開かれたオンラインジャーナリズムに関する国際イベント「GEN Summit」を鮮明に覚えています。Facebookの担当者が偽情報対策の状況を説明しましたが「できていないじゃないか！」と会場中から厳しい批判が相次ぎ、Facebook担当者は質疑が終わらないままに退席する事態に。もはや糾弾状態です。その光景を目の当たりにして「時代の潮目が完全に変わった」と確信しました。
2000年代前半まで、誰もが性善説に過ぎました。ポジティブな感情の方が、みんな喜ぶと思っていた。実際Facebookの初期によくシェアされていたのは、フィルターバブル理論を提唱したイーライ・パリサーのメディア「アップワーシー」の「みんなが感動する話」でした。今では人を攻撃するためにコンテンツを使う人たちの方が多くなって、負の感情の方が強くなっている。
長山 結局、ピーター・ティールとイーロン・マスク的なものの舞台になってしまいましたよね。
——長山さんと以前話したのですが、さっきの性善説の話でいうと、Googleの創業者たちはアルゴリズムを作った時にリンクスパムされることすら想定していなかったと。
長山 そうなんです。本当に性善説で考えていた。
プラットフォームとメディアの対応
3つの異なる課題
——偽情報対策は、プラットフォーム側からはどのようなものですか。スパムとアビューズとミスインフォメーションの違いから教えてください。
長山 プラットフォーム側の視点だと、スパムとアビューズとミスインフォメーションはそれぞれ別のものなんです。整理の仕方は色々あると思いますが、僕が慣れている整理だと、アビューズというと広くガイドライン違反全体を指します。たとえばポルノを禁止しているプラットフォームでは、アダルト画像を貼ることもアビューズです。これは機械学習で効率的に判定ができます。
一方、スパムはランキング操作、プラットフォーム操作という性質が強い。特にGoogleの立場からすると、ある行為をGoogleのランキングを操作するためにやっているのかどうかが重要です。リンクスパムなんてその最たるもので、傍から見たら普通に貼ったリンクとSEO目的で貼ったリンクの差は技術的にはない。でも後者は、人間のためではなくて、Googleのランキングを操作する目的で貼っているから、スパム。だからガイドライン違反なんだという話です。
——ミスインフォメーションはスパムとアビューズの両方に関連するものですか。
長山 ミスインフォメーションはプラットフォーム的には全然別の話です。Googleの視点からすると、元々ある情報が正しいか間違っているかなんて知ったことじゃない。判断できないんです。いまだに「機械がそもそも判断できない」というのがミスインフォメーション。偽情報や誤情報対策を真面目にやろうとなる場合、今のアプローチとしては、たとえばYMYL領域では、go.jpのドメインを積極的に上げるとか、いわゆるアローリスト方式でやるしかない。結局、「この情報は信用できる」ということは、あらかじめ人間が判断するからできる。でも、適当な情報が流れた時に、それが正しいかどうか、ソースがわからないようなものは、機械的に判断のしようがない。
COVID-19の時も同じでした。COVID関連の情報は、このオーソリティのある情報しか出しませんというアローリストを作るしかなかった。本当の意味でのミスインフォメーション対策というのは、そもそもプラットフォーム的には無理というのが現実です。
新興メディアはどうやって闘うか
——今、争点がひとつ出た気がします。
古田 これは重要な問題なのですが、go.jpドメインやマスメディアのような伝統的な権威あるサイトなどを優遇するような対策をとると、結局、新興メディアがめちゃくちゃ厳しい立場に追い込まれてしまう。新興メディアにはまだオーソリティがないから、上位表示されにくくなる。新興メディアの急成長というのは、もう2010年代で終わったと言っていい。今はそれが不可能な時代になってしまった。
長山 プラットフォーム側からすると、新しく出てきたドメインが、アノニマスポストなのか、できたばかりのBuzzFeedなのか、判断のしようがないんです。
古田 JFCもわからないですよ。そうなってしまうと、せっかく志を持って「情報を良くしよう」と始めても、新しいメディアはなかなか見てもらえない。昔なら「いいね！」でシェアされて、急成長するメディアもあった。今は単純に情報の質だけでなく、アルゴリズムに選ばれるかどうかという戦いになってしまった。
実際、私自身で実験していますが、Xで同じような投稿を同じタイミングでやってみると、どんどんリーチが落ちている。かつての「これくらいシェアされるはず」という感覚がまったく通用しなくなってきている。アルゴリズムが重視する投稿パターンに沿った内容が増えていく一方です。
——古田さんが今年3月に記事を書かれていて、こちらもその文脈ですね。
プラットフォームの限界と責任
——背景にあるプラットフォーム側の本質的な課題についてはいかがですか。
古田 私もGoogleで2年間働きました。そもそも、プラットフォームの人たちがどういう価値判断と行動規範を持っているのかを知りたくて入ったというのも理由の1つです。
長山 潜入捜査ってことですね。
一同 （笑）
古田 そこで分かったのは、先ほど長山さんがおっしゃったように、彼らの多くが「情報の価値判断はそう簡単にできるものではない」という認識を強く持っているということ。それは一面の真実です。
さらに、もう1つの重要な議論があって、「プラットフォーム側にその判断をする権力を与えていいのか」という問題。プラットフォームに何でもやれという議論も間違っていると思います。
結局、GoogleもMetaも、インターネットに夢があった時代に作られた会社なんです。世の中の情報を整理して、人が利用可能な形にすれば世の中が良くなると思って作られた。でも実際には、こんなに有害なコンテンツが溢れかえるとは、誰も想定していなかった。
——どういった対応が必要になってくるでしょうか。
古田 今までと同じ姿勢だけでは足りない。プラットフォーム側と外の人たちがもっと議論を重ねていく必要があります。たとえば、ヨーロッパのデジタルサービスアクトのような法律を作って、プラットフォーム側の説明責任を明確化する。WELQ問題のところで長山さんがおっしゃったように、プラットフォーム側も外からの要請があった方が動きやすい面もあるはずなので、対話が必要かなと思います。
——自分たちから動くと権力の濫用になりかねないから、外圧があった方が変化を正当化しやすいですね。
——プラットフォーム側の対応の例として、以前のTwitterではどのような取り組みがあったのでしょうか。
長山 以前のTwitterの話をすると、私は2020年のアメリカ大統領選の時、Twitter社のスパム検出チームでデータサイエンティストをしていました。当時は選挙戦中にプラットフォーム上で流れる誤情報には、ラベルを付けて注意喚起をするなどの対応を行なっていたのですが、自動的に判断することは難しいので、ポリシーチームから「これは誤情報の可能性があるので、ラベルをつけてくれ」と来たら、そのURLを手動でリストに入れなければならない。当時、チームはみんなアメリカにいて、私だけが日本。他のアルゴリズムの時間外対応なども含めて、アメリカが寝ている間は私一人で、リモートでオンコール体制にありました。
古田 ふつうロンドンに1人置きそうなものですが（笑）
——イーロン・マスクがCEOになってからは、アビューズ対策チームがどんどん縮小されて、タイムラインの状況も悪化しました。
長山 Xは本当にそうですね。以前なら簡単に検出されていたようなスパムが放置されている。残念です。
「メディア食堂説」の意味
——情報の質を担保する責任はメディアにも広告主の側にも問われてきますね。
古田 これは広告業界の人たちと話していて「なるほど」と思ったのですが、広告の中にも明らかな詐欺広告があるわけです。また、その広告の出し先にも、明らかに品質の低いサイトがある。これってある程度はコントロールできるはずなんですよね。でも、その中の議論で出てくるのが「明らかにブラックなところを増やした方が売り上げが伸びる」「どのくらいまでヤバかったらOKですか、NGですか」という話。
WELQ問題が起こった後に書いた原稿で「メディア食堂説」を唱えました。情報とは食料であると。メディアとはその食堂であると。「あそこの食堂はいろんな食品が揃っていて、安くてうまい。ただし、食材は盗んできたもので、2割くらいは食中毒になる」と。行きますか？と。プロの料理人たち、飲食店をやる人たちも、「ちょっとこっちの方が利益率高いから2割くらい食中毒出てもいいか」なんて言わないでしょう。メディアの人がそう思ってやってくださいよと。
長山 メディアには保健所がないですからね。
〈メディア食堂説を知るための記事〉
——広告やマーケティングの現場では、その判断が難しい？
長山 広告は、SEOやコンテンツマーケティングに比べるとより収益に直結しやすいですよね。投資に対してROASがいくらで、これくらいまでなら許容するから、これだけの売り上げコンバージョンを目指そうみたいな世界ですから。
古田 ただ、これもまた難しいのは、食中毒とかだったらはっきりするじゃないですか。でも間違った情報って、ある人にとっては好きな情報だったりする。人を差別するような情報を見たい人たちがいるというのが、これがとても難しいところです。ジャンクフードばかり食べてる人は、ジャンクフードばかり食べていると健康を損なう、栄養に偏りがあるということに関して、そもそも教育を受けていない人もいます。
長山 食べたくて食べてるんだ、と言われたらどうしようもないですからね。
ファクトチェックの挑戦
AIはどんな役割を果たすか
——デジタルマーケティングの時代になって、倫理観も変わってきたのでしょうか？数値化できる、成果が見えやすいということが影響しているのかもしれません。
古田 いや、変わっていない気もします。
長山 結局、お金の論理が入ってきた時に、それに抗うには倫理観だけでは足りない。規制を持ち込むとか、摘発までの時間を短くするとか、より具体的な対策が必要になってきている。最近は審査にAIが使われることで、むしろ抜け穴が増えてしまった。これはプラットフォーム側の大きな課題です。
——審査AIの進化で解決できる？
長山 私は根本的には「ならない派」です。結局、「これはダメ、これは良い」という判断や、ガイドライン違反の解釈は、人間がやる必要があります。特に広告の審査といったような領域では、自動化をアグレッシブにしすぎると必ずリコールの問題が出る。すべてのガイドライン違反を検出しきれないのです。
機械学習、特に教師あり学習は、与えられたデータからの類推でしかありません。典型的なガイドライン違反は簡単に捕まえられても、手法が変えられた時に検出できるのかというと容易ではない。これは機械学習という技術の構造的な問題で、簡単には解決できないと考えています。
古田 今年6月にヨーロッパであったファクトチェックの世界的な会議では、2年前と比べてAIのセッションが圧倒的に増えていました。でもイギリスのフルファクトという団体の編集長が言っていました。AIを多く使っているけれど、最終的な判断まで全部AIでできた事例はほとんどない。「これかもしれない」というところまでは示してくれても、最後は人間が判断しないといけないと。
——先ほどの本当の意味でのミスインフォメーション対策は、プラットフォーム側では無理という話にもつながります。
長山 そうですね。
古田 偽情報、誤情報対策というのは、ファクトチェックだけではなく、メディアリテラシー教育や信頼性の高い情報発信、法律や業界ルールの整備など、総合的なアプローチが必要だと思います。最終的にはAIによる自動検知も含めて、さまざまな方法を組み合わせていかないといけない。
——情報の質をどう担保していけば良いのでしょうか。
古田 「情報的健康」という考え方も出てきていて、鳥海不二夫先生や山本龍彦先生が提唱している考え方です。情報を食料に例えて、体に悪いものやジャンクフードばかり食べていたら健康に良くないように、より良い情報をバランスよく取らないといけないと。でも、それ自体はとてもいい考え方なのですが、何を持って「健康に良い情報」と判断できるのか。それを定義付けて社会実装するのがすごく難しいんです。
私たちはファクトチェックに取り組んでいますが、実は私は「ファクトチェックセンター」という名前が付いた時に反対しました。私たちがやるべきは「偽情報対策」であって、ファクトチェックはその一つの手段に過ぎないからです。そもそもファクトチェックだけでは勝負になりません。間違った情報の方が圧倒的に多い。その上、派手な見出しで拡散されやすい。数でも拡散力でも負けてしまいます。
持続可能な体制づくりの課題
——組織としての課題はありますか。
古田 世界のファクトチェック団体の5割はフルタイム職員が5人以下。私たちJFCも2人です。アンケートによると83.7パーセントの団体が資金に不安があると言っていて、37.96パーセントは年間予算が1,500万円以下という状況です。
ファクトチェックは基本的に商売にならないんです。間違った情報が世の中に大量に拡散しているのに、「ファクトチェックを見たかったらお金を払ってください」とは言えない。ペイウォールも作れない。広告だけでメディアを成り立たせるのも難しい。ビューを増やすために過激な見出しをつけたり、品質を落としたりすれば、それこそファクトチェックの意味がなくなってしまう。
私たちの場合、GoogleとMetaとLINEヤフーから支援を受けて、活動資金を確保できました。でも、それでも活動が担保されているのは3年間だけ。その3年の間に次の3年の資金を確保しないと、4年目はない。結局、世界中のファクトチェック団体はプラットフォームからの資金提供で生き延びているのが現状です。
教育から始まる希望
——教育面での手応えはいかがですか？
古田 メディアリテラシー教育には確かな手応えを感じています。この2年間で5,000人を超える人たちに直接教育をしてきて、1人1人に対しては即効性があります。世の中にはこんなに間違った情報があることと、人間の脳の仕組みはこんなに騙されやすいということと、騙されないための検索テクニックや画像検索の方法。個々で考えると、こういったことは1時間の講義でみんな使えるようになるんですね。
ファクトチェックって、メディアリテラシー教育をするにも「どういう偽情報が流れていて、どう検証すればいいのか」を教えないといけないから、結局ファクトチェック事例がないと教えられないんです。ファクトチェック単体では効果が限られるかもしれないけれど、偽情報対策の基盤として、誰かがやらないといけない。そういう思いでやっています。
また、私達が直接教えることが出来る人の数には限りがあるので、YouTubeで無料で学べるファクトチェック講座や、合格者に認定証を配るファクトチェッカー認定試験、教育者向けの講師養成講座なども開催しています。わたしたちが作成した教材を使って、教室や職場でファクトチェックやメディアリテラシーを教えるトレーナーを増やしていきたいと思っています。
——2025年に向けてはいかがですか。
古田 2025年は大きく3つの方向性を考えています。1つは国際展開です。12歳から24歳を対象とした国際大会を、世界の様々な団体と協力して開催しています。この世界的なネットワークをさらに広げていきたい。
2つ目は技術面、テクノロジーの活用をより進めていきたい。現在もいくつかのツール開発に協力していますが、これをさらに発展させていく。
3つ目は組織基盤の強化です。教育事業など、収益化できる分野でしっかりと資金を確保し、人員体制を整えていく。2025年に向けて、持続可能な組織づくりを目指しています。
長山・伊東 本日はありがとうございました。
対談を終えて
古田氏と長山のプラットフォーム側・メディア側に身をおいていた経験から、インターネットを巡るさまざまな課題について伺いました。プラットフォームの限界、メディアの倫理、そして新しい取り組みの難しさ。2024年現在、私たちが向き合うべき課題は浮き彫りになったように思います。
プラットフォーム企業は、スパムやアビューズといった明確な違反には機械的に対処できても、情報の質そのものを判断することはできません。AIの進化も、まだその解決には至っていないようです。
一方、メディアの側では「メディア食堂説」が刺さる方も多いのではないでしょうか。情報を「食べ物」に例えるなら、私たちは今、どんな情報を「食べて」いるのでしょうか。利益を追求するあまり、品質の悪い情報を「提供」していないでしょうか。
希望ももちろんあります。メディアリテラシー教育には確かな手応えがあり、特に若い世代への働きかけは着実に進んでいます。私たちユーザーにとって、インターネットはもはや「使うもの」から「共に生きるもの」になっています。この対談が、あなたのインターネットとの付き合い方を考えるきっかけになれば幸いです。
