スタートページ> (主張・講演、 Web教材) 歴史> セキュリティの歴史
フェイクニュースの定義は、研究者によって様々である。
インターネット上英語辞書 Dictionary.com(2017年)では、フェイクニュースとは「センセーショナル性を持ち、広告収入や、著名人・政治運動・企業などの信用失墜を目的としたオンライン上で広く共有されるように作成された偽のニュース記事」であるとしている。
なお、欧州では fake news ではなく、disinformation ということが多い。
フェイクニュースの起源は、おそらく有史以前に遡るであろう。戦争などの環境では、敵の軍事行動や敵国民の戦意喪失、自国民への高揚などのためにフェイクニュースを活用するのは当然でもある。しかしここでは、SNSの日常化、画像加工技術の普及化が進んだ2010年以降だけを対象とする。
この頃には、2003年には、自分のWebサイトで広告手数料を得るGoogle AdSense がサービス開始したし、2005年にはYouTube、2006年にはFacebook、Twitter(現X)がサービス開始していた。
fake news が現在の意味で最初に用いたのは、2016年に、Facebook(現 META)のザッカーバーグ(Mark Elliot Zuckerberg)が講演で用いたのが最初だという。 トランプ大統領は、自分に批判的な従来のマスコミを fake news だとして攻撃。これが一般に広まった大きな要因である。
「フェイクニュース」が広く認知されたのは、2016年のトランプ(Donald Trump)対クリントン(Hillary Clinton)の米大統領選挙である。
「ローマ法王がトランプ氏支持を表明」とか「クリントン氏がイスラム国(IS)に武器売却」など多くのフェイクニュースが続出した。選挙前3か月間において、トランプ有利のフェイクニュースは約3,000万回、クリントン有利なものは約760万回もシェアされたという。
結果としてトランプが勝利したが、その勝因にフェイクニュースがかなり影響しているといわれた。
トランプは自分に不利な立場だったテレビや新聞など既存のマスメディアはすべてフェイクニュースであり、自らが発信するツイッターやそれに同調するWeb情報だけが真実だと主張した。これは在任中変わらなかった。
次回(2000年)の対バイデン(Joe Biden)との大統領選挙では敗北したが、トランプは自ら「選挙方法や集計方法に違反があった」とのフェイクニュースを発信し続けた。
熊本地震の直後、ツイッター「地震のせいで 近くの動物園からライオンが逃げ出し。街に出ている」との記事が写真(静止写真)ととも投稿があった。2万人以上にリツイートされ、動物園に問い合わせが殺到した。
投稿者の20歳男性が業務を妨害した疑いで逮捕された。面白半分で行ったらしく、街とライオンの写真もネット上のものを無断使用し合成したとのこと。
台風21号が関西空港に大きな被害を与えた。
「中国大使館が専用バスを手配して空港内に閉じ込められた外国人を救出した」とのフェークニュース(実際には関西空港が手配)がSNSで拡散。同時に台湾事務所が傍観していると批判する投稿が拡散し、台湾の大手メディアも一斉に批判した。
批判された台湾事務所の担当者が自殺する事態にまで発展。フェークニュースだと判明したのは自殺の翌日であった。最初のフェークニュース発信元は不明だとのこと。
このように、フェークニュースから発展して誹謗・中傷が続出して、大きな被害を与える事例は非常に多い。
恐怖や無知(情報不足)がフェイクニュースを拡散させる原因になる。
「漂白剤を飲む、度数の高いアルコールを飲むと体内のウイルスが死滅する」「ワクチンには微小のICチップが埋め込まれ、個人行動の監視に用いられる」などのフェイクニュースが大きな問題となった。
新型コロナウイルスは現実の恐怖であり、このウイルスに関する情報が不足していることから、これらのフェイクニュースは急速に広まった。メタノール中毒で入院・死亡者が多く発生したり、ワクチン接種を拒否した人も多かったという。
なぜ、このようなフェイクニュースを投稿するのか、その分析が多数行われているが決定的なことはわかっていない。むしろ、リツイートが多いことの分析が進んでいる。
戦時では、敵軍の誤行動への誘導、敵国民への戦意消失、自国民への戦意高揚、第三国へのアピールなど、意図的なフェイクニュースが発信されるのはむしろ当然であろう。現代ではこのような情報戦は実際の戦闘に匹敵するといわれている。
ディープフェイク動画は兵器の一つになったのだ。なかには政治的意図なく収入目的や面白半分でディープフェイク動画を投稿したりリツイートしたりしているかもしれないが、その影響が甚大なことを認識するべきである。
ロシア軍によるブチャでの無差別殺人があったとするウクライナの主張に対して、ロシアはウクライナの捏造であり、遺体はむしろウクライナ軍の攻撃によるものとし、その証拠写真を公開した。ところが、後の映像の検証や衛星写真の解析によって、ロシア軍撤退前から当該地点に遺体が複数あったことが確認され、ロシアの反論はフェイクニュースだとされた。
ゼレンスキー大統領が、ナチスの鉤十字を付けたシャツを着用したり、降伏を呼び掛けたりする偽動画が拡散されたこともある。状況から判断してフェイクであることは明らかであるが、動画そのものは通常の人が真偽を判断するのは不可能だとされた。
ガザを実効支配するハマスのイスラエルへの奇襲攻撃、それに対するイスラエルの過剰報復攻撃は、大量の一般市民被害を生み出し、世界中に人道的立場での関心が高まった。
その被害状況を知らせる映像には、膨大なフェイク動画が含まれ、フェイク動画が世間の意識を誘導していることが認識された。また、フェイク動画の作成や拡散を抑制する手段や文化の遅れが指摘された。
ディープフェイク動画が経済的混乱を招くことがある。
ペンタゴン近くで大規模な爆発が起こったようなディープフェイク動画が拡散。消防当局の否定声明発表前に、一部メディアが誤って事実として報道。ニューヨーク株式市場のダウ工業株30種平均が一時80ドル近く急落した。
これがフェイクだと気づいた人でも、現実に株価急落を察知すると、その後完全に回復するかどうかを懸念して売却することもあり得る。真偽に関係なく混乱が生じることがあるのだ。
JFCは、2022年にGoogle、Yahoo! JAPANなどネット関連企業が共同で設立した非営利機関。総務省や各種団体とも連携している。ネット上の誤情報・偽情報の対策を行なっている。
「2023年の10大フェイクニュース」を発表した。
・福島第一原発からの処理水の放出
・関東大震災から100年
・イスラエル・パレスチナでの武力衝突
・SNSの偽広告
・著名人の訃報デマ
・反ワクチン言説
・生成AIによる捏造の増加
・気候変動否定論
・陰謀論
・ヘイトスピーチとフェイクニュース
従来のフェイクニュース発信目的
ところが近年では「カネもうけ」のために、フェイクニュースを生成し投稿する事例が増大してきた。
アテンションエコノミー(attention economy、関心経済)とは、情報が指数関数的に増加して、人々が内容を熟読する限界を超えている状況では、情報の質よりも関心を引くことが経済的価値を持つようになり、それ自体が重要視・目的化・資源化・交換財化される傾向がある。
Google Adsenseなどのコンテンツ連動型広告サービスでは、Google からのバナー広告を自分のWebサイトに掲載し、その表示回数やクリック回数に応じて、広告主からの手数料をGoogle を通して得るという仕組みがある。
このような広告が掲げられているSNSに、ことさらにセンセーショナルな記事を投稿することにより、広告表示の収入をえることができる。それを主目的とするSNS運営者もいる。
2016年の米国大統領選挙でのフェイクニュース投稿者
2022年、OpenAI は会話型生成AI chatGPT を発表、翌年、Microfoft は chatGPT をベースにした Copilot を発表した。これらは爆発的に普及し、素人でも簡単に画像生成ができるようになった。
これら著名な会話型生成AIは、反社会的な利用を規制する手段(ガードレール)を講じているが、それでも生成画像が流布目的であるかどうかの判断は難しい。
また、あえてそのような規制をしない悪質な会話型生成AIが広まっており、社会的な問題になっている。2024年にはプログラムなど書いたこともない人が生成AIを使って身代金詐欺マルウェアを作成したことが話題になった。
2018年にマサチューセッツ工科大学のヴォソゥギ(Soroush Vosoughi)らは、Science誌に論文「The spread of true and false news online」を発表、「フェイクニュースのほうが真実より拡散スピードが速く、また、拡散範囲が広い」ことを示した。
2006年から 2017年に Twitter で配信された約300万人が 450万回以上ツイートした約126,000 件の記事を真実または偽として分類した。その結果、真実が1,500人に届くにはフェイクニュースより約6倍の時間がかかることや、フェイクニュースのほうが真実よりリツイートされる可能性が70%も高いことを示した。
このような調査は多数発表されているが、ほとんどが同様な傾向であり「フェイクはファクトを駆逐する」状態になっている。
SNSでの拡散は、「いいね」などの簡単なリツイート操作で行われる。しかもそれがSNS投稿者のフォロワー増大になり、記事の信頼性の尺度にもなるので、それを促すような工夫をしていることが多い。
リツイート者の心理としては、フェイクだと思わず「重要だから親しい人にも伝えよう」「社会的に良いことだから広く伝えよう」ということもあるが、単に「面白いから」の理由が多いという。
ディープフェイクとは「ディープラーニング」と「フェイク」を組み合わせた造語。動画や音声に他人の顔や発言などにすり替えると、あたかも本人の行動のように見える。そもそもは学術用語であり、反社会的な意味を持つ用語ではない。
2016年には、ホワイトハウスと思われる部屋で「トランプ大統領はまったくもって完全なばか野郎だ」と偽のオバマ前大統領は動画でスピーチしている動画がYouTubeに投稿された。この当時の生成AIは、未だ実験的な技術であり、この動画も多分に実験的要素があるとされていた。2000年選挙でも散見されたものの影響は限定的であった。
ところが、2020年代になると、画像生成AIが技術が向上し、高度なディープフェイク動画が生成されるようになった。一般人には(場合によっては専門家も)真偽の判断ができないレベルになった。2022年に勃発したロシアのウクライナ侵攻や2023年のガザ紛争では、このようなディープフェイクが頻発するようになった。
フェイクニュースが蔓延すると、真実の音声や映像の信憑性を疑うようになる。公共性の高いTVや新聞も信頼性を失う。裁判での証拠写真をフェイクだと主張することもある。2018年にチェズニーとシトロンはこの現象を「うそつきの配当」と命名した。
フィルターバブルとは、「インターネット上で泡(バブル)のなかに包まれたように、自分の見たい情報しか見えなくなること」である。「見ない」のではなく「見えない」のだ。しかも、自分がフィルターバブルの中にいることがわからない。
2011年にパリサー(Eli Pariser)の著作『The Filter Bubble(邦題:閉じこもるインターネット)』で初めて使用した。
検索エンジンやSNSは、過去のクリック履歴や検索履歴などの情報から利用者の関心があると思われる情報を自動的に判断して、検索結果やフィードに表示する。この機能をパーソナライズという。利用者の利便性向上を目的とした機能であった。
しかし、その精度が上がると、利用者はAIが勝手に判断した以外の情報へアクセスすることが難しくなる。「うそつきの配当」により従来のマスコミの影響力は低下している。意識せずに、パーソナライズされたフィルタを介した情報だけに接し、しかも、それが公平な情報だと思い込む。
「フィルターバブル」を有名にしたのが、2016年の米国大統領選挙である。
トランプは、選挙中も当選後も、自分あるいは協調者のSNS記事だけが真実であり、他のマスコミ記事はすべてフェイクだと喧伝した。その結果、トランプ支持者の多くがフィルターバブルになったという。
2020年の選挙ではバイデンに惜敗したが、民主党による投票集計の不正操作だとして敗北を認めなかった。全ての裁判所が訴えを退けたが、多くのトランプ支持者は次回選挙の前までこれを信じている。
フィルターバブルの中にいる人に、他の意見があることを自覚させるのは困難だという。たまたま他の意見に接しても、それへの反論を強化することが多いという。
また、同じフィルターバブルの中にいる人たちの交流は、互いにバブルを強固にして、極端になる傾向があるという。悪く言えば狂信者になる。
異なるフィルターバブルにいる人の間では、自分たちが正義であり、そうでないものは悪魔に操られている異教徒だと考えるようになる。ここに深刻な社会の分裂・対立が発生する。
独裁者や戦時でのプロパガンダや報道管制などはフィルターバブルの典型的な例だろう。
フィルターバブル内にいる人にとって、バブル内の主張に従うほうが、「自分は正しい」ので精神的に安定する。権力者や利害関係者は、自分が有利になるようなフェイクニュースを発信し、バブルを形成しようとする。
もはや「真実とは何か」は存在意義を失い、「どのフィルターバブルに身を置くか」が真実の根拠になる。このような社会を「ポスト真実」の社会という。
「ポスト真実」という言葉は、テシック(Steve Tesich)で、1992年に週刊誌「The Nation」のイラン・コントラ事件と湾岸戦争についてのエッセーで使ったのが最初だったという。
現代用語としては、2010年に非営利団体のオンラインマガジン「Grist」でDavid Robertsが使ったという。
オックスフォード英語辞典は、2016年の「Word of the year」で「ポスト真実」(post-truth)を選び、「世論を形成する際に、客観的な事実よりも、むしろ感情や個人的信条へのアピールの方がより影響力があるような状況」を示す言葉だと定義した。
フィルターバブルの結果、その中で自分が信じることが真実や事実なのであり、「万人が認める」真実や事実はどうでもよくなったという状況になってきた。
ポスト真実の政治では、客観的事実よりも感情的要素の方が人々の意見形成に大きな影響を与える。断言を繰り返し、事実に基づく政策の詳細説明は無視される。
「ポスト真実」という用語が広まる以前から、このような概念は政治に利用されてきた。
大災害などが起こると陰謀論フェイクニュースが流布される。
・米国同時多発テロは、対イスラム強硬派による自作自演だ。
・地球温暖化は原発推進派、電気自動車メーカーの陰謀だ。
・新型コロナは生物兵器で、実験のためにパンデミックを引き起こした。
・コロナワクチンで微小センサを埋め込まれ個人監視に使われる。
これらは、巨大な闇の権力による陰謀であり、他陣営はそれに奉仕している邪悪な存在だという。
理性的に考えればナンセンスな説だが、非常に理解しやすい説でもある。フィルターバブルの中にいる人には、これこそが真実であると信じる人がいる。しかも政治的意図をもってこれを煽ることすらある。