YouTubeやGoogleの「おすすめ機能」に罪はないのか?

YouTubeやGoogleの「おすすめ機能」に罪はないのか?

「よりエクストリームなものを見たくなるという人間の性質を刺激するようなアルゴリズムを組んでいること自体、こうした問題においては“罪”ではないでしょうか」と語るモーリー氏

『週刊プレイボーイ』で「挑発的ニッポン革命計画」を連載中の国際ジャーナリスト、モーリー・ロバートソンが、YouTubeやGoogle「おすすめ機能」の問題点について指摘する。

* * *

米紙『ニューヨーク・タイムズ』が先日、「YouTubeの自動レコメンド機能はペドファイル(小児性愛者)の倒錯を誘発している」とする記事を発表しました。自動レコメンド機能とは、ある動画を視聴した後に「あなたにおすすめ」という感じでいくつも表示されるあれです。

YouTube上には、未成年者が登場するさまざまな動画がアップされています。なんの変哲もない家族ムービーや、子供がただおもちゃで遊ぶだけといったものもあれば、水着など肌の露出がやや多いもの、そして陰に陽に性的な意味合いを込めたものまで(一応、YouTubeでは"有害コンテンツ"は見つかり次第削除されることにはなっています)。

当該記事では、ある国に住む母親がアップした動画をめぐる"事件"を紹介しています。10歳の娘がプールで友達と遊ぶほのぼのとした動画を、母親は何げなくアップロードしたそうですが、数日後、その至って普通の動画はペドファイルの目に止まり、40万回再生を超える"人気動画"となってしまいました。

こうしたことはしばしば起きているようで、ペドファイルの視聴傾向に合わせ、子供が映っている動画が"おすすめ"されてしまっているわけです。

言うまでもなく、YouTubeのビジネス上の最大の目標はトラフィックを稼ぐこと。つまりアルゴリズムは、ユーザーが"関連動画の渡り鳥"となるように最適化され、次々と動画を選びます。しかも途中で飽きられないように、おすすめ動画はどんどんエクストリームになるよう設計されているのです。

YouTubeを傘下に置くGoogleは、「アルゴリズムは恣意(しい)的ではない」としていますが、よりエクストリームなものを見たくなるという人間の性質を刺激するようなアルゴリズムを組んでいること自体、こうした問題においては"罪"ではないでしょうか。

多くの人は"無味無臭"だと思っているであろう検索エンジンにも歪(ゆが)みはあります。例えばGoogleの検索欄にキーワードを入力すると、関連ワードが自動的に表示されるサジェスト機能も相当に闇が深い。

個人的にも、その昔、ストーカー的な人物がネットに書き込んだデマがひとり歩きし、「モーリー・ロバートソン」と検索した際にそのデマが予測ワードの上位を占めるようになってしまったこともありました。

Googleの検索欄に「ホロコースト」と入れると、陰謀論者による"ホロコースト否定論"が上位にサジェストされてしまう問題が批判された際も、Google側は「中立性」を盾に反論しました。ただ、われわれのように実害を被った立場から言わせてもらうなら、「そんな理屈で逃げられると思うか」という話です。

たとえSNSや掲示板などネット上であっても、差別発言や問題行為をした個人にはアカウント制限、凍結などの処分が下されます。しかし検索エンジンに関しては、明らかにアルゴリズムのやり方に問題があるにもかかわらず、なんの罪にも問われず放置されている。

「ユーザーの"無意識"を狙う」ことがビジネスモデルになっている以上、こうした問題はなくならないのでしょうが、そろそろ本当にどうにかしたほうがいい。ユーザー側も「タダより高いものはない」という意識をどこかで持っておく必要があるでしょう。

●モーリー・ロバートソン(Morley Robertson)
国際ジャーナリスト。1963年生まれ、米ニューヨーク出身。日テレ系情報番組『スッキリ』の木曜コメンテーター。ほかに『報道ランナー』(関西テレビ)、『水曜日のニュース・ロバートソン』(BSスカパー!)などレギュラー多数。本連載を大幅に加筆・再構成した書籍『挑発的ニッポン革命論 煽動の時代を生き抜け』(集英社)が好評発売中!

関連記事(外部サイト)