ウォズニアック氏、GoogleとYouTubeを提訴。問われる巨大企業による「誤情報対策」の今後

ウォズニアック氏、GoogleとYouTubeを提訴。問われる巨大企業による「誤情報対策」の今後

スティーブ・ウォズニアック氏 photo by inUse Experience via Flickr(CC BY 2.0)

◆詐欺動画を放置したとして、ウォズニアック氏がGoogleとYouTubeを提訴

 米Appleの共同創業者として有名な、スティーブ・ウォズニアック氏が、7月23日(現地時間)に Google と YouTube を提訴した。YouTube に掲載されていた「ウォズニアック氏の映像を利用してビットコイン詐欺に誘う動画」の削除を再三にわたって要求したのに、YouTube が放置したのが原因だ(参照:ITmedia NEWS)。

 詐欺の内容は「ビットコインを送ると2倍にして返す」というものだ。訴状には、7月15日の Twitter の大規模ハッキングとの比較が書いてある。Twitter は、即日対応したが、YouTube は動画の削除を無視するだけでなく、その動画を宣伝して広告収益を上げていた。訴状に書かれた原告には、ウォズニアック氏だけでなく、詐欺の被害者も含まれている。

 この件について Ars Technica が YouTube に尋ねたところ、YouTubeの広報担当者は「プラットフォームの悪用を真剣に受け止め、詐欺やなりすましなどのポリシー違反が検出された場合は迅速に対応します」と答えた(参照:Ars Technica)。定型文をそのまま返したのかもしれない。

 YouTube の「スパム、欺瞞行為、詐欺に関するポリシー」を引用してみよう。

> YouTube コミュニティを悪用するスパムや詐欺などの欺瞞行為は YouTube で許可されていません。また、他のユーザーを欺いて YouTube から別のサイトに移動させることを主な目的とするコンテンツも許可されません。

> このポリシーに違反するコンテンツを見つけた場合はご報告ください。コミュニティ ガイドラインへの違反を報告する手順はこちらでご確認いただけます。報告する動画やコメントが複数ある場合は、そのチャンネルを報告してください。

 ウォズニアック氏による再三の報告が無視されたのは、YouTube のポリシーが適切に機能していない証拠かもしれない。

 訴状には「被告の不正行為は、通信品位法第230条により免除されない」と書いてある。しかしこの主張が通るのは難しいという分析がある(参照:Ars Technica)。

 最近のトランプ大統領のニュースでも出てくる通信品位法第230条について、少し触れてから、先に進むことにしよう。

◆通信品位法第230条とは?

 通信品位法の条文を確認してみよう(参照:連邦通信委員会)。長い文章の中の、SEC. 230. c 1(第230条のc項1)の部分が、通信品位法第230条の核心部分になる。「インタラクティブなコンピューター サービスのプロバイダーまたはユーザーは(略)パブリッシャーまたはスピーカーとして扱われないものとする」。この内容には、少し説明が必要だ。

 スピーカーは、その情報を発信した人なので説明は不要だろう。詐欺などの情報を発信した本人が罰せられるのは当然のことだ。パブリッシャーは、出版社(者)や発行社(者)、販売元などを指す言葉だ。こうした主体が罰せられるのも理解できるだろう。通信品位法第230条の内容は、「インタラクティブなコンピューター サービス」を行う者が、こうした扱いから免除されるという意味になる。

 こうした内容が存在するのは、過去の出来事を知らなければ理解できない。通信品位法第230条は、1996年に成立した通信品位法の一部になる。この第230条の背景には、1991年の Cubby 対 CompuServe 事件判決と、1995年の Saratton Oakmont 対 Prodigy 事件判決がある(参照:一般財団法人 ソフトウェア情報センター)。

 2つの事件では、前者が、名誉毀損について、編集を加えず放置していたために「書店など編集的コントロールを行わない Distributor」と見なされて、責任はないと見なされた。後者が、不快な内容を削除する努力をおこなっていたせいで、「出版社のように編集的コントロールを行う Publisher」と見なされて、責任を追うと判決を受けた。

 放置した方に責任がなく、対処していた方が重い罰を負う。こうした不合理が判決の上で生じていた。このような問題への対策として通信品位法第230条は登場している。以上のような背景があるために、通信品位法第230条は「良きサマリア人」条項と呼ばれる。

 この「良きサマリア人」とは、『ルカによる福音書』の10章 30〜37に記されているイエスのたとえ話に由来する。強盗に襲われた人がいた。その人を、祭司が無視し、レビ人が無視し、サマリア人が助けた。誰が強盗に襲われた人の隣人になったのか? これは、隣人愛とは、どういうものかという話である。

 英米には、聖書の話に由来して、良きサマリア人法と呼ばれる概念がある。良きサマリア人法は、善意の行動を取った結果、過失があっても罪に問われないといった法律を指す(参照:コトバンク1、コトバンク2)。これは善行を促進する意味がある。

 こうした背景があり存在している通信品位法第230条だが、インターネット上のサービスが大規模化してきた昨今、巨大企業の社会的責任とともに議論がおこなわれている。

◆自動化によるコスト削減と、個別のトラブルへの対応

 さて、話を戻そう。YouTube のような巨大プラットフォームでは、全ての投稿を人間の目で確認してから許可することは難しい。YouTube の取り組みのページの中から「安全性を高める」という箇所を見てみよう(参照:YouTube)。

 ここでは「4つのR」がうたわれている。Remove(ポリシーに違反するコンテンツの削除)、Reduce(ガイドライン違反のボーダーライン上にあるコンテンツ拡散の減少)、Raise(信頼できるコンテンツ発見の促進)、Reward(信頼できるクリエイターへの報酬)である。

 この安全性を高める取り組みの中に「有害なコンテンツの管理」と「誤情報への対抗策」がある。

 「有害なコンテンツの管理」では、機械学習で大規模に検出したあと、人間によって審査されると書いてある。また、自動報告システムも利用していると説明がある(参照:YouTube)。

 「誤情報への対抗策」では、判別は外部の審査チームや、機械学習システムによって行っていると記載がある(参照:YouTube)。ウォズニアック氏が訴えた詐欺動画は「誤情報への対抗策」が該当する。

 実際に、どのような体制になっているのかは謎が多い。不適切動画については、薄給のワーカーが支えているという記事がある(参照:WIRED.jp)。全てを明らかにすることは、詐欺をおこなっている人たちに、攻撃に有用な情報を与えることになるので困難だろう。

 YouTube が、人間と機械学習のどちらを重視するかは興味がある。YouTube は2020年3月16日に、新型コロナウイルスへの対策として、YouTubeに関連する社内スタッフの削減をブログで伝えた(参照:YouTube)。同社としては、機械学習をより重視する方に舵を切ったといえる。

 自動化はより加速して、人間による関与は減っていくのだろう。その結果、ウォズニアック氏のようなケースが発生しても、機械的に判別することで何の対処もされないケースが増えていくのかもしれない。

<文/柳井政和>

【柳井政和】

やない まさかず。クロノス・クラウン合同会社の代表社員。ゲームやアプリの開発、プログラミング系技術書や記事、マンガの執筆をおこなう。2001年オンラインソフト大賞に入賞した『めもりーくりーなー』は、累計500万ダウンロード以上。2016年、第23回松本清張賞応募作『バックドア』が最終候補となり、改題した『裏切りのプログラム ハッカー探偵 鹿敷堂桂馬』にて文藝春秋から小説家デビュー。近著は新潮社『レトロゲームファクトリー』。2019年12月に Nintendo Switch で、個人で開発した『Little Bit War(リトルビットウォー)』を出した。

関連記事(外部サイト)