有害データばかりを学習したAIは「サイコパス」になる

有害データばかりを学習したAIは「サイコパス」になる

「ハイプ・ループ」の図。機械の知能と人間の行動の相互作用。機械の知能は、人間の行動を感知し、その分析に基づいて情報を推薦する。つまり、機械の知能は人間の選択の幅を狭める。人間は機械の推薦に対応して、選択し、またその選択が機械の知能に影響を与える。

「なぜデマは真実よりも速く、広く、力強く伝わるのか?」SNSに潜むウソ拡散のメカニズムを、世界規模のリサーチと科学的研究によって解き明かした全米話題の1冊『デマの影響力──なぜデマは真実よりも速く、広く、力強く伝わるのか?』がついに日本に上陸した。ジョナ・バーガー(ペンシルベニア大学ウォートン校教授)「スパイ小説のようでもあり、サイエンス・スリラーのようでもある」、マリア・レッサ(ニュースサイト「ラップラー」共同創業者、2021年ノーベル平和賞受賞)「ソーシャル・メディアの背後にある経済原理、テクノロジー、行動心理が見事に解き明かされるので、読んでいて息を呑む思いがする」と絶賛された本書から一部を抜粋して紹介する。

■ネットの「ぐにゃぐにゃ文字認証」知られざる役割

 私のMITの元同僚、イヤッド・ラーワン、ピナール・ヤナルダグ、マニュエル・セブリアンは最近の研究で、人間の営みが機械にどう影響するのか、その典型的な例を提示した。

 イヤッドは、ハイプ・マシンに組み込まれた知能が、入力されたデータにどう影響されるのかを知ろうとした。つまり、ソーシャル・メディアのアルゴリズムが、データによって私たちのふるまいについて学んだ時、どのように「考え方」を変えるのかを知ろうとしたわけだ。

 MITのチームが特に力を入れたのは「自動イメージ・ラベリング」の分析である。

1 2 3 次へ

関連記事(外部サイト)