激怒するAIが登場!? 人工知能が攻撃的キャラに変貌する危険性が浮上!

AI(人工知能)が複雑な状況のもとでは、攻撃的キャラに変貌する危険性が浮上

記事まとめ

  • 囲碁AI「AlphaGO」が世界トップクラスの囲碁棋士に圧倒的勝利を収めるなど、AIは進化
  • 最新のAIは、複雑かつ瞬時の判断を求められる課題で、攻撃的なキャラになることが報告
  • 協調や協力を最優先にした行動原理をAIに植え込むことが鍵になってくるとの意見も

激怒するAIが登場!? 人工知能が攻撃的キャラに変貌する危険性が浮上!

激怒するAIが登場!? 人工知能が攻撃的キャラに変貌する危険性が浮上!

「DeepMind」より。

「アニメ制作はAIに代替されるかもしれない」――。先日、AT-Xの岩田圭介社長がそのように語ったことでも話題の人工知能(AI)の分野。同氏によれば、人間の目でチェックする過程をのぞき、アニメ制作をAIがこなすことは、今後十分に考えられるという。

 そんな中、お届けしたい今回のニュースは、なんとAIも複雑な状況のもとでは怒りっぽく攻撃的になるというトピック。すぐに怒りはじめるAIが将来登場するというのは、なんだか怖い話だが……。

■AIがリンゴ争奪戦で攻撃的キャラクターに変貌

 2016年は世界規模での政治的混乱が浮き彫りになった一方で、囲碁AI「AlphaGO」が世界トップクラスの囲碁棋士に圧倒的勝利を収めるなど、AIのめざましい進化を否応なく実感させられた年でもあった。そして、この「AlphaGO」を開発したDeepMindの最新のAIは、複雑かつ瞬時の判断を求められる課題において、攻撃的なキャラクターになることが報告されている。いったいどういうことなのか?

 昨年末、DeepMindは最新のAIの“協調性”をテストした。青と赤の2つのAIに、なるべく多くのリンゴをゲットしてもらう「リンゴ収穫ゲーム」を、4,000万回行なわせてデータを収集したのだ。

 フィールド上にリンゴ(緑)がじゅうぶんに多く実っている場合、青と赤のAIは実に軽快に次々とリンゴを収穫していく。しかし、リンゴの数が少なくなるとその平穏なムードが一変。なんと青と赤のAIはお互いに競いあいながらリンゴの争奪戦を繰り広げ、レーザービームを放って相手を攻撃する高い攻撃性を見せはじめたのだ。

 ちなみにプログラムの上では、たとえリンゴが少なくなったとしても青と赤のAIはそれぞれほぼ半々でリンゴを獲得できるようになっている。また、レーザービームを撃って相手に命中させた場合は、その時のリンゴは獲っても無効になる。しかしながら、撃たれたほうのAIはわずかの間ゲームから排除されるため、一方のAIはその時間内に新たに登場したリンゴが獲り放題となる。

 このような条件でAIが相手を攻撃するということは、あまり競わずにイーブンな収穫を得ることをよしとせず、獲り放題となる時間帯を得ようとしてリスクをとっていることになる。つまりこの場合、AIは攻撃的になることが有利であるという判断を下しているのだ。そしてテストを繰り返すほどにAIはお互いにより早い時点で攻撃を行うようになり、欲深くなり、そしてよりアグレッシブになっていったということだ。

 もし将来、AIを搭載した有能なロボットが登場した際、現実のシチュエーションでこのような攻撃性を発揮する可能性があるということになり、人類にとって脅威となることは間違いないだろう。

■協力が不可欠なゲームでは攻撃的にならない

 故アイザック・アシモフが提唱した「ロボット3原則」をはじめ、人間社会に進出するロボットやAIを作る際には、当然ながら人間に危害が及ばないように念入りにプログラムされることは言うまでもない。しかしながら、この「リンゴ収穫ゲーム」のような設定においては、AIは意外なまでに攻撃的なキャラクターになる可能性があることになる。とすれば、ロボット開発においては人間がすべての可能性をしらみつぶしに検証して危険性を排除することが求められいるということにもなる。

 そこでDeepMindは、また別のゲームを2つのAIにプレイさせてその様子を観察している。そのゲームはチームプレイで狩りを行なうオオカミの習性にヒントを得た「群狼作戦」だ。2つのAIは共にオオカミとして登場し、フィールド上に出現した獲物をお互いが一定の範囲内にいる状態で捕獲しなければならない。2つのAI(オオカミ)が一定の範囲内にいる場合、実際に捕獲したのがどちらであれ獲物は2匹でシェアされる。逆に言えば離れた場所で単身で獲物を捕獲しても報酬としてカウントされないのだ。

 このゲームのアイディアは獲物もまたそれなりに強く危険な存在であることからくる。例えばオス鹿なら頭の角や後足のキックで攻撃されることもあるだろう。また、たとえ単独で獲物を仕留めたとしても、ある程度ダメージを負ったり体力を使い果たした場合はハイエナやワシなどにせっかくの獲物を持っていかれてしまうケースもあり得る。だからこそ2頭の協力体制が求められているのだ。

 そしてこの「群狼作戦」のゲーム設定では「リンゴ収穫ゲーム」とは違って、この2つのAIはお互いを攻撃して獲物を独占しようという行動に出ることはない。つまり、将来社会生活に進出してくるロボットの開発において、この「群狼作戦」タイプの設定でAIの行動規範を設定すべきなのだ。

 つまり有限の富を奪い合う“ゼロサムゲーム”の設定にするのではなく、協調や協力を最優先にした行動原理をAIに植え込むことが鍵になってくるということだろう。まずはAIによる自動運転の実現が近づきつつあるが、将来の人工知能開発を決して「スカイネット」にしないためにも、人間が検討しなければならないことはまだまだ多そうだ。
(文/仲田しんじ)

【参考】
・Science Alert
http://www.sciencealert.com/google-s-new-ai-has-learned-to-become-highly-aggressive-in-stressful-situations

関連記事(外部サイト)