リビアで「自律型AI兵器、ついにヒトを攻撃」の衝撃!!

AI兵器がリビアで対人攻撃か 昨年のナゴルノ・カラバフ紛争では『ハーピー』運用

記事まとめ

  • AIを搭載したドローン(無人機)が、独自の判断で人間の兵士を攻撃した可能性が報告
  • リビアの暫定政府軍が、反政府組織に対してトルコのSTM社製ドローン「カルグ2」を使用
  • 昨年のナゴルノ・カラバフ紛争では、『ハーピー』が運用されたが、一歩進んだ段階とも

リビアで「自律型AI兵器、ついにヒトを攻撃」の衝撃!!

今回使用された<a href='/topics/keyword/トルコ/160530002014/'>トルコ</a>製<a href='/topics/keyword/ドローン/160530000517/'>ドローン</a>「カルグ2」。飛行時間は30分程度だが、AIが自ら標的を認識し、攻撃する能力を持つ

近年では世界中の戦場で無人兵器が使われているが、それでも「ヒトを殺す」ことの最終判断には人間が介在してきた。ところが、ついにAIが自らの判断でヒトを攻撃したとみられるケースが初めて確認された。人類はいよいよ禁断の領域に足を踏み入れてしまったのか?

* * *

■人間が命令を下した形跡がなかった?

ついに「AI(人工知能)がヒトを殺す」時代がやって来たのかもしれない。

ここ最近、多くの海外メディアが、北アフリカのリビアで起きた「事件」について報じている。AIを搭載したドローン(無人機)が、人間の命令を受けずに独自の判断で人間の兵士を「敵」と認識し、実際に攻撃した可能性がある――。そんな報告書が、国連の専門家パネルから発表されたのだ。

報告書によると、その攻撃が行なわれたのは昨年3月。トルコの支援を受けているリビアの暫定政府軍がトルコのSTM社製のドローン「カルグ2」を使用し、反政府組織を首都トリポリから敗退させた攻防戦でのことだ。

トルコ政府は、GPSが機能しない環境でもドローンが自律的に探知・捜索から攻撃までの任務を遂行できるよう進化させる計画を進めている。その一環として開発されたカルグ2は、AIにより光学、赤外線センサーなどでターゲットを特定・攻撃できる上、最大20機ほどの編隊を組んで波状攻撃を行なうことも可能だという。

ただし、今回のケースにおいてその攻撃方法が自爆なのか、それとも爆薬などによるものか、そして攻撃された兵士が死亡したかどうか......といった詳細は報告書にも書かれていない。にもかかわらず、なぜ国連の専門家パネルは「自律攻撃」について踏み込んだ発表ができたのか?

航空アナリストの嶋田久典氏はこう語る。

「推測するに、国連の調査では当時の周辺の電波状況を調べても、ドローンに対する最終的な『攻撃しろ』というキュー信号を拾えなかったのではないでしょうか。それを確認するためには、あらゆるドローンが使う周波数や信号の内容をすべて把握していないといけませんが、報告書であそこまで言い切るからには確証があるのでしょう」

以前から国際的なNGO団体などは、「自律型殺傷兵器」が対人攻撃に使われることを懸念し、倫理的な問題を指摘していた。そして今回のケースでは、「人間がドローンに命令を下した形跡がなかった」ことから、国連が初めて実際にそれが使用されたと位置づけたわけだ。

AIに詳しい情報セキュリティ大学院大学の小林雅一客員准教授はこう語る。

「無人兵器はすでにさまざまな場面で使用されており、例えば朝鮮半島の非武装地帯では、韓国軍が設置している『SGR−A1』という監視装置が動くものに対して自動的に警告を発します。ただ、射撃を実行するかどうかという最後の判断には人間のオペレーターが介在します。

また、アゼルバイジャンとアルメニアが軍事衝突した昨年のナゴルノ・カラバフ紛争では、アゼルバイジャン軍がイスラエル製のドローン『ハーピー』を運用しました。このドローンは空を自律的に徘徊(はいかい)し、敵のレーダー波を探知するとそのレーダーサイトへ向けて自爆攻撃を自動で仕掛けるようプログラミングされていました。

しかし今回のケースは、AIが自律的に人間の兵士を発見して攻撃にまで至ったという点で、さらに一歩進んだ歴史的な出来事だと思います。おそらくディープラーニングによる画像認識で敵を識別し、攻撃したのでしょう」

ナゴルノ・カラバフ紛争で実戦使用されたイスラエル製ドローン「ハーピー」。特定の空域を自律的に徘徊し、レーダー波を感知するとその発信源へ自動的に特攻する

こうした完全自律型の攻撃ドローンが実用化されたのは、高性能のプロセッサーを小さな半導体チップに集積する技術が進歩したからだという。前出の嶋田氏が解説する。

「従来のようにネットワークを介してクラウド側で集中的に処理するのではなく、個々の兵器に搭載された小型の高性能AIがソフトウエアでデータを処理・解析できるようになりました。もちろん画像処理や物体認識といった制限された能力ではありますが、無人機のソフトにあらかじめ学習モデルを組み込んでおくことで、ある程度はAIが現場で臨機応変に対応できるというわけです」

■"第3の軍事的刷新"と位置づける米軍

米空軍が開発中の自律型戦闘無人機「XQ−58A バルキュリー」。空戦の主力ではなく、有人戦闘機と無人機が連動して作戦を行なう際のバックアップ任務が想定されているようだ

今回の"犯人"はトルコ製のドローンだったが、自律型AI兵器の開発は世界中で進んでいる。前出の小林氏はこう語る。

「軍事大国のアメリカ、中国、ロシアはトルコよりもAI技術が進んでおり、しかも研究・開発に今後も多くの資金を投入できますから、さらに高性能の自律型兵器を作り出すとみて間違いないでしょう。特に米国防総省は、人間の認識・操作能力では太刀打ちできないほど高い精度とスピードを兼ね備えた自律型兵器を、核兵器、ステルス&精密誘導兵器などに続く"第3の軍事的刷新"と位置づけており、軍需産業もAI兵器を重視していくことは確実です」

自律型の無人兵器は、使う側からすれば自軍の兵士の負担や犠牲を減らすことができるという戦略的メリットがある。しかし、「殺傷行為に人間の判断が介在しない」ことには、さまざまな危険性が指摘されている。前出の小林氏はこう語る。

「現状では、AIは環境によって認識の精度に違いが出ます。極端に言えば、碁盤の目のように整備された場所に使用環境が限定された状態と、交通量の多い都会のような環境では、当然ながら後者のほうが誤認識、誤作動などのエラーが出る可能性は高いでしょう」

ロシアがシリア内戦に投入したといわれる無人戦闘車両「ウラン9−v5」。現状では遠隔操作タイプの無人兵器だが、いずれAI搭載の自律型に進化させる予定

また、誤射に伴う法的な責任の所在という問題もある。前出の嶋田氏が言う。

「例えば、戦場に近い場所で地面を掘っている人間をAIが赤外線カメラで捕捉したとします。これが実際には『鍬(くわ)を持って畑を耕している農作業者』だったとしても、AIは『地雷もしくはIED(即席爆発装置)をセットしている敵のゲリラ』と判断するかもしれない。アフガニスタンなどでは、人間の兵士でさえ何度も誤射事件を起こしていますから。

もしこうした誤認識から自律型兵器が民間人を殺害してしまった場合、その責任はドローンを飛ばした人間にあるのか、それとも不完全な認識プログラムを組んだ技術者にあるのか、といった問題も生じます」

■規制が追いつく前に紛争地域へ拡散?

中国が開発中の無人超音速戦闘機「暗剣」。スペック情報は一切漏れてこないが、超音速となると遠隔操作ではタイムラグが大きすぎるためAI搭載型になる可能性大

こうした懸念から、「自律型殺傷兵器」の使用を規制する国際的なルール作りの必要性も叫ばれているが、前出の小林氏はこう指摘する。

「現在、AI兵器の分野は技術の急速な進歩に規制がまったく追いついておらず、『先に開発したもの勝ち』という状況です。核保有国が自国のアドバンテージを死守しようとするのと同様、AIの技術面でリードしているアメリカ、中国、ロシアが現時点で全面的な規制に賛成するとは考えづらいと思います」

それでも、核兵器に関しては国連常任理事国を中心とする"核クラブ"が国際的な拡散をコントロールしているが、自律型を含む無人兵器の開発・保有は核よりもはるかにハードルが低い。

軍事ジャーナリストの黒井文太郎氏は、軍事ドローンの各国への広がりについてこう説明する。

「中国は米軍の無人偵察攻撃機『プレデター』に似た『彩虹4』を2014年頃から、さらに武装を強化した『翼竜2』を2017年頃から、中東諸国に輸出しています。さらに、中堅国ではより安価な中国製の民生ドローンを前線偵察兵器に転用しているケースも多々あります。

また、トルコもドローンの輸出に力を入れており、ナゴルノ・カラバフ紛争でも使われた『バイラクタルTB2』はすでにウクライナ、ポーランドが購入を発表。今後も中堅国の正規軍にドローンを売却していく可能性があります。そして、イスラエル製のドローンもアゼルバイジャンのほか、中国、インド、韓国、トルコなどに輸出されています」

さらに、近年は武装組織のような非正規軍へもドローンは広く拡散している。

「2016年から、IS(イスラム国)がシリアとイラクで民生用の小型ドローンを多用しました。その後はイエメンのフーシ派が、イランの支援を受けて本格的な軍用の自爆攻撃型ドローンを入手し、対サウジアラビア攻撃に多用。そして今年3月には、航続距離2000kmの『タマド4』と同2500kmの『ワイド』という最新型ドローンを公開しています。

また、同じくイランの支援を受けるハマスも今年5月の対イスラエル戦で、イランが技術供与したドローン『シェハーブ』を実戦使用しました」(黒井氏)

これらのドローンは自律攻撃能力を有していないが、いずれ高度なAIを搭載したタイプも同様に拡散していく可能性は十分にある。もしそうなってしまえば、いくら国際社会が懸念を叫んだところで、中東やアジア、アフリカの紛争地域は自律型AI兵器の"実験場"となるはずだ。

これは、AIが意思を持って人類に襲いかかる――といった派手なSF話ではない。しかし、AIに「ヒトを殺す判断」を委ねたという点で、人類はもうパンドラの箱を開けてしまったのかもしれない。

取材・文/世良光弘 写真/STM IAI USAF ロシア輸出公社

関連記事(外部サイト)