「宇田川源流」　映画ターミネーターではないがAIが人を殺す時代になってきた

「宇田川源流」　映画ターミネーターではないがAIが人を殺す時代になってきた

　映画ターミネーターを見たことがある人は少なくないのではないか。もちろん映画の一つでしかなく、教科書などで習ったものではないので、全員が見ているというわけでもないかもしれない。しかし、まあ、かなり有名であるので、聞いたことくらいはある人が少なくない。

　一応解説すると、未来（映画の世界）に核戦争が起き、人口が激減した核戦争後の世界で、人工知能「スカイネット」の知能が人類の予想を超えて上昇し人類を敵と見なすようになり、機械軍を使って数十年間人類を攻撃し、人類は絶滅の危機を迎えた。しかし抵抗軍指導者であるジョン・コナーの指揮下、反撃に転じ、2029年には人間側の勝利は目前に迫っていた。脅威を感じたスカイネットは、男性の姿をしたターミネーターT-800 サイバーダインシステム・モデル101を未来から現代へと送り込み、ジョンの母親となるサラ・コナーを殺害することで、ジョンを歴史から抹消しようと目論んだ。その第背にの姿をしたターミネーターと人間の戦いを描いたアクション映画である。1984年の映画で、その男性の姿をした悪役ターミネーター役を、アーノルド・シュワルツェネッガーが演じたのだが、この時は「人工知能」が人間を攻撃して殺すなどということは「夢のまた夢」であった。

　その映画から27年経過する。2021年になって、AI兵器が人を殺すということが報じられるようになったのである。映画「バック・トゥ・ザ・フューチャー」において、そこに出てきた技術のほとんどが現実化されてきているということになり、過去の映画の表現が注目されてきていたのであるが、なぜかその内容に関してあまり現実化してほしくなかった内容が現実化された形になった。

空飛ぶ殺人ロボット、戦場で使用か　AI兵器、世界初?

　北アフリカ・リビアの内戦で軍用の無人小型機（ドローン）が、人間から制御されない状態で攻撃をした可能性があることが、国連の安全保障理事会の専門家パネルによる報告書で指摘されていたことが分かった。

　人工知能（AI）を用いて、自動的に相手を攻撃する兵器が戦場で用いられたとしたら、世界初のケースになるとみられる。

　専門家パネルの報告書は、今年3月にまとめられた。報告書は、リビア暫定政権が昨年3月に軍事組織を攻撃した際、トルコ企業が開発した「自律型致死兵器システム（LAWS）」と呼ばれる無人小型機によって追尾攻撃が行われたと指摘した。このLAWSについて「操縦者とつながっていなくても、標的を攻撃するようプログラミングされていた」としており、AIが攻撃を行った可能性を示唆している。情報源や、死傷者が出たかについては記されていない。

　米国の専門誌「原子力科学者会報」は5月、この報告書について「空を飛ぶ殺人ロボットが使われたかもしれない」と報道。「死者が出ていた場合、AIを用いた自律型兵器が殺害に用いられた、歴史上最初の出来事になる可能性が高い」と位置づけた。

　一方、拓殖大の佐藤丙午教授（安全保障論）は「LAWSとは、指揮管制システムから攻撃、その評価までの全体を指す。その中で顔認証などで標的を定め、追跡、攻撃するという機能を規制しようというのが国際社会の流れだ。報告書によると、ドローンのような無人兵器が戦場に現れ、脅威を与えたことは事実かもしれないが、具体的な行動は書かれておらず、LAWSではなかったのでは、という印象だ」という。

　ただ、佐藤氏は「小型ドローンが勝手にターゲットを認識し、追いかけて殺害する、という可能性のある兵器が戦場に出てきたという点は、LAWSへの懸念そのものの構図に当てはまる」と指摘。「兵器開発を止めることは難しくても、拡散や使用をいかに防ぐかが重要で、軍備管理・軍縮の枠組みで取り組むしか道はない」と語る。

　LAWSをめぐっては、地雷など非人道的な兵器を規制する特定通常兵器使用禁止制限条約（CCW）の枠組みで国際的な規制が模索されてきた。「コロナ禍で2年近く止まっている議論を加速するべきだ」とした。

　米ニューヨーク・タイムズも原子力科学者会報の記事の筆者の見方を紹介しながらも、「報告書では、ドローンがどれだけ独立して行動し、人間がどれだけ監視・制御していたか分からない」として、評価に慎重な別の専門家の見方も紹介した。ただ、この専門家も「自律型兵器システムについては議論をすべきか？　当然だ」としている。（中井大助=ニューヨーク、荒ちひろ）

2021年6月24日 13時0分 朝日新聞デジタル

https://news.livedoor.com/article/detail/20420449/

　日本人は、世界で「武器博覧会」が、結構様々な場所で行われている。2018年の中東における兵器博覧会で最も注目を集めたのが「AI兵器」と俗に言われる兵器である。正確には「自律型致死兵器システム」というもので、「人間の特徴」をいれ、なおかつその人間の特徴においてAI兵器自体に攻撃を仕掛けるものなどを見つけた場合、AIが勝手に判断してその相手に対して攻撃しいに至らしめるというような武器である。2018年の武器博覧会において、中国製、アメリカ製、北朝鮮製、ロシア製の四カ国がこの「AI兵器」を展示し、中国製の武器と北朝鮮製の武器が中東においてかなり売られていた。アメリカ製とロシア製は値段画家高いので、やはり格安の北朝鮮製や中国製の武器がかなり良く売れているのである。

　このＡＩ兵器、皆さんにおいてはあまりイメージができないので、あえて書いておくと、基本的にはドローンの分岐に、ＡＩが搭載されていて、ＡＩが事前にプログラミングされた行動パターンに、「弾をよける」「敵を探す」などの行動を自立した形で攻撃するということになる。単純に、操作をしないで勝手に言って敵に攻撃をよけ、探して敵を倒して帰ってくるドローンと思ってくれればよい。

　このAI兵器に関しては、基本的には国連で使用禁止の条約が整備されているものの、その条約を調印・批准している国は少ない。そのために数年内にＡＩ兵器による殺人が行われるということになると予想されていたが、今回それが現実のものとなった。

　実際にまだＡＩ兵器はそこまで内容が確立されていないモノの、ＡＩ兵器そのものが、独自にＡＩの判断によって燃料や武器の補給や生産ができるようになれば、上記に書いたターミネーターのスカイネットと同じになってしまう。人間は「敵」を攻撃するようにしながら、その「敵」が自分自身になるという可能性を秘めたものを放ってしまったということになる。

　さて今回リビアのトリポリでAI兵器が人間を攻撃し、死者が出ているという報告があったが、それはトルコ製のAI兵器である。しかしすでに日本の周辺国においても中国・韓国・北朝鮮がAI兵器の正式配備を行っている状態であり、その内容に日本は尖閣諸島や竹島の件で、またはロシア相手の北方領土で、対処しなければならない。残念ながら日本の安全保障に関しては、すでに周回遅れどころか２周か3周遅れていて、「戦争反対」という運動も、いまだに75年前の戦争を想起しながらのはんたいうんどうをしているじょうきょうである。時代の変化に全く対応していない、いまだにB29という爆撃機が爆弾を落としに来ると思っている誤った認識で、戦争を考えている人が少なくなく、そのような状況で国を守れるのか心配である。

　このAI兵器は、そのうち「暗殺兵器」としても活躍することになる。その時代になる前に、日本はこれらに対処する技術を開発して国を守ることを考えるべきではないのか。