AI兵器、人間の英知試す なし崩し配備の懸念 大国の開発過熱、規制論は多難

AI兵器、人間の英知試す なし崩し配備の懸念
大国の開発過熱、規制論は多難

AIと世界
コラム(国際・アジア)
2019/4/16 20:19 日本経済新聞 電子版
様々な武器を搭載できるイスラエルの軍用無人機(AP)
様々な武器を搭載できるイスラエルの軍用無人機(AP)
人工知能(AI)を無人兵器に搭載し、自らの判断で敵を攻撃する「AI兵器」の規制をめぐる議論が活発になってきた。日本政府は、人間の関与なしに動く殺傷力を持った兵器の開発に国際的な規制を設けるべきだとする意見を国連会合で表明した。ただ米国や中国、ロシアなどは既にこうした兵器の開発にまい進しており、現実には国際規制の実現前になし崩し的に配備が進んでしまう公算が大きい。
ハチやアリの大群が大きな獣に襲い掛かるように、数えきれないほどの小型無人機の群れが空母や戦車部隊を襲撃する。味方の航空基地が敵のミサイル攻撃を受ければ、ただちに無人機が舞い上がり、破壊された滑走路を最短時間で復旧する手順を兵士に指示する――。遠い未来の話ではない。米中などが急ピッチで開発を重ねているAI兵器の計画だ。
米国防総省が開発中の無人水上艦(ロイター)
国防総省が開発中の無人水上艦(ロイター)
中国軍は廃棄寸前の旧式戦車を遠隔操作できるロボット戦車に改造しようともしている。一人っ子政策の帰結で子供を軍隊に入れたがらない親の多い中国では欠かせない取り組みだ。ロボット戦車もAIを搭載すれば人の操作が不要になる。AI兵器の活用は、少子化に伴う深刻な人材調達難に悩む日本の自衛隊にも大きな魅力だ。
AI兵器は高い効能がある分、副作用も大きい。つくられ方や使われ方次第では、戦時国際法がうたう人道への配慮が極端に薄い殺人無人機(キラー・ロボット)になりかねない。軍や政府がAI兵器の能力を過信し、開戦のハードルが低くなってしまったり、停戦に持ち込む機会を逸したりする事態も考えられる。
AI兵器は「第2の核兵器」と呼ばれることも多いが、核兵器は威力が極めて大きい半面、自ら考え自らを強化することはしない。これに対しAI兵器は先々、自らを改造・強化したり、同じ能力を有した仲間を大量に複製したりするようになるとも考えられている。核の量産には巨大な施設が不可欠だが、AI兵器は人知れず小さな研究機関で開発できるため隠蔽が容易で、「核兵器よりも規制が難しい」(米国のキッシンジャー国務長官)との指摘もある。
そんなAI兵器の危険性を踏まえ、市民団体は反対運動を展開。従業員の反対で企業が軍との協力をやめる動きもある。
これに対し、米グーグル元最高経営責任者(CEO)のエリック・シュミット氏は「AI兵器が暴走しても人間なら止められる」と主張する。AI兵器を使う際に必ず人間の判断を介在させることを必須としなければ、民主導で開発が進むAIを兵器に組み込むうえで民間技術者の協力は得られない、との問題意識は米軍内部にもある。
軍事パレードでトラックに載せられて登場したロシア軍の無人戦闘車ウラン9(ロイター)
軍事パレードでトラックに載せられて登場したロシア軍の無人戦闘車ウラン9(ロイター)
ただ「米国対中ロ」という対立軸で開発競争が過熱するなか、AI兵器の暴走への懸念がどこまで解消されるかは一向に見えない。
仮に世論の動向を気にする米国がAI兵器の使用に際し「人間の判断」を介在させることにし、逆に中国がAIに攻撃の判断をすべて委ねることにした場合、中国軍の方が戦場で迅速に意思決定を重ね、米軍部隊を撃破してしまう展開が大いにありうるからだ。こうした可能性がある以上、米側も「AIに判断を丸投げしてしまえ」との誘惑にかられやすくなる。「AI兵器に人間の介在を義務づける」という考え方は、着想としてはもっともな考え方ではあっても、実際にはことはそう単純ではない。
人間は人間であるがゆえに「敵に先を越される恐怖」にかられ「より安全でいたいという欲求」に突き動かされ、新たな兵器を開発する。その結果、核兵器が生まれ、今また核よりも厄介なAI兵器が生まれようとしている。
誕生から74年たつ核兵器がまだ2度しか使われていないのは、核の災厄の大きさに世界が震えたためだった。AI兵器に関しても、まずはその脅威と難しさについて国際社会が共通の認識を持つことが歯止め構築への最初の一歩になる。人間の英知がかつてなく試されているように思われる。
編集委員 高坂哲郎)