「賢い」技術と「愚かな」機械の合体、そのリスクは

「賢い」技術と「愚かな」機械の合体、そのリスクは

「賢い」技術と「愚かな」機械の合体、そのリスクは
Photo: Alicia Tatone
 米ボーイングの新型旅客機「737MAX」墜落事故の調査官は、リンドン・ジョンソン大統領の時代から使われているのと似た油圧ポンプやモーターを複雑なソフトウエアが管理する、新旧技術の混合を相手に取り組んでいる。
 737MAXは1960年代に最初に設計された。その後3度、改良されており、代々の技術が互いに重なり合った状態だ。737MAXの失速を防止する機体自動制御システム「MCAS」のように、旧型機器のデジタル改造は増えている。暖炉を調整するスマートホーム機器から数十年来の送電網を管理するメインフレームのコンピューターまで、デジタル管理は機械のあらゆる場所で使われるようになった。
 ソフトウエアは誕生以降、確かにネットの仮想世界を支えてきたが、その潜在性とぜい弱性の両方をこれまで示している。デジタルセンサーの価格・サイズのいずれも大幅に下がり、データ送信能力が大幅に伸びる中で、これまで以上に多くの機器がソフトウエアを通してつながるようになった。あらゆるものがネットにつながる「IoT」が広く現実のものになる以前から、ハイテク専門家や公共安全のプロは、このバーチャルとリアルの融合点である「サイバー・フィジカル・セキュリティー」を巡り懸念を抱いている。

 懸念されているのは、 エンジニアがどのような結果をもたらすのか十分に理解しないまま、コンピューターやアルゴリズムによって機械のシステムを管理していることだ。理解が不十分な問題には、コントロールの機能や事故を招くソフトウエアの不具合、また最も懸念されている点として、大惨事につながりかねない発電所や化学工場などインフラ施設へのサイバー攻撃が含まれる。

 こうしたサイバー・フィジカル・システムは「われわれの生活のあらゆるところに入り込んでいる」。こう指摘するのは、米国土安全保障省(DHS)の科学技術部門でサイバー・フィジカル・システムの責任者を務めるクリストスパパドプロス氏だ。DHSは2013年以降、学術・研究機関と広く協力しながら、サイバー・フィジカル・システムの潜在的ぜい弱性の特定と解決に努めている。まずは車、医療機器、ビル管理、送電網などが対象だ。
エチオピア航空機の墜落現場
エチオピア航空機の墜落現場 Photo: Jemal Countess/Getty Images
 連邦捜査官はまた、デジタル改造に伴うぜい弱性を突く不正な動きにも目を光らせており、ロシアのハッカーによる米公益施設への攻撃や、違法ソフトウエアによる排ガス検査不正を行った独フォルクス・ワーゲン(VW)などを追及している。
 サイバー犯罪やマルウエア(悪意のあるソフトウエア)は長らく、仮想世界を苦しめていが、データ流出や窃盗、脅迫が実際に身体に危害を加えることはまれだ。ソフトウエアのバグは、当初からデジタル管理で設計されている電気自動車(EV)や医療機器、ドローンなど実際の機器でも起こる可能性がある。だが、こうしたシステムの製造者は、最初からハードウエアとソフトウエアの両方をつないでおり、エンジニアもその両方に留意して製品を検査する。だが、専門家によると、デジタル改造を加えた機器については、精密に検査されることは少ないという。
 ニューヨーク大学タンドン工科校のジャスティン・キャッポス教授(コンピューター科学)は「単にオートメーション追加による小規模な変更を行っている場合には、製品を検査しないでおこうとの誘惑が大きくなる」と語る。そのため、何かを加えるたびに、知らない間に問題が山積していく恐れがあるという。「まるで危険に気がつかず、ゆで殺しにされるカエルのようなものだ」
マルウエアによるサイバー攻撃を監視する韓国当局者
マルウエアによるサイバー攻撃を監視する韓国当局者 Photo: Yun Dong-jin/Associated Press

 航空業界は機器の管理にコンピューターを早い段階から取り入れてきたが、厳しい検査環境の中で常にゆっくりと進めてきた。当局は目下、 MCASが業界の基準に沿っているかどうかを調べている。MCASでは特定の状況下で機首を下降操作し、操縦士の混乱を招いていることが伝えられている。

 オートメーションは、たとえ数十年来の機械設備でも大きな恩恵をもたらす。コンピューターにより、大半の機械は人間よりも、さらに早く正確に、かつ効率的に稼働できる。オートメーションは人間の雇用を奪う可能性があるものの、同時に単調な作業や危険も取り除くことができる。だが、「間抜けな」機械にコンピューターを統合させようとすれば、問題が生じる。
 産業揚水装置の電子制御を設計するブリット・ストークソン氏は、コンピューターによる改造を不注意に機械装置に加えることで、深刻な問題が生じていると話す。コンピューターのプロセッサーが作動しなくなり、機器の温度調整やベルトコンベヤーなどが止まるケースをこれまでに目にしてきたという。
 ストークソン氏は「ソフトウエアが機能しない訳ではなく、すべての条件では機能しないということだ」と指摘。ソフトウエア開発は機器の設計から切り離されており、「ソフトウエア開発者は、私がある操作をした場合、どのような影響があるのか分かっていない」と話す。