第241回:殺人ロボットという悪夢(鈴木耕)

「言葉の海へ」鈴木耕

震えるような記事もある

 新聞をめくっていると、時折、ギョッとしたり、大事だなあ、と思う記事に出会うことがある。だから、ぼくは新聞をやめられない。
 例えば、こんな記事だ(毎日新聞10月29日付)。

攻撃型無人機導入へ
防衛省 23年度試験運用

 防衛省は、攻撃能力を備えた無人航空機を自衛隊部隊に導入する方針を決めた。偵察用などは既に保有しているが、攻撃型は初めて。離島や沿岸部の防衛力強化につながるとして、2023年度に試験的な運用を始める。(略)

 ここまでは、また危険なことを始めやがって、と苦々しい気持ちで読んだのだが、この記事の後半部分にゾワリと寒気を感じたのだ。こう続く。

AIの「殺人ロボ」に懸念

 無人兵器の「進化」は、大きな問題点を抱えるとの懸念もある。AIを搭載することで、人間が関与せず、自律的に攻撃目標を設定して敵と認識した人や物を攻撃する「自律型致死兵器システム(LAWS)」、いわゆる「殺人ロボット」につながることだ。
 国連の安全保障理事会の専門家パネルが21年3月にまとめた報告書は、北アフリカ・リビアの内戦で20年3月、暫定政権の無人機が人間に制御されない状態で攻撃を実施したと指摘。「操縦者とつながっていなくても、標的を攻撃するようプログラミングされていた」としており、AIによる攻撃が実行された可能性を示唆した。(略)
 LAWSを巡っては、地雷など非人道的な兵器を規制する「特定通常兵器使用禁止制限条約」の枠組みによる国際的な規制の在り方が議論されている。日本は人間が関与しない完全自律型LAWSの開発や使用はしないという立場で、会合では「意思を持った人間の関与が必要」という趣旨の見解を表明している。
 ただ現時点では開発などを規制する法的なルールはなく、比較的安価で手軽な無人機は、各国に広がる可能性が指摘されている。(略)

 恐ろしいと思わないか?
 人間の操縦を離れたロボットが、勝手に人を殺し、建物等を破壊するということだ。AIを組み込まれたロボットが一旦暴走し始めたら、もう誰にも止められない。
 人間は素晴らしい未来へ向けて、その知識や知能を使うものだと、ぼくらは子どものころから教わってきたはずだ。だが実際には、一部の人間の思考は無軌道な商売の論理に支配されていった。
 人間を殺す兵器の開発に余念がない“狂った科学者(マッド・サイエンティスト)”や彼らを利用する軍需産業、その甘い汁を吸う武器商人(死の商人)や、更にはおこぼれを貰う卑しい政治屋たち。その行き着く極北が「核兵器」だったのは明白だ。
 そしていまや、「核使用」をちらつかせて恫喝する政治指導者や、それに乗じて「核抑止力」などと騒ぎ立てる連中が跋扈する世界になり下がった。
 日本にだって、むろん軍需産業は存在する。カネのためなら、人を殺す道具を開発し続けるのだ。

ある作家の想像力

 アイザック・アシモフ(1920~92年)というSF作家がいた。旧ソビエト連邦の生まれで、幼いころにアメリカへ移住した。彼が1950年に著した『アイ・ロボット』という小説が、人型ロボットを描いている。そこから、アシモフが提唱したという「ロボット3原則」が生まれた。以下の3カ条である。

ロボット3原則

第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りではない。

第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

 (「ロボット工学ハンドブック第56版」『われはロボット』、ウィキペディアより)

 ロボットという発明がいずれ実現することを見越して、アシモフは今から70年以上も前に、こんな「ロボットの基準」を作っていたのだ。
 第2次世界大戦が終わってたった5年、アシモフは来るべき未来は戦争のない時代になると信じていたに違いない。それはまさに人間の善意と、それに基づいた科学の発展を望んでいたからだろう。原子爆弾の非人道的な殺戮の威力を広島と長崎に見たアシモフの、心からの願いだった。
 だが、マッド・サイエンティストたちとその背後の政治屋どもは、「アシモフの未来」を徹底的に裏切り続けてきた。その行き着く先が「AI(人工頭脳)を搭載した兵器」というおぞましいものだとするなら、人間の愚かさは限りない。
 現在のウクライナ戦争を見ても、ロシアは無人戦闘機や攻撃用ドローンを多数使用している。このドローンは“カミカゼドローン”とも呼ばれ、高性能爆薬を積んで目標に体当たりするという、かつての日本軍の特攻機を機械化したものだ。日本軍国主義の、兵士を使い捨ての消耗品としか見ていない特攻隊の思想が、こんなところに生かされていた。ほんとうに旧日本軍は非人道的なことをしたものだと思う。

反省はどこへ行った?

 日本は、そのことを反省して「自衛隊」を創ったはずだった。
 「無人攻撃機」の導入は、人間の損耗を防ぐという意味では確かに合理的なものかもしれない。だがそれは、かつての日本軍国主義の「人間という資源」を「AI」に置き替えただけのものだ。
 現在の防衛省の計画は「攻撃能力を備えた無人航空機の導入」ということらしい。しかし、それはAIによる「殺人ロボット」まで、あとたった一歩の距離でしかない。これを使いこなせるようになれば、すぐに、「AI搭載の自律型兵器」導入へと進んでいくに違いない。それが「殺人ロボット」である。
 「敵基地攻撃能力」とは、敵国とみなす相手の国の軍事基地や重要施設を直接攻撃できる能力のことだ。しかしそれを日本政府は「反撃能力」と言い換えた。敵国とみなす国が、日本を攻撃する“準備”に入ったと判断した場合、躊躇なく攻撃できる能力だという。これを「反撃能力」だと、国民を言いくるめる。
 やらなきゃやられる、やられる前に敵を撃て。
 では、やられるという判断を誰が下すのか。そんな議論は差し置いて、まず攻撃。つまり戦争である。こんなことを「反撃能力」と言い換える。あの安倍元首相が駆使した究極の言葉の言い換えである。
 AI搭載の殺人ロボットは「自律型致死兵器システム(LAWS)」と呼ばれる。一旦発射されてしまえば、人間の手を離れる。その名の通り、自律(自分で判断すること)で、目標を捜索し攻撃する。途中で人間が目標を変更しようとしても、もはや手遅れで、目標は確実に破壊され、殺される。
 SF映画の定番に、コンピュータの暴走、という設定がある。コンピュータが人間の制御を脱して、反乱を起こすという話だ。「AI搭載の殺人ロボット」とは、それとよく似た展開になりかねない。スタンリー・キューブリック監督の『2001年宇宙の旅』に描かれたコンピュータHALの姿…。
 日本も同じ轍を踏もうというのか?

悪夢の現実化を阻止せよ!

 ぼくはこのコラムのタイトルを「殺人ロボットの悪夢」とした。
 悪夢で終わればいいのだが……。

 安倍元首相が何度も繰り返した「民主党時代の悪夢」というフレーズに、国民はすっかり洗脳されてしまった。だが、民主党政権と自公政権を比較して、どこがどう「悪夢」だったのか、それをきちんと指摘できる人は少ない。安倍氏のわけの分からないフレーズの繰り返しこそが「悪夢」だったのではないか。
 ぼくは心底思っている。あの2011年の東日本大震災とそれに続く福島原発の大爆発。もしもあの時、自民党政権だったらどうだったろう? それを考えるだけで、ぼくは悪夢の冷や汗にまみれるのだ。
 悪夢を現実化させてはならない。

 防衛費(軍事費だ!)の増額分を、国民全員に負担してもらうための「増税」論が、政府自民党では有力になってきている。
 10月31日に開かれた「国力としての防衛力を総合的に考える有識者会議」なる珍妙な名称の会議では、「防衛費増額の財源としてむやみに国債を発行してはならない。国民全体で広く薄く負担すべきというのが基本的な考え方」として、国民に負担を求める意見が相次いだという。
 一方で、「多くの企業が国内投資や賃上げに取り組んでいるのに、その努力に水を差すべきではない」との理由で、法人税増税には反対の意見が強かったという。ここでも「国民に広く薄く」というリクツで消費税増税などが語られている。企業からは取らずに、庶民の財布から搾り取る。
 ぼくらの消費税が防衛費(軍事費)に使われる。消費税は当初「社会福祉目的」と限定されていたはずだ。それがいつの間にか武器弾薬に化けることになる。話が違うじゃないか!

 ぼくらはどこまで踏みつけられるのか。
 ぼくのはらわたは煮えくり返っている。

*記事を読んで「いいな」と思ったら、ぜひカンパをお願いします!

       

鈴木耕
すずき こう: 1945年、秋田県生まれ。早稲田大学文学部文芸科卒業後、集英社に入社。「月刊明星」「月刊PLAYBOY」を経て、「週刊プレイボーイ」「集英社文庫」「イミダス」などの編集長。1999年「集英社新書」の創刊に参加、新書編集部長を最後に退社、フリー編集者・ライターに。著書に『スクール・クライシス 少年Xたちの反乱』(角川文庫)、『目覚めたら、戦争』(コモンズ)、『沖縄へ 歩く、訊く、創る』(リベルタ出版)、『反原発日記 原子炉に、風よ吹くな雨よ降るな 2011年3月11日〜5月11日』(マガジン9 ブックレット)、『原発から見えたこの国のかたち』(リベルタ出版)、最新刊に『私説 集英社放浪記』(河出書房新社)など。マガジン9では「言葉の海へ」を連載中。ツイッター@kou_1970でも日々発信中。