http://www.asyura2.com/16/kokusai14/msg/616.html
| Tweet |
仏ニースで、革命記念日に起きたトラック突入事件の犠牲者を悼みプロムナードに置かれた花束などの周りに集まる人々（2016年7月17日撮影）〔AFPBB News〕
トルコクーデター、米殺人ロボットとIoTの怖さ AIはテロを起こさない、問題は歴史に学ばない人間にあり
http://jbpress.ismedia.jp/articles/-/47388
2016.7.20 伊東 乾 JBpress
7月15日、トルコで2.26事件のようなクーデターが発生、直ちに鎮圧という報道がありました。この5月、大統領権限が強化され、実質的な大統領独裁制に近い形への移行が語られていた最中のクーデター蜂起とその失敗。
長年EU入りを希望しつつ、その見通しは立たず、他方で東南でシリア＝ISILと境を接し、西では欧州圏と国境を挟みつつテロ被害も続くトルコでの今回の混乱。根は浅いものではありません。
他方7月14日には、日本では「パリ祭」として知られるフランス革命・バスティーユ牢獄襲撃事件記念日を祝うニースでの、大型トラックを用いた新しい形態の大量殺戮無差別テロ事件発生の報があり、2016年の世界史はきな臭い方向での動きが目につきます。
いずれの事件でも多数の犠牲者が出、現在も治療中の被害者が数多くあるとのこと、沈静化と平癒を祈らぬわけにはいきません。
翻って、某島国の閣僚などは「日本人犠牲者」の有無にばかり気を取られ、それがないと分かると笑顔すら浮かべる外交音痴ぶりで記者団の前に登場しました。
すでに知れていることなので今さらながらの嘆息を呼び起こしていますが、今回検討したいのは、こうした一つひとつの事件ではなく、もう少しユニバーサルな問題です。
例えば「これからクーデターで決起する」という意思決定。あるいは「トラックで革命記念日の花火大会に突っ込む」というテロリストの行動決意。
このような「意思決定」をAI、人工知能が下すことがあるか？
という問題を考えてみましょう。皆さんはどう思われますか。コンピューターはこのような意思決定を下すでしょうか？
■AI恐るるに足らず、意思決定のメカニズム
人類の英知を超えるシンギュラリティ、超絶スーパーコンピューターは、その優れた英知の結論として、
「これからクーデターを起こすぞ！」
とか
「これからテロを挙行するぞ！」
という意思決定をするでしょうか？
結論から言うと、そんなことはできません。電子計算機は例えば、
「これから12時間35分後、警備が手薄になるので、クーデターを起こすならチャンスですよ」とか、
「かくかくしかじかの市民行事は警備体制が手薄だから無差別テロが決行しやすいと思われる」
といったトンでもない計算結果を示すことはできます。しかし、仮にAIがAIであるだけでとどまるならば、それはそこまでのことであって、
「そうか、分かった」
と人間が判断して、結果を握りつぶしてしまえば、それまでのことに過ぎません。
電子計算機というのは人間の大脳皮質のニューロン演算を模して構想立案、実装されたシロモノなので、ものを考えることはできますが、より下位の脳・・・脊髄から延髄、小脳・橋・中脳・間脳・大脳辺縁系といった「古い脳」の役割を担ってはいません。
また意思決定というのは、こうした古い脳がもっぱら担当する心の働きであって、それを実現する無生物のシステムを実現するには、あと数ダース、本質的な新しい知見が得られる必要があるでしょう。
少なく見積もって今後数十年、そういうシステムができるとは到底考えられません。
と言うより、そこに問題があると考えている人がそもそも非常に少ない。もし全世界が集中的に研究開発に乗り出したとしても、数年で成果が出るような問題では全くない。難問中の難問のエッセンスを取り出した、そのまた難問中の難問と言って全く過言でないでしょう。
このことを端的に示す例を考えてみます。
■脳働かずとも心は動く
いま、親鳥がひなに餌をやっているところを考えるとしましょう。餌をねだるひなの大きな口は可愛らしいし、それにせっせと食べ物を運ぶ親のかいがいしい姿は感動的なものです。
いまここに、1匹のヘビがひたひたと近づいて来て、ひなを狙うとしたら・・・。
テレビ番組にありそうな図式ですが、親は物凄い勢いで、まさに烈火のごとく敵に立ち向かい、撃退しようとすることでしょう。
ちなみに、反社会勢力の襲撃などが報道されることがあり、残虐極まりない暴力犯罪の一端が知らされますが、ヤクザその他の脳裏というのもこれに似た面があると思うのです。
つまり身内には情が深い。で、一端敵だとなると手加減を知らない凶暴さを発揮する。自然界の動物はみな、どこかしらそういう面を持っているもので、ヤクザもまた動物の摂理に忠実な生物ということができるかもしれません。
翻って人間は、そのような放縦に任せることなく、節制することができる。それができないという点で、反社会勢力などは人間社会であるべき私たちのコミュニティに不適切な人々と言わねばならないのかもしれません。
閑話休題。
親鳥のヘビへの物凄い猛攻、これに類することは鳥に限らず、人でも他の哺乳類でも、あるいはお魚などでも、普遍的に見ることができる現象です。
例えばお魚を考えてみましょう。彼らが持つ脳はどれくらいの大きさか。大脳などほとんど「無」に等しい。特に新皮質に相当するような高度に進化したモジュールなどは欠いていると言ってよく、端的に言えば「知的な脳がない」。
それでも、お魚は時々刻々、彼ら自身の生存をかけて意志を決定、直ちに行動に移して毎日の生命をつないでいます。
敵が来たら逃げる。食べ物が来たら追いかけて捕まえる、食べる。繁殖の季節を迎えたら伴侶を探す。同じメスを巡って対立があればオス同士は死力を尽くして戦う・・・。
人間でもありそうなドラマですが、これらの行動にほぼ一切、大脳新皮質や「知性」と呼び得るものは介在していない。なぜならそういうものはついていないから。
動物の意思決定は、本質的に「知的」ではないのです。
「恋に落ちる」という現象を考えてみましょう。あなたの初恋はいつでしたか？
それは落ちたいと思って落ちた恋でしたか。果たして成就したでしょうか？
恋愛とかコンプレックスというのは災難みたいなもので、降ってきたものとぶち当たり、そのくせ一生後を引いたりして厄介極まりありませんね（苦笑）。
でも、あなたの意志やら知性やらと無関係に「！」と思った次の瞬間、あなたの「心」は決まってしまっているのです。好きな人が好きだ。あの人と触れ合いたい、あるいは一つになりたい・・・そういう妄念に取りつかれたらご愁傷さま、こんなもの、理屈もAIもスーパーコンピューターもへったくれも関係ありません。
逆に言えばコンピューターが欲情するということも現状の技術ではあり得ないわけです。「心を持ったロボット、アトム」とか「良心回路に苦しむキカイダー」といったSF的な設定は21世紀初頭の技術水準程度では到底近づく方途すらも分からない。夢のまた夢といった方が近い。
そうではなく「意思決定は人間が下す」のです。そういう意味で、人間が介在するIoTは、心底恐れるに値するシステムと思い知る必要があるでしょう。
■IoT恐るべし、「ロボット3原則」にまどわされるな！
JBpress連載でも報道された通り、米国ではダラス市警察が殺人ロボットを投入して犯人を爆殺するという新たな事態が発生し、世界的に物議をかもしています。
しかし、賢明な読者諸兄姉にはよく考えていただきたい。これは「ロボット」が犯人を爆殺しているのでしょうか？
違いますね。このロボット、すなわち「Northrop-Grumman」社製の「ANDROS」というシステムは定価1500万円ほどの機械に過ぎず、それに命令を下し、指導スイッチを押すのは間違いなく人間なわけです。
これが恐ろしい。
世の中では「殺人ロボットが人を手にかけてよいのか？」「戦場ではなく市民社会のただなかで、犯人相手とはいえ殺人機械を作動させるとは何たることだ？」、果てはアイザック・アシモフの「ロボット工学3原則」まで持ち出す議論も目にしましたが、そういう話では本質的にない。
単に機械、道具であって、それを投入すると決定した人、プリセットしてスイッチをオンした人に、本来は拳銃の引き鉄を引いたのと同じ程度の社会的責任が問われる問題ととらえるのが適切な案件にほかなりません。
■意思決定と法制度
さて、冒頭の話題に戻って、トルコの蜂起では多数の犠牲者が出ているとのことですが、報道によれば一部の首謀者は（原因究明その他のために）生きたまま身柄を確保されているとのこと。
トルコは長年EU入りを希望しており、その一環で死刑が廃止されています。今回の蜂起の首謀者で、すでに命を落としている人もいると思われますが、幾人かの計画犯はいまだ命永らえている。
他方、その手足となって働いた兵卒や、無関係な市民には多くの犠牲が出ている。
こんな時、事件が起きた後になって法律を変えて「死刑制度」を作るという後出しじゃんけんみたいなことは、本来法的には許されない所業になります。
今回のトルコ・クーデター未遂ではその種のことが起きるかもしれませんが、明らかに法理を逸脱した話で、夢だったEU入りはさらに夢のまた夢に遠のくことでしょう。
事件が起きた時点で存在しない法で人を裁くことができるか？
第2次世界大戦後、ニュルンベルク裁判で、また東京裁判すなわち極東軍事法廷で、さらには10余年を経て捕らえられたナチスの高官アドルフ・アイヒマンの法廷で幾度となく問われながら、結局のところパワーポリティクスの前でうやむうやに消されてきた「負の歴史」と同様のことが現在進行形で繰り返されるかもしれない。
そういう「歴史の中のいま」を生きているという自覚が、私たち一人ひとりの中に必要不可欠なように思います。
残念ながら、阿呆のような選挙で選ばれて議場に出向く人たちは、権利やら活動費やらを得てから「勉強し始める」と称するのが普通であるらしい。まして閣僚級ともなれば、勉強などする時間があろうとも思われません。
市井の一人ひとりが、おかしいことはおかしい、正しいことは正しいと、理非をわきまえることが1の1だと改めて思う次第です。
投稿コメント全ログ コメント即時配信 スレ建て依頼 削除コメント確認方法
スパムメールの中から見つけ出すためにメールのタイトルには必ず「阿修羅さんへ」と記述してください。すべてのページの引用、転載、リンクを許可します。確認メールは不要です。引用元リンクを表示してください。
