http://www.asyura2.com/15/hasan104/msg/824.html
| Tweet |
「2015国際ロボット展」で、バルブのハンドルを回す東京大学開発の人型ロボット「JAXON（ジャクソン）」。被災地でロボットがどう役立つか実演している（2015年12月2日撮影）〔AFPBB News〕
15年後ロボットに置き換わっている仕事は何か 欧州で盛んに議論され始めたロボエシックス
http://jbpress.ismedia.jp/articles/-/45859
2016.1.27 伊東 乾 JBpress
「ロボエシックス（Robot-ethics）」という言葉をご存知でしょうか？
まだ世の中にはほとんど出回っていない、ロボットにまつわる倫理（ethics）を扱う専門を指す言葉です。2016年1月、ミュンヘンで「ロボエシックス」にまつわる議論に参加してきました。
「ロボットと倫理」と言うと、私個人は世代的に手塚治虫「鉄腕アトム」 で主人公が悩まされる「ロボット法」や、アイザック・アシモフの「ロボット工学3原則」 などSFがかったものを思いつきやすいのですが、いま産業用ロボットなどが直面する現実は、SFのロボティクスと言うよりは産業革命初期の機械破壊運動（ラッダイト・ムーブメント）などを想起させる、より現実的で生々しいものになっている。
端的に言えば、人間の雇用をどう考えるかが、当初から大きな焦点になっているのが、SFと現実の大きな違いとだと思います。
■SFはロボット法をどう考えたか？
ここで（やや申し訳ないのですが）現実の社会問題としてはやや的を外した例としてアシモフの「ロボット工学3原則」を挙げてみましょう。
ロボット工学3原則（抄）
1 ロボットは人間に危害を加えてはならない
2 ロボットは人間に与えられた命令に服従しなければならない
3 ロボットは前二項に反しない限り自らを守らなければならない
こうしたプロットは、ロボットたちが心を持ち、場合によっては人間と対立しながら宇宙大戦争に突入したりするシナリオ、プロットで血沸き肉踊るストーリーや主人公の奥深い悩みを演出するでしょう。
ちなみに「鉄腕アトム」は、テレビアニメ化された30分ものと、原作の長編マンガとでほとんど別の作品になっています。長編アニメは主人公の懊悩が延々と描かれますが、それはまさに「心を持ったロボットの葛藤」と言えるものです。
ロシア系ユダヤ移民の子として育った少年アシモフが暗黙に、奴隷やマイノリティの立場にシンパシーを寄せながら、こうした枠組みを考えたような気がします。すなわち、ロボットを「奴隷」あるいは「被用者」と置き換えてみれば分かりやすい。
A 奴隷／被用者は主人／雇用主に危害を加えてはならない
B 奴隷／被用者は主人／雇用主に与えられた命令に服従しなければならない
C 奴隷／被用者は前二項に反しない限り自らを守らなければならない
こう記せば、多くの読者がロボットに感情移入しながら没入できる社会派スペース・オペラができるでしょう。しかし現実は全く違ったものになっています。
α ロボットが人間に加える危害：軍事ロボットは直接に人間に危害を与える兵器だしロボットが増えることで人間の雇用が減るなど間接的な影響も膨大に存在。
β ロボットは原則、与えられた命令に服従するしかできない存在で、コントロールが成立していないなら、単に故障しているだけに過ぎず、直ちにリコール、調整の必要がある（ドライバーの意の通りに動かない自動車を想起すれば自明）。
γ ロボットが「自らの意思で」自らを守るということはあり得ない。人間が自己保守のプログラムを組むことはあっても、それらはすべて利用者の利便が前提で、人間の利害と対立するロボットの主体性というものはあり得ない。
夢のないことを言うと思われるかもしれませんが、現実はそのようになっている。
それが分かったうえで「これはロボットのことですよ」と仮名手本にして、実社会の現象としては描きにくいものを、私自身も作品にしていきますし、アシモフだって手塚治虫だってそこは同じことでしょう。
そう、ロボットには心がありません。「彼」自身が何かを思い、願うといった主体性は機械には存在しない。これが生き物なら話は違います。どんな小さな動物、虫や細菌、バクテリアでも「利己的な遺伝子」は自分たちを守ろうとし、個体と種の存続、繁栄にあらゆる戦略を駆使します。
機械にはそういう「主体性」がない。この区分けはとくにIT業界でのリストラなど人事を考えるうえで、重要な視座を提供すると思うのです。
■シャーロック・ホームズとワトソン君：IBMのクライテリア
2011年、ちょうど東日本大震災の直前にあたる年初に、IBMは新しいコンピューティングシステム「ワトソン」を世界公開、クイズ番組に「出演」して賞金をかっさらい、全額慈善事業に寄付という華やかなデビューを飾りました。
この「ワトソン」実はIBMの実質的な創業者トーマス・J・ワトソンにちなむ命名だということですが、私は当初から、コナン・ドイルのシャーロック・ホームズ小説に登場する医者のワトソン君ことジョン・H・ワトソンに引っかけてIBM関係の場でも発言していますので、たぶんおおいに顰蹙を買っていることだと思います（苦笑）。
ただ、この引っかけには理由があります。IBMはワトソンを「人工知能」とは呼んでいない。人間の意思決定を支援する「コグニティヴ・コンピューティング・システム」として位置づけている。すなわち、
自然言語処理
動的学習システム
仮説形成
という3つの既存技術を可能な限り先鋭化して組み合わせ、新しいコンピューティングのシナジーを生み出しているという考え方です。
でも、これらの「助言」を得て最終的に判断するのはユーザーである人間にほかなりません。
この構図は、百般の知識に通じシャーロック・ホームズにデータを提供しつつ、最終的に事件を解決するのは常にホームズであるという「友人の医師ワトソン君」の役回りとよく似ているように思うので、箱崎の日本IBMですらこんなふうに混ぜ返させてもらっているわけです。
このIBMの分別は非常に重要なポイントを押さえています。つまり、
●「自然言語処理」すでに存在するデータをマイニングすること（人間はしばしば苦手）
●動的学習：過去の失敗事例なども容赦なく取り込み最適化し（人間組織は隠蔽が得意）
●仮説形成：歯に衣きせず可能なソリューションを尤度に沿って列挙
という冷徹な「秘書役」として、ワトソンのような「コグニティヴ・コンピューター」は人間の強力な助っ人になり得るものです。
と同時に「電子計算機ができないこと」が何であるかも、ここから明確化することができます。計算機は原則として、データとして与えられた過去の情報からの組み合わせで物事を「考え」ます。しかし、全く新しい要素を作り出すということは、原理的に不可能です。
質点や剛体のニュートン運動額のフォーマットを与え、完全な「古典力学コンピューター」を作ったとしても、アインシュタインの相対論だってきちんと教えなければ正確に解けないだろうし、まして量子力学の建設はコンピューターにできる仕事ではない。
すなわち自然界、あるいは人間社会でもよいですが、ファクトに問うてその真偽を判断し、新たな「プルーフ」正しい次世代データを生み出して行く、などということは、計算機の埒外にあることを第1に記しておきましょう。
分かりやすく言えば「どれだけコンピューターが進歩しても科学者は失業しない」。とりわけ実験系のサイエンスは、コンピューターに支援されることはあっても、本質的にはコンピューターにとって換わられる業種にはなり得ません。
もし計算機が進んでお役ごめんになる大学教授がいれば、その人がサイエンスしていないというだけのことだと思います。
■「心を忘れた科学には・・・」人間だけが見る「幸せ求める夢」
コンピューターは様々な事例を「動的に学習」することができます。チェスやクイズ番組のようにルール上勝ち負けがはっきりしたもので、こうした「学習」は効を奏します。しかし全く役に立たない場合もある。端的なのはお笑いでしょう。
人間が過去の資料に目を通していると、例えば片づけ物の最中に昔のアルバムなど見てしまうと、あれこれ懐かしくなって、すっかり手が止まってしまう・・・。よくあることだと思います。
コンピューターの「メモリー」にはそんな思い出＝メモリーや過去を懐かしむおセンチな感傷はありません。だから高速に処理できるわけですが、逆に言えば、コンピューテーションの中に喜怒哀楽の主観的判断は全く入り込んでこないわけです。
「かつてこれだけ受けたはずだ」と、データに即して自信満々、古くからのギャグを繰り返しても、吉本新喜劇だって浅草のストリップ小屋だって、受けないときには全く受けない。
ドイツの哲学者ハイデガーは「人間は本質的に外に出て行く生物」と言いますが、実際、人はよく飽きますし、映画でも音楽でも予想外のものがブームを起こします。それがよいとばかりは言いませんが、いずれにしても電子計算機は冷血で不感症、自分自身笑うことができませんから、二番煎じの寒い出し物しか基本作れない。
お笑い芸人でもクリエーターでも、本当に感じ考える力のある人が「AI」で仕事を失うことはないでしょう。本人がスランプに陥って自滅、などはAIなどなくてもあることですが・・・。
IBMが掲げる第3のポイント「仮説形成」も同様です。
「仮説」のシナリオはいろいろ作れる。第1案はこれこれ、第2案はそれそれ・・・この第1と第2を適当に組み合わせて、さらに腹芸でちょっと笑いも取って・・・なんていう滅茶苦茶案を、計算機は作ることができないし、腹芸で笑わされながら「分かった分かった」とテイクする案を決定する「意思決定」が、コンピューターにはできません。
ここを勘違いして、コンピューターに意思を決定させる＝計算機が出してくる、最も合理的な案をそのまま通すと、経営も政策も直ちにすさまじいものになってしまいます。
第2次世界大戦中、徹底して無駄を切り詰め、また体制全体にとってプラスにならない連中を「整理」するにはどうすればよいか、冷徹に検討した結論を思い出してください。
「最終解決」つまり社会民主主義者や共産主義者などの反対勢力、精神障害者や肢体不自由者など年間生産額が低いないし赤字を生み出す元になっている者は、社会「全体」のために抹殺してしまうという、強制収容所の発想が正当化され、ドイツ国家の公共事業として推進されてしまった。
私が子供の頃、手塚治虫の「ミクロイドS」（https://ja.wikipedia.org/wiki/%E3%83%9F%E3%82%AF%E3%83%AD%E3%82%A4%E3%83%89S）というマンガがアニメーションとして放映され、今調べてみると小学3年生だったようですが、阿久悠作詞の主題歌を毎週耳にしました。
調べてみると音楽を担当したのは三沢郷さんという哲学・美学を修めた人だそうで、実際、本来は重いテーマに、簡潔ながら秀逸な音楽（https://www.youtube.com/watch?v=AVSIXwgjEM8）が付されています。
この頃のクリエーターは、スポンサーと何とか折り合いをつけながら、操の立った仕事をしていたと思うんですね。今の総タイアップ的な営利状況はいったい何なのでしょう？
こんなだから、少し前に記したオリンピック関連（http://jbpress.ismedia.jp/articles/-/45798）のような腐敗の極北以降、みたいなことになっているわけですが・・・。
閑話休題、このアニメの主題歌の歌詞の一部で、
「心を忘れた科学には 幸せ求める夢がない」（阿久悠）
というくだりが出てきます。8歳の私も毎週これを耳にしたわけですが、いまワトソン・コンピューターやロボット倫理、2030年の雇用を考えるとき、
「データ・マイニングの結果やシステムが吐き出す仮説は、基本心などない」
という大原則を念頭に置いておくべきでしょう。だから「泣いて馬謖を斬る」的な経営判断を下すという場合もあるでしょう。が、場合によればそれで民事・刑事の責任を問われる自体にも、容易に発展してしまうことだってあるはずです。
電子計算機システムが提示してくる「心ない素案」群から、何を取りし何を捨てるか、その判断力・意思決定の主体は常に人間であって、計算機にとって変わられることはあり得ません。
どこまで行ってもしょせん計算機の出力はある範囲を超えません。そのとき判断する側の人間として、例えば経営者、企業幹部、チームリーダーなどとして、未知の状況に確固たる決断を下していける知力、それを私たちは17年来「卓越知」と呼んでいるわけです。
例えば「卓越リベラルアーツ」という概念は本来「アブダクション・マシン」の実現にあたって、それを使いこなせる人間の「叡智」をどうやって育むことができるか、戦略的人材育成を念頭に検討、準備されたものです。
このところ毎日、こうした人材育成を日欧で議論しており、追って一般、企業などにも開かれた場を提供していくことになると思いますが、重要なのは「心を忘れない」という一点にほかなりません。
何も、きれいごとで言っているわけではありません。
「リストラ」という日本語がすっかり定着していますが「リストラクチャリング＝再構造化」と「リエンジニアリング＝再技術化」が本来一体となって技術経営が進むという全体像の中で、解雇のための方便だけが日本では一人歩きした。情けない実情が言葉として化石になって残っている。
コンピューターがはじき出す心ない「リストラ」だけではなく、核となる基幹競争力を守り続ける「リエンジニアリング」を具備した経営判断、これらが2030年や2050年あたりのコンピューターのレベルで凌駕されることなど、まずあり得ません。
優れた賢慮が可能な、心ある経営者は決してAIにとって替わられることはないでしょう。逆に日本のオリンピック関連は99％計算機に置き換えると、相当気の利いた結果になると思います。大学などもその懼れがありますね。
計算機に置き換えた方がよいような閑職に人間が貼りつけられ、「小人閑居して不善をなす」ケースも決して少なくないでしょう。
そういうものとはケジメ、決別して、人間らしい仕事をしたいではありませんか！
投稿コメント全ログ コメント即時配信 スレ建て依頼 削除コメント確認方法
▲上へ ★阿修羅♪ > 経世済民104掲示板 次へ 前へ
スパムメールの中から見つけ出すためにメールのタイトルには必ず「阿修羅さんへ」と記述してください。すべてのページの引用、転載、リンクを許可します。確認メールは不要です。引用元リンクを表示してください。
