★阿修羅♪ > 経世済民126 > 754.html
 ★阿修羅♪  
▲コメTop ▼コメBtm 次へ 前へ
人工知能が人類から「思いもよらないもの」を奪ってしまう可能性 脳科学者が本気で伝える危機感(現代ビジネス)
http://www.asyura2.com/18/hasan126/msg/754.html
投稿者 赤かぶ 日時 2018 年 4 月 19 日 15:58:15: igsppGRN/E9PQ kNSCqYLU
 


人工知能が人類から「思いもよらないもの」を奪ってしまう可能性 脳科学者が本気で伝える危機感
http://gendai.ismedia.jp/articles/-/55294
2018.04.19 黒川 伊保子 脳科学専門家 現代ビジネス

983年にコンピューター・メーカーに就職し、「人工知能(AI)」開発の草分けとして活躍してきた黒川伊保子さん。脳のメカニズムを熟知し、人間とAIの差を熟知しているからこそ説得力をもって語れる具体的な「脳科学」は、そのエビデンスの数と信頼性、そしてユーモアから多くの人に支持されている。

黒川さんはロングセラー『英雄の書』に、より大人に向けて加筆修正した『英雄の書 ―すべての失敗は脳を成長させる―』を上梓したばかり。この本にはAIが成長している現代、我々人類が人類として脳を育てるためにどうしたらいいのかが描かれている。そこで今回は黒川さんに、人類がAIによって奪われてしまうものは何か、そして奪われないためにはどうすればいいのかに的を絞り、特別に書きおろしてもらった。

         


執事AIの登場

先日、とあるカンファレンスのパネルディスカッションに、パネラーとして参加させていただいた。テーマは、「AIとIOTが拓く近未来を考える」。

その冒頭に、オーストラリアの男性アーティストが作ったという「AI(人工知能)と暮らす近未来」を描いたイメージ画像が流された。主催企業がイメージをする近未来を体現したものだという。

そのドラマは、昏睡状態に陥った男性が10年後に目覚めた、というストーリー。AIと共に暮らす近未来に、いきなりタイムスリップしてしまったかのような感覚を描くショートムービーだ。

パネルディスカッションの冒頭に流されたのは、その一部である。60代前半と思しき主人公の男性が、長いこと昏睡状態の自分を見守ってきてくれた娘への感謝を伝えたくて、共に暮らすAIに「花屋に電話をしてくれ」と言うのだが、AIにたしなめられる。曰く、「女性がサプライズを喜ぶ可能性は75%以上ですが、彼女が花束を好まない可能性は90%です」


花束をもらっても喜ばない確率90%。その「確率」は、そのときの感情や人間関係も含めているのだろうか…Photo by iStock

しかも、彼女には何か男性がらみのトラウマがあって、花束は彼女に悲しい思いをさせる…ということまで、このAIは匂わせるのである。「プライバシーの問題があって、詳細は話せない」のだそうだが。

主人公の男性が花を贈るのを諦めてがっかりしていると、AIは「あ、こんな写真を見つけました」と、何十年も前に、幼い娘と写ったビーチの写真を出してくる。男性は満面の笑みで「では、航空会社に電話してくれたまえ」と言い、AIが「このビーチに誘うのですね。いい選択です」なんて言って、このドラマは終わるのである。

女ごころの読み間違い

私自身は、思わず「うざい」と唸ってしまった。だって、英国ミステリー小説に登場する執事のようなこのAI、「男性目線の自己満足」の体現のようだったから。そもそも40がらみの女性が、70がらみの父親と7歳の時の思い出をなぞって、何が嬉しいのだろう。自分が7歳の息子と同じ海岸で遊びつつ、自身の幼き日の幸福をふと思うのなら別だけど。その時だって、年老いた父親が傍にいないほうが「幸福」は想起しやすい。たとえ、大好きな父でも。

私に言わせれば、この場合、せめて「ペア旅行券」をプレゼントすべきだ。娘が、愛する人とその海岸で寄り添ったとき、その安寧の中で、若き日の父親の幻影をちらりと見る。それくらいのほうが、父と娘の絆は美しくよみがえる。

人生に対する、余計なお世話。

それは、AIが最も行ってはいけない道である。しかも、このAI、女ごころを読み間違っている。

人生の奇跡は、痛い思いの中にある

女というのは、999人の男に花束をもらって心を動かさなくても、たった一人の男のそれを、一生忘れられないくらいに喜ぶような生き物なのだ。確率なんて、まったく意味をなさない。

しかも、この花束トラウマ、もしかすると父親が原因かもしれない。小さい時、バレエの発表会で、他の子はパパから花束をもらっていたのに、自分はもらえなかったとか、姉は誕生日にバラの花束をもらったけど、彼女にはなかったとか。その心の傷に、成人してからの失恋の思い出に重なって、彼女の「花束嫌い」を生み出したのかも。

だとしたら、ここで父親が花束を贈ることは、人生の奇跡を生んだかもしれないのだ。父親が、彼女の「千人にひとり」だったビンゴ! 彼は、危険を冒さないことを選んで、人生の奇跡に出会うチャンスをひとつ逃してしまった。

そんな昔の心の傷は、人はことばにしないので、AIには気づきようがない。父親にしてみても、花束を贈らなかったことにさして理由がなければ(バレエの発表会に仕事先から駆け付けた、姉の誕生日はバラのシーズンだが、妹のそれは違ったとか)、記憶にさえない。人が記憶想起さえしないことに、AIは気づけない。AIで危険回避していたら、人生の奇跡には、けっして出会えないのである。

人生の奇跡は、痛い思いの傍にある。痛い思いを回避していては、ドラマは始まらない。千に一つの道を拓くために、男たちは、果敢に挑戦し続けなければならない。

人生は放っておけ

確率論は、「今季、バラを何本仕入れようか」という企業側の目論見には役に立つかもしれない。しかし、ひとりひとりの女性の気持ちは「やってみなければわからない」のである。

AIが寄り添うべきなのは、個人であって、全体じゃない。そんなAIは、人生のドラマは「安全」の中には起こらないことを知るべきだ。くだんのドラマのAIがすべきだったのは、確率をこざかしく語るのではなく、「彼女は、花束に悲しい思い出があるようです。でも、次の花束が、彼女の心の氷を解かすかもしれませんね」だったはず。

男たちに本当に必要なのは、人生のドラマを奪うAIじゃなくて、999の失敗に寄り添ってくれるAIなのじゃないかしら。

とはいいながら、人は、痛みのわからないやつに心の痛みを語ってほしくなんかない。最初は、こんなことを言ってくれる機械に少しは感動するかもしれないが、やがて「お前にはわからないだろう」という不快感が募ってくるはず。

執事AIは、ここを心得ておかないと、「思ったほど普及しない」ということになってしまう。少し前のユビキタスのように。

もちろん、生活者に寄り添う執事AIは、AI需要の一翼を担うだろう。特に高齢者の暮らしサポートは、高齢化社会の悲願でもある。そういう意味で、このプロモーションビデオの方向性は正しい。ただ、「花束問題」は、AIが踏み込んではいけない場所だと、私は思うのだ。

命は守らなければならない、暮らしは便利にしてほしい、しかし、人生は放っておけ。

これは、私がAI開発の指針にしていることばである。

この3つ、境界線が難しいが、小説や映画の中の執事たちは、ここを心得ている。パーティに着ていくディナージャケットを完璧に整えるが、女性問題に首を突っ込んだりしない。

ところで、命、暮らし、人生は、英語ではすべてLife。私は、このAI開発の指針をすっきりと英訳することができない。もしかすると、AIの身の程を心得させることができるのは、この三つをすっきりと表現できることばの国の人たちなのじゃないだろうか。

このことは、人類とAIの幸せな共存の鍵になり、ひいては、AI普及の鍵にもなる。AI開発の予算規模が中国の20分の一ともいわれ、明らかに世界に後塵を拝している我が国だが、もしかすると、主導権を握る場所があるのかもしれない。

AIは、人の脳の学習機会を奪う

AIに、人生を触らせない。その心得が必要になるのは、女性問題だけじゃない。

AIは、「あらかじめタスクをパターン化して学習し、人に寄り添うパートナー」である。
共に働く人が未熟ならば師となって導き、共に働く人が熟練者ならば、その失敗を未然に防いでくれる。AIだけで事足りる定型のタスクは、どんどん人いらず≠ノなっていく。

命がけの過酷なビジネス現場においては、この導入は、「人類の心待ち」案件といっても過言ではない。極寒や酷暑の中で、危険と隣り合わせに働く人は、21世紀の今でもたくさんいる。四六時中、気を抜けない現場にいて疲弊していく人もいる。AIの開発や導入を止めよと言うつもりは毛頭ない。


2016年に撮影されたチェルノブイリ。原発事故から20年以上経った今もこういう状況だ。こういう場所でこそAIの活躍は必要と言えるだろう Photo by iStock

しかし、ちょっと待って。「定型のタスクに従事し、身を粉にして東奔西走して、失敗に泣く」のは若い人たちの脳に不可欠なイベントなのである。

28歳までの脳は、著しい入力装置。世の中のありようを脳に叩き込んで、この世の真実を知る礎を作る、人生の第一ブロックだ。

この時期、脳は単純記憶力の最盛期。情報を素早く仕入れて、比較的長くキープできる能力を使って、「先達の経験パターン」を繰り返し学習し、世界観を構築していく。まさに、AIのディープラーニングと同じ。

その後、7年ほど、脳は失敗によって、センスを研ぎ澄ましていく。つまり、5歳までは、繰り返しと失敗が、脳の進化に不可欠なのである。

AIは、ここを代替わりして、人の「脳の学習機会」を奪ってしまう。

失敗は、人生を拓くキーファクター

脳は、体験によって進化している。失敗すれば、失敗に使われた脳の関連回路に電気信号が流れにくくなり、失敗する前より、失敗しにくい脳に変わるのだ。

逆に成功すれば、成功に使われた関連回路に電気信号が流れやすくなる。中でも、さまざまなかたちの成功に使われる本質的な回路は、使われる回数が多いので、特に優先順位が高くなる。これこそが、物事の本質を見抜く洞察力の回路に他ならない。超一流のプロたちが持つ力だ。彼らは、この回路を使って、「勝ち手」を瞬時に見抜く。この回路は、成功体験を積み重ねることによって作られる。

しかしながら、成功体験を劇的に増やし、大切な回路に何度も信号を流して「本質の回路」に昇華させるためには、その前に、十分に、無駄な回路を切り捨てておく必要がある。

その無駄な回路を捨てる、成功への基本エクササイズこそが「失敗」なのだ。

この世のどんな失敗も、脳の成長のためにある。失敗の数が多いほど、そして、失敗の「取り返しのつかなさ」が深刻なほど、脳は研ぎ澄まされた直感を手にし、その脳の持ち主は輝かしいプロになり、しなやかな大人になる。したがって、「失敗」は、恐れる必要がない

昔からよく「若い時の苦労は買ってでもしろ」とか「失敗は成功の源」などと言うが、あれは、単なる慰めでも、結果論でもない。脳科学上、非常に明確な、脳の成長のための真実なのだ。

人生のネガティブは、本当にネガティブなのか

AIの時代に、人類に必要な教養がある。

それは、AIによって回避できる「人生のネガティブ」が、本当に回避していいことなのかを顧みるという姿勢だ。

男女はわかりあえたほうがいい。失敗はしないほうがいい。いつまでも若く見えたほうがいい。もの忘れはしないほうがいい、ボケないほうがいい。

―――本当だろうか。

男女は、人生に必要な感性を真っ二つに分けて搭載したペアの装置だ。感性が真逆で相容れないので、互いにイラつく。しかし、イラつくことによって、互いの生存可能性を最大限に上げているのである。

真逆の答を出す可能性のある並列プログラムには、競合干渉が起こる。同時に、片方が「右」、もう片方が「左」と回答したら、そのプログラムを搭載した系は動きが取れなくなってしまう。

このため、人類の脳は、真逆の答を出す並列プログラムを、一つの脳に搭載しないで、男女の脳に分けたのである。さらに、互いにイラつくように、設計されている。真逆の答が出たとき、どちらも、「自分が正しくて、相手が愚かだ」と信じていたほうが、競合干渉が最短ですむからだ。つまり、イラつき合ってけんかして、意志の強いほうが勝つ、という解消方法が最善なのだ。ぐずぐずと譲り合っていては危ない。

つまり、男女の脳は、感性真逆の相手に惚れて、「どうして、そうなの?」「なんでかなぁ」と言い合いながら、暮らすようにできているのだ。したがって、「価値観の同じ人を頭(大脳左半球)で探す」と、運命の恋に出会えないのである。

結局、数ある「痛い思い」の先にしか、運命の恋なんかない。ほらね、AIに女ごころの相談なんかしたら、やっぱり危ないのである。

失敗もしかり、老いもしかり。人生に無駄なことはいっさいない。

人類はここらで、「人生のネガティブ」を、もう一度見直さなければならない。AIに「人間性」や「人生の奇跡」を奪われないために。

         


「思い通りにならないことのすべては、脳を成長させる偉大なエクササイズである」そう言い続けてきた黒川さん。人工知能の良さを知り尽くしているからこそ、「定型の現場業務を引き受け、失敗を最小限に抑える」AIによって「人間に学習機会の喪失が起こる」ことを憂いている。若い人たちに「失敗を恐れるな、それを脳の糧にしろ」と説くばかりでなく、経営者や管理職など、若者を育てる大人たちに「若者たちの失敗」が経営の糧になることも具体的な例を挙げて説く一冊である。




 

  拍手はせず、拍手一覧を見る

コメント
 
1. 2018年4月19日 18:36:35 : obVt2T3Urc : kda8XbQkqA4[118]
 
 何億年か後に 人類は 地球を捨てて ほかの惑星に移住する必要が出てくるが

 その時に 100億人が 今の肉体を そのまま維持して 一挙に移住することは

 不可能だが〜〜

 ===

 身体を消して 脳だけ ロボットに移して 宇宙を旅する時代が来るだろう

 ===

 新しい惑星に到達しても そこに すぐに 人体を再現できるわけではない

 単細胞から スタートさせて 大気を作って 植物を育てて 

 その惑星で 何億年かかけて やっと 人類は 肉体をもとどうりにできるのだ

 ===
 
 AIで失うものも 多いが 人類が 生き延びるための 道具であることは 否定できない
 
 


2. 2018年4月19日 19:20:12 : FYv369TSRU : QnzxUAAntQQ[113]
愚民化が 加速していく 副作用

3. 2018年4月19日 19:58:18 : NOO47s6jlA : qjd0tAg8@0k[1]
実に馬鹿々々しい。ヒトの脳こそ、実社会におけるそれまでの経験から脳内にそのモデルを作り、未来の行動に対して引き起こされる結果を予測するためにモデルを使っている。予測結果はまさしく確率であり、その意味ではAIと変わりない(Karl Friston)。我々はその予測結果を数値としては意識できないだけだ。そもそもAIのアルゴリズムはヒトが考えたものだ。大体「脳科学専門家」などと名乗る者に本物はいない。

4. 2018年4月19日 21:18:17 : jXbiWWJBCA : zikAgAsyVVk[1070]

この人は完全に勘違いしているようだが

AIの用途は、こんな執事機能などはオマケに過ぎないし

致命的にならない程度の「人生のネガティブ」も、いくらでも作り出してくれる


>失敗もしかり、老いもしかり。人生に無駄なことはいっさいない

人生が無駄かどうかなど、どうでもよい

問題は、愚かな人類を放置しておくと、戦争や浪費を続け

生態系が回復不可能なダメージを受け

多くの種が絶滅し、最終的には、人類自身が絶滅することだ


それさえどうでもよいのであればAIを否定する必要も当然なくなる



5. 2018年4月20日 00:27:22 : KSSohOr0EA : wBPu8EZWTvs[2]

黒川 伊保子(くろかわ いほこ、1959年 - )は、日本の実業家、エッセイスト。感性リサーチ代表取締役社長。日本BS放送番組審議会委員。 長野県生まれ、栃木県育ち。
https://ja.wikipedia.org/wiki/黒川伊保子
人物
1983年、奈良女子大学理学部物理学科卒業後、(株)富士通ソーシアルサイエンスラボラトリに14年勤務AI(人工知能)の研究に従事。
その後、コンサルタント会社勤務、民間の研究所を経て、2003年に(株)感性リサーチを設立、代表取締役に就任。
2004年、脳機能論とAIの集大成による語感分析法『サブリミナル・インプレッション導出法』を発表。
サービス開始と同時に化粧品、自動車、食品業界などの新商品名分析を相次いで受注し、感性分析の第一人者となる。
2005年、倉敷芸術科学大学非常勤講師就任。

また、独自の脳の研究からくりだされる、男女脳の可笑しくも哀しいすれ違いを書いた随筆や、語感の秘密を紐解く著作も人気を博し、日本テレビ「世界一受けたい授業」やNHK教育テレビ「日本語なるほど塾」などに出演、ananやSPA!など雑誌の恋愛特集のコメンテーターとしても定番の存在となる。


まるで絵に描いたように良く出来た シンデレラ 叔母さん なんですね。
倉敷芸術科学大学非常勤講師就任だからその筋の方で将来は教授にでもなれる特選枠でもある方なんでしょう。
何かもうすぐヨイショで AI真理教の教祖様にでもなるような感じ。
この種類の人間が竹中平蔵氏(別名 毛毛中 屁増 ともいう)と同じで今を時めくAIになれば人減らしが出来るという無責任な考えを刷り込む洗脳係担当なんでしょう。
奈良女子大学理学部物理学科卒業後、(株)富士通ソーシアルサイエンスラボラトリに14年勤務AI(人工知能)の研究に従事らしいからこれも並みの人間ならいくら能力が高くても研究分野に入り込めないらしいので多分隠れ特別枠があるヤラセでしょう。
残念ですが奈良女子大学の評価を見たら分かるでしょう。
実際某国立有名大学の工学部を出てから大学院で博士になっても専門分野の研究に入れず現在は某大手自動車メーカーでAI製造ラインを24時間三交代でお守しているような気の毒な人物もおられるようです。
大勢いるこの種類の人達からみれば羨ましい限りでしょう。

話題が戻ってある一つの分野で成功しただけで人間の脳レベルを理解したと言い切れる人も珍しい。
人間的に阿保だとか一部ほど足りないような人物が現状AIをプログラミングすると残念ながらやはり機械も阿保になるらしい。
鶏が先か卵が先かと同じで人間の脳は当分置き換えが出来ないでしょう。
嘘だと思ったらAIプログラミングの方法でも学習されたらいかがでしょうか。
問題点だらけであるのが良く分かる。
主たる目的は AIで人減らしが出来る神話 を信じているお馬鹿な経営者が多いだけのようです。
現状のまま進めば近い内に必ず失敗するように思われる。
マイクロコンピューターチップが世に出てきた初期の技術史と同じで全体を理解出来ずに都合の良い夢だけが膨らむ状態に良く似ているように思われる。
しかしいつか別の視点によりブレークスルーだけは必ず起こるかもしれません。
フォンノイマンタイプのコンピューターアーキテクチャーでは無いかもしれません。
パラパラと新芽のようなアイデアは出始めているようです。
このような投稿内容では無用の期待とか反対に失望とかを与えるだけではないでしょうか。
単なるタレントの話題と同じで例えば政治家になるためのテレビデビューの段取りと同じようにも思えますね。
なお発音に関するシビアな感性は音楽家をみればその独自な極めて凄い能力にきずかれるはずだと思いますよ。
AIだからどうのこうのという問題では無いはず。
ただマーケッテイング屋が利用しなかっただけでしょう。
しかし特許庁にある商標をみたらその膨大な数に驚かれるでしょうし総て専門家を含めた感性による単語表現になっています。
会社設立後直ぐに仕事の依頼があるというほど普通は世の中アマチャンではありませんよ。


6. 2018年4月20日 08:34:46 : O785kM0JPQ : xSEcHadaSxE[17]
正直、学者バカとか三流ライターが騒いでいるほど
現時点ではAIの思考能力なんか高くない
単純な条件分岐のスクリプトにすら歯が立たない

7. 2018年4月21日 09:44:49 : 5TNL617ftE : _BC1NM@bg3Q[10]
AIには、食欲、性欲、物欲、他民族を殺す、征服欲、等、から派生する、多くの面倒な、トラブル、愚かさはない。いずれ、究極には、人類そのものが、コントロールをAIに任すだろう。それでいいじゃないの。その下で愛だの、恋だの、グルメだの、平和や宗教を語ればいい。

8. 斜め中道[4665] js6C35KGk7k 2018年4月21日 16:45:18 : u12DNOjV8I : DpNsSI7B2fY[3085]
人間は、人間のこともよくわかってない。
多分、自分のこともよくわかってない。

糞蛙屁内閣支持率が、3割とかのレベルなんてなぁ、
もう、俺には理解する気にもなれん。

それに比べりゃ、AIなんて理解しやすいと思うがなぁ・・・


9. 2018年4月21日 21:34:12 : 5NbF2QTwm6 : WGz91UGn544[9]
>>3
わかってないのは君の方では?
なぜAIは人間にとってはやさしい、異文同意問題に正しい回答ができないのか。
まだヒトは自分の脳のアルゴリズムを理解していないよ。



▲上へ      ★阿修羅♪ > 経世済民126掲示板 次へ  前へ

  拍手はせず、拍手一覧を見る

フォローアップ:


★登録無しでコメント可能。今すぐ反映 通常 |動画・ツイッター等 |htmltag可(熟練者向)
タグCheck |タグに'だけを使っている場合のcheck |checkしない)(各説明

←ペンネーム新規登録ならチェック)
↓ペンネーム(2023/11/26から必須)

↓パスワード(ペンネームに必須)

(ペンネームとパスワードは初回使用で記録、次回以降にチェック。パスワードはメモすべし。)
↓画像認証
( 上画像文字を入力)
ルール確認&失敗対策
画像の URL (任意):
投稿コメント全ログ  コメント即時配信  スレ建て依頼  削除コメント確認方法

▲上へ      ★阿修羅♪ > 経世済民126掲示板 次へ  前へ

★阿修羅♪ http://www.asyura2.com/ since 1995
スパムメールの中から見つけ出すためにメールのタイトルには必ず「阿修羅さんへ」と記述してください。
すべてのページの引用、転載、リンクを許可します。確認メールは不要です。引用元リンクを表示してください。
 
▲上へ       
★阿修羅♪  
経世済民126掲示板  
次へ