「AIの反乱」は、もはや現実の危機か（ダイヤモンド・オンライン）赤かぶ

「AIの反乱」は、もはや現実の危機か（ダイヤモンド・オンライン）
http://www.asyura2.com/17/hasan119/msg/163.html
投稿者赤かぶ日時 2017 年 2 月 14 日 07:50:05: igsppGRN/E9PQ　kNSCqYLU

「AIの反乱」は、もはや現実の危機か
http://diamond.jp/articles/-/117773
2017年2月14日　瀧口範子 [ジャーナリスト]　　ダイヤモンド・オンライン

■ＡＩは仕事だけでなく
人類の生存も脅かす？

ビジネス界でのＡＩ（人工知能）への関心はますます高くなっているが、一方で社会での不安も増している。

不安の1つは、ＡＩやロボットが職を奪ってしまうのではないかという経済的なもの。これについては、オックスフォード大学やマッキンゼーの研究者らがどんな仕事が代替されやすいかといった予想を行っている。

だが、それ以上に不安がられているのは、ＡＩが人類を滅ぼしてしまうのではないかという恐怖だ。職どころか、人間の生命や人類の将来を崩壊させてしまうような動きをＡＩがすることになるのではないか。そうした不安がどうしてもつきまとう。

現在のＡＩはまだまだ限られた機能しか持たず、それを飛び越えて人類の生存にまで影響を及ぼすことはとうていあり得ないと考えられている。だが、今後ＡＧＩ（汎用人工知能）と呼ばれるより広範で、より人間の知能に近い人工知能が研究されるようになると、事情は変わってくる。プログラム上の不備、あるいは効率を求め、強引に目的を達成しようとするあまりに、人間を犠牲にするような事態が起こらないとも限らない。

そこで、ＡＩが人類に害を与えるのを防ぐにはどうすればいいのかを研究する組織がいくつも生まれている。ＡＩ研究者や社会学者らが中心になっているもので、アメリカやイギリスで活発だ。

■先端研究者20名がまとめた
ＡＩレポートが注目されている

スタンフォード大学では、「One Hundred Year Study of Artificial Intelligence（AI100=100年間のＡＩ研究）」が2014年に創設されている。長期的な視点からＡＩの社会への影響を予測、研究したいと、ＡＩ研究者のエリック・ホロウィッツ氏が提唱して創設のために自己資金を提供、スタンフォード大学がホストを務める。

ホロウィッツ氏は、マイクロソフト研究所のマネージング・ディレクターでＡＩの国際学会AAAI（Association for the Advancement of Artificial Intelligence）元会長でもある。

AI100は昨年、『2030年のＡＩと人々の生活』と題した「2016年度レポート」を発表した。レポート作成には、アメリカ、イギリス、インドなどのＡＩ研究者やロボット会社関係者、IT企業の研究者ら20人近くが関わっている。

同レポートでは、交通、教育、医療、低資源コミュニティ、公共の安全とセキュリティー、雇用と職場、ホーム／サービス・ロボット、エンターテインメントの8分野で2030年の北米での生活の中で用いられているＡＩ技術を予測し、それに対する政策への提言を行っている。

たとえば、低資源コミュニティについては、データ・マイニングと機械学習を用いて、鉛汚染の子供へ影響や食料分配の効率性を予測して政府が悪影響を阻止するような対策を立てることができるといったような内容だ。

■ＩＴ業界でもＡＩの安全利用を模索

ＩＴ界の大企業が主導して2016年に設立したのが、「Partnership on AI（ＡＩにおけるパートナーシップ）」というNPOだ。アマゾン、グーグル、マイクロソフト、ＩＢＭ、フェイスブック、アップル、ディープマインドなどＡＩに関わる大手IT企業に加えて、国際学会のAAAI、市民権保護を目的として活動するACLU（アメリカ自由人権協会）、安全なＡＩを研究するＮＰＯのOpenAIが関わっている。評議員会のメンバーには経済学者も加わっており、社会，経済、技術の各方面から人々と社会に貢献するＡＩのアプローチを探る。

また、「Future of Life Institute (未来生活研究所)」は2014年にボストンで設立された研究者のグループ。ジャーン・タリン（スカイプ共同創業者）、マックス・テグマーク（MIT教授）、アンソニー・アグイーレ（UCサンタクルーズ教授）らが共同設立した。

アドバイザリー委員会にはステファン・ホーキングやイーロン・マスクも加わっている。ＡＩの脅威を警告した2015年1月に研究者らによる「ＡＩに関するオープンレター」を主導したのは、この研究所だ。ＡＩだけでなくバイオテック、原子力、温暖化などの各分野での研究をサポートするための補助金も出している。

同研究所は今年1月に『Beneficial Artificial Intelligence (BAI) 2017』会議を開催し、ＡＩ研究や倫理、価値について23項目の原則を提言している。

上記以外にも、カリフォルニアのバークレーを拠点にする「Machine Intelligence Research Institute（MIRI）」は、2000年というかなり早い時期から「フレンドリーＡＩ」を探究組織として活動を続けてきた。支援者にはレイモンド・カーツワイルやピーター・ティールらがいる。

またイギリスでは、オクスフォード大学やケンブリッジ大学にもＡＩや先端技術の安全性を探る研究所が数ヵ所ある。

こうした研究所は互いに競合するわけではなく、研究者が重複しているケースもあり、研究成果は今後共有されるだろう。それによって、研究は加速化されていくはずだ。

汎用人工知能研究はまだ黎明期にあるが、先に研究者や企業が望ましい方向性を模索することの重要性に気づいたことは、大きな希望だ。われわれ一般人もこうした研究から出てくる成果を注視する必要があるだろう。