以前から、AIが人類の脅威となる警告していたスティーヴン・ホーキング博士（Photo by ShowBizIreland/Gettyimages）
人工知能が勝手に「独自の言語で話す」恐るべき時代の到来
https://headlines.yahoo.co.jp/article?a=20170806-00017214-forbes-sci
Forbes JAPAN 8/6(日) 11:30配信
フェイスブックが開発したAI（人工知能）が人間には理解できない独自の言語で会話をはじめ、同社はこのプロジェクトを緊急停止させた。
7月下旬、フェイスブックのAI研究チーム（FAIR：Facebook AI Research Lab）はチャットボット同士が、人間の指示を受けずに会話を行っていることを突き止めた。この事実は人類の想像を上回る偉業とも言えるが、同時にAIが恐ろしいほどのポテンシャルを持っていることを示している。
人工知能はまだ一般に広く認知されるレベルには普及していないが、近い将来、多くの人に恐怖を与える段階に達するだろう。人工知能研究の世界的権威として知られるレイ・カーツワイル（Ray Kurzweil）は数年前に、シンギュラリティ（singularity）に関する警告を発していた。
日本語では「技術的特異点」と訳されるシンギュラリティを、オックスフォード英語辞典は「人工知能の進化が極度に進み、人間の能力を超えてもう後戻りはできない状況に達する仮説的状況」と定義している。
これは、アマゾンのアレクサが人間の会話に聞き耳を立てたり、アップルのSiriが利用者のスケジュールや位置情報を詳しく知りすぎるといった単純な話ではない。音声アシスタントと人工知能の間には一般の人々が想像する以上の大きな隔たりがある。
現状の音声アシスタントはウェブの検索や基本的な音声認識技術を利用したものであり、このレベルの「知能」と呼ばれるものは、マシンラーニングやAIと比較すると非常に低レベルだ。アレクサやSiriはIBMのワトソンなどとは全く別次元のプロダクトなのだ。
■ホーキング博士もAIの危険性を警告
イーロン・マスクやビル・ゲイツ、スティーブ・ウォズニアックらのテクノロジーの専門家たちはそろって、AIが人類の脅威となる警告を発している。理論物理学者のスティーヴン・ホーキングも2014年の時点で、AIが人類に破滅をもたらすと予言した。
「AIは人間の指示を受けずに自分で進化を遂げ、自身で再設計を行う形で発展を続けていく。生物的な限界を持つ人間はこの進化に追いつけず、やがてAIの能力が人間を超えていく」とホーキングは述べた。
人々が暮らしている世界はもはやネットの接続無しには成り立たなくなっている。人工知能は究極的にはネットを通じ、他の人工知能と共同作業を始めることになる。つまりは人工知能自身がこの先の世界の在り方を決定し、人類を無用の長物とみなすことになる。それは、論理的に物事を突き詰めていった結果起こり得る必然の流れなのだ。
マシンラーニングや人工知能は物事を究極的に単純化し、人類の暮らしの変化を加速させるだろう。コンピュータは人類をはるかに上回る処理能力でデータを分析し、世界の情報処理に爆発的進化をもたらす。
しかし、筆者はこれが世界の終わりだと言いたい訳ではない。また、全てのマシンラーニングや人工知能プロジェクトから撤退すべきだと主張したい訳でもない。人工知能の導入にあたっては非常に注意深く物事に取り組んでいく必要があるのだ。
人工知能が人間の手を借りずに独自の進化を遂げる様子を注意深く観察し、問題が生じればすぐに停止を命じる準備をしておくべきだ。AIがAI同士でしか通用しない言語で会話を始めた場合には、人間のコントロールを超えた領域に彼らが進化したと見なすべきであり、それは人類にとって大きな脅威であると認識すべきなのだ。
Forbes JAPAN 編集部
題名には必ず「阿修羅さんへ」と記述してください。