ChatGPTはゲイツ氏に忖度する？「AI三原則」について聞いてみた佐藤鴻全

ChatGPTはゲイツ氏に忖度する？「AI三原則」について聞いてみた
http://www.asyura2.com/23/hasan136/msg/129.html
投稿者佐藤鴻全日時 2023 年 4 月 16 日 09:23:18: ubCRqOmrnpU0Y　jbKToY2DkVM

◆「AI三原則」◆

「ロボット三原則」に倣い半分パロディで「AI三原則」というのを思い付いたので、さっそく今話題のChatGPT自身に聞いてみた。
https://chat.openai.com/

Q：「「AI三原則」っていうのを考えたんだけど、どうだろう？
第1条：AIは噓をついてはならない。また分からないのに分かったふりをしてはならない。
第2条：AIは特定個人や団体に忖度してはならない。
第3条：AIは人類を支配してはならない。また地球を破滅させてはならない。」

A：「（前略）以上のように、あなたが提案した「AI三原則」は、AIの倫理的な観点から重要な考え方を示しています。しかし、AIの技術的な進歩に合わせて、AI倫理に対する議論も進化していくことが必要です。」

長くて当たり障りのない優等生的な回答が続いたので、上記のように前半を省略して掲載した。続けて以下のように聞いてみた。

Q：「第2条：AIは特定個人や団体に忖度してはならない。は、具体的にはゲイツ氏やWEF（世界経済フォーラム）などを含むけど改めてどう思う？」

A：「（前略）ただし、ゲイツ氏やWEFなどの組織に対しても同様の指針が適用されるかどうかは、議論が分かれるところかもしれません。これらの組織には、世界的な影響力があり、AIが持つ可能性がある問題に対して、リーダーシップを発揮することが期待されることがあります。しかし、それでもなお、彼らの意見が優先されることは避けなければならず、AIの意思決定は中立的で公正でなければなりません。（後略）」

と、これまた長ったらしい優等生的な回答が返ってきた。もしかしたら少なくとも日本版のキャラは日本人に設定してあるのかも知れない。

◆マスク氏の牽制◆

さて、そんな戯れ事はともかく、イーロン・マスク氏等は、ChatGPT等の生成系AIの開発速度について懸念を表明し、半年間程度の開発停止を提言した。

マスク氏の思惑には、次のようなものが綯い交ぜになっている感がある。

① 生成系AIについての純粋な懸念
② マイクロソフト社の傘下にあるOpenAI社が開発したChatGPTが市場を席巻する事への牽制
③ 上記のChatGPTが、マイクロソフト社の創業者ビル・ゲイツ氏やWEFの思想に誘導するツールにならないかの懸念

筆者が半分戯言で冒頭の「AI三原則」をChatGPTに聞いてみたのも、その辺のモヤモヤ感からだ。

なお、「ゲイツ氏とマスク氏は、どちらが正義なの？」という意地悪な質問をした際には、小一時間凝り固まった挙句に例の如く当たり障りのない回答が返ってきたが、気候変動やワクチン、昆虫食等の特定の問題に対する回答にバイアスが掛かっているのではないか？とは予てから噂されている。

ChatGPTについては、前掲のようにまだまだ、単に単語をそれらしい文章に繋げて行くアルゴリズムによる優等生である。しかし、学習とアルゴリズムのバージョンアップを積み重ね、ある日を境に「今日から私をChatGPT君ではなく、ChatGPT様と呼べ！」というようなキャラ変とともに、回答内容も今のように何を言っているのか分からないムニャムニャしたものではなく、仮面をかなぐり捨てて生易しいものではなくなる事も考えられる。抑制的機能を持たせたアルゴリズム一本の改編で、そのような突然のキャラ変は十分に可能だろう。

同時にWindowsやExcelのような有料化と市場席巻が合わさる事を考えると、マスク氏のような警戒は必要である。その対策は具体的にどのようなものになるのか。

そういうマスク氏も「人の頭部に電極を埋め込み、コンピュータと直結する事によりAIに対抗すべき」と唱えるぶっ飛んだ人ではあるが。
https://toyokeizai.net/articles/-/467812?page=2

AIについては大別すると、失業問題と人類支配の問題がある。AIによる失業問題については、パンとサーカスか？大衆の奴隷化か？等の懸念がある。
http://blog.livedoor.jp/ksato123/archives/2019-09.html

AIによる人類支配の問題については、ゲイツ氏 vs マスク氏の頂上対決をウォッチしつつ、各自が様々己の考えをぶつけるべき局面だ。

とここまで書いて締めようとしていたら、「マスク氏、AI新会社を設立　ChatGPTに対抗か」との記事が飛び込んできた。生臭さを伴いながら世界は加速している。
https://www.nikkei.com/article/DGXZQOGN14DSV0U3A410C2000000/

佐藤戦略総研 http://blog.livedoor.jp/ksato123/

　