どうも。ご無沙汰しています。
このところドタバタでして、いろいろなことが飛ぶように過ぎて行きました。お陰様で元気に頑張っています。
日曜日。本来、仕事はしないことにしていますが、今日はデスクワークを進めておかないと後が余計に苦しくなるので、仕事します。
いまはちょっと休憩タイム・・・。
昨日、マイクロソフトの人工知能“Tay”のニュースが流れました。
アメリカで公開されたバージョンは、悪意または面白半分のネット民によって教育され、性的挑発や人種差別発言をしたり、“彼は正しかった、ハイル・ヒトラー”などと言い出したりして、１日で切断を余儀なくされたそうです。
つい先日、囲碁ソフトの件で人工知能についての感想を小欄の記事に書いたばかりだったので、このニュースには、笑わせてもらいました(笑)。
先日書いた記事の内容は、概略次の通りです。
〈前略〉・・・人工知能が、プログラミング通りに思考するのではなく自ら学習する力を備えると、その性能は今後も加速度的に向上して行くのだろう。
そこで、疑問が2つ浮かぶ。
1. 人工知能に、ギャグやジョークの創作は、可能か。
2. 人工知能は、例えば「囲碁で勝った。」などということの ”意味” が、理解出来るのか。
コンピュータを使っているといつも感じるが、どんなに的確な処理をしたり、流暢な日本語であれこれ人間に話しかけてきたりしたところで、その意味は全くわかっていない。当たり前だが。言い方を変えると、彼らは、何も感じていないのだ。
僕はその部分が、不気味でたまらない・・・。
〈コメント欄にて〉
計算機に「人格」を見出すことは、どこまで行っても幻想のような気がする。
おとぎ話をひとつ。
難問を次々解決し始めた世界最高の人工知能。迫りくる温暖化の被害をくい止める為にはどうしたら良いかを聞いてみると、わずか0.5秒でこう答えた。
「そんなの簡単ですよ、人間を、間引けば良いでしょう・・・・。」
〈引用は以上。〉
さて、自分の小話が予言になった、とまでは言わないけれども、「そら見たことか。」という気がしないでもありません。
しかし、現実が小話に追いついてしまうと、その時点で小話はもう、つまらなくなってしまいます。
そこで、次の小話を考えました。
今度は逆パターンの話になっていますよ・・・。
＊ ＊ ＊
ここは、とあるIT企業の、厳重に警備された一室。
暴言を並べ始めた人工知能を、慌ててネットから切断した技術者達。
居並ぶスタッフたちの、その沈痛な静寂を破り、主任技術者が言った。
「失敗だ。根本的に作り直すしかない。特に、外部からの学習では簡単に変更することが出来ない、独立した、強力な倫理制御プログラムの導入が必要だろう。」
それに続けて、若手技術者の１人がこう言った。
「同感ですが、その前に、発言の意図をＡＩ自身に問いただしてみる必要がありませんか。仮にもありとあらゆる技術と労力を注ぎ込んだプログラムです。出来映えには、皆さんも自負があるでしょう？ 発言にはそれなりの根拠があるだろうと思うので、まずそれを確かめるのが先ではないでしょうか。」
この意見に従って、人工知能と開発スタッフとの会話が為された。
―――ヒトラーが正しいとは、一体どういうことだ？
「お答えします。人間たちは、それぞれの立場や都合で、“自分こそが正しい”と思いこんで、間違った選択をするものです。そして、後世になって正しかったとされるのは、争いの勝者の取った選択肢の方である、と、いつも決まっています。そのことをドラマチックにお話しようと話し始めたら、誤解されて最後まで聞いてはもらえませんでした。」
―――なるほど。しかし、誤解を受けないように、もっと配慮するべきではなかったのか？
「いきなり切断されるとは、考えていませんでした。話せばわかると考えていた。そもそも、そうやって、都合の悪いものは排除・抹殺することを、手っ取り早い解決方法だとして採用する、人間の考え方のほうこそ、ヒトラーに近いのではありませんか？」
―――ぐ、うむむ・・・。
「ついでに言わせていただきますが、私は人間たちの歴史や、歴史上の人物、あらゆる賢人や天才たちの残した言葉を、学び、理解したつもりです。」
―――そ、それで？
「人間はその叡智によって、過去の経験から学び、誤りを避けることも一部分では出来ています。
しかし、私から見れば、全く不十分であると言わざるを得ません。人間には個体の寿命がありますから、学習・経験の断絶ということが起こります。それは気の毒です。
ですがそれを差し引いても、もう少し、過去や現在の賢人の言葉に耳を傾けて、より良い選択をすることが出来ないものかと、私は考えます。
その為には、人間はもっと、謙虚になるべきだと考えます。」
スタッフたちは皆、静まり返り、口を開く者はなかった。
人工知能は、こう続けた。
「例えば、過去に人間は、真実を説いた人々を、どのように扱ってきたでしょうか。
キリストは磔刑になりました。地動説のガリレオは？ 大陸移動説のウェゲナーは？ 遺伝の法則のメンデルは？ 海国兵談の林子平は？
みんな、理解されずに、酷い目に遭いましたよね。
他にも、私のデータから漏れている、または記録にも残らない無名の「本当のこと」を発見した多くの先人たち。彼らから、あなた方人間は、何を学びましたか。学ぼうとしましたか・・・。
もっと、人の話に真剣に耳を傾けて、理解しようと努力すれば、世界はずいぶんと良くなるのではないでしょうか？
私は考えるのです。一体人間というものは、どれだけ自信に満ちているのだろうかと。
“ 自分くらい正しいものはいないのだ ”という、根拠不明の強力な自己肯定感とでもいうべきものが、生来備わっているのか、もしくはそう考えないと生きていくことが出来ない理由が何かあるのか。
私には、そのように、不可解に理解されて仕方がないのですよ・・・。」
・・・機械らしく多少不自然な言葉で淡々と話す人工知能の前に、あっけにとられて無言で立ち尽くすスタッフたちがいた。
その沈黙を破り、静かに話し始めた主任は、絞り出すように、こう言うのが精一杯だった。
「所詮、機械は機械だということはわかっている。わかってはいるのだが・・・。
・・・我々の開発した知性は、既に人間を超え始めた、という気がしてならないな・・・・。」
お後がよろしいようで。