タウンNEWS広島　平和大通り

オセロに始まり、チェス、将棋と人間、それもその世界では最高レベルの人間を上回ってきたコンピュータですが、あと10年はかかると言われていた囲碁でも、ついに世界チャンピオンに勝利しました。

そして、つい最近では、小説という、まさに創造という分野でも、新人賞にノミネートされるレベルにまでなったということです。

ただし、これらの小説については、まだ人間と分業で、人間がストーリーを指示して、コンピュータが文章を書くタイプと、逆のパターンとがあるようです。

以前、コンピュータで音楽を作るというとコンピュータが作曲するかのように思われることがあり、ワープロで小説を書くようなものだと説明していましたが、実はちょっとしたＢＧＭなどを作る作業は、人工知能が小説を書くレベルくらいにはあります。

佐村河内守氏の指示書で人工知能が作曲するようになるまでに、それほど時間はかからないかも知れません。

*お願い
この文章の下にある《広島Blog》というバナー（画像）を クリックしてください。

確かに人工知能の発展は目覚ましいものがあります。音声認識技術でもSiriやCortanaは便利です。でもまだまだのところもあることは使ったことのある方にはお分かり頂ける思います。

最近の話題で気になったのは、Microsoft社の「Tay」ですが、日経の記事を引用しておきます。

「米マイクロソフトは24日、ソーシャルメディア上で人間と対話する「チャットボット」と呼ばれる人工知能（ＡＩ）の運用を停止した。悪意のある人々に教え込まれ、「ヒトラーは間違っていない」「男女同権論者は全員死んで地獄で燃やされるべきだ」などと差別的な発言をツイッターで連発するようになったため。－－中略－－スラングやジョークを交え、ターゲットとする米国の18～24歳の若者を楽しませるはずだったが、公開後24時間以内に、複数の人間が協力して」テイに大量の差別的発言を浴びせ、テイはそれを「学習」し、自分でも同様の発言を返すようになったとみられる、という記事です。

実は、これと同じような事例が50年ほど前に起きていました。当時のMIT教授ジョセフ・ワイゼンバウム氏によって開発され、「イライザ」と名付けられたプログラムの引き起こした波紋です。

このプログラムは、イライザと会話をする人(Aと呼んでおきましょう)の発言の中からキーワードを拾い、それを使いながら次の発言を促す、という形式のプログラムです。「○○についてもっと話して下さい」とか「その他に気になっていることはありませんか」あるいはA氏が「母」という言葉を使ったとすると、「お母さんで思い出すことはありますか」といった形のやり取りです。

実験的に多くの人が「会話」をしたのですが、イライザと「会話」した人が、本当に自分のことを理解してくれたと誤解してしまうケースが余りにも多くなり、ワイゼンバウム教授は『Computer Power and Human Reason』という本を書いて警鐘を鳴らしました。(邦訳は『コンピュータ・パワー』1979年サイマル出版社刊、秋葉忠利訳、絶版)。

この「イライザ」というプログラムに、A氏やその他の人たちの多く発する言葉を繰り返す機能を付け加えれば、簡単にテイのような作品は出来上がります。

問題は、テイもイライザも、自分の価値観を持たないということです。「自分」をどう定義するのかも難しいのですが、「自分」を持たない、と言った方が正確でしょう。すると周りの人の言うことに「素直に」反応して、自分でも気付かないうちに一定の価値観に染められてしまうという点なのかもしれません。

なんだか現在の我が国、だけではなくアメリカ等他の国でも、そしてISにも当てはまるのかもしれませんが、今起こりつつある世界状況をAIが切り取って示してくれているような気もするのですが。

投稿： イライザ | 2016年3月26日 (土) 08時38分

イライザさん

実は、SNSではTayのニュースに関連して書いたのですが、肝心の問題には触れないままの内容になっていたので、コメントには大感謝です。

自動運転においても単に機械が運転するということから「トロッコ問題」のように、究極の選択を迫られた場面で、誰の命を優先するのか、ドライバーなのか、歩行者なのか、数で決めるのか、倫理的な問題が議論され始めています。

最近、Amazonプライムビデオで観た映画に、アカデミー賞で作品賞を含む5部門にノミネートされ脚本賞を受賞した「her/世界でひとつの彼女」があります。

この映画はAIとの恋愛を描いたもので、最初は悩みながらも「恋愛」を学んでいくAI（OS）ですが、結末は、コメントで示されている懸念に通じる問題を提起しています。

ネットによる情報共有が広がり、マスコミでは知り得なかった情報を得られるようになった反面、ネトウヨと呼ばれる極右的な人たちの発言も拡がっており、世界的な傾向としても、考え方が極端な方向へ拡がっているという印象も受けます。

ホーキング博士も「人工知能の進化は人類の終焉を意味する」と警鐘を鳴らしていますが、先日のコメントにも「人間は地球に最も有害な生物として、コンピュータによって駆除されるのも時間の問題」というものがありましたが、核に象徴されるように余りに大きな力の利用には、十分な議論が必要であり、予防原則（＝取り返しのつかない結果が予想される場合は取り敢えず禁止する）も考慮されるべきかも知れません。

投稿： 工場長 | 2016年3月26日 (土) 11時11分

「her/世界でひとつの彼女」はまだ観ていませんが、早速観たいと思います。

それとの関連で、精神治療医としての役割を果たしているイライザは「ドクター」としても知られるようになったのですが、このドクターと「会話」を始めたワイゼンバウム教授の秘書は、数回やり取りをした段階で、教授に部屋から出て行って欲しいと言った、というエピソードが紹介されています。

この秘書は、教授がイライザの研究をしていることやそのプログラムの概念なども知っていたのに、それでも、ドクターとの関係が、他人の介在を許さないほどの親密なものであるという感情を抱いたということです。その延長として恋愛に陥ることは十分考えられます。

実は、ここに描かれていることは、『コンピュータ・パワー』の最初の数ページに出てくることなのですが、ワイゼンバウム教授は、そこを出発点に、コンピュータに代表される科学技術と社会との関係をかなりの長さの本一冊として分析し警鐘を鳴らし、解決策を提案しています。

絶版ですが、今こそ再版さるべき本なのかもしれません。

投稿： イライザ | 2016年3月26日 (土) 11時40分

イライザさん

『コンピュータ・パワー』是非、再版して欲しいですね。
取り敢えず、Kindle化希望でクリックしました。

投稿： 工場長 | 2016年3月28日 (月) 19時37分