びぼうぶろぐ。

基本的に自分の備忘録のためですが、同時にどなたかのお役に立てればと思いながら書いています。

Eテレ 「AI入門特別編 世界の知性が語るパラダイム変換「第三夜 AIが人間を欺くとき」」

Eテレ 「AI入門特別編 世界の知性が語るパラダイム変換「第三夜 AIが人間を欺くとき」」

AI入門の特別編です
(先週はウィンブルドンで録画されておらず焦りましたが、
 放送されていて良かった)
今回は哲学者のダニエル・デネットさんのお話

彼は「バクテリアからバッハまで」の進化を見つめ、
人間の意識の解明に挑んでいるそうです

AIの意識にも興味は及び、
AIは、選択肢が多すぎるとプログラムが実行できない、という
いわゆる「フレーム問題」も彼が考えたのだそう

 (「フレーム問題」
  たとえばロボットに物を運べという命令をしたとき
  人間なら爆弾などの危険物があれば、危険と判断して何らかの処置を取るが
  ロボットはなんでも運んでしまう。

  逆に危険を認識しろとプログラムすると、
  天井が落ちてこないかとか、
  確率の低いどうでもいい心配事も考え出してしまって
  結局何も運べず、時限爆弾なら爆発してしまう

  つまりAIはその場の刻一刻と変わる状況を加味して
  判断することができない、という問題)

〇AIに自律性を持たせるべきか
 彼はAIの意識についてこう語っていました

 「ディープラーニングとはファブリック、
  基礎構造のようなものだと考えている
  人工的な知性を組み立てるときに使う、
  建築ブロックのようなものだからです」

 今のディープラーニング
 爆発的なロボットの進化を起こした、とも言われるが

 彼はAIに対しては、あくまで道具とすべきだ、と言う。
 「ツールとして使うことです、
  人工的な同僚より、知的なツールを作り続けた方がいいと私は考える
  AI、意識を持った科学エージェントを同僚とする必要はない。
  彼らが倫理的な問題を起こすからです」

 「意識を持った超知能ロボットを作るのは間違った目標です」とまでいう。

 「とはいっても、その目標を目指すのでしょうけどね…
  にしても、間違っている、という理由を認識しておくべきです」

 彼は、自律性とは何かを考えるとよい、という。
 「自動運転自動車がもし本当に自律性を持つなら、
  スーパーに行ってくれ、と頼んだとき
  「嫌です、私は他にやることがあるんです」というかもしれない。
  これが自律です」

 「科学の分野でも、AIの同僚を求めるべきでない。
  真の意味で自立したAIは、
  「遺伝学に興味はなく、株式市場で大もうけするつもりです」
  なんて勝手なことをいうかもしれない」

 「AI自身の自律性を持たせない方がいい。
  自律した人に対してと同様に、
  我々の目標について説得する必要性が出てくるからです」

 …、この辺、ある程度知恵を持った子供もそうですよね…
 小さいときは素直に親の言うことを聞いていたのに
 だんだん自分の意思ややりたいことを持ち始め、反抗するようになる。
 そうすると、なぜ嫌なこともやらねばならないか、を伝え、
 納得してもらわないといけない。

 「同じ人間でさえ、協力や善意を獲得するのに苦労する、
  社会にこういう自律性を持つAIが存在したら、
  ますますめんどうなことになる
  彼らは人間より頭の回転が速いのに、共通点があまりないからです」

 「以上が、私がAIに慎重であれ、という理由です。
  人間と同じくらい、いやそれ以上賢いAIをベースとした存在を作るなら、
  慎重であるべきです」

 「彼らはよい仲間となるでしょう、
  貴重な話し相手にね。
  本気でAIと友達になろうとしたり、助言を求めたりする、
  これはすべて論理的には可能なことです。」

 「でもその代償はAIの自律性…
  AIが自律性を持てば、隠し事をするようになる。
  なぜなら自律性を持つ存在は、
  他の自律性を持つ存在に
  自分の考えを悟られないようにするからです」

 「意識を持つ、会話できるAIを作ろうとするなら
  「神が人間に言葉を与えたのは、
   互いの考えていることを隠すためである」
  というタレーランフランス革命の時代の外相)の言葉を思い出すべきです。
  この皮肉な名言には深い示唆があると思います」

 「意識を持ったAIが非常に率直で、誠実で、
  裏表のないものになることなど、期待できない。
  真の意識の性質とは、相反するものだからです。
  この段階で、大いなる警告を行わなければならない理由がここにある」

 …「意識の本質とは相反するもの」というのは
 他人と共感や協力をしたい、という願いと
 他人とは違う自分を保ちたい、という願いを両方もつ
 人間の矛盾を示しているのだろうか。

 「私の知り合いの批評家のサム・ハリスがかつてこう言っていました
  「自由とは、自分が操り人形だとしても、自分の糸を好きになることだ」と」

 「たしかに一理あります。
  誰かの操り人形になりたくなかったら、自分の糸を大切にすべきです。
  ほかの誰かに引っ張られないように
  自分の糸を守らなくてはならない」

 「子供たちには、
  「なんでも言われたことを信じないように。利用する人もいるからね」
  と言います。
  子供たちに警戒を怠ってほしくない」

 人間でも騙されることは許せないが、AIの場合は
 「あなたのロボットが、誰かに騙されてほしくないのも子供と同じこと。
  用事を頼んだロボットが、
  その帰り道に他の人間の操り人形になってしまったらたまらない」

 「ロボットを信用したいのなら、ロボットが単に信用できるだけではなく
  信用に値する約束をするようにすべきです。
  理性的、合理的でない存在と約束したり信じたりするのは愚かなことです。
  ですから約束を守ってほしいなら
  ロボットにも道理を弁えてもらわなくてはいけない。」

  …この辺はいまいち何が言いたいのかよくわからないのですが
  ロボットに意識を持たせる、というならば
  悪い相手に騙されないように、
  自分の意思や判断力をもつまでのレベルにせねばならん、ということでしょうか。

  とはいえそれはなかなか難しいのでは、と彼は言う。
  というのは、人間の信頼や道徳などは、
  何千年もかけて培われた文化に拠るものだからだ、と。

 「ロボットは本当に自立するのでしょうかねぇ?
  我々は互いを信用できるようになるまで何千年もかかったのにね。
  信用というのを無駄にしたくない、
  これは人間文化の素晴らしい賜物です、
  遺伝ではなく文化の一部なんです」

 我々は、信用を獲得するのに数千年を必要とした、と彼は言う。
 そしてその信用、規範を育んだのは文化だ、と。

 では規範の拠り所となる文化はどのように育まれたのか?

○チャプター2 文化と進化
 彼は文化の起源は「農業が始まった1万年前まで遡ることができる」という
 賢明な設計者がいて、
 畑の耕し方、家の作り方、宇宙船やコンピューターの作り方まで
 様々な発明をしてきた、と。

 一方で、進化は設計図によるものではない、と彼はいう
 「「進化は人間より賢い」とは
  フランシス・クリック(DNAの二重螺旋構造を発見した人)の言葉です。
  進化はあなた自身の有り様よりも賢い。
  生命は進化により、設計という重荷を回避してきたのです」

 生命は最初から何か目的や設計図があったわけではなく
 その都度環境に適応し、結果的に進化してきた

 そして、このダーウィンのいう自然選択の論理は、
 文化の継承にも見いだせる、とデネットさんはいう

 「どんな分野でも見られることです、
  進化の過程に委ねることでうまくいくのは…
  遺伝的アルゴリズムディープラーニングなどの
  コンピューターの分野でもあること」

 「なぜディープラーニングがうまくいくのか、
  まだ完全には理解されていないかもしれない。
  説明できるのはまだまだ先のことでしょう。
  つまり望む結果が出たとしても、
  なぜそうなるのかは完全に理解できないのです。」

 もともとプログラミングという設計により作られたコンピューターだが
 ディープラーニングは自己学習して答えを出している。
 それは進化の過程に似ている、と。

 「これには少なくとも心乱される予感がする。
  どのように出したか分からない答えに落ち着くことになる。
  理解していないテクノロジーを使った結果です」

 ディープラーニングの進化の過程は設計者にもわからない。
 このようなブラックボックスがあったまま、AIは実用化されている…

 「しかし進化は止まらない。
  生物学的な種だけではなく、その考え方(文化など)も進化する」
  
 「(たとえば)ドーキンス
  遺伝子の継承について生んだ「ミーム」という概念は
  (「利己的な遺伝子」という本で、
   人間は遺伝子の乗り物に過ぎない、という考え方を提唱)
  インターネット上では全く違う使われ方をしていますよね」

 「どちらも競いあうようにコピーを繰り返している、
  というのは同じですけどね。
  (ミーム、とは元々文化を運ぶ遺伝子みたいなものの意味だが
   ネット上では、ネットで流行った言葉が
   別の意味で転用されていることをミームと呼んでいる)」

 「また、人々の思い付くアイデアもコピーされ、変化していく。
  このように進化は止まっていない。
  非常に基礎的な進化論が、
  私たちに警告しているのかもしれない。
  あなたと私の違いは、今は見えなくても明日には現れるかもしれない、という事実です」

 コピーすべきものが選ばれ、新たな意味が加えられ、常に変化していく。
 そこには理性が介在していない、予測も理解もできない。
 それが自然選択の論理…

 「70年代に我々が心を踊らせたAIは、大きなメインフレームコンピューターだった。
  それが今はJavaを用いたシミュレーターで動かすことができる。
  スマホでも動かせます。
  昔のプログラムやその子孫は、生かし続けられるということです。
  ソフトウェアはDNAと同じように、永遠になる可能性がある」

 情報は、DNAと同じように永遠に生き残るのだ、と。
 そこには、進化と同じく理性も設計図もない、と。

 近代科学では、精神と身体を分け、
 精神が身体を動かす、というデカルト的二元論が主流だった。
 この考え方だと、精神を動かす精神、その精神を動かす精神、…
 と無限論になってしまう
 デネットさんはこれを「デカルトの重力」といって批判しているそうです

 精神を優位に考え、
 理性が意識を動かす、と考えていては、
 意識の本質にはどこまでもたどり着けないのだ、と。
 二元論から解き放たれたとき世界の見方は変わる、と…

 じゃあ人の意識はどこから来るのか?
 デネットさんは我々の文化的背景だ、という
 さきほど話していた、理性に拠らない、自然選択的な進化をし続けている文化です

 「想像力や創造性は、人間にあり他の種にはない、とても高度な能力です。
  絵筆を鼻でつかんで絵を描く象や、
  飾りつけをするチンパンジーがいるという人もいるが
  それは本当の芸術でも科学でもない。
  私たちの種の創造性は、ほぼ完全に文化的背景に依存している、
  それは論理ではなく、ある文化の体系(コード)に埋め込まれてきたものです」

(ナレーション)
 「論理で分からないざわめき、
  理屈とは違う胸騒ぎ、
  芸術の本質は主体の分裂?」

 「人間は文化のなかで育ち、言葉を覚える。
  文化はOS、言葉はトップ(脳)に入れられたアプリのようなもの。
  そのアプリのお陰で人間には創造性がある。
  脳内の特殊な物質のお陰ではない。
  人間の脳は、魚やチンパンジーと同じ物質でできています」

 「そして脳内の物質ではなく
  脳内にある情報こそが人間を創造的にしている。
  ですから、原理的には創造性をもつAIを作ることは可能です」

 文化というOS上で、言語などのアプリがインストールされ
 情報がそのアプリに入り、
 そこから創造性が生まれる、とデネットさんはいう。

 この文化は何千年もかけて進化してきたもので、
 そこから生まれる創造性は人間という種に特有なもの、と彼はいうが
 AIの創造性も評価する人もいる

 ケヴィン・ケリーさん(次回の主役)
 「AIは非常に創造的になる。
  ポイントは人間の創造性とは異なること。
  「Think different」
  発想を変えることこそが、富と進歩のエンジンだからです。」

 「いかなる文化でも、成功のポイントは
  他と異なるやり方ができること。
  違う考え方をし、異なるアイデアをもつこと」

 「70億の人間がスマホで繋がれている現状では、
  異なる考え方をもつのは大変です
  でもAIの創造性は全く別で
  アルファ碁(ディープマインド社が開発した囲碁AI)に負けた囲碁チャンピオンのイ・セドル
  第3局の37手を「素晴らしく創造的な手」といった
  この対局はその後の人々の囲碁の打ち方を全く変えた。
  発想の違いを生かすチームとして、AIの創造性は活用できる」

 人間との違いを多様性と見れば、ポジティブになる

 (うーん、ここは両者に同意する。
  人間は精神だけが知性を生んでいるのではない。
  自分個人の身体経験もそうだし、
  過去の人間、他の人の経験も含まれた文化や知識がすべてあわさって創造性が育まれる、
  そういう、五感から、あるいは過去から得た情報を統合して何かをアウトプットする、
  というのは人間にしかない能力だと思う。
  AIの創造性、と言っても、そういう人間が育んだ情報をインプットしないことには
  何も生み出せないわけですし…

  一方でAIは、人間よりもはるかに多い情報を処理し、別の進化の仕方をしているとも言える。
  人間の場合、情報の洪水に飲み込まれないよう、
  必要ない情報は無意識のうちに忘れたり、除外してしまうけれど
  それを全くしないAIは、それはそれで全く別の進化をして別のものを作るのだろうと思う。
 
  互いにできないことを互いに補い合うことで
  全く別の発想が生まれる、というのは考えられることだと思う)

 (ナレーション)
「AIの出現は
 コンピューターの発展の道筋が人間と進化論と似ていることを教えてくれた、
 とデネットさんはいう。
 脳だけ、精神だけが身体をコントロールしているわけではないとしたら
 創造性とはどう位置付けられるのか?」

チャプター3「創造性はコントロールできない」
 (ナレーション)
「映画、小説、ゲーム、音楽
 クリエイティブの成果を人間はなぜ求めるのか?」

 デネットさんは
 「小説家は、自分とは異なる性別の視点から作品を書ける能力を誇りとしていますよね」

  たとえば女性小説家が男性の視点を持ったり
  男性小説家が女性の視点を持ったり…

 「こういう試みは常に行われている、現状では機械にもできる。
  もし男性が出産にまつわる不安や喜びなどをきちんと想像し、言葉にできれば、
  世界中の母親から称賛を浴びる。
  それは経験を意味しない。
  相手のことを想像しただけなのです」

 小説における創造、とは虚構を作ること、
 経験の有無は必要ない
 創造性をもつとは、読者を欺くことでもある?

 そこから、デネットさんの話はちょっと怖い方向に…
 「AIの能力レベルによっては、
  主体性を持っていようといまいと、
  人間の世論や個人の考え方を扇動政治家、デマゴークよりも
  うまく操作するテクニックを発見することはあり得る」

 つまり、小説家は、実際は経験していないことにリアリティを持たせる能力があり、
 それを我々は小説家の創造性と呼ぶが
 それがもしAIにも生まれたら
 人間の心に、ありもしない被害妄想などを植え付けたり
 誰かに対する憎しみなどもリアルに呼び起こしたりできるかもしれない、ということか?

 「重大な可能性です。
  激しい競争が始まっている。
  親は、子供に警戒するよう促す。
  それでも新たな悪者は常に現れ、新たな詐欺や裏で糸を引く黒幕が登場する」

 「だからこそ、常に油断せず
  批判的な考え方をもち、
  まっとうな視点をもつ人間になろうとせねばならない。
  今も防御につとめているが
  し烈な競争下では、たいてい防御より攻撃の方が
  安価に素早く手に入れやすいのです」

 「我々は負けるかもしれません、
  AIイノベーションの次のラウンドでは、
  AIの人を操る力が破滅的になるかもしれない。
  その可能性はある、用心しなければなりません」

 自律性と欺く能力は表裏一体、
 我々はAIに騙されても意識を作ろうとするのか?
 心の探求は続く…というナレーションで終わっていました

○感想など
デネットさんの考え方は概ね同意できるなぁと思ったんですが
 最後の「AIの人を操る力」というのが
 少々納得いかない、というか…。
 人間対AIの対決、という印象になってしまう。

 でもこれはAI自体の問題というよりは
 使う人間側の問題になるのでは、と私は思う。
 悪意をもつのも、裏で糸を引くのも
 全部人間がやることで
 AIは道具としてそういう悪党に利用されるだけなのではないか、と。

 もし自主的に破壊的な意思をもつAIができるにしても
 それはそのように育てる人間の悪党がいるからなのでは?
 AIに、というより
 そういう人間自身の悪にこそ警戒すべき、
 ハッカーと同じで、むしろ人間の取り締まりや対策を考えるべきだと思う。

 そしてその可能性があるから、
 私自身、デネットさんが最初の方で言っておられたように
 「安易にAIに意識を持たせるべきではない」
 とも思っています

 もちろんデネットさんがおっしゃっていたように
 AIが仕事やだ、て言い出したらめんどくさい、
 というのもあるけど。。

・というか、AIに意識を持たせられるのかなぁとも思う。
 デネットさんは、脳内の情報が意識を作るとおっしゃっていたが
 私は意識はもっと複雑なものだと思う。

 意識は脳内の情報だけではなく
 手足など身体が受けたり、身体が持っている情報からも作られると思う。
 臓器からの情報伝達物質が、脳に影響を与えるという研究もありますし…

 さらに感情も意識に大きな影響を与える。
 そしてその感情を作るのは本能、根源的には人間の切実な生存欲で、
 それは限りある命をもつからこそ生まれるものだと思う。

 つまり人間の意識というのは
 もちろんデネットさんのいう、文化とか歴史なども関わるのだが
 人間が身体や命を持っている、
 という特徴にも大いに関わっていると思う。

 だから意識をもしAIが獲得するとしても
 人間のビッグデータをコピーした結果でしかないのではないかと。
 逆に言えば、いつまでも人間の教師データを入れてやらない限り、
 つまり人間なしには、
 彼らに意識(といっても疑似意識というべきものだろうけど)
 は生まれないのではないかと思います。

 意識を持たせるとしたら、何か体験がないとダメだろうなぁ。
 頭でっかちで本読んでばかりの人間がつまづくことがあるのと同じで、
 体(AIならセンサー?)を使った体験はどうしても必要かなと思います

 それでも、人間みたいにあらゆる情報を捉えるセンサーを備え付け
 そこから必要な情報のみを抜き出して統合する能力、
 を獲得させるのはかなり難しいと思う、
 それこそデネットさんのおっしゃるように、
 その能力は進化の賜物だから。

 私自身は、あくまでAIは人間とは別の種、みたいな扱いにしていく方がいいと思う。
 AIを人間に似せる必要はなくて、
 AIにしかできないこと、
 人間にしかできないことを
 互いに補いあう関係でいいんじゃないかなぁと思っています。

 私は意識を持たせるとかよりも
 ケヴィン・ケリーさんのおっしゃるように
 AIならではの発想を、人間の新しい創造への刺激として使う、
 というやり方にワクワク感を感じます。

 絵を描くAIとか作曲するAI、小説AI、
 職人の仕事をするAIなども出てきていますが
 そこを人間が仕事を奪われる、とネガティブに捉えるんじゃなくて
 新しい発想を提供してもらうとか、
 人間のできない作業工程
 (工作なら複雑な彫刻、小説なら裏付けとなるデータ集めなど)
 を一部AIにしてもらって、人間はその結果を見てまた新しい発想を作る、
 など、もっとポジティブに使っていければいいかなと思います。

 AIと人間、たまに間違いも起こすけど
 思いもよらない発明をしあう同士として
 仲良く共存できればいいなぁ。

 それでも人間には悪が同居していると認識はしておくべきだと思う。
 自分の利益のためだけに使いたくなる場合もある、
 それが問題を起こすことがある。
 そこにこそ対策すべきかなと思いました。

色々考えさせられました。
というわけで今回はこの辺で。