特集： AI人工知能が変える未来
株式会社AIWIL システム開発事業部
第５回 人工知能は「クセがすごい」
人工知能が持つ性向
深夜の人気番組アメトークで、常連メンバの漫才コンビ千鳥のお二人が「クセがすごい」というフレーズでお茶の間を沸かせています。本業の漫才では「クセが強い」という表現で一流エンターテナーの話術をあますことなく披露しています。
今回は、そんな千鳥のお二人をリスペクトし「人工知能は全て例外なく、人類以上にクセが強いことを保証していかなければならない」というお話をしたいと思います。それには次のように「明瞭な２つの理由」があるのです。
AIが創造主である人類の脅威とならないようにするためには、明確な特質（性向）を持たせなければならない
人類にとって最大限有益となるように出来る限り効率的に能力を高められる無駄のない仕組みでなければならない
クセがすごい人工知能であること－AIが自然発生的な生命ではなく、人類が目的をもって自由に創造出来るものである限り、そうでなくてはならないのです。
今回の特集は、いかなる優れたAIも「創造の瞬間から明確な特質を与えられていなければならない」こと－つまり「クセが強い人工知能」というAIWILの考えをお話します。そして最後に、いよいよAIWILのAI理論のコアである「無条件反射」というキーワードについても触れる予定です。
知能の力は経験が99%
経験が生み出す知能
人類をモデルとしたAIの知能の特徴について、ここでもう一度だけ確認しておきます。それは今回の特集記事の前提となる大切な観点だからです。
あらかじめどのような思考ルートのセットが用意されたとしても、それらが固定されたままの状態であれば、現存するコンピュータプログラムと何ら変わりがありません。反応の仕組み（＝思考ルート生成の仕組み）によって、AIが真の知能を成長させるためには「経験」が必要となります。
経験とは「外部刺激に反応して生じた思考ルートを累積していくこと」、「加えて、自らの反応が導いた結果に対しても“好悪の醸成”を行っていくこと」です。
「好悪の醸成」とは人間の感覚にたとえた場合の表現です。AIにあらかじめ与えられた「特定の性質（性向）」に照らした上で「自らの反応で導き出された結論に従うことが、是か非か」ということを判定していくことで「より適切な思考ルート」を選択しながら結論のパターン、そして方向性を構築していく特性のことです。
AIの構造から生じた自然反応の結果（最初の結論）をいつも無条件に肯定するのではなく、「本能的倫理、根源的欲望、絶対的方向性」とも言える「あらかじめ持たされた特質」に照らして肯定可能な範囲にある時にのみ、その結論が選択されていく活動のことです。
前回の第４回「成長する知能」でも触れたように、経験から得られる刺激（＝記憶になる）をトリガーとして構築される「個別の思考ルート」同士が、互いの結びつきを選択的に強めながら精錬されていく様子こそが知能の姿です。
学習できない（経験を持てない）潜在機能だけであるならば、それは原始細胞であって、知能の様子ではないでしょう。また自らの内部だけで生じる連鎖反応であっても、外部刺激を起因として生じた反応であっても、AIがあらかじめ持たされている「好悪の方向性」に従って統合されていく活動こそが、知能を無限に成長させ精錬していくための必須条件なのです。
反応のランダム性を容認し過ぎて無方向性のままに放置された化学反応や、コンクリートのように固められた固定物のような構造では、人工知能として許容されることは決してありません。
では、人工知能とはどのように創造されていくべきなのでしょうか。
学習による成長
知能を創造する方法論は、いくつも考えられます。まずはじめに、自然生物ではなく人工物であるAIならば「あらかじめ基本的な知能をセットする」ことも可能です。
その方法のひとつとして第４回「成長する知能」でお話しした「思考ルート」というセットメニューの幾つかを（ノードとなる記憶情報とともに）あらかじめ焼き付けておくことで、それがスターターとなって知能を成長させていくことが可能でしょう。
この「スターター」を全ての始まりとして、その後繰り返されていく外部刺激に対して累積される反応（＝経験）が引き起こす変化と成長の過程を、コントロールしていく方法です。
もちろん、この方法論だけがAI創造の唯一の答えではありません。もしこの方法論をあまりにも狭くとらえてしまった場合には、人類のような社会生活を基盤とする生命の間で営まれる教育システムといった経験だけが知能を形作ることが出来るという印象になります。
潜在的機能だけを用意して学習や経験による知能の成長過程を見守る。。。もちろんその方法論に固執しても、観察や生育研究の面白さとしては興味深いものがあるでしょう。
しかし強力な知能の創造を効率的に行っていく目的があるならば、より適切な方法が他にもあるはずです。次にその具体的な方法を検討してみましょう。
AIクローン
たとえば、一定の基準で測定した時に、相当高い能力や有効性が認められたAI（仮に、AI-1号と呼びます）が存在したとします。その「AI-1号」が身に着けた「思考ルートのセット」を、次への遺産として、これから生まれてくる「AI-2号」に最初から移植をしてしまう方法です。
この方法ならば「他者が学習と経験の試行錯誤を重ねることで獲得した、優れた資質」を贈与されることで生まれた瞬間から強力な知能を有しているAIを創造することが可能になります。それはAIの間でDNAを伝承させるというよりも、保有している能力を不特定多数に対して大量にコピーすることが可能となるような、人類にはない「知能の移植機能」です。AIにおけるクローン誕生に近いものになるでしょう。
優れた資質を持った特定のAIを源に創造される「多数のクローンAI」が、さらに、それぞれの個々の学習や経験を積み重ねて成長し、強化された思考ルートのセットを再び別の「多数のクローンAI」へ移植しながら、新たなAIを創造し続ける。もしも、そのようなことが次々と繰り返されていくならば。。。
「多数の経験（＝反応、蓄積、選択、結合、成長）」によって醸成されながら強化されていく「思考ルートのセットメニュー」が、次々と継承され、無数に配布されていく。そこに異なる個体の独自の経験を加えながら高度化していく。その様子は想像を超えた加速度的発展になるかもしれません。そのような想像から導かれる結論のひとつとして、「シンギラリティ」（技術的特異点）のような仮説も導かれるのかもしれないのです。
そもそも「シンギラリティ」とは、人類がAIと融合して新たな進化を遂げることを指すものです。しかし一方で、AIが人類の知能を超え、人類がAIに支配される恐怖のシナリオとしても使われることがあります。
いずれにせよ、経験によって成長する知能の構造に加えて、正確な移植やコピーが容易となる人工物の特徴までもが融合されていく時には、人工知能の加速度的な成長を導き出す可能性が大いにあるとAIWILは考えています。
人は本当に優れているのか
知能は偶然の現象
生物は偶然の存在です。宇宙の生成から今日まで、全ての現象が必然的な連続反応の結果であり偶然や不確定な未来などはないという考え方も、もちろんあります。
ただしこの記事は「人類の創造するAI」というテーマに限定したものであり、その範疇を超えた議論まで広げていく必要はありません。その範囲では、人類が得た特徴や様々な生物の知能のあり方は、自然発生的な「偶然の産物」に過ぎないと考えます。
人類が進化論的自然淘汰の結果として「偶然生き延びている存在」であるならば、人の知能の特徴などは、たまたま発生した不完全な生物の構造に過ぎないと考える方が自然です。そして、人類より優れた知能の特徴を「たまたま持っている生命」というものが、宇宙には無数に存在する可能性が大いにあるのではないでしょうか。
そのことを踏まえた上で、次に、知能は偶然の要素だけで創造されて良いのかということを考えていく必要があります。
進化論の秘密
生物の進化について、テレビ番組などで次のような言い方で語られていることを耳にすることがあります。「この虫は、天敵の目を欺いて身を隠すために木の葉のような姿になった」「この植物は、エサの昆虫を捕獲するためにこのような構造になった」「この動物は天敵の少ない夜に活動するために夜行性となった」。
これは本当なのでしょうか？生態の戦略的な変化が「そうしようと思った」だけで本当に実現出来るのなら、それはとてもうらやましい限りです。たとえば私たちは、空を飛ぼうと思えば羽が生えてくるのでしょうか。。。
賢明なエンジニア諸氏は、正しい答えを知っています。それは、生物が戦略的に望んで「自らの意思で変化した」ために生き残れたのではなく、「たまたま起きた変異の中から、生存に”偶然”向いていた特徴」を持ったものだけが生き残っている、自然現象に過ぎないのだということを。
とても分かりやすい物語で、お話ししてみましょう。
昔々あるところに、危害を加えられるほどに、喜んでシッポをふって近づいてくる性質をもった犬種がいました。この一族は当然絶滅しました。
一方では、危害を加えられたら果敢に攻撃してくる性向をもった犬種がいました。実は、この一族も既に絶滅してしまいました。自分より強い敵に対しても必ず挑みかかっていく性向であったため、ついには生存が絶えてしまったのです。
そして、一定の攻防を試みながらも、ある基準を超えたダメージを受けた場合には痛みを嫌がって、さっさと逃げ出してしまう犬種がいました。その一族こそが、現在も生存している犬種達なのでした。。。
これこそが適者生存の秘密です。変異の過程で「たまたま発現した性向」が、継続的な生存条件として「偶然あてはまった」生命だけが、現在も存在しているだけのことなのです。また地球以外の惑星や空間であれば、その適者生存の条件も様々に異なっているはずです。その条件や可能性の偶然は、宇宙の広さの分だけ、無限にあるのです。
さてここまで考えてくると、自然と次の疑念が浮かんできます。AIの成長（反応の過程による知能生成）を、偶然の経過にまかせてしまうとどのようになるのか。
人類の未来を左右する残りの1%とは
偶然の知能を制御する
その答えは、明白なのです。純粋無垢かつ最低限必要とされる反応の仕組みだけで知能を育成した時、そのAIの「思考の方向性」は偶然経験した様々な刺激という要素だけで形作られてしまうでしょう。
つまり行き着く先は誰にも想像できず、コントロールも出来ないことになります。何を是として選択していくのか、その方向が定まることはありません。これは「人類の脅威」に成り得ます。また逆に、自然消滅の道を歩んで、生存を継続できない人工種になるかもしれません。
なぜならば、成長の方向性や獲得して行く価値観（のようなもの）が、誰にも保証されていないからです。
もし「偶然の産物」である我々の知能の構造が「偶然の経験」である外部刺激への反応によって蓄積される思考ルートの精錬によって形作られていくものである、と考えるならば、人類の能力が発展する程度と可能性は相当な割合で「偶然と外部環境によって支配されている」と言えます。
もちろん人類はこれまでも偶然性に少しでもあらがおうと、能力の範囲内で受け入れ可能な教育を子孫や同胞に与えていく文化を身に着けてきました。偶然の経験から作られる個々の思考ルートが結びついていくことで新たな「知」が作られるということを、無意識にせよ意識的にせよ、人類が経験的に知覚しているからなのです。
そしてこのことを逆に考えると、人工物であるAIならば「はじめから適者生存の方向性を計画的に与えることが出来る」のであり、はるかかなたまで広がり続ける宇宙の中で、人類よりはるかに強力に、生存と成長を続けて行く力を容易に与えられるものになる可能性があります。
自然発生的な生物とは異なって、偶然を待たずに、あらかじめ戦略的な機能と性向を付与することが可能だからです。この時はじめて「意思を持って自らを変異させ進化させることが出来る」人口生命が誕生したことになるでしょう。
それは想像を絶する強さです。やはり、AI－人工知能は人類にとっての脅威となるのでしょうか。。。
人系AIの「ある性向」
もし人類の活動も偶然の反応に過ぎないものと仮定した場合、それではなぜ人類には生存や幸福感の獲得のために「目的の行動」を達成していく力があるのか。そのことについて、AIWILの考えをお話しします。
そしてこの理由こそが、人工知能のモデルとして人類が選択された時には「核心」となっていくものである、とAIWILは考えています。この仕組みを人工的に達成した者が「人系AI」のコアを作り上げるはずです。それが人をモデルとしたAIの構造であり、AIWILではこれを「人系AI」と呼称します。
今ここに「人系AI」のキーワードを提示しましょう。そのキーワードは「無条件反射」です。「全ての性向は、無条件反射が作り上げる」のです。その例を、今から端的にお話しします。
痛みを感じたときには思わず手を引く。つまり人は痛覚を覚えた場合にそのことから逃れようとします。結果として、偶然ですが身体の破損の程度が減少します。生存が伸びる可能性が高まります。
身体にとって有害ではない食物を口にした時、消化を促進する唾液が分泌され、飲み込むという動きが起きます。結果として活動エネルギーが取り込まれ生存が伸びる可能性を高めます。
一方で、既にご存知のように、例えばすっぱいものを見たり想像しただけで唾液が分泌される現象は「条件反射」と呼ばれます。無条件反射を繰り返して獲得した経験から習慣化した活動が「条件反射」です。実は、我々が物をつかんだり手足を動かして生きて行く活動さえも、根源的な「無条件反射」の反応が複雑に組み立てられて習慣化した条件反射の延長線ではないでしょうか。
もちろんこの事例は、説明のために使用する例えに過ぎませんが、多かれ少なかれ人類の活動の基本は全て「無条件反射」を根源としているはずです。
そして微細なレベルまで分解された「無条件反射」が持つ特徴（これこそ”偶然の性向”）が、人類をはじめとして、現存する生物たちを規定している決定的な要素なのです。
「生存する方向性」にとって適切な特徴となってきた「偶然、かつ、根源的な無条件反射」の数々が、「一定の味覚を得る喜び、人を愛する喜び、自ら生きる喜び」などの様子として表出したものが「一般的な欲求」であって、それこそが「人類が活動の目的を持つ」秘密であり源であるとAIWILは考えています。
たとえば、有名なマズローの「欲求の５段階説」といった定義さえ、誤解を恐れずに言い切るならば「無条件反射を根源として生じている条件反射が形作った」非常に大きな現象の様子を指しているに過ぎません。よく観察してみれば、最も根源的な反射から、より複雑な条件反射の組み合わせに向かって階層が組み立てられていることが分かります。マズローはそれがなぜなのかは分かってはいなかったでしょう。しかし現実の経験として、観察として認めざるを得ない人間心理の現象としてとらえていたはずです。もしかしたら、自らの中にうごめく無意識の感覚の表層として、確かに感じられているものを確信として否定できなかったからではないかとAIWILは想像しています。
「子供が自然に親を探し求める心、人が人を思う気持ち」などもおそらく、幼児のころより経験的に人から与えられてきた生物的な心地良さ（＝無条件反射が求める方向性が満たされていく幾つもの経験の記憶）から醸成されていくものに違いありません。
全ての活動、方向性、選択の是非の判断、それらの根源はあらかじめ持っている「あらがうことの出来ない無条件反射」にあるのです。思想や信念でさえ、それらの欲求が充足される方向で複雑に昇華した姿に過ぎないと考えられるのです。
人工知能と無条件反射
人系AIのコア
これまで考察してきたことを前提として、AI－人工知能と無条件反射の関係について、AIWILの考え方をまとめてみます。
ここまでの考察からも既に明らかなように、偶然の反応のままにまかせてしまった場合には、AIは「自滅する」または「人類が望まない方向の特質も伸ばしていく」可能性があります。
人の価値観や活動の性向は、人特有のものです。
AIが人類のためのものである限り、創造の時から「人の不利益になることに対する絶対的な嫌悪の仕組み」を、AIの無条件反射の持つ特徴として組み込まなければなりません。AIの潜在能力が必ず強大化していくことが推察できるからこそ、揺るがすことのできない仕組みとして構築が必要になるでしょう。
AIWILのAI理論のコアがまさしくここにあります。「人系AIの思考ルート生成の仕組みは、無条件反射の模倣」なのです。
このコアについては紙面の範囲でこれ以上詳細にお話しすることは出来ません。しかし、AIのコアは無条件反射です。その反応と集積の結果が知能なのです。
絶対的な性向を保証する
話を元に戻すと「経験により自然構築されていく思考ルート」が「人系AI」の基本であるならば、AIの成長がどのような帰結を生み出していくかの予測が難しくなる要素があります。これに対して人類が打てる手は、おそらく、次の２つになるはずです。
あらかじめ設計した一定の種類の思考ルート以外の生成が起こらない仕組みを創造する
思考ルートの生成に制限を設けないが、その帰結が人類の不利益とならないような選択しか行えない性向（＝好悪）を、「決して変えられない仕組み（無条件反射）」として創造する
前者の方法では、人類が想像可能な思考パターンの範囲内でしかAIが存在出来ないことになります。（もちろん基礎的な論理パターンの組み合わせがどのような複雑な思考パターンとなり得るかについては別の議論です）
後者の方法では、AIの思考が到達できる可能性への制限は緩和されます。しかし「絶対的な無条件反射の仕組み」とはどのように実現すれば良いのか、という取り組みについて困難を極める可能性があります。
もっとも確実な方法は、条件により生成変化することのない「ハードウェア」的に固定された性向を実現することです。これは、非常に困難な取組みでしょう。しかし「人系AI」を創造しようとするのであれば、絶対に避けては進めない取り組みのはずです。それが不可能ならば「人系AI」を創造してはならないでしょう。
人間は、その性向や価値観や願いという「人間の根源的な無条件反射から生まれでる限界」を超えることは出来ないのです。今後なんらかの経緯によって、人類の根源的な性向が変わらない限りは、AIに対するこのような取り組みを行っていくことが必須となるのです。
絶対的な無条件反射の性向を持たせること－つまり「人工知能はクセが強い」ことが保証されなければならないのです。
さて、次回の第６回「AI開発手法」では、いよいよエンジニアが今すぐに取り組むことのできる人工知能開発向けの言語などをはじめとした解説を行っていく予定です。
ここまでの記事を読み進めたことで「人工知能を開発するためにあらかじめ知っておかなければならない現状、そして未来の方向性、課題」について充分理解されたITエンジニア諸氏が、今すぐにでも参画できるような領域を提示していきたいと考えています。
【株式会社AIWIL システム開発事業部】
