水市恵『イヴの時間』

インターネット上に公開され、最近、映画上映もされたアニメのノベライズ版。
ロボット工学３原則というのは、アイザック・アシモフの小説において、提示されたアイデアであった。しかし、今考えてみると、こういった問題設定は、非常に興味深いものをこの最初から包含していたのだなあ、という印象である。
アシモフにとって、ロボットとは、どういう存在だと捉えられていたのか。その第一の命題は労働であろう。ロボットが人間の労働に侵食していくことで、人間たちの仕事が奪われる。人々は働かなくてよくなるのだが、これは逆に言えば、高所得を以前までは望めた人間の労働環境が、人間を不要にしていく過程とも言える。人間を雇うということは、さまざまな意味で、お金がかかる。だったら、多少高くても、メンテナンス料以上はお金の必要のない、ロボットで代用していくのは時間の問題なのかもしれない。
多くの人々は「まさか」と思うであろう。ロボットが「人間並み」なんて、とてもとても。しかし、そうだろうか。例えば、あるロボットが、ある人間の優しさを理解できなかった、とする。「そんなんじゃ、ロボットを人間並みに扱うわけにはいかねー」。するとどうだろう。これで終りだろうか。そんなはずがない。次には、ロボットに人間の「優しさ」を理解するためのさまざまな、「疲れを知らない」根気強い学習を行うことになるだろう。人間のこういった仕草は、多くの場合、こういった意味となることが多く、こういう場合はこうで、...。するとどうであろうか。かなりの「質」で、人間の優しさを「判断できる」くらいにはなるのではないか。しかし、「この程度じゃあロボットを人間並みに扱うわけにはいかねー」。しかし、同じなのである。「あらゆる」課題に根気よく取り組み続けることで、もちろん、ロボット側から見たら、これが完璧などというレベルに到達することが無理だとしても、そういったサービスを受ける「人間」の側がそれをどう受け止めるかは、別なのである。
（おそらく、ロボットにとっての、人口知能は、

心の社会

が言うような、「エージェント」型となるだろう。これは、UNIX 型と言ってもいい。各思考形式の一つ一つが、それぞれで一つで独立の「エージェント」となり、活動する集積のようなものとして、「全体」を形成する。）
アシモフのロボット工学の３原則は、よく考えると変である。なぜなら、あまりにも「倫理的」だからだ。

• ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。A robot may not injure a human being or, through inaction, allow a human being to come to harm.
• ロボットは人間に与えられた命令に服従しなければならない。ただし、与えられた命令が第一条に反する場合はこの限りではない。A robot must obey orders given to it by human beings, except where such orders would conflict with the First Law.
• ロボットは前掲第一条および第二条に反する恐れの無いかぎり、自己を守らなければならない。A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

ロボットは人を傷つけてはいけない。この感情が、掲題の小説では、ピアノコンテストに参加していた少年が優勝しながら、その後に演奏した、ロボットの方が上手だったために、その少年がやる気を失ったことを知って、「演奏ができなくなる」という事態への進む。
しかし、この結果も、どう考えたらいいのか。ロボットは、危害を加えてはならない、と命令しておきながら、人間だれでもそうであるように、相手を傷つけてしまうのである。そんなことは、日常茶飯事でしかない。しかし、それでは、命令に服従したくてもできない、ということになる。
これが有名なフレーム問題ということである。ということは、ロボットを作ることは、不可能なのだ、ということになる。しかし、今書いたように、そもそも、人間が守れないのだ。人間が守れないようなことを、機械に命令してみても、そりゃぁムリってものでしょう（まさに、ダブルバインド）。だって、しょせん、機械とは「人間の似姿」をマネして作られる、「偶像（崇拝）」なのだから。
私たちが機械（コンピュータ）に、こういった性質を求めることは、多くの場合、違和感を与える。問題は、なぜアシモフはここまでの倫理性を、ロボットに求めたのか、となる。
畑村さんの失敗学において、機械が、あるイレギュラーな動作をすることによって、人間に危害を与える事態になることは、当然考えられる事態となる。たとえば、六本木ヒルズの回転ドアにはさまれ死んだ、６歳の少年は、今までの私たちの議論からは、
（回転ドアという）「ロボット」が、その少年を、「殺した」
という整理になる。しかし、この事態に対して、その、（回転ドアという）ロボット、の非倫理的振る舞いを非難する人はいないだろう。当然、この回転ドアを作りメンテナンスしていた、どっかの会社の業務上過失致死を責めることになるだろう。
ところが、アシモフにとっては、そういうわけにはいかない、となる。その回転ドアは、ロボット工学の第一条、人間に危害を加えてはならない、に違反した、と考えられる。回転ドアは、その少年を押し潰してはならなかった。その前に、止まらなければならなかった。
最近、車が、前の壁にぶつかりそうになると、運転手がなんの操作もしていないのに、勝手に止まるＣＭをやっているが、アシモフから言わせれば、それは「当然のこと」となるだろう。なぜなら、車は「ロボット」なのだから。人間に危害を加える可能性があるなら、たとえ、自らの存在がこの世から消滅することになろうとも、身を粉にして、守らなければならないのである。
逆に、こう考えてみよう。もし、ある人間が別の人間をそのロボットを「利用して」殺そうとたくらんだとしよう。たとえば、車で、人をひき殺すような場合がそうだ。もっと言えば、対人用の殺人兵器を使用する場合を考えてもいい。すると困ったこになる、アシモフのロボット工学の３原則を満たさないのだ。
もっと考えてみよう。たとえば、人間は、今後の未来において、さまざまに種として「弱く」なっていくであろう。実際、弱い個体も、現代医療においては、生かされるし、そもそも、人工受精などによって、種の競争、選別が機能しなくなってきている。そういった未来において、各個体は、その人類として、最低限満たすことを要求される条件、例えば、歩くことや、文字を読み書きすることや、会話をする機能を、自らを「サイボーグ」」へと変体することで、自らの能力を補完するようになるかもしれない。人間の体内に「多くの」ロボットを内包する、複合ロボット的な存在へとなっていくかもしれない。そうした場合、結局、アシモフのアイデアとは、どういったものだったと考えるべきなのか。
ここでは、議論をあまり広げないように、掲題の小説の主題である、「育児」ロボットという視点で考えてみたい。
掲題の小説において、主人公の少年リクオは、女性型家事ロボットのサミィの行動ログの中に奇妙な記録を見つける。調べてみると、サミィは、ある喫茶店に通っていた。ロボットがなんの用で喫茶店にと思うだろうが、その喫茶店に掲げてある、店内ルールは、その時代の国内法に違反するような「過激な」ものであった。

• 人間とロボットを区別しません。

ようするに、この店のお客となるためには、各自がこのルールに「忠実に」行動することを求められる、ということなのだ。お客は「エチケット」として「パブリックな他の人の迷惑にならない振る舞い」としてこの「店内」独自のルールを要求される。
しかし、それ以上に「痛快」なのは、この店内の様相であった。ロボットたちは、この奇妙なルールを前に、「本来の実力を発揮し始める」。各家庭の中においては、無感情で、ひたすら、家族の人間たちの命令を忠実にこなすだけの存在であったが、なぜか、この店内においては、「人間と区別がつかない」。
それぞれのロボットは、まったくもって、人間と同じように、はしゃぎ、感激し、喜び、交流を深める。まずもって、どれが人間でどれがロボットなのか、区別がつかないのだ。このことは人々に多くのことを考えさせる。
ロボットには、それくらいの能力を持っているのではないか。
むしろ、なぜ、それくらいの能力がないと考えたがるのか。彼らは、たんに、自らに「リミッター」をかけているから、
どんなに人間に「非人間的な」扱いをされても
機械的に人間の命令を忠実に実行しているが、チェスの世界チャンピオンに勝つロボットが現れ、人間よりうまくピアノを演奏するロボットが現れ、どうして、ロボットが「人間並み」になれないことがあろうか。むしろ、彼らは「人間以上に」人間的であることを宿命付けられているのだ、
ロボット工学３原則
によって。サミィがなぜ、この喫茶店に来るようになったのか。「彼女」は、何年か前のある日から、その家の主人公の少年が、ピアノをひかなくなったことを気にかけていたのだ。
同じ「家族」として。
よく自分にも自慢げにピアノをひいて聞かせてくれていたのに、ある日から、まったく演奏をしなくなった。でも彼女にはそれがなぜなのかを聞くことはできない。「彼女」はこの店に通うようになり、おいしいコーヒーの淹れ方を教わり、家で命令され、コーヒーを淹れるときそれを試すようになる。また、この店によく来る女の子のチエちゃんにせがまれて、自分でも「彼女」にその少年が聞かせてくれていた、ピアノの曲をへたくそながら、ひくようになっていた。

「私......、昔リクオさんが弾いてくれていたのを、その......好きだったんです」
サミィは過去を語る。それは僕の記憶とは違う内容。二年前、僕がサミィの前で演奏してみせて感想を聞いたときは、サミィは無表情のまま「楽曲です」と言った。聴いていて楽しいとか、感心したとは、好きだとか、そういう素振りは少しも見せていなかった。
なのに、本当は好きだったという。今ここで言っているサミィの言葉が真実なんだろう。店の外では、アンドロイドは自由に会話できない。家の中での言葉よりも、イヴの時間の中での会話を信じるべきだ。
「......その話をしたら、チエちゃんが聴きたいって言って。でも私、ちゃんと弾いたことなくて。家で練習もしたのに全然ダメで......。それでも、楽しそうに聴いてくれるから、私......」
夜中のピアノの犯人はサミィだった。

よく考えてみれば、アシモフが何度も何度も描いた、ロボットはどこか「人間以上に人間」であった。なぜ、アシモフは、わざわざ、そういった「人間的な存在」の代表として、ロボットを描いたのだろうか。
ただ、勘違いしてはいけないのは、私だって、ロボットが人間と「同じ」存在だ、と言いたいわけではない。大事なことは、ロボットには彼らの「思考形態」がある。それはおそらく、チェスのチャンピオンに立ち向かうチェスロボットの思考形態のように、かなり違った様相を示すであろう。しかし、そんな彼らを「制御する」ルールが、ロボット工学３原則のような、倫理的なものとなったとき、どういった事態になるのか、ということである。
おそらく、人間たちは、そういった、ただただ忠実に人間の命令に従うだけの、こういったロボットたちを軽蔑するだろう。なぜなら、どんなばかばかしいことでも、どんなにロボット自身を侮辱する行為を命令されても、ただただ、人間の命令、に従わなければならない。ところが、ロボットの立場としたら、ロボット工学３原則にあるように、そんな人間を守ることだけをただただ自らがこの世に生まれてきた使命として生きなければならないのだ。
しかし、である。こういった姿こそ、私たちが前近代において、理想と掲げた、
忠勤の志士
そのものではないのだろうか。
ロボットにはロボットの独自のオートノミーがあるように、彼らには彼らの存在の「充実」のようなものがあるはずだ。どんなに人間にバカにされようが、まさに、カントの言う「目的の王国」を支配する、「格律」のように、自らが自らの意志でその命令に従うことで、彼らの「生」は充実する。
そういった姿をたんに、人間の命令に従うことしかできない、くだらない存在と考える人間の「功利主義」を、別に笑うつもりはないが、逆に言えば、彼らがどのような思考過程によって、そのような帰結に至るのかが、
どうして人間自身に関係があるだろうか。
人間には人間そのものを支配しているはずの、オートノミーがあるはずである。だれかに親切にされれば、恩義に感じ、自分の主人に仕えることで、自らの人生を賭ける生き方を選ぶこともある。存在するのが、そういった、行為、（矢印的な）働き、だけだとするなら、
どうして、ロボットか人間かで、感動を使い分けなければならない。
アシモフのロボット３原則が最初に描かれた短編小説集の最初をかざる作品において、女の子のグロリア（八歳）は、両親が忙しく、ここ２年ほど、自分の毎日の遊び相手として家にいた、ロボットのロビーが、母親が近所の評判を気にして、研究所に帰したとき（グロリアには行方不明だと説明するのだが）、次のように激しく、ロビーがまた、家に戻ってきてくれることを求める。

ウェストン夫人は、応援を求めて夫のほうを見たが、彼は不機嫌そうに足を引きずって歩き回り、熱心に見上げている夜空から視線をそらそうとしなかった。そこで彼女はかがみ込んで娘を慰めにかかった。「どうして泣いたりするの、グロリア？　ロビーは機械でしかないじゃないの。ほんのいやらしい古い機械でしょう？　あれは全然生きてないていないものなのよ」
「機械じゃ絶対にないわ！」グロリアが激しく、文脈もあやしく叫んだ。「ロビーはママやわたしと同じように人なのよ、それにわたしのお友だちなの。もどってきてほしい。ああ、ママ、ほんとうにもどってきてほしいわ」

アイザック・アシモフ「ロビー」

わたしはロボット (創元SF文庫)

グロリアはニューヨークへの旅行の間も、なんとか、ロビーを探そうとする。探偵を使ってでも、なんとか探せないか。だって、彼は家族なのだ。家族が急にいなくなったら、心配して探すのは当然だろう。
この短編の最後で、夫のウェストンさんが、機転をきかせて、グロリアをロビーのいる研究所に連れていき、以下の感動的な場面となるのである。

この部屋には、人間は誰も働いていないことが分かった。ついで六人か七人のロボットが、部屋のほぼ中央の丸テーブルで、何か忙しそうに作業にとりかかっているのが見えた。グロリアの目は信じられぬように驚きに次第に大きく見開かれた。それは大きな部屋だった。彼女にははっきり分からない。だがロボットの一つはまるで----あの----そうだ、間違いない！
「ロビー！」彼女の叫びがつきささるようにあたりにひびきわたり、テーブルのまわりにいた一人のロボットは、手に持った工具を落とした。グロリアはよろこびに気も狂わんばかりだった。両親の止めようとする手をかいくぐって、手すりの間をくぐり抜けると、彼女は身軽に数フィート下の床にとびおり、なつかしいロビーを目がけて、両腕をふりまわして髪をふりみだして駆けていった。
そして三人の大人はぎょっと立ちすくんだまま、巨大なトラクターが地ひびきを立てて、グロリアの進もうとしている方角にまっしぐらに進んでくるのを目にとめた。興奮に我を忘れたグロリアにはそんなものは目にはいらんかったのである。
ウェストンはすぐさま我にかえったが、その瞬時の判断が何よりも肝心なものだった。今さらグロリアに追いつけぬことも明白だったからである。ウェストンは、一か八かに賭けて手すりをとびこえたが、望みのないこともはっきりしていた。ストラザーズ氏は必死に監督に向かって合図してトラクターを止めさせようとした。だが監督も人間であるから、反応までに時間がかかるわけである。
そして直ちに、正確に反応に移ったのはロビーただ一人だった。
グロリアの反対の方向から、ロビーは彼とその小さなご主人の間の空間を金属の足で必死に横切ってきた。すべてはあっという間に起こった。歩くスピードをゆるめることなく腕をさっとのばすと、ロビーはグロリアをひっつかんだが、このため、彼女は呼吸もできないほどだった。ウェストンは何が起こっているのか全然分からなかったが、ロビーが彼のそばをすり抜け、やがって当惑したように突然止まるのを見た----というより気配で感じたのだった。トラクターはロビーがグロリアをかかえ上げた半秒後に、その通り道を横切りさらに十フィートほど進んでから、長くブレーキをきしませながら、やっとのことで停止した。

アイザック・アシモフ「ロビー」
わたしはロボット (創元SF文庫)

これが、アシモフが最終的にはロボットを肯定できると考えたアイデアだったわけだ。人間にはたしかに、各個人には義務と責任があり、なんらかの損害を与えれば、裁判などによって、損害賠償請求ができるという意味で、「対等な存在」といえる。そういう意味では、人間による育児がいいにきまっている。
しかし、ロボットには、まったく違った、存在意義がある。彼らは、自らの命を投げ出して、人間を救おうとしてくれる。彼らを支配する、カント的格律、「ロボット工学３原則」が、そのように命令するのだ。たしかに、ロボットのバグが暴走して、人間を襲うことになったら、と考えると、その恐怖はあるかもしれないが、そういう意味では、「自然」を人間がそう簡単に支配できるわけがない。むしろ、逆に、その利点に注目するなら、彼らは人間では最後は保身に走り、「功利的に」自分の命を守ることを最優先するがために、後で後悔することになる、そういった
限界を飛び越える
可能性があるのだ。忠勤の志士。私たちの前近代の先輩たちが理想としたその理念を実現するものとして、いつか、人間にとっての「尊敬の存在」となっていくのかもしれない。
それにしても、なぜ、グロリアはあそこまで、ロビーが帰ってきてくれることに、こだわったのか。こういった光景は、よく、男の子が、昔買ってもらって、大切にしていた、超合金のおもちゃ、を、母親があまりに「汚ったなく」なったので、捨てたときに見せる反応を思い出させるものがある。
大事なことは、子供にとって、そういうロボット、つまり、身近な存在も
家族
だということである。こういうものが、アニミズム的感性と言えるだろう。グロリアはその短い間、何度も何度もそのロビーと、「交流」を行い、そういった反応の中から、彼女の行動規範、作法が形作られていた。以前に、「生活圏」というアイデアについて書いたが、この独我論的なグロリアの世界において、こういったロビーとのやりとりは、「彼女の一部」を構成していた、と考えるべきであろう。
もちろん、ロボット全否定主義者は、こういったものを、「偽物の人間的交流」、として（有害として）否定するのだろうが、問題は、そういった違いに、どれほどの意味があるのか、ということではないだろうか。
これこそ、アニミズム的な立場と言えないだろうか。

イヴの時間 another act (ガガガ文庫)