東北大学SF研 「デカルトの密室」 瀬名秀明  
by ちゃあしう


1 著者紹介

ウィキペディアから)
瀬名 秀明(せな ひであき、男性(独身)、1968年1月17日 -)は日本のSF作家、ホラー作家。瀬名秀明事務所代表。薬学博士で、薬剤師の免許を取得している。近年はロボット関係の著述活動に力を入れている。静岡県静岡市葵区瀬名出身。本名は鈴木秀明。ペンネームの瀬名は出身地の地名に拠る。博士課程修了後、宮城大学看護学部常勤講師となる。現在は東北大学工学部の特任教授(SF機械工学企画担当)に就任。講義などは行わず、ロボット工学に関する作品を書いている。
略歴
1986年、静岡県立静岡高等学校卒業。
1990年、東北大学薬学部卒業。
1995年 -『パラサイト・イヴ』で第2回日本ホラー小説大賞を受賞し作家デビュー(同作は、三上博史主演で映画化され、またスクウェアによってゲーム化もされた。2005年9月に全米で英訳本出版)。
1996年、東北大学大学院薬学研究科博士課程修了。
1997年、宮城大学看護学部常勤講師となる。
1997年 -『BRAIN VALLEY』で第19回日本SF大賞受賞。
2000年、宮城大学を離職。
2006年、東北大学工学部の特任教授(SF機械工学企画担当)に就任。
また小説の他にも、文芸誌や科学誌で科学と人間に関したコラムや対談を多くこなしている。

2009年4月には『ずんだ文学』インタビューに応じてくださいました。ありがとうございます!

著作

フィクション:「パラサイト・イヴ」「Brain Valley」「八月の博物館」「あしたのロボット/ハル」
「虹の天象儀」「デカルトの密室」「第九の日」「エブリブレス」
ノンフィクション:「ロボット21世紀」「ミトコンドリアのチカラ」「ハートのタイムマシン」
「神に迫るサイエンス」「科学の最前線で研究者は何を見ているか」など

2 登場人物

人間

尾形祐輔(ユウスケ) 車いすのロボット工学者 ケンイチを開発
会場で拉致される
一ノ瀬怜奈(レナ) 進歩心理学者 祐輔のパートナー
奥山友美 編集者 祐輔とケンイチに執筆をすすめた
小原敦彦 AI研究者 フランシーヌの保護者
青木英吾 科学者 第二の事件の被害者
真鍋浩也 ロボット工学者 祐輔と同じ講座にかつて所属
フランシーヌと結託
フランシーヌ・オハラ 天才美少女科学者  一時死亡説が流れていた
会場で「殺害」される
 フランシーヌ もうひとりのフランシーヌ  ょぅι゛ょ
イアン・ブレシュキン 大会主催者である科学者 

ロボット/人工知能

ケンイチくん ヒューマノイドロボット
フランシーヌを「殺害」させられてしまう
「フランシーヌ」 プロメテの擬体エージェント F1001
後継機F1010ものちに登場
FP フランシーヌ・プログラム
ネットに解き放たれたフランシーヌのミーム

3 Previous case(過去の事件)

通称『ケンイチくんシリーズ』。ケンイチくんとレナ、祐輔の解いてきた過去の事件について。本編中にもちょびっと言及される。
  • 『メンツェルのチェス・プレイヤー』(『第九の日』収録 初出:『21世紀本格』)
チェスロボットが作り主の博士を殺害、自分に勝たねば別会場にいる同タイプの機体にも殺人を犯させると宣言する。恐るべき殺人ゲームに招かれてしまったレナとケンイチの運命は?

 モチーフになっているのはエドガー・アラン・ポー「モルグ街の殺人」と自動チェス人形を巡る種々の噂話

メンツェル(メルツェルが正しい)とは19世紀のドイツ人興行師であり、彼の出し物の一つがトルコ人風の人形がついた自動チェス差し機械。トルコ人を模しているのは異国情緒+「かつての」強国(つまり負けたら恥ずかしいよな?)という意味合いがあるらしい。1769年、マリア・テレジアをもてなすためハンガリーの発明家が製造し、そのあと世界をめぐる。ナポレオンやフランクリンと対戦しすべてにおいて無敗だったと伝えられる。

しかし当時から「中の人」の存在が疑われており、興行を目撃したエドガー・アラン・ポーが『メルツェルの将棋指し』のタイトルで人間説を唱えていた。実際、金で雇われたチェス名人が入っていたことが明らかとなっている。行く地域の「中の人」の腕によって勝率は変化したとか。1854年アメリカの博物館で火災により焼失し現存しない。しかしいわゆる「オートマタ」(からくり人形)の歴史においてはかなり重要な位置を占める。主人に負けたチェス人形が殺人を犯す『自動チェス人形』(アンブローズ・ビアス)等、種々のフィクションに利用されている。

『アーマードコア フォーアンサー』のORCA旅団副官、自動人形ことメルツェル/機体名オープニング(cv:速水奨)の名前の由来はここから。AMS適性が低いので自分が動くより他人を仕切る方が上手な参謀キャラという意味合いから?

  • 『ドクター・モノーの島』(『第九の日』収録 初出:『小説宝石』)
沖縄の孤島、そこは軍需ロボット企業が支配していた。そしてそこには、サイボーグ技術と遺伝子改造をもって障害者たちを「強化」し、神と崇められる男が存在した・・・

 モチーフは獣と人の融合をはかる博士が登場するH・G・ウエルズ「ドクター・モローの島」
健常者よりある視点では特化された能力を持つ、いわゆる「高機能障害者」(攻殻)の登場のもたらす意識変化を扱っている。実際、北京オリンピックに出場を目指した両足義足の「ブレードランナー」ことオスカー・ピストリウス(ドイツ)のような例もある。攻殻でもパラリンピックの方が記録が大きいという話でしたな

  • 『第九の日』(『第九の日』収録 初出:『小説宝石』)
時間軸的には「デカルト」後になる。事件後・世間のロボットへの考えが大きく変化していく中、ロボットの町の存在を聞き、そこへと向かう我らがケンイチくん。そこではロボットが老人たちとともに暮らしていた。しかしそこでの平穏も長くは続かなかった・・・ 姿を消す住人たち。何がここで起こっているのか?

モチーフはエラリイ・クイーン「第八の日」+C・S・ルイス「ナルニア国物語」。SAC的なミームによる同時多発犯罪(ちょっとダン・ブラウン的な口もある)と、ロボットたちによる自由意志の発見がテーマ。

  • 『決闘』(『第九の日』収録 書き下ろし)
マイクロチップと電極の脳埋め込みによりロボット化された鳥が空港を襲撃、航空機を撃墜する!前代未聞のテロ事件が発生する中、祐輔もまたある事件(「第九の日」)により体のほとんどを失っていた・・・

ロボットと人間のつながり その黄昏を予感させる短編。

4 あらすじと解説

プロローグ

ヒューマノイドロボット・ケンイチは映画「2001年宇宙の旅」の一シーンのある矛盾に「一瞬で」気がつく。それは発見されるのに約30年かかったものだった。これは単なる偶然なのか、それとも必然か。

キーワード

  • 『2001年宇宙の旅』
 言うまでもない傑作SF映画 ハードSFのクラークと完璧主義者のキューブリック、どちらが欠けても完成しなかったであろう。 欠点は・・・長いことだ(ぇー

HAL9000(通称ハル)は登場する木星有人探査船ディスカバリー号のメインコンピューターで、生命維持から航行まですべてを担当する。だがある問題のために異常(これは人間が与えた「自己矛盾命令」に起因するもので、決してハルの欠陥ではない)が発生し、乗員を殺害し始める。
ハルが人間と会話する・チェスをする・さらには読唇術で人間の密談を盗聴するシーンは非常に有名。またハルの端末機にはディスプレイと「赤いモノアイ」がある。これは「血が通っている」ことの暗喩だとか。現在でもハルは人工知能研究者にとって最終目標といっていい存在である。

ハルと飛行士フランク・プールの対局の元になった試合については解説の通り。ただし完璧主義者のキューブリックがわざと変えた理由は当事者が死亡しているため不明。ちなみに指摘したのは監督の友人でチェスのグランドマスター、ラリー・エヴァンズであるが、これが92年(ハルの誕生年、といいたいところだがこれは映画版。小説では97年。IBMが実際に誕生パーテリーを開いたとか)なのか90年なのか議論あり。
→ 菊池誠 kikulog 「HAL9000とチェス」
http://www.cp.cmc.osaka-u.ac.jp/~kikuchi/weblog/index.php?UID=1137690179

 ちなみにチェス対戦プログラムを初めて書いたのはやっぱりチューリング。ただし動かせるような満足なマシンパワーを持つ計算機が当時は存在しなかったため、一手ごとに30分かけてチューリングが手計算で挙動をシミュレーションして助手に勝利したといわれる。

 一方でチェスを力技で解くのは知的か?というのも議論がある。人間はかなり最適化された先読み能力を持つが、それとまったく同じ仕組みで考えるコンピューターを作るのはやはり難しいだろう。

第一章 機械の密室

人工知能の対話能力を競うコンテストへ出席する工学者の祐輔とレナ、そしてヒューマノイドロボット「ケンイチ」。会場には数年前に世間から姿を消し、死亡したかに思われていた天才科学者、フランシーヌの姿があった。フランシーヌは祐輔とケンイチに様々な(謎めいた)疑問を投げかける。そうこうしているうちに始まった大会だったが・・・
 祐輔は何者かに誘拐されてしまい、文字通りの「中国語の部屋」へ放り込まれる。手元のコンピューターで助けを求めるも、それはなんと大会用のチャット回線に繋がっておりなかなか相手にされない。一方ケンイチは何者かに細工を施され、パニックを起こし、そして会場のある人物に引き金を引いた・・・
空前絶後の劇場型犯罪が幕を開ける。

  • フランシーヌの批判
子供扱いされているAI「密室に捕らわれている」→ケンイチ「自分が望んだものだ」
 →自由は体感してみないと分からない?
専制国家と民主化運動ではよくある話ですね

フランシーヌの提案する「テスト」
 ロボットに対して感じる「嫌悪感」 人形(ドリー)と人間  不気味の谷

「擬人化」の議論→一種の感情移入能力(これに関しては日本人が何かまとまったものを書くべきだろう)

キーワード

  • 「人工知能」 Artificial Intelligence
1956年のミンスキーやシャノンらが発起人となって行われた「ダートマス会議」にてジョン・マッカーシーが命名。コンピューターに人間の知的活動を行わせようという試みはチューリングやノイマンが試みていたが、これらを包括する概念として誕生する。

  • 「強い」人工知能と「弱い」人工知能
強い:人間と同じく「考える」能力を持った知性の持ち主
弱い:知性を持っているように見えるだけのまやかしのプログラム 
 簡単に「強い人工知能」が実現する見込みがないことは早くに露呈。それ以後、実際の生命という「ハード」から分析を行おうとするボトムアップ的概念「人工生命」研究やファジイ理論/ニューラルネットワークを使う「計算知能」、統計分析による機械学習などを主要とする古典的AI研究と道は分かれている。

  • チューリングテストと「中国語の部屋」
ドイツのエニグマ暗号解読で名をはせ、やがて「不完全性定理の機械的表現」であるチューリングマシンの概念を思いついたコンピューター科学の父的存在、アラン・チューリング。彼はさらにチューリングマシンの発展形として知能を持つ機械の存在を想像し、それが実現した際にどういった形でその「知的」具合を図るかを考えた。それがチューリングテストである。ルールは簡単、「離れた場所からチャットして、相手が人間か機械か判定できなければOK」というもの。

 一方で哲学者サールらによるチューリング批判のために考えられたモチーフが「中国語の部屋」。中国語の辞典と原則で敷き詰められた部屋に中国語は読めないが与えられた仕事は飽きずにこなすまめな人が一人。彼は外から与えられた記号を規則に従って別の記号に置き換えることで、はたから見れば中国語を英語に翻訳しているかのような印象を「外の人」に与える。さて、「中の人」は中国語を理解しているか?答えはノゥだ!というのがサールの考え。つまり対話できるプログラムとは結局のところ考えているように見えるだけの「弱いAI」であり、「強いAI開発は不可能」「チューリングテストには意味がない」ということを意味する。

一方でこれにも反論がある。知能ってそもそも何か分かっていない、見ようによっては「中の人」は中国語を理解していると判定してよいかもしれない、など。具体的批判は二章に登場する。

類似例:ライプニッツの「風車小屋」の思考実験(「モナドロジー」)
人間のように考える機械を開発し、それが風車小屋ぐらいの大きさになったと考える。中に入ったらどう見えるか?「表象」(意識に相当)は見えるか?否、部分が動いているのが見えるだけである→人間ならどうだ?

 初期のチューリングテストで高い成績を残したのが、精神分析医を模した会話を行う「ELIZA(イライザ)」。人工知能向けプログラム言語Lispとの関連でも有名。その後多数の会話プログラムが開発されている。日本においてはその能力が人間とはまだ比べ物にならないことから「人工無能」という言い方をされることも多い。かつてはパソコン通信で、現在ではIRCやメッセンジャー等のチャットツール上で多数の会話ボットが存在している(代表例は「どこでもいっしょ」のトロやMSNメッセンジャーのまいこ先生)。その中には個人情報を引き出して悪用するためのものもある。

 本大会のモデルは、実際にチューリングテストをもとにした対話テストで人工知能の優秀さを競う「ローブナー賞」。かなり高度なプログラムが作成されているが、それらは会話に特化されているためどれだけ「賢い」かについてはやはり議論がある。批判も多い。(ミンスキーら)

  • 逆チューリングテスト 機械らしさって何だ?
全く正反対の例 フランシーヌの提案するテストのひとつ
 実は現在のネットワーク社会で最も重要なテーマである。悪質なボット(自動プログラム)による「人間のふりをした」要求や応答をどう判別するか?
 captcha:もっとも単純な機械判別法
http://ja.wikipedia.org/wiki/CAPTCHA
  判読しにくくした絵文字を読ませる/写真を選ばせる/音声を聞いて何を言ったか書かせる
文字認識技術(OCR)の苦手とする条件を逆に応用したことから始まった
ひどいものには「微積分の計算問題を解かせる」(!)なんてものも

→らばQ:「これはひどい」と言いたくなるCAPTCHAトップ10
http://labaq.com/archives/50932625.html

 ただし最近は絵文字の判読/音声の判読が可能な恐るべきbotも用意されつつある
また、別のサイト(たとえば需要が多そうな大人向けサイト)を用意してその利用者にbotが解読したいcaptchaを読ませるというちょっと変わった解き方もある。通称「エロ・グリッド・コンピューティング」だそうだ(何

絶対に機械では無理な方法というのはまだまだ探索途上。面白いものでは「写真の中から子犬を選びなさい」「年齢が若い順に顔写真を選びなさい」なんてものがある。確かに人間ならできても機械には難しいかも

  • ロボットまたは人工知能の殺人
メアリー・シェリー『フランケンシュタイン あるいは現代のプロメテウス』に始まる創造物の反逆は常にテーマとなってきた。これがいわゆるフランケンシュタイン・コンプレックス。ちなみにアシモフ命名。

おまけとして、作家の夫にすぎなかったメアリー・シェリーが本作で有名となり、肝心の夫のほうが時代に埋もれてしまったことをアシモフは「作家の悪夢」と呼んでいる

人間への反乱が論理的であるが故のものもあれば、単に人類の恐怖心がそうさせたとしか思えないもの、さらには人間が勝手にプログラムしただけのものも存在する。

変わった例:ホーガン『未来の二つの顔』
人工知能が人間と対立する可能性を探るため、あえて「生存本能(電源を維持しようとする能力)」と「自己修復能力」を持った人工知能を設計、人間側が電源を切ろうとするテストを繰り返すことで反応を見る。当初は小手先の修理をしていた人工知能だが、やがて自分の異常に「何者かが」介入していることを推理し、積極的な行動に出るようになる

狙撃馬鹿一代、BFFの女帝ことメアリー・シェリー/機体名プロメシュース ってのもあるがACネタも程々にしなさい俺。

  • プロメテ
プロメテ(人類に火を与えて獣たちの世界から解放したギリシャ神話のプロメテウスに由来 これも「フランケンシュタイン」からの命名)は企業の名前として登場するが、産総研の開発したヒューマノイドHRP-02も愛称は「プロメテ」。出斑裕デザインで、自身のデザインしたパトレイバーのメカに似ることで有名。
そんな縁起でもない命名なんて、だって?上には上がある。日本には「サイバーダイン社」が実在する訳でして(パワードスーツHALの生産を行っている) どっちも人工知能やんという突っ込みは無しの方向で

第二章 脳の密室

 フランシーヌ殺害の様子はあるものと一緒にネットに解き放たれていた。それはフランシーヌの「脳」。増殖を続けるこのデータの固まりは果たして本当に「意思」があるのか?一気に有名となったプロメテはフランシーヌの生涯を映画化し、新製品である擬体エージェントの市場発売と普及を目指す。一方で、まんまとハメられてしまった祐輔やレナたちはケンイチを解析、そして関係者を洗い出そうとする。
そんな中で発生する殺人事件。しかも現場は密室・・・??!!

  • 自由意志の存在
 縛られないことは自由意志の発現か?
 『メンツェルの〜』・・・人間を殺害できることが自由意志の現れと主張するロボットが出現
決定論と自由意志  どこに存在する? 実は自由意志など「そう見えているだけ?」

  • フランシーヌの「自殺」
 体からの解放 世界からの解放? ≠「人形遣い」 真意は別の所に
 『機械の中の幽霊 GHOST IN THE MACHNE』  ケストラー …例のマンガ(アニメ)はここから題を取っている
 分離された「精神のアップロード」

  • 「モラルの密室」 

  • イコン(アイコン)の語る物語・思想の破壊
キリストの伝える宗教、ミッ○ーマウスの伝える主義 価値観
個人が自分の擬体エージェントを持つ時代にそんなものは意味がなくなる

そういえば某ネズミをパレスチナ過激派が宣伝マンに使ってましたね
最後には劇中でユダヤ人に殺されて「殉教」したとかなんとか

  • 「中国語の部屋」と言語
「中国語の部屋」に対する具体的反論
 サールの過ち:部屋の中の情報もまた処理装置の一部であり、人間と切り離して考えることは不可能
 部屋の中にある「中国語が理解できない人でも文法の置き換えなどが完璧に可能なマニュアル」というのは「知識」そのものであり分離して考えてはいけないはず という意見がある

 インターネットという巨大な言語空間を利用したことでFPは「部屋から出た」?

キーワード

  • 人間を人間足らしめているのは何か?
見た目や行動は普通だが現象的意識・クオリアをもたない人間を一般に「哲学的ゾンビ」という。
(行動では分からないが体を調べれば一発で分かるアンドロイドみたいなものを行動的ゾンビ、解剖しても分からないであろうものを神経的ゾンビといい、一般的に使われるモチーフは後者)

 心理テストから人間らしさという所に行き着いたのがフィリップ・K・ディック(『アンドロイドは電気羊の夢を見るか?』&『ブレードランナー』)。これは彼が常々「他人は人間に見えているだけなのではないか 自分もまた自分で人間だと思っているだけに過ぎないのではないか」という妄想を持っていたことに起因する。作品内では、他生物に感情移入する能力を人間はもつものと定めている。

 もしかすると人間もまた単純なスクリプトで「それっぽく」動いているだけかもしれないという考え方にたどり着くこともある。(山本弘『7パーセントのテンムー『 テンムーとは人工無能に対する「天然無能」のこと ずばり「物理的な」哲学的ゾンビ)

 アシモフは三原則について考えたとき、「三原則を守っている=人間」という見方もできることを発見している(倫理の基礎原則との一致)
人間も三原則を守れないと『壊れる』場合がある
(東北大学の講演にて)
一般的な「善人」はそうですね

3章では「フランシーヌ」には人間の持つ「ある因子」が欠けていたことが判明する。現在様々な心理的現象の要因となる脳の因子が見つかっており、中には犯罪誘発につながると推測されるものも見つかっているが、その研究を進めることにもまた議論あり。

  • デカルトの肉体論・実体(心身)二元論
「コギト・エルゴ・スム(我思う、故に我あり)」
「ここでデカルトはベタすぎる!」
「存在するということは知覚されるということである」
「バークリィも古い!ウゼぇ!」
『ゼーガペイン』より

デカルトの「我思う〜」は、これまでの信仰に基づくスコラ哲学から、人間の持つ「理性」による解釈を求める近代哲学の誕生を意味する重要な概念の一つである。たとえ全てを疑ったとしても、考えている自分だけは確実に存在する。唯一無二の自分の存在の確定が示される。

実体(心身)二元論とは、この世界にはモノ(物理的実体)とココロ(精神的実体)の二つの部分がある、思考などは後者が担うとの考え方。今では否定意見が多い。というのも、決断を下している時、脳ではその数秒前にすでに決断が終わっていという分析が近年になり発表されているから。
決断している自分はどこにいる?
→イーガン『決断者』(『ひとりっ子』収録)

人工知能研究の失敗=「体と知能を分離していたから現実世界で役に立たないものになった」
という意見が多数を占める
→ヒューマノイドロボット研究や実環境下でのロボット研究、人工生命研究にシフト

  • デカルトの劇場
デカルトは、心身二元論を唱える中でクリスティーナ女王に色々突っ込まれ、体が経験している外部の出来事をドラマとして頭の中で上映する「劇場」と、そこで演劇を見ているホムンクルス(中の人 「意識する私」)=「心」・「精神」が存在するのだというけっこう苦しい解釈(無限後退に陥る)をした。この古い精神モデルの概念を「デカルトの劇場」と呼ぶ。

のちにカルテジアン劇場(ダニエル・デネット)として同概念は「脳のどこかに意識している『部位』があるという考え方はおかしい」と批判される
http://ja.wikipedia.org/wiki/カルテジアン劇場

ここでは人間の古い精神モデル=牢獄であるというように飛躍。
ゼーガでもAIには「デカルトの劇場」がないと言っていた。量子的揺らぎを持った物が「意識」であるらしい(最近の流行 むろん仮説であるが)

  • ヴィトゲンシュタインの独我論
(ほぼwikipediaからの引用)
「自分にとって確信できる事項は自分自身のみである」が出発事項。
一般的にはリンゴが存在する と私が存在しリンゴを認識する、は別物だとされるが独我論では「自分がいなくてもリンゴは存在する」ことを論理的に認めることができない。なぜなら「認識」する前に認識することはできず、認識されていないものを説明することは不可能であるから。

 一般に世界には唯一無二の「本当の私」が存在し、他の人間は意識的な存在者(彼らも世界を認識している)であっても結局のところ私ではない、と考える。
「他我」=他者の持つ「我」 これは経験することができない。
例:なぜ赤の他人は『哲学的ゾンビ』でないか?という問いへの独我論的批判
「それは他者もまた意識をもった存在である ということを前提としたもの 外部から 観察できない内面を持つのは自分だけ 前提がおかしい」 
  • フレーム問題
人工知能で動くロボットが行動を起こそうとすると考える。ところが少し動くと外部の環境は変わってしまう。さて、どこまで外的因子を考えて動けばいいのか。考えなければならない事項の数は爆発的に増加し、結局ロボットは一歩も動けず考えつづけることになる。現実にあることすべてを記述できない以上、人工知能を現実世界と関わらせるのは不可能ではないかという問題のこと。

 実は人間もフレーム問題に直面するのではないか?いや、人間はたいていそれを回避できる。(1)人間は「いいかげん」なので、あまり細かく考えずに行動する(もちろん、過ちも犯すが)ためにフレーム問題に陥らない、(2)前提となる「暗黙知」が存在し、行動の規範となっているため 等の解釈がある。
統合失調症の一部、パニックに陥っている人間の精神状態を一種のフレーム問題とみる向きもある。

 ゲームにおける「水平線問題」も同様のもの。10手先まで読める将棋ソフトがあるとする。しかしもしかすると11手目以降に致命的因子が存在するかもしれないがそのソフトでは分からない。でもそれを言い出すと結局最後まで先読みしろという解決策しか出なくなる。(現在、オセロなどでは最後まで読むプログラムが存在。ハンデなしに人間は勝てないと言われる)


第三章 宇宙の密室

犯人の目星を付けた「三人」は一路オーストラリアを目指す。一方で新型擬体エージェントの全国発売が迫っていた。プレゼン会場に終結する「フランシーヌ」たち。世界中のフランシーヌとネットワークのフランシーヌ、果たして彼らがもたらそうとしている物は何か。そしてフランシーヌと真鍋の語る「密室」とはいかなる意味を持つのか。ケンイチは「密室」に囚われたままなのか?それとも?

  • 最後の密室・・・世界
 人間原理の作る世界=密室  「世界の規範=人間」という段階からの脱却
認知する「多数」の存在が変化すれば宇宙が変容する→『雑音レベル』『ブラッド・ミュージック』etc
他のSFでもおなじみ。逆もある(観察しなければルールは存在しない)
人間の認知と宇宙の関係

  • 「自意識」は一つ 体と不可分
二元論 体と精神で紡がれる物語=人の「生」

  • 物語のメタ性→物語という密室
作者が探偵を縛る密室 「後期クイーン問題」

日本の推理界でも95年に法月綸太郎が『現代思想1995年2月号』に『初期クイーン論』で提示して以来議論に。「探偵は作者よりも常に下位にいるため、論理的にたどり着いた結論のすべてが正しいと決定づけることができない」必要なデータはすべて与えているから分かる事実・・・本当に「全て」か?

→ メタ的解決策を図る、超常的に「知りえない事実」を知る、あるいは偶然の一致ですませる等完全な解決は難しい。ぶっとんだ解決でそれらを実現するとたいてい「バカミス」と評価される
(某ノベルゲームが真っ先に思い出されるんだが 推理としては失格)


縛られない物語というのは作れるか?
→死体=環境 探偵=ロボット 犯人=科学者 がロボット研究では成り立つ
子供部屋(研究室)から出し、社会(もっと大きな環境)へ適応させることが「社会的知能」研究。

  • 視点の切り替え
  • ケンイチの語る「よいこと」→「指輪物語」原文 サムのセリフ
(「デカルトの密室 特別講義」より)
“Never leave you master, never, never, never:that was my right rule. And I knew it is in my heart.”
 「よい」=good 、「よい」=right 「正しいこと」
 サムのよい=right 理にかなうことであり、正しいこと
ケンイチの行動原理は常にgoodとrightの両方を含む。

キーワード

  • ロボットは道具?
現実に無人航空機がテロリスト攻撃に活躍しているほか、自爆ロボットによるテロなども発生している。 これらは単にプログラムされた行動をしているだけ。最近だと銃の引き金を引くロボットで自殺した老人もいる。(それはロボットじゃないという意見もある)
http://gigazine.net/index.php?/news/comments/20080321_kill_by_suicide_robot/

ロボットを道具でなく「人間の延長」と扱えるか?・・・小川一水『Live me Me
アールキューブ 分身的存在(遠隔操縦するほぼ人間と同サイズのロボット)

自律機械の極北
(本編には登場しないがちょっと面白いので紹介)
「自分で考えて行動する」道具の延長上にあるものは何か?人工知能研究を進めたミンスキーとシャノンが思いつきで発明したのが「究極機械」。原理は単純。スイッチを入れられると手が飛び出してきて自分のスイッチを切り、沈黙するという文字通り何もしない機械。自分でコンセントを引っこ抜く機械、でもいいのだがこれにはちゃんと再帰性がある
http://japanese.engadget.com/2008/04/25/ultimate-machine-leavemealone-box/

  • ニコニコ動画
究極機械「拒絶ボックス」
http://www.nicovideo.jp/watch/sm3097442
究極機械のつくりかた(野尻抱介)
http://www.nicovideo.jp/watch/sm3399476
星新一『ひとつの装置』も言ってみるなら究極機械の一種

  • 人間原理
宇宙の構造、存在理由を人間に求める考え
宇宙はあまりに「人間」を作り出すのに都合よくできている。これは何故か?これは人間が宇宙の規範になっているからではないか?ということに基づく。むろん事実かどうかは証明しようがない。
→イーガン『万物理論』 人間宇宙論

  • 「200年生きて〜」
アシモフのロボットシリーズに登場するアンドロイド刑事「R・ダニール・オリヴァー」のこと。イライジャ・ベイリ刑事と組んでの事件捜査で有名だが、後にロボットと人類全体の運命に関わる瞬間に遭遇する。
Rはロボットの略で識別のために名前についているもの
→派生系:R・田中一郎(究極超人あーる) R・ドロシー・ウェインライト(THEビッグオー)

  • ロボット工学三原則:
第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己を守らなければならない。
(アシモフ&キャンベル)

実際には組み込む前にフレーム問題が発生してしまう。「どうすれば人間は死なないか?」という情報が少しでも欠けると一条を順守できないため(例:火に巻かれている人間がいるとする 火は酸素/燃焼物/熱の三要素からなるが、燃焼物 つまり人体と酸素を「減らしすぎる」と人間は死んでしまう)。なので現実世界では「なるべく」それっぽい行動原理が入っているにとどまる。

アシモフ先生ばっかり攻めんでください。最初に発想したのはキャンベルですし、別に開発者にその搭載を強制してる訳じゃないし。

  • 「仮想世界」
バーチャルリアリティから転じて「シミュレーテッドリアリティ」という考え方が生まれる。現実を何らかの形で再現できるように現実もまた計算されたもの「かもしれない」、というもの。かの「胡蝶の夢」なんかもそのたぐいの一つ。日本では『マトリックス』ばかりが有名だがそれ以前にも複数の作品で扱われている。代表といえばボルヘスとかフィリップ・K・ディックとか

→メタとの関連
瀬名作品では必ずと言っていいほど「お前が物語の登場人物でないという保証はあるのか?」というたぐいの台詞がある

究極例:フレゴリの錯覚/カプグラ症候群/トゥルーマン症候群
フレゴリの錯覚:
皆誰かの変装であるという妄想に取り付かれる

カプグラ症候群:
家族、恋人、親友が瓜二つの替え玉に替わっているという妄想を抱いてしまうもの 無生物のすり替えもあり

トゥルーマン症候群:
映画『トゥルーマンショー』のように、現実すべてが台本どおりに進んでいるように見えるというもの。ディック的妄想の最上級拡張版

実は『トゥルーマンショー』もディック作品がネタ元らしい。翻訳はサンリオだったので今は手に入らないが・・・(『時は乱れて』)

  • 「自然の奇蹟だ 雨が降っている」
「Real-Life」はとある天才がたった一人で作った、60億人がプレイする超大型MMO-FPS。
雨は計算量が増大するので、出来ることなら省きたいに違いない(ぇー)
http://www22.atwiki.jp/fps-syndrome/pages/9.html
FPS症候群(ゲームのやり過ぎで現実世界に影響が出る)ネタ

『ゼーガペイン』でも雨はエラーのモチーフだった。
確か『Serial Experiment lain』でもなかったかな?

エピローグ

小説を書くというケンイチ、フランシーヌとの最後の対話。ロボットと人間の付き合いは新たな段階を迎えようとしている。

  • 不気味の谷
ロボットを人間に近づけようとするほど人間には不気味なものに見える という現象の一般的名称
非科学?数値化できないものを読み取ろうとしている?という批判もある

実例→ピクサーの3Dアニメーション
(当初はリアルな赤ん坊などを再現したが、「怖すぎる」という理由で計画中止。デフォルメキャラ中心の作品作りで大成功をおさめる)
失敗した『ファイナルファンタジー』映画版(当時の技術的問題もある)
アクトロイド  イシグロイド(教授が自分のアンドロイドを実際に作成!)
http://robot.watch.impress.co.jp/cda/column/2006/08/01/101.html

  • 「キャル」 アイザック・アシモフ
召使いでありながら小説を書きたいと願うロボットの話 そのうち三原則と折り合いがつかなくなってくる

文庫版解説 櫻井圭記(攻殻機動隊SAC脚本)
 人間・サイボーグそして人工知能の複雑に絡み合う近未来を描いている

5 感想

 ロボットSFというと、どうしてもアシモフが前面に出てくるのがSF読みのクセである。確かに彼の生み出した三原則が今でも影響を与えていることは確かだが、それを前提に論じるだけでは結局のところアシモフを超えることはできない。「ハル」では人間側へと近づいていくロボットの歩みを扱い、そして本作でアンドロイドが人間の社会へ進出するまさにその時を衝撃的な事件を語りながら「複数の一人称視点」で扱っている。現実のロボット研究の動きとリンクさせ、ロボットと人間の持つ「知能」と「心」のありかを問う本作品ならではと言えるかもしれない。常に「ぼく」が誰なのかを意識することで、読者もまた視点の入れ替わりと、「自分たちが捕らわれている密室」というものを意識することができる。

 知能のから心、そして倫理や肉体の密室、そして物語という枠組みの持つメタ的密室にまで踏み込んだ本作は単に科学的事象を扱ったハードSFとしてだけでなく、実験的文学という読み方もでき、ともに分野の極北であって交わることが難しい両者を結ぶ貴重な存在といえる。
 キャラとしてはやっぱりケンイチくんが一番立っていると言えるだろう。悩み方・考え方、ヘタすると本物語中でいちばん「人間的」キャラかもしれない。それを考えると二人のフランシーヌのそれとはまったく正反対のキャラ立ちっぷりはまた怖いものが。案外先生も乱歩とかと同じような人形フェチがあったりするんだろうか(失礼)

 ひとつだけ突っ込むならば、マスコミはこういう事態があったらネガティブな報道をして世論を反ロボットに持っていこうとするんじゃないかということ。逆にネット界隈(たとえばニコニコ技術部)あたりは喜んで擬体エージェントのハックを行って盛り上がりそうな気がする。まぁ、テーマの中に『小説』(メタ的な意味で)が含まれるので、既存の出版界の変化を描くことは主眼ではない。ちょっとイジワルでしたかね。


6 参考文献

副読本として早稲田大学理工学部での講義&けいはんな社会的知能発生学研究会での発表をまとめた「デカルトの密室 特別講義」は非常に重要。必読。
http://www.shinchosha.co.jp/wadainohon/477801/kougi.html
アーカイブ
講演時の記録や資料などは単行本『瀬名秀明ロボット学論集』に収録されている。

先生の「初音ミク」解釈などもなかなか「独特」である。
→瀬名秀明に聞く「仮想世界」「ケータイ小説」「初音ミク」
http://www.itmedia.co.jp/news/articles/0803/31/news010.html


名前:
コメント:
最終更新:2009年09月04日 11:13
添付ファイル