【特集：科学技術と社会的課題】大澤　博隆：人工的エージェント研究から、物語応用の研究へ ──SF的想像力の展開

2024/08/05

私は長年、ヒューマンエージェントインタラクション（HAI）という分野を研究対象としている。一方で、物語を応用する研究も行っている。この2者にどのような関係があるか、ということを説明しておきたい。

HAIは学際的で、確立してまだ20年と少しの分野ということもあり、これがどのような分野か、ということについて多くの説明をしてきた。HAIは人とエージェントとの相互作用（インタラクション）を扱う学問だが、それだけだと説明にならない。ここでいうエージェントとは主に社会的エージェントと呼ばれる、人間や動物のように意図をもつかのように振る舞う人工物を指している。

HAIは様々な領域にまたがる分野だが、一言で言えば、「社会的なエージェントに対する人々の想像力を調整し、人間に対する有用な応用を探求する学問」であると言える。HAI研究は突然発生したわけではなく、ソーシャルロボットやバーチャルエージェントなど、類似の技術を扱った学問は数多くあった。しかしHAIはこうしたエージェントが媒体ではなく、人々に社会的に影響しうるエージェント自身を複合的に扱う分野として誕生した。そのため、人工知能やロボティクスだけでなく、ヒューマンコンピュータインタラクション、認知科学やシミュレーション、ゲーム理論、人工生命、ビデオゲーム研究、倫理学、社会科学、哲学など、複数の分野の研究者がこの分野に着目し、ロボットやバーチャルエージェント、音声対話、遠隔対話システムの外観やコミュニケーション、相互作用の設計や実装から、人工知能システムにおける他者の意図推定や協力行動の創出、エージェントシステムの社会的な応用とその法・倫理・社会的問題の検討が行われている。私自身もその観点から、家電製品を擬人化する研究や、人狼ゲームなど人と協力し人を騙す人工知能の研究を行ってきた。

HAI研究では対象となるエージェント自体の情報処理プロセスよりも、そのエージェントが人間と接した際に、人間にどのように扱われるかを重視する。例えば、ペットロボットの感情を設計する際には、ペットロボットがどのように感じるか、という点よりも、ペットロボットの感情が人間にどのように受け取られるか、を重視する。この点を悪しざまに言ってしまうと、HAI研究は「人工物がまるで意図を持っているかのように騙す」研究であるとも言えるかもしれない。しかし、これはある意味では本質的であって、HAI研究はある意味で「ユーザの中にある虚構（フィクション）」を設計する研究でもある。

HAIの観点から興味深い実装の一例として、バンダイが開発した人形型ぬいぐるみであるプリモプエル（1999年発売）がある。この人形は各部に取り付けられたセンサーが人間の触り方などに反応して一定の言葉を発するだけのシンプルなぬいぐるみであり、人工知能技術の観点では、優れた技術を使ったものとは言いがたかった。しかしプリモプエルは中高年の女性を中心にヒットした「ロボット」であり、100万台以上が販売され、介護現場を含めた様々な場所で活用された。

このプリモプエルには、ユーザに購入される前の設定となるバックストーリーが存在している。その中でプリモプエルは小さな星からやってきた異星人であり、人々の心を癒やす存在であると語られ、その様々なキャラクター性も魅力の1つとなっていた。プリモプエルの物語は、決して上手い物語と言われるものではないが、物語の巧拙とは別に、プリモプエルが購入者との関係性を作成することを重視していたのは注目すべき点である。

人工知能研究において、物語の研究は物語分析から物語生成の研究まで、長年の蓄積がある。こうした物語研究と、HAI研究は、従来は同一の枠組みで扱われることはなかった。これはHAIが主に動的なコンピュータデバイスを設計する分野であり、ユーザが思い込む「虚構」は副次的なもので、制御の幅が狭かったこと、一方で物語は基本的に静的な媒体であり、そこに込められた時系列的な虚構を、テキストや映像などを通じて享受する形でユーザが受け取る枠組みだからである。しかし、ビデオゲームのようなインタラクティブなメディアでは、両者の設計や目的は接近してくる。例えば、ビデオゲームにおけるノンプレイヤーキャラクター（NPC）の設計と、スクリーン上に登場するバーチャルエージェントの研究では、同様の技術が使われ、類似の学会で発表が行われることがある。

特に、近年のHAI研究は単独のエージェントの技術を磨くのではなく、人間の存在する社会に対し、単独もしくは複数のエージェントを介在させることで、結果的に人間社会を良くする、というアプローチが見受けられる。例えば、筑波大の田中文英教授の提案する「教えることによる学習（Learning by Teaching）」では、エージェント自身が子供から教えられる存在になることで、結果として子供が学ぶ、というアプローチが行われる。また、豊橋技術科学大の岡田美智男教授が提案する「弱いロボット」では、何もできないロボットがいることで、結果として人々の行動が促される。こうした研究は、人間社会を拡張するHAI研究であると言えると同時に、人々の想像力を刺激し、結果として人の行動を促す点で、物語の研究に近い。物語は複数の社会的存在を時系列上で扱う必要がある課題であり、その点ではエージェントへの想像力をデザインする仕事は、この一部に含まれると言えるだろう。ほぼ全ての物語において、語り手がおり、多くの物語において、複数の行為者や社会が存在する。

以上の点から私は、HAI研究と物語研究の発展において、双方の交流を促すことに、大きな利点があると考えている。

HAI研究と物語研究の接点を示したが、人類における物語の位置づけ自体も、情報技術の発達に伴って変容しつつある。特に、生成AIを中心とした人工知能技術と、サイエンスフィクション（SF）に関係する文芸分野が、この発展を促している。

人類史において、想像力を元に虚構を扱う力は、人類文化の大きな発展の要因であったと考えられている。社会の結束、文化の伝承、個人や集団のアイデンティティ形成、さらには問題解決や創造性の促進など、様々な側面で人間の想像力が貢献してきた。文学研究者のBrian Boydは、物語がどのようにして人間の認知発達に不可欠な要素となったかを論じ、物語が情報の伝達、社会的なルールや価値観の共有、そして集団内での連帯感の醸成に重要な役割を果たしてきたことを示している。近代以降、こうした人類における虚構を扱う想像力は、物語を軸とした産業構造の形で整備された。特に、科学技術を扱うサイエンスフィクション（SF）は、こうした時代に誕生した科学技術と社会のあり方を探るジャンルとして誕生した。

SFは、科学への憧憬と厳しい自己批判を繰り返しながら、文学の1ジャンルにとどまらず、社会設計に対して様々な影響をもたらしてきた。人文学においても、複数の関連影響が見られる。SFは科学コミュニケーションの道具として使われ、未来学のように、複数の学問をつなぎ未来を議論する糧となった。かつては科学プロパガンダと呼ばれ、現在はSTEAM（Science,Technology,Engineering,Art and Mathematics）教育といった分野においても、SFのもたらす想像力は教育上の大きな支援となる。経営学においては、シナリオを用いた未来予測の試みが未来洞察などの分野で行われてきた。また昨今では、作品そのものではなく、作品を制作する過程を作家と専門家で共有し、企業経営や教育に対して新しいビジョンを得る「SFプロトタイピング」などの試みも誕生してきている。また、クリティカルデザインやスペキュラティブアートのように、SFの批評的態度、批判精神を継ぎ、問題提起を主要分野とするアート分野も登場してきた。

SFプロトタイピングは特に、新しい物語の応用のトレンドと言える。これは、かつてSFが期待されてきた「未来を予見するSF」という枠組みを、遥かに広い範囲で拡張したものである。SFプロトタイピングは必ずしも未来を予測しない。これは、SF小説が単に未来予測小説でないのと同様である。しかし、SFは現在ある知見や技術や、人々の価値観、そして未来に対する複数のビジョンを結びつけ、あり得る可能性について物語の形で人々に提供することはできる。そして、人々はその物語を鑑賞し、場合によってはそれを批判的に検討し、さらに場合によってはその作成過程に関わることで、結果として未来に対するより深い視点を持ち、ビジョンを作り上げることができる。SFはこうした形で、結果として未来のビジョン作成に貢献し、結果として一部のSF作品は「未来を予見した」という名誉を（有り難いかどうかは別として）受けることになる。こうした試みを、意図的に企業内で起こすのが、SFプロトタイピングであると言える。

SFが最も効果をもたらす領域の1つが、科学技術によって人間が拡張され、人間の価値観が転換する時代におけるシミュレーショナルな視点の導入である。こうした未来における人類のあり方は、「ポストヒューマン（人類以後）」というテーマとして扱われている。20世紀後半から登場した科学技術、特に情報技術によって、現在、想像力の生み出す物語、そして人間のあり方は大きく揺さぶられている。インターネット技術やソーシャルメディアによって、誰もが自身でコンテンツを作ることのできる時代になり、金銭的なフィードバックだけでなく、他者の評価によって物語自身が生み出される環境が整った。これはある意味ではコミュニケーションとしての物語の復権である。また2010年代から登場した生成AI技術によって、自身の作品が学習に使用される一部の創作者たちの大きな反発を受けながらも、創作スキルのあり方はより民主化されていくことが期待されている。一方で、人口減やコンテンツ環境の変化による出版業態の構造の変化から、作家たち自身も、物語のあり方として、科学技術が生まれる現場に物語の方法論を持ち込んでいる。人類社会が情報技術によって抜本的に強化され、我々自身の知性のあり方が拡張されるポストヒューマニティ時代の社会において、人間の想像力に対する研究は従来以上に越境した形で捉えられる必要があると考える。

前述したような時代において、我々は慶應義塾大学に「サイエンスフィクション研究開発・実装センター」という名前のセンターを2024年1月に設立した。日本で初めての、SFを冠した大学内研究センターである。同様の枠組みは米国には複数ある。例えば、カンザス大学には文学としてのSFを研究するセンターが存在しており、近年ではSFを用いたイノベーション創発のセンターとして、アリゾナ州立大学の科学と想像力センターや、カリフォルニア大学サンディエゴ校のアーサー・C・クラーク人類想像力センターがある。また、中国ではSF作家であり研究者の呉岩氏が、南方科技大学に人類・科学想像力研究センターを設立している。しかし、日本にはこれまでSFを専門とするセンターが存在しなかった。「日本沈没」等の小説で知られる作家の小松左京氏はかつて「SF学」という名前で、SFの持つ可能性に着目し、学問領域の設立に尽力した。また、作家の瀬名秀明氏は、主にロボット研究者と共同で、SFと科学技術の関係について論じてきた。

SFセンターはこうした流れを受け継ぎ、文学、認知科学、人工知能、経営学、科学コミュニケーション、アートの6分野に沿って、SFを中心とした想像力の研究を遂行する。私自身は工学系の研究者だが、センターでは理工学のみならず、人文・社会科学が大きく寄与する分野である。AIやコミュニケーション技術の進化がもたらす変化を、単に技術的な側面からではなく、人間中心の視点で捉えなければ、人間に対する価値を置き去りにした技術加速をもたらすことになる。特に、これからの社会を担う子供たちの発達過程における物語の影響を検討することは、喫緊の課題であると言える。また、特に経営学は、新たな技術やイノベーションが社会や文化に与える影響を深く理解するための理論的枠組みと分析ツールを拡張する。AI技術による創作活動の変容は、社会の価値観、文化的アイデンティティ、コミュニケーションの方法などに大きな影響を及ぼすものであり、これらの変化を理解し、意味付けるためには、未来構想手法の研究者との協調が不可欠である。特に、豊富な物語を隠れた資源として持ち、米国や欧州に匹敵する独自の物語文化を発信してきた一方、少子高齢化において出版産業の変化を含めた抜本的な構造変化が予測される我が国において、小説のみならず漫画やアニメーション、動画、ビデオゲーム、2次創作を含めた物語文化の、扇の要としての役割を果たしたSFの影響を整理し、新しい想像力のあり方を世界に発信していくことには、大きな貢献が生まれる。また、新型コロナウイルス禍やロシアのウクライナ侵略、汎用人工知能を目指す大規模言語モデル技術など、不確定で破局的状況が発生する現状においては、未来そのものの予測ではなく、不確実な未来において、可能性を検討できる能力を開発することが重要となる。この点において、科学コミュニケーションやスペキュラティブアートは、大きな役割を果たす。

また、生成AIを始めとしたAI技術の発展は、従来の物語に関するエコシステムとの大きな違いをもたらす。従来は、物語はあくまで人間の思想または感情を創作的に表現したものとして人格権を含めた権利が認められ、法的及び倫理的な保護を受けてきている。これに対し、生成AIのように創作過程が自動化される場合には、作品の創作性について介入が行われる。これによって、文学及び美学の観点からは、新たに検討するべきことが増えると考えられる。もう1点は物語的な想像力自体の転用である。近代以降の物語環境においては、作者という特権的な役割が存在し、これを出版が補助し、多くの人々が物語を受けるという形が産業として確立した。しかしながら、ネットワーク技術やソーシャルネットワークプラットフォームが発達し、金銭のみならず自己表現に対する賞賛を持って作家に対するフィードバックとされる評価経済の現代社会においては、作者と読み手の境目は曖昧となっている。この時代はある意味でコミュニケーションとしての物語の復権であるが、物語を紡ぐ作家の想像力が、ある種の未来に対するシミュレーション能力、洞察力の一環として、未来ビジョンの構築に直接関与することが起きている。こうした環境はAIによる想像力拡張環境とあいまって、結果として、人類が持つ想像力が創り出す物語の、社会における役割をさらに広げる。現在の生成AIは、クリエイティブな作品の帰属、AIによる創作活動の倫理、人間とAIの関係性の再定義など、様々な枠組みの問題を引き起こしている。センターは、これらの問題を扱うための倫理的枠組みと哲学的洞察を提供し、社会がこれらの新たな課題にどのように対応すべきかについての議論を深める橋渡しとしたい。