デザインエンジニア 緒方壽人 × 基礎情報学／表象文化論研究者 原島大輔
文化特集号トークイベントレポート

小野：みなさん、お集まりいただきありがとうございます。今日は松本市にある「栞日」という本屋兼カフェに来ております。雑誌『広告』の文化特集号の発売記念トークイベントということで、おふたりのゲストをお招きしてトークをしていければと思っています。まずはおふたかた、簡単な自己紹介をお願いいたします。
 
緒方：緒方壽人と申します。普段はTakramというデザインファームで、デザインエンジニアという仕事をしております。デザインとエンジニアリングの両方をやるような仕事で、今回の特集では「文化と文明」「文化とテクノロジー」みたいなテーマで書いてほしいということで「110 文化と文明のあいだ」という記事を執筆しました。
 
小野：そんな緒方さんのラブコールでお呼びしたのが原島さんです。
 
原島：原島大輔と申します。 普段は早稲田大学の次世代ロボット研究機構でAIロボットをつくるチームと仕事をしていますが、もともとは情報学とか文化論に関心があります。いわゆる人文学出身ですが、人が生きるということから情報やテクノロジーについて考えることに関心を持っています。
 
小野：誌面では、緒方さんに昨今世間を騒がせている生成系AIのようなテクノロジーと文化がどうかかわっていくのかについて書いていただきました。今日はそれをさらに掘り下げていきたいと思います。緒方さんに原稿を依頼したのは、昨年の夏ぐらいでしたよね。
 
緒方：そうですよね。
 
小野：依頼時点では生成系AIみたいな言葉も話題になっていなかった気がするのですが、その時点でどういったことを思われていて、いまはどう思われているか、ということから伺ってもいいですか。
 
緒方：はい。ここに、2年前に僕が書いた『コンヴィヴィアル・テクノロジー』（BNN）があります。テクノロジーと人間の関係をいろいろ考えながら書いています。
 
この「コンヴィヴィアル」とは、思想家で文明批評家のイヴァン・イリイチが50年前くらいに書いた『コンヴィヴィアリティのための道具』（筑摩書房）という本に出てくる言葉で、「共に（con）生きる（vivial）」という意味です。
 
その本のなかで、テクノロジーや道具が普及し、それを使いこなすことで人間の自由度が上がる段階を「第一の分水嶺」、テクノロジーや道具に依存して人間から力を奪ってしまうようないき過ぎた段階を「第二の分水嶺」と言い、このふたつの分水嶺の間に留まらなければいけないよということを説いています。
 
本当にそのとおりだなと思います。イヴァン・イリイチが生きていた50年前は、コンピューターもなければインターネットもAIもないという状況なので、車とか電力、原子力といった物理的なスピードやパワーを増幅するようなもののいき過ぎという話をしています。
 
『コンヴィヴィアル・テクノロジー』は、テクノロジー自体が本当に自律性を持って動きはじめるときに、「人間とどういう関係になるんだろう」「その状況におけるいき過ぎとはどういうことなんだろう」みたいなことを考えて書きました。
 
今回の「110 文化と文明のあいだ」は、その続きを書くつもりで引き受けました。というのも、『コンヴィヴィアル・テクノロジー』では、「文化」という言葉をあえて使わなかったんですね。僕自身もまだよくわからないなと思って使えなかった言葉だったので。だから、すごくおもしろいテーマをいただいたなと思って、毎週のようにZoomでディスカッションしながら……。
 
小野：そう、最初の方向性が決まるまで、5、6回？　いや、もっとか。
 
緒方：そのなかで、歴史的に文化という言葉がいろいろな意味で使われすぎて、非常にわかりにくくなっていることを思いました。文化は文明と対立するかたちで語られることが多いんですが、二項対立みたいにせずに語れる切り口があるのではないかと思いながら書いていました。
 
「進め拡げる文明」の項で書いたんですが、文明は英語で「civilization」と言われるように、自然を都市化していくことが「文明」という言葉として使われはじめたところから、都市ではなかったところをどんどん都市に拡大してくとか、どんどん拡げ進めていくみたいなイメージがあって、それが文明を象徴するキーワードのひとつなのかなと思ったんですね。
 
だとしたら、文化はどうなんだろうと考えました。「進める」ではなくて「続ける」、「拡げる」ではなく「繋げる」ではないかとか。言葉のニュアンスの違いで捉えられないかなという感じで書いていったところがありますね。
 
最後をどのようにまとめようかなと思ったときに、『コンヴィヴィアル・テクノロジー』のなかで紹介したいと思いながら、僕自身が理解しきれず書けなかったユク・ホイという哲学者が書いた『再帰性と偶然性』（青土社）という本を参照しました。今日のゲストの原島さんが翻訳をされています。文明と文化を考えたときに、「再帰性と偶然性」という言葉が呼応するような感じがしたので、最後にそういう話を書きました。
 
小野：記事の冒頭では画像生成系AIの「Stable Diffusion」を使った画像を掲載していますが、その頃といまではだいぶ様相が変わりましたよね。
 
緒方：「馬に乗った宇宙飛行士」というような、実在しなさそうな写真のイメージをテキストで書くと、それらしい画像が生成されます。さらに印象派風にとか、モザイク画風に、浮世絵風に描いてくれとテキストで書くと、ちゃんとそれっぽい画風で描いてくれるんですよね。でも、あらためて細かく見ると、馬の脚が5本あったり、背景がおかしいですね（笑）。数カ月前はこんなのだったんだみたいな感じで、ちょっとびっくりします。この半年ぐらいで、まったく写真と見分けがつかないところまで来た感じですよね。
 
小野：そうですよね。原稿を依頼した当時は、ChatGPTすらなかったですからね。Stable Diffusionが出てきて、何かが変わっていくぞという予感がしたし、実際的に変わってると思うんです。いまやテキストもあるし、画像もあるし、ほかのものへも展開していくであろうなかで、文化をどう捉えるか。それも含めておふたりに話してもらえればと思います。

つくる、繋がる、続ける

緒方：原島さんと繋がるきっかけは、『情報環世界』（NTT出版）という本を共著として書いたころに遡ります。これを書いていたときに、「情報環世界研究会」という集まりを毎月、1年くらいやっていました。そこに参加いただいたり、『コンヴィヴィアル・テクノロジー』に原島さんが書かれた文章を引用したり、ずっと気になる存在というか、いろいろ共感性とかありそうだなと思いながら、しっかりお話する機会がなかなかなくて、この機会にお呼びしました。

小野：原島さん、緒方さんが書いた「110 文化と文明のあいだ」について感想があれば。
 
原島：いくつかすごく印象に残ったところがあるんですけれども、まずひとつは、ミナ ペルホネンの皆川明さんの言葉を引用されているところがあって、ちょっと読んでみたいと思います。

緒方さんがこの文章に着目されたことが本当に素晴らしいなと思って、感動しながら読んでいました。やっぱり「つくる」ことと「繋がって、続いていく」ことが大切であると、緒方さんの「110 文化と文明のあいだ」の結びもそうなっていて……ちょっとこれも読まないと（笑）。

生成系AIが出てきて、これから「人がものをつくるというのはどういうことか」と自省する機会がたくさん出てくると思います。
 
その根底には、「つくる」とは個人的につくられた製品とか作品がオブジェクトとして出てくることだけではなくて、われわれが生きていくなかでいろいろな人たちと命を繋げながら続いていく、ということがあります。たとえ、ものをつくらなくても、生きていること自体が本質的にはつくることの根源にあるのだと思います。
 
ものづくりをしていると、「わたしは何か」とか「自己とは何か」ということに気づけるようになると思うんですよね。それこそが、つくることのいちばんの醍醐味だと思っています。もちろん、これから生成系AIによっていろいろなコンテンツがつくられていくと思いますが、それを踏まえながらも、本来ものをつくるとはどういうことなのかを、さらに深く掘っていくことができるようになることに期待を抱いています。
 
ですから、この緒方さんの文章を読んですごく納得しながら、こういう「つくる」ということの観念をもって、テクノロジーをどうやって上手に使うかとか、これからどういうテクノロジーをつくっていくか、ということを考えられるのは、非常にいいことだなと思って拝読しておりました。
 
緒方：ありがとうございます。もう何か締めみたいな（笑）。『コンヴィヴィアル・テクノロジー』を書いたときに、僕もつくるためのテクノロジーとか、つくることについて、いろいろなことを考えていました。
 
本って、この背景にはこういうことがあるとか、ロジックをつくって書いていきますよね。だけど、つくることについて書いたエピローグだけは、理由をつけずに、あえて「つくりますよね？」みたいな、あたりまえのような感じにしました。
 
「なぜつくるのか」を問うこと自体がナンセンスとまでは言わないですけど、「そういうものではないのでは？」という違和感があったんです。『広告』の記事を書くにあたっては、つくることは「続いていくこと」や「繋がっていくこと」、根源的なものだと思って、理由なくつくることを肯定したい気になりました。
 
最後の「再帰性と偶然性」という話が、その「続く」とか「繋がる」ということとすごくリンクしているなと思っています。つくるとは、つくって終わりではなく、それが誰かに受け取られていくことがすごく大事で、でも大量にコピーをつくってばら撒くってことでもない。 受け取り手が多ければいいということでもなくて、いろんな受け取られ方をして、受け取った人がそれにインスパイアされ、さらにいろいろなものをつくっていくというかたちで繋がっていくと、必ずそこに違うものが生まれていきます。
 
つまり、全然違うものがどんどん生まれていくけど、オリジンはその前のものにあるみたいなところに戻りつつ、でも同じものにはなっていないみたいなループが「再帰性と偶然性」ってことなのでは？　と思って最後に書いたのですが、そういう理解で合ってますか？（笑）。
 
原島：（笑）。『再帰性と偶然性』を書いたユク・ホイさんは香港出身の哲学者で、大学でコンピュータ工学を勉強したあと、大学院からヨーロッパで哲学を学んでいます。
 
『再帰性と偶然性』の前に書いた『中国における技術への問い』（ゲンロン）のなかで、彼の定式化した問いが非常に示唆的で、彼はコスモテクニクス（宇宙技芸）という独自の概念を用いて、技術の多様性を切り開こうとしています。今日ではテクノロジーは、世界中どこでも普遍的に同じテクノロジーとして捉えられますよね。
 
たとえば中国のテクノロジー、日本のテクノロジー、あるいはアマゾンのテクノロジーとか、文化ごとにテクノロジーの違いがあるというときでも、テクノロジーそのものは普遍的で、そこに文化によって多少バリエーションがついている、くらいに思いがちなんですが、本当にそれでいいのかと問いを立てたんですね。
 
本来、技術はそれが生み出されてきた文化や文明の世界観──彼はそれを「コスモロジー（宇宙論）」と言っていますが──と不可分なものとして出てきているはずだから、文明とか文化が違えば技術自体がそもそも複数あると考えたほういいということ、つまり根本的に技術は多様で複数あるということを主張しているんです。
 
要するに、今日われわれがテクノロジーと呼んでいるのは、ヨーロッパという世界のなかのひとつのローカルな文化の技術であって、実はほかの文化には、それぞれの根本的に違う技術があるはずだと。それぞれの技術の背景をなす文化をそこまで深く尊重しながら技術の多様性を考えていくと、われわれはもう少しテクノロジーを豊かに理解したり、つくっていくことができるのではないかと考えるわけですね。
 
テクノロジーにはいい面もたくさんありますけど、悪い面もありますよね。たとえば気候変動とか環境問題然り、人間観も結構限定されてきますよね。テクノロジーで人間が超人になる「トランスヒューマニズム」とか、あるいはテクノロジーで人間が強化される「エンハンスメント」とかいっても、そのときの人間のイメージはどんどん単数になっていく。
 
「テクノロジカル・シンギュラリティ（技術的特異点）」という言葉がありますが、彼はそれを言葉遊び的に“技術的単数性”と読み替えることで、その背景にある技術観をあぶり出しています。「シングル」つまり「ひとつ」ということですね。われわれがテクノロジーを単一的に理解することで、様々なグローバルな問題を解決不可能な問題であるかのように感じてしまうけど、本当はそういう閉塞感を覚えなくてもいいのではないかと書いています。
 
彼は、そもそも技術が多様であるなら、われわれはもっと豊かに技術の未来や人間の未来も考えられるだろうと考えていて、私はそれに非常に共感します。
 
日本は近代化するときに、西洋からテクノロジーを導入しますが、本来、科学やテクノロジーにひもづいてキリスト教とか西洋文明がいっしょになっていたはずなんです。日本には「和魂洋才」という言葉がありますが、自分たちの精神性は守りつつ、科学やテクノロジーみたいな部分は取り入れるというやり方で進めてきたわけですね。
 
日本に限らず、東アジアには似たような標語があって、みんなそれで近代化を迎えたのですが、科学やテクノロジーが生まれてくる背景にある文化とか宇宙論にまでは対峙してこなかったように思います。その反省を踏まえると、より深く技術と向き合えるのではないかと考えたんです。
 
もちろん、こういう考え方は彼だけではなくて、日本でも多くの方たちがこれまでに主張してきたことだと思いますが、そういったことを考えているひとりの技術思想家として私は彼を尊敬しています。……続けてもいいですか？（笑）
 
緒方：どうぞ、どうぞ（笑）。

つくることの再帰性と偶然性

原島：ようやく再帰性の話に入るんですけれども（笑）、現在のテクノロジーの本質が再帰性にあるのではないかという考え方が焦点となります。その鍵となるのが、20世紀半ばに、米国の数学者ノーバート・ウィーナーが提唱した「サイバネティクス」という学問です。生物と機械を統一的に情報システムとして扱うというものです。

どういう視点を取れば、生物も機械も同じに見られるかというときに、ウィーナーが考えたのが「フィードバック」というメカニズムでした。あるシステムが行動して環境に働きかけると環境は変化します。その変化の情報をシステム自身が再び入力すると、システムはその変化の情報を踏まえて、次の自分の行動を変化させる。こういうループを持つことで、機械であっても目的がある行動ができるようになると考えたんですね。
 
機械の世界は、基本的に目的を使わずに説明するものです。たとえば、ものを手から離したら落っこちますよね。それを、重力が働いてるからと説明します。落としたものが「地面に落ちたかったから」とは言わないですね（笑）。だからものを説明する原因に、目的を使わないでやってみようというのが近代科学的な考え方です。
 
でも、生物は目的を持って行動するわけですね。コーヒーを飲みたいなと思ったから、カップを手に取りましたという風に。ところが、サイバネティクスによると、こういう目的がある行動も、フィードバックという概念があれば機械論的に達成できるんだとなった。
 
たとえば、エアコンを26度の冷房に設定します。部屋の気温が30度から27、26度と下がっていきます。このときフィードバックした情報は、部屋の室温ですよね。室温が設定よりも下がりすぎてしまったら、冷たい風を出すのを止めるという風にやっていくと、26度と設定した目的を機械は自分で達成できるようになります。フィードバックがあると、目的が生物だけのものではなく、機械のものでもあるというふうに見られる。
 
このフィードバックという概念によって、生物と機械の違いが曖昧になっていきます。ここに現代テクノロジーのひとつのポイントがあるんですね。はたして「機械論的なフィードバックとしての再帰性で、生物とか宇宙のことを全部説明し切れるのか」というのが、再帰性と偶然性の問いなんですよね。
 
緒方：なるほど。そうですよね。僕の本でもサイバネティクスに触れているんですけど、いわゆる「サイバー◯◯」と言われるものの語源というか、オリジンですよね。サイボーグとかね。
 
ロボット工学を目指した人たちがこれを読んだり、知ったりすることで、ロボットでも機械でも、人間や生物のようなものがつくれるのではないかと考えるきっかけになりましたよね。
 
ユク・ホイの話に戻ると、技術そのものが多様であるべきというのはすごくおもしろい視点だなと思っていて、“多様性のための技術”ではないということですよね。
 
イリイチが書いたのは「Tools for Conviviality」、つまり人間同士がともに生きるためのツールとかテクノロジーということでした。だけど、僕の本は「人間とテクノロジーが共に生きる社会へ」と副題をつけたように、コンヴィヴィアルなテクノロジー、つまりテクノロジーそのものがコンヴィヴィアルにならないといけないのではないかというものなんです。ユク・ホイの技術そのものが多様にならないといけないという話に通じると、勝手に共感しました。
 
原島：コンヴィヴィアルの話にも入ってきたんですけど、それに入ると完全にその話になってしまうので、もう少しだけフィードバックの話をさせてもらってもいいですか。すいません（笑）。
 
たとえば、生成系AIもいわゆるコネクショニズムの機械学習をしています。要するに脳の神経系の働きをシミュレーションして学習する機械をつくるという人工知能のひとつのパラダイムがあって、それがいまの生成系AIの基盤を支えています。その学習の原理も根本的にはフィードバックです。20世紀半ばに提唱されたサイバネティクスという言葉はほとんど使われなくなりましたが、原理として残っているわけですね。緒方さんが注目されている「自由エネルギー原理」も、やはりフィードバックです。システムが予測して、予測との誤差と実際の誤差を計算して次の行動をしています。
 
ただ、フィードバックの再帰性と緒方さんが言う「つくることの再帰性と偶然性」は、実はちょっと違うのではないかと思います。生物は自分が生きている世界を自分でつくって、しかもその世界のなかで生きるという、自己準拠的に世界をつくる循環があります。その循環とサイバネティクスのフィードバックは、視点そのものが違っています。つまり、主体と客体をわける視点か、直接の経験の世界の視点かということです。
 
世界の有り様を表現する再帰性は2種類あって、人がコンヴィヴィアルに生きることを考えるときには、フィードバックとか再帰性を客観視する視点のみならず、この世界がどうつくられていき、そしてそのなかで人はどのように生きているのかという、“生きている人の視点”があります。
 
自分がこの世界をまさにつくりながら、そのなかに自分がいるんですね。そういう不思議な視点からコンヴィヴィアルなテクノロジーというものを考えていくのは、非常にエキサイティングなアプローチだと思っています。
 
緒方：みなさん、ついてこれていますか？（笑）。僕も情報環世界のイベントで、いまの話を高速に聞かされて、「？？」みたいな感じでした（笑）。
 
少し整理すると、まず生物学者のヤーコプ・フォン・ユクスキュルが提唱した、「環世界」という概念があります。たとえば、人間が見ている世界とマダニが見ている世界、犬が見ている世界、コウモリが見ている世界は、それぞれ全然違った世界だよねということは、なんとなく想像できますよね。そういう風に知覚しておる世界と、そこにプラスしてアクション（作用）していることで世界をつくっていると。それはそれぞれの種によって全然違うということをユクスキュルは言っています。
 
情報環世界では、人間同士でもSNSとかフィルターバブルのように受け取っている情報や接している情報世界そのものが全然違うよね、というテーマで様々な議論をしました。そのなかで、情報を受け取ってアクションしているけど、自分もそこにいるみたいな、図解しづらい情景なんですが、それが重要なポイントなんです。
 
小野：人間は客体視と主体視の両方できるんだけれども、意識はしてないというか、曖昧にそれをやっている。「世の中はこうだよね」と思っているけど、自分がそこにいるから、実は自分が見えている世界が閉じていることに、気づいているようで気づいていない。
 
人間の不完全さ、人間に限らず生物の“わかっているようでわかっていない”みたいなところが、それを生み出しているのかなと思いました。機械と人間の差異はどのように語られるものなんでしょうか。もうちょっと詳しく聞かせてください。

他律系と自律系

原島：機械は作動するルールを外から与えられるわけですね。もちろん、いまの機械は学習ができるので自分で作動ルールをつくることもできますが、どういう風に作動ルールをつくるかのルールは外から与えられます。これをシステム論では「他律システム」と呼びます。
 
生物の場合は、自分で自分をつくり出す自己産出の循環のなかで“ルールみたいなもの”をつくっています。つまり、世界にはもともと規則とかルールがあって、それに則って生きているというよりは、まったくの偶然のなかで生物は生きています。これは飲んでも大丈夫そうだみたいな、暫定的に通用するルールとかパターンを自らつくりながら、そのルールに則って自己準拠的に生きている。自分でつくったルールに則って生きているという意味で、「自律システム」と呼ばれます。
 
だから、機械は「他律系」、生物は「自律系」と大きく分けたりします。さらに別の見方を発展させると、機械をひとつのシステムとして捉えるときには、法則とか原理というものを大前提に置いて動いていると考えられます。つまり、自然法則があって、機械的なシステムはその法則に則って運動しているだけということです。
 
いわゆる機械論的な世界観ではありますが、「因果律」という法則が大前提になっていて、それに則って物事が動いていきます。そうすると、ものをつくるときも、つくった主体とつくられた客体との間に因果関係があると捉えるようになるわけです。だから人工知能が文章なり、画像なりを生成するときも、まず人工知能があって、それはつくる主体でつくられた客体として作品が生成されます。作者とそのつくられた客体との間をある種の因果関係で捉えるのが、機械論的に見ると妥当な考え方だと思います。
 
この考え方を踏まえてつくるということを考えると、一体誰がつくったのかという問いがすごく複雑になってしまうんですよね。たとえば人工知能が「こういう風につくりなさい」と言われたつくり方の規則自体は、ほかから与えられているから、原因をひとつ遡らなければいけない。遡った先がプログラマーとかエンジニアだったとしたら、その人の脳のなかの物理的な作用とか、あるいは過去に読んだ本とか、原因をどんどん遡っていくと、もう無限に広がってしまうわけですよね。すると、素朴に人工知能がつくったとか、人がつくったとは、本質的には言えないはずなんです。
 
ところが、われわれは普通に人工知能がものをつくったとか、人がものをつくったと言っている。一体これはどういうことなのかと考えてみることも結構重要なことなんですね。これは他律システムとしてものを見るということです。だけど、自律システムとして考えたら、最初から自分で自分をつくっているという循環を生命システムだと捉えることになるから、原因結果というような考え方とは違う視点から考えることになります。
 
生きる営みのある種の副産物として、ものが残っていくという視点になると、根本的に「つくる」ことは「生きる」ということで、副産物としてどういう「もの」がつくられていくのかという視点になってきて、かなりシステムとしての見方が変わってくるでしょう。
 
こういう風にサイバネティックな考え方をアップデートすることで、機械と生物の関係性を捉え直すというのは、ひとつあると思います。
 
緒方：まずつくる、まず生きるが先にあるっていうことですよね。そこに意味とか価値が生まれていくという。原島さんは『AI時代の「自律性」』（勁草書房）という本を共著で書かれていて、『コンヴィヴィアル・テクノロジー』のなかでも紹介させてもらっているのですが、僕も対抗してちょっと読んでいいですか？（笑）

このくだりに感動していろいろなところで話しているのですが、機械は辿っていくと、どこかで誰かに与えられた目的に、少なくともいまのシステムはなっているっていうところが大きく違うのかなという感じはしますね。
 
原島：そうですね。それが根本的な宇宙論というか、世界観ともかかわってるように思うんですよね。現代のサイエンスやテクノロジーには因果関係があって、究極的な原因というものがあるという宇宙論のなかでできあがっているテクノロジーであると。
 
もしかすると、そうではない循環的な世界観というものは、技術やつくることや文化というものをかなり違う見方をしているというところがあったんじゃないか。
 
現代のわれわれはかなりグローバル化されたサイエンスとテクノロジーの文化のなかで生きているので、そういう感覚は鈍っているかもしれないですね。あるいは眠っているのかもしれない。それは一人ひとりの心のなかかもしれないし、建物のなかとか、つくられたもののなかを探っていくと見えてくるかもしれない。

＞ 後編はこちら

文：矢野 太章

【関連記事】

今回のトークイベントにご登壇いただいた緒方壽人さんには、雑誌『広告』文化特集号でもご協力いただきました。現在、緒方さんに寄稿いただいた記事を全文公開しています。