技術的特異点(シンギュラリティ)の社会構造と「人間中心主義」の意味論 | Accel Brain

Accel Brainについて


以下の内容は、Accel Brainの事業の背景にある概念実証やライフハックの内実を纏めた内容になっている。

技術的特異点(シンギュラリティ)の社会構造と「人間中心主義」の意味論

Accel Brain; Console×

問題設定:科学・学問の社会構造と「人間後(ポストヒューマン)」の意味論

イマニュエル・カントは、論理学講義の序論において、哲学の諸概念を四つの問題に区別している。それは「私は何を知り得るのか?(Was kann ich wissen?)」、「私は何を為すべきなのか?(Was soll ich thuu?)」、「私は何を望めるのか?(Was darf ich boffen?)」、そして「人間とは何か?(Was ist der Mensch?)」である。「私は何を知り得るのか?」に対しては形而上学が、「私は何を為すべきなのか?」に対しては道徳が、「私は何を望めるのか?」に対しては宗教が、それぞれ問いに対する答えを用意してくれるという。しかしカントによれば、結局のところ、これら全ては人間学に帰着するという。と言うのも、最初の三つの問いは最後の問いに関わるためである。このカントの認識が意味しているのは、形而上学、倫理学、そして学の全ての問題を「人間学」が負うことになるということである。

注目すべきなのは、これら四つの問題設定共通する前提として、人間とその理性が根本的に有限であるということである。人間有限であるというのは、例えば人間についての知識が、言語労働、生活などのような所与の条件によって制約されているということである。それは、人間に関する知が実定的であるということもである。別の角度かられば、人間有限は、人間の認識可能性をも条件付けている。有限を有した人間を認識しようとする人間もまた、有限に縛られている訳だ。

問題解決策:「精神人間」

カントを全うに継承しようとすれば、観念論者たちの思索も止まってしまう。だからフリードリッヒ・ヘーゲルは、「人間」という概念を言わば単純化するしかなかった。「人間とは何か?」という問いに対するヘーゲルの回答は、人間の欲求の体系に過ぎない。それ以上の回答を求めても、彼の口からは、「精神(Geistes)」という用語しか出て来なかったであろう。

ヘーゲルが哲学的な主題とした「人間」は、「精神人間(Geistmensch)」のみである。人間精神であることによって本来的人間となる。言い換えれば、人間自己自身の自然的な起源と手を切ることによって、自己精神的起源を発見することが可能になる。つまり「精神人間」は、自然と相反する存在である。「精神人間」にとって、本来の自然とは、自然存在であることから解放された状態にこそ見出される。

ヘーゲルが人間をこのように考えたのは、理由の無いことではない。歴史哲学者としてのヘーゲルの参照問題は、キリスト教とフランス革命である。キリスト教のは、人間精神を自由にすると考えられてきた。フランス革命からドイツの統一に向けてプロシアが動き出した時期は、理性歴史を支配し、その究極的な目的が自由であるという価値が疑いようのない思想として受け入れられていた。この進歩史観を受容したヘーゲルは、世界が哲学と歩調を合わせて進んで行くと信じて疑わなかったのであろう。他ならぬ自由の意識進歩こそが歴史の原理となる。そしてそれは、今や目標に到達したのである。

問題解決策:「超人」と「最後の人間」の区別

『ツァラトゥストラ(Zarathustra)はかく語りき』は、その序文において、歴史と「精神人間」の終焉後の世界叙述している。フリードリッヒ・ニーチェはこの作品内で「超人(Übermensch)」と「最後の人間(letzte Mensch)」の区別を導入している。

最後の人間」は、「愛(Liebe)とは何か?」、「創造(Schoepfung)とは何か?」、「憧れ(Sehnsucht)とは何か?」、「星(Stern)とは何か?」といった直ぐには答えられない問いを他者と共有する。だがしかし、直ぐに解を提示しようとはしない。彼ら彼女らは相互に目配せし合うだけである。こうした答えようのない問いの解を「協働」しながら試行錯誤を繰り返すだけでも、だいぶ時間を潰せる。

ニーチェの眼には、こうした最後の人間の在り様が、小さな大地の上を飛び跳ねている蚤のようなものであって、中々根絶しないという。事実最後の人間は一番長生きする。どうやらツァラトゥストラによると、最後の人間たちは「幸福(Glueck)」を発明した(erfunden)らしい。「発明した(erfunden)」ということは、彼ら彼女らは別に幸福感を発見していないということでもある。ここで人工的な幸福感として例示できるのは、麻薬であろう。ニーチェによれば、近代社会では生活水準が徐々に高まることで安楽な生活が実現されるようになった結果精神が奴隷化していく過程なのであった。麻薬によって構成された依存症は、この奴隷化の一因となり得る。

最後の人間は、型に嵌った人間終焉物語っている。だが最後の人間したの後を追って消え去っていくことは、ニーチェからすれば、終末論を意味しない。『ツァラトゥストラ(Zarathustra)はかく語りき』は確かに歴史の終焉後の世界ではある。だがこの歴史には、進歩史観のそれのようには、歴史に終点があるという発想が無い。だからこそ、最後の人間は一番長生きする。最後の人間が関わるのは、平準化と画一化の労働である。誰もがとても類似していて、微小で、とても丸く、そしてとても社交的になっており、それでいて退屈だ。小さく脆弱で仄かな幸福感が、全ての人間に対して一様にプレゼントされる。

超人は、型に嵌った人間を人文科学から追放するための概念でもある。ニーチェによれば、ぬことと型に嵌った人間が消え去ることは同じことなのである。カントが有限として観察していた人間も、ニーチェにとっては終末を迎えた人間に等しいのだ。

問題解決策:「最初の人間」と「最後の人間」の区別

ヘーゲリアンやポストモダニストたちの歴史は、様々な「歴史の終焉(The End of History)」論の集積によって成り立っている。何らかのショック体験を経て、全体社会の平和と自由と安定を無期限に維持することが可能になったという見通しが立つ度に、彼らにとっての歴史は終わるのである。歴史の終焉後の世界では、もはや世界政治破局させるような戦争やテロ行為は成り立たない。文字通り歴史的な大事件はもはや起こり得ないという意味で、歴史終焉を迎えたのである。

数ある歴史の終焉論の中でも、とりわけフランシス・フクヤマのそれは、ニーチェの「最後の人間」と関連付ける点で特徴的である。フクヤマは、ニーチェの「最後の人間」とヘーゲルの「最初の人間(first man)」との区別を導入している。この「最初の人間」は、ヘーゲルによれば、名誉のための闘争の後に、誇り高き勝者なる主人と忍耐で応じる敗者たる奴隷に区別された。この区別に準じて、貴族と奴隷を分かつ階級の差異が派生した。これが「歴史の始まり(Beginning of history)」である。フクヤマによれば、歴史の始まりから終わりまでの過程は、勝敗に執着する威勢の良い「最初の人間」が、価値相対主義的に平等を愛しながら闘争否定する温厚な「最後の人間」へと成長していく過程なのである。

問題解決策:「超人」と「人間後(ポストヒューマン)の存在」の区別

超人は、この歴史の終焉後の世界における例外的な存在である。ニーチェの関心は、例外的な個人における個人的な急成長と文化的な洗練にこそ向けられていた。キリスト教の奴隷道徳人生への脅威を克服しなければならないというのが、彼の問題意識である。しかし、歴史の終焉後の世界における「人間」概念は、別のあり方でもあり得る超人とは別様の、より科学技術に傾倒した存在として提唱されているのが、「トランスヒューマニズム(Transhumanism)」である。

トランスヒューマニストの哲学者ニック・ボストロムも注意を促しているように、表面的な類似性が伴うからといって、ニーチェの超人論とトランスヒューマニズムを混同してはならない。トランスヒューマニズムは、科学技術によって人間身体認知能力を向上させることで、人間の状態を進化させていく思想である。トランスヒューマニズムは単なる新興科学でもなければ、まして新興宗教でもない。その起源はルネサンスにまで遡及できる。直接的な着想は1923年に発表されたJ・B・S・ホールデンによる『ダイダロス、あるいは科学と未来(Daedalus or Science and the Future)』に端を発すると考えられている。「トランスヒューマニズム(Transhumanism)」という用語を初めて用いた人物は、ホールデンの親友であったオルダス・ハクスリーの兄にあたるジュリアン・ハクスリーであるとされる。

一般的なトランスヒューマニストたちは、ナノテクノロジー、バイオテクノロジー情報工学、制御工学、認知科学、そして神経科学などの分野から出発して、人工知能ヴァーチャルリアリティエンハンスメント(enhancement)、遺伝子操作などの方法を利用することで、寿命の延長、肉体の強化、脳とコンピュータの接続などといった研究テーマを展開している。トランスヒューマニストは、科学技術によって人間を「人間後(ポストヒューマン)存在(Posthuman Existence)」へと進化させるべきであり、そうなり得ると想定している。

『サイボーグ宣言』の意味論

「我々は皆キメラ(chimeras)である」という挑発的な主張で知られているダナ・ハラウェイの『サイボーグ宣言(A Manifesto for Cyborgs)』は、1985年に発表されて以来、多くのフェミニストやSF評論たちによって幾度と無く読まれてきた。ハラウェイの著作は、とりわけサイバーパンクの作品群を読み解く上での理論背景を築いている。この『サイボーグ宣言』は、人間機械区別人間動物区別などといった旧来の境界超越しようとする点において、「人間後(ポストヒューマン)存在(Posthuman Existence)」を記述する上での意味論として機能している。

サイボーグ(Cyborgs)」という概念は、もともとはアメリカの医学者マンフレッド・クラインズとネイザン・S・クラインが1960年代に宇宙旅行との関連から提唱した概念である。サイボーグ技術の当初の参照問題は、宇宙空間で起こり得る循環器系や呼吸器系の障害である。サイボーグ技術は、この問題に対する解決策として導入されている。それは生物学的機能機械的に代替することで身体を支援するべく機能する。この問題設定背景にあるのは、科学と技術に対する楽的な展望である。当時の宇宙旅行は、人類が自身の生物学的進化に積極的に寄与することを求めている事例の一つとして社会的に認知されていた。科学的な進歩は、人類が今現在見知っている自然とは極端に異なる環境で人間を存続可能にするために利用され得ると考えられていたのである。

「宇宙にいる人間が、飛行機に乗ることに加えて、自身を生かし続けるために、常に物事を点検して調整する必要がある場合、人間機械の奴隷になる。人間恒常性システムと同様に、サイボーグの目的は、そうしたロボットと似た諸問題を自動的かつ無意識的に取り扱う組織システムを提供することにある。それは、人類を探索、創造、思考、そして感覚のための自由を与える。」
Manfred E. Clynes, and Nathan S. Kline, (1960) “Cyborgs and space,” Astronautics, September, pp. 26–27 and 74–75. 引用はp.27より

語源として言えば、サイボーグとは、「サイバネティクス的な生物(Cybernetic Organism)」を意味する。サイバネティクス的であるというのは、身体生物学的な自己制御機能に関与するからだ。実際サイボーグ技術は「自己制御的な人間機械システム(self-regulating man-machine systems)」として考案されている。自己制御的であるのは、身体そのものの「自恒常性制御(autonomous homeostatic controls)」と協調するために、意識に依存しないという意味においてである。サイボーグとは、無意識的(unconsciously)に統合された恒常性維持システムとして機能するように、身体を外生的に「拡張(extended)」するシステム複合体に他ならない。こうしたシステムは、宇宙空間のような新しい環境に適応させるために、生物自己制御機能拡張する要素を積極的に活用する。

ハラウェイが定義する「サイボーグ(Cyborgs)」もまた、「サイバネティクス的な生物(Cybernetic Organism)」を意味する。ただしハラウェイのサイボーグ論は、必ずしも科学と技術の進歩に楽的な発想によって記述されている訳ではない。サイボーグ機械生物のハイブリットであると共に、虚構の生物であり、また社会的実在の生物でもある。サイボーグとは、通信工学と制御工学によって構成された生物であると共に、社会で「人間」と共同している存在でもある。自己同一性身体に関して本来的に両立不可能な二項を必要とするが故に、サイボーグはこの両者を包摂しているのである。既に対極的な二項を自己の内部に包含しているサイボーグは、それ以上自己とは異質な存在や異なる起源を持つ存在との一体化を求めようとはしない。それ故にサイボーグは、両立不可能な二項を包摂すると共に、自己の起源を度外視できるという意味で、既成概念を超越する存在と見做されている。

注意しなければならないのは、この『サイボーグ宣言』の副題が、「1980年代の科学と技術、そして社会主義的フェミニズムについて」であるということだ。この論文は、本来文学の分野に特化した著作なのではない。『サイボーグ宣言』は、SF批評の理論武装のためではなく、現実社会情勢、当時で言えばレーガン政権の政治現実を参照問題としている。1980年代という時代に対して、フェミニズム、社会主義、そして唯物論的な思想という三本柱を信条とするアイロニカルな政治神話を構築することが、『サイボーグ宣言』の目論見である。無論この表現はアイロニカルだ。これら三本柱に対する信条とは、その対象への冒涜に等しく、神話の構築はその解体に等しい。言い換えれば、『サイボーグ宣言』は、矛盾闘争で満ちた世界如何にして思考し行動していくのかという問題に取り組むための政治的提案が狙いであったのだ。

人間中心主義からの脱却

ハラウェイの政治学の目的は、西洋思想として記述されてきた「人間」からの脱却である。ここでいう「人間」とは、人種差別的、男優位的、資本主義的、進歩主義的な概念である。この「人間」の伝統は、我々が文化的生産の源泉と豪語することで自然を搾取する伝統として記述されている。それは自然文化区別、肉体と精神区別、公的と私的の区別などといった様々な二項図式を構成してきた。『サイボーグ宣言』の狙いは、こうした伝統から脱却することで、二項対立に起因する搾取や抑圧、階級やジェンダーのような問題の無い世界を求めているのである。

「人間」の境界の解体

ハラウェイによれば、世界身体境界線を引いてきた様々な区別は、今や解体しつつある。そしてハラウェイは、この境界が科学と技術によって解体してしまっているという。この境界の解体は、次のような三段階によって進められてきた。

ハラウェイが指摘する第一の境界の解体は、人間動物区別に基づいている。生物学と進化論によって、今や人間動物差異はほぼ消滅しかけている。とりわけダーウィニズムが到来して以来、社会は、人間動物の一種に過ぎない可能性認知せざるを得なくなった。そしてこの可能性は、自然と超自然区別、医学と法学区別理性狂気区別、兆候と疾患の区別などのような二項図式を信頼してきた近代的主体を強く動揺させている。

人間動物差異が曖昧化すると共に、この双方を包括した概念となる有機体が、機械存在との差異によって認識されるようになった。だがサイバネティクス理論機械存在人間とを同一の理論で記述することを可能にして以来、自然と人工の区別精神と肉体の区別機械生物区別の間の差異の全てが尽く曖昧化することになった。これが第二の境界解体である。

今や有機体と機械存在は、コード化されたテクストとして再記述され、共通化することが可能になっている。ハラウェイによれば、この有機体と機械存在の曖昧化は、単なる計算上の機能主義的な合理性をもたらすだけではない。それは境界侵犯による快楽の享受を可能にする。有機体と機械存在の曖昧化は、人間機械化による完全性の実現という虚構を生み出すとハラウェイはいう。この虚構は、まさしく『ニュー・ロマンサー』的な電脳空間の魅力を伴わせる。だがサイバネティクス的な機械存在が仮に永遠に持続する脳のであるとすれば、それはコンピュータの計算に自己を譲り渡すことによる理性の放棄というよりは、むしろ道具的理性への奉仕を意味するのである。

それ故に『サイボーグ宣言』は、科学技術万能主義の神話を提唱している訳ではない。身体境界解釈を誰が操作するのかを考えてみれば、ネットワークの有する神話も可視化されてくるであろう。「人間」を何かに喩えるなら、コンピュータ構成要素やサブシステムと同様に、統計的な計算機能を主とするシステム・アーキテクチャが最も相応しいとハラウェイは述べている。全ての事物空間、肉体はそれそのものとして聖なのではない。むしろ「人間」の全ては部品なのであって、然るべき規範コードで記述された共通言語で命令を入力しさえすれば、部品相互が連動するように設計されているのである。

こうした「人間」と機械の密接な結合という認識は、聊か未来志向的でありながらも、1980年代の時代背景にも照応している。1980年代には、脳に三次元的な映像を送信する「ホロフォニクス(Holophonics)」のように、感覚器官を制御する知覚メディアが既に開発されている。ただしこの「人間」と機械構造的な結合は、必ずしも「人間」の外部に機械が接合するという形式によって成り立つ訳ではない。「人間」と機械差異が曖昧化しているというのは、今や「人間」の内部に機械が入り込む余地が生まれているということなのである。

この境界侵犯の決め手となるのが、第三の境界解体である。それは物理的なものと非物理的なものの差異の曖昧化によって結実する。マイクロエレクトロニクス化した機械存在は、遍在的で、視認できない程に微小である。ハラウェイは、こうした科学技術が不遜な成り上がり者ので、父なるの遍在精神をパロディ化するという。

技術的特異点(シンギュラリティ)

ハラウェイの分析はあくまでも1980年代の科学技術や政治システムの作動の実態を観察した上で実施されている。System of Systemsの高度の複合性情報の加速的な通信、物質的なものが非物質的なものになるまでのマイクロ化によって、人間中心主義的な意味での「人間」は、コンピュータから繰り出されるショック効果を絶えず体験し続けることになった。

技術的特異点(technological singularity)」、あるいは単にシンギュラリティと呼ばれている概念は、この人間中心主義的な意味での「人間」に止めを刺すパラダイムである。正確を期する意味で基礎概念(Concept)を確認するなら、「技術的特異点(シンギュラリティ)」は、人工知能人間の能力を超越する決定的な瞬間を言い表している。それは人間存在そのものを変容させるトランス・ヒューマニズム的なテクノロジーの加速的な進化によって結実する。技術的特異点(シンギュラリティ)以降の人間社会システムがどのように変異していくのかは、未だ誰にもわかっていない。しかし明らかなのは、テクノロジーの加速的な進化が、次なる進化の加速化を招くということだ。遂にはテクノロジーが、人間の領分を完全に超越した速度人間社会システム進化させ続けていくことになる。

確かに、既にその兆候は視えている。GoogleのTensorFlowをはじめとした機械学習ライブラリは、人工知能の研究開発をブラックボックス化することで加速化している。Microsoftの人工知能チャットロボットTay」は、Twitterでヘイト発言を繰り返したことで、人間人工知能の「共生」の問題を顕在化させた。IBMの認知コンピューティングである「Watson」は、専門の代役を務め始めたことで、テクノロジーとビジネスに対する影響力を強めている。

しかしこれらの動向は、技術的特異点(シンギュラリティ)を保証している訳でもなければ、それを阻害している訳でもない。これらの技術的発展可能にしているのはテクノロジーの進化に過ぎず、社会システム全体を含めた進化ではない。真に技術的特異点(シンギュラリティ)を実現するのならば、この双方の進化を加速化させる方法を追究しなければならない。

カーツワイルによれば、技術的特異点(シンギュラリティ)は2045年に予定されている。しかし人工知能をはじめとしたトランス・ヒューマニズム的なテクノロジーは、今現在において既に加速的な進化を実現している。故にこのカーツワイルの予測は外れる可能性もある。あるいは技術的特異点(シンギュラリティ)が早期到来を迎える可能性すらあり得るのだ。

「収穫加速の法則」

カーツワイルは、「収穫加速の法則(The Law of Accelerating Returns)」という主題の下で、科学技術の進化が指数関数的に加速化していくという仮説を立てていた。カーツワイルによれば、コンピュータ技術やそれを取り扱う産業組織は、費用対効用や合目的など、様々なポジティブ・フィードバック・ループを形成することで進化を成し遂げていくという。

この法則が言い表しているのは、科学技術の進化が、産業組織構成された社会システム進化をも助長しているということだ。厳密に言えば、相互に進化を助長し合っているという点で、科学技術と産業組織は「共進化(co-evolution)」の関係にあると言える。科学技術と産業組織進化可能にする方法やパラダイムは一つではない。進化が伴うのは、様々な方法やパラダイムの中からより有用な方法やパラダイムが選択された場合だ。こうした選択によるポジティブ・フィードバック構成されると、コンピュータ技術や産業組織は、更なる発展のために必要となる資源を増大させることが可能になる。発展のために配備できる資源が増大すれば、それだけよりスムーズな発展可能になる。

カーツワイルの仮説を前提として考えた場合、既存の進化が後続の進化を助長するということは、既存の進化が後続の進化を加速化させるということである。進化は、進化するごとに、加速化していく。<加速化した進化>は、更なる<進化の加速化>を可能にする。カーツワイルは、この動向を指数関数的に増大していく傾向として見積りを立てている。彼の仮説によれば、一つの具体的なパラダイムは、その方法やアプローチがその可能性を使い切らない限り、指数関数的な成長を可能にするという。可能性が潰えれば、パラダイムは別様のパラダイムへと転換される。新たな指数関数的な成長を担うのは、その新パラダイムなのであるという。

カーツワイルによれば、人類の種としての進化は、<生物学的な進化>から<技術的な進化>へと転換することになる。これも一つのパラダイム転換だ。指数関数的な成長を許された生命の形式は、自らの進化に数十億年必要であったもののが、数千万年、数十年で済むことになるという。技術的な進化のパラダイムを率いるのは、テクノロジーだ。人類の種としての進化は、もはや人間中心主義的に実現させるのではなく、コンピュータ主導で実現することになる。

すると文明を担うことになるのは、人間超越した人間後(ポストヒューマン)存在になる。この関連からカーツワイルは、コンピュータ人間の知超越する時代の到来を予見している。彼はその時点を技術的な「特異点(Singularity)」と呼ぶ。

特異点が指し示すのは、技術的な進化における「事象の地平線(event horizon)」に他ならない。特異点以降の技術的な進化は、もはや歴史から推論することができない「非知(Unknown)」の領域となる。数学的に言えば、特異であるということは、既存の適切な枠組みでは定義できないということを意味する。特異点は、一定の枠組みで定義し得る対象と定義し得ない対象を区別する境界線上の「点」だということになる。

ここまで確認すれば、技術的特異点(シンギュラリティ)に対するカーツワイルの未来志向に潜む致命的な盲点が露呈することになる。技術的特異点(シンギュラリティ)は、まず歴史との連続的な関連を持たない。むしろこの特異点が発現するのは、歴史的な連続性が断ち切られる瞬間である。カーツワイルの未来志向に伴っているのは、この非連続性を「指数関数的」という連続性を前提とした概念で予測するという矛盾である。

リスクと危険の差異

恐らくカーツワイルが見積もりを立てている技術的特異点(シンギュラリティ)の瞬間は、歴史危機たる破局の瞬間の一例となり得る。それは人工知能研究やロボット工学、IoTのアーキテクチャをはじめとした様々な知覚メディアによって可能になるショック体験の瞬間となり得るだろう。科学技術の加速的な進化に対して批判的な眼差しを向ける一般市民は少なくない。

哲学者ボストロムは、単に無知ゆえに科学技術を非難している訳でもなければ、単に闇弱ゆえに新技術の楽論を展開する訳でもなく、冷静な哲学的眼差しから新技術のリスク観察している。その際ボストロムが導入する区別は、「強度(Intensity)」と「範囲(Scope)」の区別である 。「強度」は人口の大小で差異化された尺度に他ならない。「パーソナル」から「ローカル」、そして「グローバル」に至るまで、徐々に「強度」は増していく。「パーソナル」が個人的なリスクとなる一方で、「グローバル」は、全人類的なリスクとなる。他方、「範囲」の尺度となるのは、「耐久的(Endurable)」と「終端的(Terminal)」の差異である。「耐久的」と「終端的」の区別は、直面するリスクの壮絶を定義している。耐久的なリスクは壮大な破壊を意味する。しかしそれは、回復可能ではなく、対処発見可能リスクである。一方これと対照的に、終端的なリスクは、や永続的な脳障害などのように、回復が困難であるか、あるいは不可能リスクに他ならない。

「耐久的でパーソナルなリスク」の場合、車の窃盗などのように、個人が直面するリスク意味する。だが車が盗まれたとしても、それが回復可能な問題に直結する訳ではない。法システムが作動すれば、ある程度その問題を解決することが可能だ。これに対して、「終端的でパーソナルなリスク」の場合は、致命的な交通事故などのように、個人が直面するより壮絶なリスクとなる。事故した運転手が生き返ることはあり得ない。故にその問題は回復可能なのである。

一方、「耐久的でローカルなリスク」は、一国の不況などのように、ある特定文化圏の集団が直面するリスクとなる。だが不況という問題は、経済システム政治システムが作動することで、回復させることが可能な問題だ。これに対して「終端的でローカルなリスク」は、集団が直面するより壮絶なリスクとなる。それはに直結したジェノサイドやテロリズムのように、生態的破局を含意している。

他方、これにも増して深刻化しているのが、「耐久的でグローバルなリスク」である。例えば地球環境破壊や生態系を巻き込んだ戦争などのように、この類のリスクは、社会(Gesellschaft)の全人類が直面する大規模な問題として観察されることになる。だがこの類のリスクも、回復可能であるという訳ではない。例えば二酸化炭素の排出量を抑えれば、オゾン層の破壊を軽減することはできるかもしれない。むしろ最も深刻なのは、「終端的でグローバルなリスク」である。このリスクは、「非知の問題X」である。問題Xとして潜在化している「終端的でグローバルなリスク」を、ボストロムは特に「実存的なリスク(existential risks)」と呼んでいる。これについては、例えばチェルノブイリや福島の原発事故を思い描けば、容易に連想できるだろう。技術により勃発した事故や災害によって、地球生命体が絶滅へと向かうシナリオは、実存リスクの最も明確な一種として挙げられる。それは、生命システム共生機構を破綻させる災禍に満ちた破局の状態であると言えよう。

ここで重要となるのは、社会学者ニクラス・ルーマンが導入した「リスク(Risk)」と「危険(Danger)」の区別である。このリスク危険区別は、社会システム理論の主導的差異であるシステム外部環境区別を前提としている。社会システム理論的に言えば、外部環境との差異構成することで自己言及的に作動するオートポイエーシス的なシステムにとって、災禍に満ちた破局の事態は外部環境による過剰な刺激の一つとなる。その刺激の内容はどうあれ、その刺激はシステムの状態変化を伴わせる。ただし、システムが如何にそのショック効果影響を被るのかは、システムそれ自体が自己言及的に規定することである。システムの状態変化がシステム自身に帰属される場合、システムはその状態変化をシステム自身の「行為(handlung)」による状態変化として意味付ける。一方、その状態変化が外部環境に帰属される場合には、システムはその状態変化を外部環境の「体験(erleben)」として意味付ける。

この「行為」と「体験」の区別を前提とすれば、リスクは、自らの意思決定という「行為」によって派生する諸問題である。その一方で危険は、そうした自らの判断とは無関連に「体験」せざるを得なくなる諸問題である。通常ならば我々は「リスク」と「安全」を区別している。だがルーマンのこの区別が言い表すのは、<より顕在的な問題>としてのリスクと<より潜在的な問題>としての危険差異である。我々がリスクを顕在的な問題として発見できるのは、その時には発見することのできない潜在的な問題に盲目的になっているためである。全ての問題を一時に発見し尽くすことなどできはしない。発見可能な問題と発見可能な問題を何処かで線引きしなければ、リスク観察など不可能なのである。

しかし、あるシステム意思決定が「リスク」を取る「行為」となる時、他のシステムはその意思決定影響を被ることによって、その「危険」を「体験」せざるを得なくなる場合がある。だがその「体験」に関わるシステムもまた、その「危険」に相対するための意思決定を下すことができる。その時、意思決定者としてのシステム決定の被影響者としてのシステムは、立場を相互に入れ替えることになる。「リスク」を取る「行為」を選択していたシステムが、今度は「危険」を「体験」することになるのだ。こうして、意思決定の「行為」に関わるシステムが複合化すれば、<より顕在的な問題>と<より潜在的な問題>の様相もまた複合化する。

ボストロムが言及している問題Xとしての「実存的なリスク」は、このリスク観察の不可避的な盲点として潜在化している純然たる危険に他ならない。ボストロムによれば、この「実存的なリスク」の解決を目指す者たちに、試行錯誤の時間が与えられることは許されないという。リスクコミュニケーション組織にせよ、倫理的な規範を重視するモラリストたちにせよ、国際的なセキュリティ機関にせよ、社会システムには、失敗から学習する機会すら与えられないという。過去に体験した出来事に基づいた条件反射的なアプローチは、全く役に立たないのだ。「実存的なリスク」の観察者は、積極的なアプローチを採らざるを得ない。つまり、先手を取る形で、リスクを予期していくしかないのだ。とはいえ、このボストロムの提案にも、危険は不可避的に伴うであろう。

ルーマン流に言えば、科学技術のリスクコミュニケーション盲点として派生する「危険」こそが、それまでの歴史連続性かられば全く別のあり方でもあり得る体験へと結実し得る。だから、その事象の地平線で遭遇することになるのが人工知能なのか、ロボットなのか、ナノテクノロジーなのかといった問題設定で技術的主題を方向付けてしまうと、むしろ想定外の偶発的な技術者の貢献から創発することになるであろう新技術の危機を助長することになるのである。

派生問題:テクノロジーの因果関係

テクノロジーの社会的な影響は、因果関係における複合性の増大として認識される。テクノロジーの複合性は、本来期待される事象の中に織り込まれている副作用や諸原因の要素の多数や多様と関連している。とりわけ特筆される傾向にあるのが、いわゆる「ヒューマンファクター(human factors)」である。ヒューマンファクターによって実際に何が生起するのかについては、可能性の諸条件が組み込まれた選択過程によって規定される。だがそうした諸条件は、状況に依存しているが故にモデル化できず、また予見できない諸条件となる。それは恰も、高度に複合的で時間に依存しているが故に、疎結合によってしか再生産され得ない世界の中に、技術的な装置によって緊密な結合が導入されているかのようにである。

テクノロジーは、こうした文脈に埋め込まれると、エラーに強固な形で、あるいはロバストな仕方で機能しなければならない。状況に依存して別のあり方でもあり得る諸条件が与えられる場合や、逆に取り下げられる場合にも、テクノロジーは偶発性に曝されながら自らの機能を貫徹しなければならない。

こうしたテクノロジーの複合性表現するために使用される用語は、多くの点で不適切である。いわゆる「インダストリアル・エンジニアリング(industrial engineering)」においては、「偶然(By accident)」、「故障(failure)」、「事故(incident)」などのような用語が相も変わらず使用されている。だがこれらの用語は、因果帰属が困難であることしか言い表していない。こうした概念でかかる複合性を指し示したところで、テクノロジーが機能する諸条件の予期せぬ変化を捕捉することは不可能である。テクノロジーそれ自体については、未だに規則的な反復という機械的な表現が好んで使用される。しかしながら、事の複合性を適切に記述するためには、事象全体の共通点を発見しなければならない。

あらゆる因果関係は、それが決定論的であれ、確率論的であれ、「原因」と「結果」の組み合わせの選択によって規定される。因果関係の観察者は、別のあり方でもあり得る原因」の中から幾つかの「原因」を選択すると共に、別のあり方でもあり得る幾つかの「結果」を選択することで、因果関係を特定する。それ故、様相論理学的に言えば、因果関係とは偶発的選択によって規定される。偶発的であるというのは、偶然という意味ではない。それは可能性と非必然性を同時に指し示す概念だ。

偶発性という概念は、二値論理的に指し示される訳ではない。不可能性否定偶発性となる訳でもなければ、必然性否定偶発性になる訳でもない。そうではなく、不可能性必然性を同時に否定しない限り、偶発性の概念は特定することができないのである。この意味偶発性とは、多値論理的に構造化された概念であるということになる。多値論理多文脈を前提としている。因果関係が偶発的であるというのは、多文脈な状況下で発見された複数の選択肢の中からの選択を前提とする。因果関係を特定するというのは、その観察者が如何に複合的な分析を展開していようとも、多文脈性を単純化させることで成り立つ。言い換えれば、因果関係の特定は複合性の縮減を前提とする。構造的な複合性機能的に単純化させる操作を前提としない限り、因果関係の特定は成立しない。

したがって、一般的なテクノロジーの処理過程は、因果関係の複合性の増大を前提としているものの、それ自体は機能的な単純化によって結実している。上述したように、この複合性を適切に記述するためには、事象全体の共通点を発見しなければならない訳だが、ここでいう共通点とは、まさに偶発性にあるという訳だ。複合的な因果関係によって構成されたテクノロジーの処理過程も、原理的には偶発的な出来事の継起として記述されなければならない。

派生問題:<制御の制御>の無限後退

この偶発性を前提とした記述に基づけば、テクノロジーが可逆的な結果しか招かないという誤った印象も直ちに一掃することが可能になる。この印象を招いてしまうのは、技術的な処理の機械的な反復である。反復のサイクルを逆回転させたところで、事象が元通りに戻ることなどありはしない。事実として生起しているものは全て、不可逆的に生起する。ここでむしろ問題となるのは、テクノロジーの処理過程が、資源配分を介して制御可能であるか否かである。またこれに関連して、そのテクノロジーがもはや必要ではなくなった場合に作動を停止させることが可能なのか否かである。

だがこれに対してテクノロジーは、二つの非機能要求を満たさなければならない。一つは、テクノロジー本体が継続的に作動し続けるように保証されなければならない場合に、資源が欠如したとしても、それどころか「ヒューマンエラー」でそのテクノロジーの電源がオフになったとしても、引き続き機能し続けなければならないという要求である。またもう一つの要求は、事故に遭遇した場合にのみ重要になる要因であるのならば、事故が起きた時に電源をオンにできなくてはならず、場合によっては自動的に起動できるようになっていなければならないという要求である。

こうした非機能要求は、<電源が切れても電源が切れない>というパラドックス的な要求となる。この非機能要求に応じるために、テクノロジーは高水準の制御機構を必要とする。だが、この制御機構それ自体についても、同様のパラドックス化された要求が与えられる。するとこの非機能要求は、<制御制御>の無限後退パラドックスを招くことになる。

一連のパラドックスを前提とすれば、もはや電源を切ることによる問題解決策機能しないことがわかる。テクノロジーのリスク対策では、テクノロジーを動作するための資源を絶つというアプローチが何の役にも立たない。テクノロジーの存在そのものを否定するというアプローチは、現実からの逃避以外の何物でもない。

派生問題:科学的な予測不可能性

制御制御>によって構造化されたテクノロジーのネットワークを前にすれば、テクノロジーの複合的な因果関係を科学的に予測することが如何に困難極まりないのかも明確化する。多くの点において、複合的なテクノロジーを利用することで起こり得る結末は、実際にそれを利用することによってしか知り得ない。つまり、そうしたテクノロジーを実際のアプリケーションとして実装することで、それを利用してない限り、そのテクノロジーについては学習することができないということである。

テクノロジーの構造は、科学的に予測するにはあまりにも複合的過ぎる。その理由は、単に研究それ自体がその後の研究成果の応用よりもリスクに満ちているためだけではない。それは、ある研究成果が応用される場合の文脈の変化それ自体が既に何らかのリスクを含み込んでいる可能性を、応用の当事者たちが十分に検討しないためでもある。例えば研究成果に関する専門知識を十分に習得していないエンジニアが、ソフトウェアの知識だけでその研究成果を応用しようとする場合、往々にしてリスクは派生してしまうことになる。例えば、如何に安全のために設計されたテクノロジーにせよ、監視システムや警告のための遠隔操作技術やセンシング技術にせよ、それを応用すること自体が既にリスキーとなるのである。

問題再設定:生態系の問題

以上のことから、テクノロジーのリスクやテクノロジーの危険をテクノロジーで解決することは不可能であることがわかる。それはまず<制御制御>という無限後退パラドックスに突き当たる。そしてまた、テクノロジーの問題解決策展開する「行為」自体が、既にリスクを派生させる。無論、テクノロジーを設計できる設計者たちにとって、自分自身が設計したテクノロジーは、この世界存在するテクノロジーの中のごく一部に過ぎない。テクノロジーの問題解決策展開している大多数は、自己ではなく他者である。故にテクノロジーの問題解決策は、多くの場合、リスクというよりも危険として「体験」される。「エンドユーザー」は論外だ。彼ら彼女らはあらゆるテクノロジーの派生問題を危険として「体験」するだけの存在でしかない。

ルーマンは、こうしたテクノロジーの諸問題を「生態系(Ökologie)」の問題として設定している。テクノロジーの諸問題は、意図せざる副作用を招くという点では、生態系の諸問題の一種となる。ルーマンは、結局テクノロジーそれ自体が生態的事象であると断定している。それは、彼自身が例示する原子力発電のテクノロジーが引き起こし得る我々の生命や身体への影響を確認するだけでも十分理解できるであろう。だが、「技術的特異点」をより身近な存在としている現代においては、上述したトランスヒューマニズム的なテクノロジーもまた、我々の生命や身体リスク危険に曝しているという点で、テクノロジーの意図せざる副作用を生態系の諸問題の一種として設定する力強い論拠を与えている。

生態系の諸問題は、テクノロジーの諸問題と同じように、計画的な行為の意図せざる副作用という形式で報告される。ところで、こうした報告そのものもまた一種の「行為」に他ならない。つまり生態系の諸問題は、それ自体生態的ではない形式で、「行為」によってのみ可視化され得るのである。

生態系の諸問題は、技術を稼働させているシステムへの刺激として報告される。生態系の諸問題は、その諸問題を知らなかった者だけではなく、まさに知っている者に対してこそ驚きを突き付ける。テクノロジーに支援された「行為」から出発するなら、生態系の諸問題は、テクノロジーが機能しないが故の問題には限定されないより幅広い問題として設定される。確かに機能不全に陥ったテクノロジーもまた問題ではある。だが、生態系の諸問題が惹起されるのは、まさにテクノロジーが機能しており、その目的が達成されることによってである。何らかの問題を解決することによって派生した諸問題が発見されることによって、生態系の諸問題という驚きがもたらされるのである。

問題解決策:社会システム理論

この関連からルーマンは、以上のようなリスク危険区別に基づく分析を、行為論的な観点からシステム理論的な観点へと切り替えている。ここでいうシステム理論的な観点とは、等価機能分析方法社会システム理論に準拠した観点に他ならない。確かに、トランス・ヒューマニズムや「技術的特異点」は、一見「テクノロジードリブン(technology driven)」に引き起こされ得る帰結であるようにも思える。だがそうしたテクノロジーの営みも、科学・学問経済政治などのような、社会的な機能を前提としている。テクノロジードリブンとは、社会的なコミュニケーションの産物である。それは社会の外部で発生し、社会システムを変革するような存在ではない。

別の言い方をするなら、テクノロジードリブンとは、社会システムの内部で構成された社会システムの一種である。言い換えれば、テクノロジードリブンと述べた場合に「駆動(drive)」されているのは、社会システムに他ならない。テクノロジードリブンとは、社会システム社会システムを駆動するという意味で、社会システム自己言及なのである。

この自己言及を直視するなら、恐らく「技術的特異点」の「楽論者」たちは出鼻を挫かれたかのような感覚に陥るかもしれない。だがここでより重要なのは、テクノロジードリブンに引き起こされ得る帰結――それがトランスヒューマニズムであれ、「技術的特異点」であれ――として期待されているのが、社会システムの将来に限定されているという点である。この期待には盲点がある。あらゆる社会システムは、システム外部環境区別によって構成されている。外部環境との差異を確保しなければ、社会システムはその作動を継続できない。社会システムとはコミュニケーションの総体である。故に、コミュニケーションが到達できない領域は、社会システム外部環境となる。

生態系の諸問題は、例えばスタートアップの事業計画書に盛り込まれている物語とは異なり、コミュニケーションでは捕捉し切れない派生問題である。企業のような組織投資や生産を決定する場合、経済それ自体の中にその手掛かりを自己言及的探索する。経営者や投資家かられば、市場外部環境であるかのように思える。だがそうした市場も、経済システム経済システムの内部で、つまり経済的なコミュニケーションによって構成した概念に過ぎない。つまり、スタートアップの代表取締役に語り得るのは、精々のところ市場の規模に応じた物語なのであって、全体社会外部環境で派生し得る生態的な諸問題について物語などではない。

生態的な諸問題を政治的な問題として再設定することにも同様の限界が伴う。集合的に拘束力のある決定を下す政治システムは、過去の政治的な決定の被影響者たちが公害問題などのような生態的危険に曝されていることを主題とすることで、<弱者>の保護の観点に基づく福祉国家的な問題を設定することが可能になる。だが、どの<弱者>を保護するのかについては、決定者の決定に左右される。民主主義的な決定者たちに選択肢を提供しているのは、マスメディアによって構成された世論である。そうした世論は、無論全体社会外部環境に位置するのではない。

科学的な予測不可能性という上述した派生問題を確認するだけでも、科学・学問もまた経済政治と同じような限界に直面していることがわかる。科学・学問は、先行研究の現状を出発点として参照することで、<研究についての研究>を反復する。それは言い換えれば、科学・学問によって構成された理論方法に準拠した上で、科学・学問的な問題を設定していくということだ。それ故、科学・学問もまた全体社会外部環境を分析してはいない。経済市場を、政治世論観察しているに過ぎないのと同じように、科学・学問は出版物や既存の言説を観察しているに過ぎない。

生態的な諸問題というのは、高度な不確実性を生み出す。しかもそれは、問題を自ら設定するところから生み出されるのではなく、言わば問題によって不意打ちされることによって生じる不確実性である。予測が不可能であるだけではなく、全体社会外部環境観察が困難極まりないことからも、既に生態的な諸問題の被影響者が何処にいるのかは見通し難くなっている。それはもはや、計画や意思決定によってリスクを冒す側や、その決定の被影響者に限定することすらできないほどである。

問題解決策:構造的な結合

このような生態的な諸問題としてテクノロジーを観察した場合、重要なのはあくまで全体社会外部環境で物質的に現実化している事柄である。それは、例えば「人間」の身体や「自然」現象のように、コミュニケーションではない作動によって生起する。この意味でテクノロジーは、全体社会が関わらざるを得ない生態的な諸問題の一種である。「自然」と「技術」の対立から出発してしまえば、テクノロジーが生態的な諸問題を惹起し得るというこれまでの問題意識も覆い隠されてしまう。そこでルーマンは、この「自然」と「技術」の区別棄却した上で、<制御された因果関係>と<制御されない因果関係>の区別を導入している。

テクノロジーの人工物は、物理的・化学的・有機体的な現実の水準にある。<制御された因果関係>と<制御されない因果関係>の区別は、この現実に対する区別である。<制御された因果関係>としての現実は、コミュニケーションによって利用可能社会的な現実として構成される。故に<制御された因果関係>としての現実は、社会システムの内部に位置する。逆に、<制御されない因果関係>としての現実は、社会システム外部環境に位置する物質的な現実として構成されている。

したがって、<制御された因果関係>と<制御されない因果関係>は、社会システムの内外境界を介して、ある種の関連にある。社会システム理論的に言い換えれば、この社会システム社会的な現実とテクノロジーの物質的な現実は、「構造的な結合(Strukturelle Kopplung)」の状態にある。テクノロジーは、社会システムによるテクノロジーを利用した開発によって作動できるようになっている。一方で社会システムは、テクノロジーが機能しているという前提の上で、様々な機能的問題領域の問題解決策展開する。

構造的な結合は、因果関係を指し示している訳でもなければ、目的指向的な関連を表している訳でもない。それは、<制御された因果関係>と<制御されない因果関係>が、因果関係によって結び付けられている訳でもなければ、一方が他方の目的達成のための手段となっている訳でもないということである。構造的な結合が言い表しているのは、「同時性(Gleichzeitigkeit」の関連に他ならない。この「同時性」は、「同期(Synchronisation」から区別される。双方の現実は非同期であるものの、刻一刻と進んでいく。一方の現実が他方の現実を「待つ」ことなどありはしない。それは、一方が他方を制御できないということの表れでもある。

社会システムとテクノロジーの構造的な結合が言い表しているのは、テクノロジーと接触している全体社会の諸領域において、テクノロジーと接触するのに相応しい社会的な形式発展しているということである。ここでいう社会的な形式とは、コミュニケーションで利用可能なある種の「インターフェイス(interface)」である。

構造的に結合しているということは、双方の構造に「インターフェイス」が成立しているということでもある。そのインターフェイスを利用したコミュニケーションは、それ以外の日常生活における個別具体的な実践の経験とは異質の経験を生み出す。それは、規範から逸脱しているものの、ある点で実効引照されているような実践的な経験となる。それは言わば、インターフェイスを利用することで望ましい効果を引き出すためのノウハウである。例えばそれまで対面でのミーティングが推奨されてきた企業にテレワークとWebを介したミーティングが導入されれば、そのテクノロジーのインターフェイスを利用した企業コミュニケーションは、対面でミーティングすべきであるという規範を放棄する代償に、より効率的な生産や労働可能にするであろう。

社会システムとテクノロジーが構造的に結合しているという着眼点は、社会システム社会構造がテクノロジーという異質な構造と接触することによって、変異する可能性があるという洞察へと結び付く。社会構造変異社会システム進化意味する。この構造的な結合という社会システム理論的な概念は、テクノロジーの加速的な進化社会システム進化を結び付ける概念である。テクノロジーと社会システムを同時に共進化させるための鍵となるのは、単なる社会的な現実コミュニケーションでもなければ、単なる物質的な現実のテクノロジーでもなく、この構造的な結合点に構成されているインターフェイスなのである。

参考文献

  • Benedikter, R., Giordano, J., & Fitzgerald, K. (2010). The future of the self-image of the human being in the age of transhumanism, neurotechnology and global transition. Futures, 42(10), 1102-1109.
  • Bostrom, Nick. (2002) “Existential Risks : Analyzing Human Extinction Scenarios and Related Hazards,” Journal of Evolution and Technology, Vol. 9.
  • Bostrom, Nick. (2005) “Transhumanist Values,” reprinted in Review of Contemporary Philosophy, Vol.4, No.1-2, pp87-101.
  • Fukuyama, F. (2006). The end of history and the last man. Simon and Schuster.
  • Haraway, D. (1987). A manifesto for cyborgs: Science, technology, and socialist feminism in the 1980s. Australian Feminist Studies, 2(4), 1-42.
  • Hegel, Georg Wilhelm Friedrich. (1807) Phänomenologie des Geistes, hrsg. v. E. Moldenhauer u. K. M. Michel, Suhrkamp.
  • Hegel, Georg Wilhelm Friedrich. (1821) Grundlinien der Philosophie des Rechts oder Naturrecht und Staatswissenschaft im Grundrisse, Berlin 1981.
  • Kant, Immanuel. (1876). Logik: Ein Handbuch zu Vorlesungen (Vol. 23). E. Koschny.
  • Kant, Immanuel. (1960) Werke in zehn Bänden, hg. v, Wilhelm Weischedel, Nachr (1983) d. Ausg. Darmstadt.
  • Kurzwiel, Raymond. (2001) “The law of accelerating returns, ” KurzweilAI.net
  • Luhmann, Niklas. (1986) Ökologische Kommunikation: Kann die moderne Gesellschaft sich auf ökologische Gefährdungen einstellen?, Opladen.
  • Luhmann, Niklas. (1991) Soziologie des Risikos, Berlin: Walter de Gruyter.
  • Luhmann, Niklas. (1997) Die Gesellschaft der Gesellschaft, Frankfurt/M, Suhrkamp.
  • Luhmann, Niklas. (1997) “Globalization or World Society?: How to conceive of modern society,” International Review of Sociology March 1997, Vol. 7 Issue 1, pp67-79.
  • Nietzsche, Friedrich Wilhelm. (1908) Also sprach Zarathustra: ein Buch fèur alle und keinen, Leipzig: Insel-Verlag.
  • Manfred E. Clynes, and Nathan S. Kline, (1960) “Cyborgs and space,” Astronautics, September, pp. 26–27 and 74–75.