技術的特異点(シンギュラリティ)の社会構造と「人間中心主義」の意味論 | Accel Brain

技術的特異点(シンギュラリティ)の社会構造と「人間中心主義」の意味論

Accel Brain; Console×

問題設定:科学・学問の社会構造と「人間後(ポストヒューマン)」の意味論

イマニュエル・カントは、論理学講義の序論において、哲学の諸概念を四つの問題に区別している。それは「私は何を知り得るのか?(Was kann ich wissen?)」、「私は何を為すべきなのか?(Was soll ich thuu?)」、「私は何を望めるのか?(Was darf ich boffen?)」、そして「人間とは何か?(Was ist der Mensch?)」である。「私は何を知り得るのか?」に対しては形而上学が、「私は何を為すべきなのか?」に対しては道徳が、「私は何を望めるのか?」に対しては宗教が、それぞれ問いに対する答えを用意してくれるという。しかしカントによれば、結局のところ、これら全ては人間学に帰着するという。と言うのも、最初の三つの問いは最後の問いに関わるためである。このカントの認識が意味しているのは、形而上学、倫理学、そして学の全ての問題を「人間学」が負うことになるということである。

注目すべきなのは、これら四つの問題設定共通する前提として、人間とその理性が根本的に有限であるということである。人間有限であるというのは、例えば人間についての知識が、言語労働、生活などのような所与の条件によって制約されているということである。それは、人間に関する知が実定的であるということもである。別の角度かられば、人間有限は、人間の認識可能性をも条件付けている。有限を有した人間を認識しようとする人間もまた、有限に縛られている訳だ。

問題解決策:「精神人間」

カントを全うに継承しようとすれば、観念論者たちの思索も止まってしまう。だからフリードリッヒ・ヘーゲルは、「人間」という概念を言わば単純化するしかなかった。「人間とは何か?」という問いに対するヘーゲルの回答は、人間の欲求の体系に過ぎない。それ以上の回答を求めても、彼の口からは、「精神(Geistes)」という用語しか出て来なかったであろう。

ヘーゲルが哲学的な主題とした「人間」は、「精神人間(Geistmensch)」のみである。人間精神であることによって本来的人間となる。言い換えれば、人間自己自身の自然的な起源と手を切ることによって、自己精神的起源を発見することが可能になる。つまり「精神人間」は、自然と相反する存在である。「精神人間」にとって、本来の自然とは、自然存在であることから解放された状態にこそ見出される。

ヘーゲルが人間をこのように考えたのは、理由の無いことではない。歴史哲学者としてのヘーゲルの参照問題は、キリスト教とフランス革命である。キリスト教のは、人間精神を自由にすると考えられてきた。フランス革命からドイツの統一に向けてプロシアが動き出した時期は、理性歴史を支配し、その究極的な目的が自由であるという価値が疑いようのない思想として受け入れられていた。この進歩史観を受容したヘーゲルは、世界が哲学と歩調を合わせて進んで行くと信じて疑わなかったのであろう。他ならぬ自由の意識進歩こそが歴史の原理となる。そしてそれは、今や目標に到達したのである。

問題解決策:「超人」と「最後の人間」の区別

『ツァラトゥストラ(Zarathustra)はかく語りき』は、その序文において、歴史と「精神人間」の終焉後の世界叙述している。フリードリッヒ・ニーチェはこの作品内で「超人(Übermensch)」と「最後の人間(letzte Mensch)」の区別を導入している。

最後の人間」は、「愛(Liebe)とは何か?」、「創造(Schoepfung)とは何か?」、「憧れ(Sehnsucht)とは何か?」、「星(Stern)とは何か?」といった直ぐには答えられない問いを他者と共有する。だがしかし、直ぐに解を提示しようとはしない。彼ら彼女らは相互に目配せし合うだけである。こうした答えようのない問いの解を「協働」しながら試行錯誤を繰り返すだけでも、だいぶ時間を潰せる。

ニーチェの眼には、こうした最後の人間の在り様が、小さな大地の上を飛び跳ねている蚤のようなものであって、中々根絶しないという。事実最後の人間は一番長生きする。どうやらツァラトゥストラによると、最後の人間たちは「幸福(Glueck)」を発明した(erfunden)らしい。「発明した(erfunden)」ということは、彼ら彼女らは別に幸福感を発見していないということでもある。ここで人工的な幸福感として例示できるのは、麻薬であろう。ニーチェによれば、近代社会では生活水準が徐々に高まることで安楽な生活が実現されるようになった結果精神が奴隷化していく過程なのであった。麻薬によって構成された依存症は、この奴隷化の一因となり得る。

最後の人間は、型に嵌った人間終焉物語っている。だが最後の人間したの後を追って消え去っていくことは、ニーチェからすれば、終末論を意味しない。『ツァラトゥストラ(Zarathustra)はかく語りき』は確かに歴史の終焉後の世界ではある。だがこの歴史には、進歩史観のそれのようには、歴史に終点があるという発想が無い。だからこそ、最後の人間は一番長生きする。最後の人間が関わるのは、平準化と画一化の労働である。誰もがとても類似していて、微小で、とても丸く、そしてとても社交的になっており、それでいて退屈だ。小さく脆弱で仄かな幸福感が、全ての人間に対して一様にプレゼントされる。

超人は、型に嵌った人間を人文科学から追放するための概念でもある。ニーチェによれば、ぬことと型に嵌った人間が消え去ることは同じことなのである。カントが有限として観察していた人間も、ニーチェにとっては終末を迎えた人間に等しいのだ。

問題解決策:「最初の人間」と「最後の人間」の区別

ヘーゲリアンやポストモダニストたちの歴史は、様々な「歴史の終焉(The End of History)」論の集積によって成り立っている。何らかのショック体験を経て、全体社会の平和と自由と安定を無期限に維持することが可能になったという見通しが立つ度に、彼らにとっての歴史は終わるのである。歴史の終焉後の世界では、もはや世界政治破局させるような戦争やテロ行為は成り立たない。文字通り歴史的な大事件はもはや起こり得ないという意味で、歴史終焉を迎えたのである。

数ある歴史の終焉論の中でも、とりわけフランシス・フクヤマのそれは、ニーチェの「最後の人間」と関連付ける点で特徴的である。フクヤマは、ニーチェの「最後の人間」とヘーゲルの「最初の人間(first man)」との区別を導入している。この「最初の人間」は、ヘーゲルによれば、名誉のための闘争の後に、誇り高き勝者なる主人と忍耐で応じる敗者たる奴隷に区別された。この区別に準じて、貴族と奴隷を分かつ階級の差異が派生した。これが「歴史の始まり(Beginning of history)」である。フクヤマによれば、歴史の始まりから終わりまでの過程は、勝敗に執着する威勢の良い「最初の人間」が、価値相対主義的に平等を愛しながら闘争否定する温厚な「最後の人間」へと成長していく過程なのである。

問題解決策:「超人」と「人間後(ポストヒューマン)の存在」の区別

超人は、この歴史の終焉後の世界における例外的な存在である。ニーチェの関心は、例外的な個人における個人的な急成長と文化的な洗練にこそ向けられていた。キリスト教の奴隷道徳人生への脅威を克服しなければならないというのが、彼の問題意識である。しかし、歴史の終焉後の世界における「人間」概念は、別のあり方でもあり得る超人とは別様の、より科学技術に傾倒した存在として提唱されているのが、「トランスヒューマニズム(Transhumanism)」である。

トランスヒューマニストの哲学者ニック・ボストロムも注意を促しているように、表面的な類似性が伴うからといって、ニーチェの超人論とトランスヒューマニズムを混同してはならない。トランスヒューマニズムは、科学技術によって人間身体認知能力を向上させることで、人間の状態を進化させていく思想である。トランスヒューマニズムは単なる新興科学でもなければ、まして新興宗教でもない。その起源はルネサンスにまで遡及できる。直接的な着想は1923年に発表されたJ・B・S・ホールデンによる『ダイダロス、あるいは科学と未来(Daedalus or Science and the Future)』に端を発すると考えられている。「トランスヒューマニズム(Transhumanism)」という用語を初めて用いた人物は、ホールデンの親友であったオルダス・ハクスリーの兄にあたるジュリアン・ハクスリーであるとされる。

一般的なトランスヒューマニストたちは、ナノテクノロジー、バイオテクノロジー情報工学、制御工学、認知科学、そして神経科学などの分野から出発して、人工知能ヴァーチャルリアリティエンハンスメント(enhancement)、遺伝子操作などの方法を利用することで、寿命の延長、肉体の強化、脳とコンピュータの接続などといった研究テーマを展開している。トランスヒューマニストは、科学技術によって人間を「人間後(ポストヒューマン)存在(Posthuman Existence)」へと進化させるべきであり、そうなり得ると想定している。

『サイボーグ宣言』の意味論

「我々は皆キメラ(chimeras)である」という挑発的な主張で知られているダナ・ハラウェイの『サイボーグ宣言(A Manifesto for Cyborgs)』は、1985年に発表されて以来、多くのフェミニストやSF評論たちによって幾度と無く読まれてきた。ハラウェイの著作は、とりわけサイバーパンクの作品群を読み解く上での理論背景を築いている。この『サイボーグ宣言』は、人間機械区別人間動物区別などといった旧来の境界超越しようとする点において、「人間後(ポストヒューマン)存在(Posthuman Existence)」を記述する上での意味論として機能している。

サイボーグ(Cyborgs)」という概念は、もともとはアメリカの医学者マンフレッド・クラインズとネイザン・S・クラインが1960年代に宇宙旅行との関連から提唱した概念である。サイボーグ技術の当初の参照問題は、宇宙空間で起こり得る循環器系や呼吸器系の障害である。サイボーグ技術は、この問題に対する解決策として導入されている。それは生物学的機能機械的に代替することで身体を支援するべく機能する。この問題設定背景にあるのは、科学と技術に対する楽的な展望である。当時の宇宙旅行は、人類が自身の生物学的進化に積極的に寄与することを求めている事例の一つとして社会的に認知されていた。科学的な進歩は、人類が今現在見知っている自然とは極端に異なる環境で人間を存続可能にするために利用され得ると考えられていたのである。

「宇宙にいる人間が、飛行機に乗ることに加えて、自身を生かし続けるために、常に物事を点検して調整する必要がある場合、人間機械の奴隷になる。人間恒常性システムと同様に、サイボーグの目的は、そうしたロボットと似た諸問題を自動的かつ無意識的に取り扱う組織システムを提供することにある。それは、人類を探索、創造、思考、そして感覚のための自由を与える。」
Manfred E. Clynes, and Nathan S. Kline, (1960) “Cyborgs and space,” Astronautics, September, pp. 26–27 and 74–75. 引用はp.27より

語源として言えば、サイボーグとは、「サイバネティクス的な生物(Cybernetic Organism)」を意味する。サイバネティクス的であるというのは、身体生物学的な自己制御機能に関与するからだ。実際サイボーグ技術は「自己制御的な人間機械システム(self-regulating man-machine systems)」として考案されている。自己制御的であるのは、身体そのものの「自恒常性制御(autonomous homeostatic controls)」と協調するために、意識に依存しないという意味においてである。サイボーグとは、無意識的(unconsciously)に統合された恒常性維持システムとして機能するように、身体を外生的に「拡張(extended)」するシステム複合体に他ならない。こうしたシステムは、宇宙空間のような新しい環境に適応させるために、生物自己制御機能拡張する要素を積極的に活用する。

ハラウェイが定義する「サイボーグ(Cyborgs)」もまた、「サイバネティクス的な生物(Cybernetic Organism)」を意味する。ただしハラウェイのサイボーグ論は、必ずしも科学と技術の進歩に楽的な発想によって記述されている訳ではない。サイボーグ機械生物のハイブリットであると共に、虚構の生物であり、また社会的実在の生物でもある。サイボーグとは、通信工学と制御工学によって構成された生物であると共に、社会で「人間」と共同している存在でもある。自己同一性身体に関して本来的に両立不可能な二項を必要とするが故に、サイボーグはこの両者を包摂しているのである。既に対極的な二項を自己の内部に包含しているサイボーグは、それ以上自己とは異質な存在や異なる起源を持つ存在との一体化を求めようとはしない。それ故にサイボーグは、両立不可能な二項を包摂すると共に、自己の起源を度外視できるという意味で、既成概念を超越する存在と見做されている。

注意しなければならないのは、この『サイボーグ宣言』の副題が、「1980年代の科学と技術、そして社会主義的フェミニズムについて」であるということだ。この論文は、本来文学の分野に特化した著作なのではない。『サイボーグ宣言』は、SF批評の理論武装のためではなく、現実社会情勢、当時で言えばレーガン政権の政治現実を参照問題としている。1980年代という時代に対して、フェミニズム、社会主義、そして唯物論的な思想という三本柱を信条とするアイロニカルな政治神話を構築することが、『サイボーグ宣言』の目論見である。無論この表現はアイロニカルだ。これら三本柱に対する信条とは、その対象への冒涜に等しく、神話の構築はその解体に等しい。言い換えれば、『サイボーグ宣言』は、矛盾闘争で満ちた世界如何にして思考し行動していくのかという問題に取り組むための政治的提案が狙いであったのだ。

人間中心主義からの脱却

ハラウェイの政治学の目的は、西洋思想として記述されてきた「人間」からの脱却である。ここでいう「人間」とは、人種差別的、男優位的、資本主義的、進歩主義的な概念である。この「人間」の伝統は、我々が文化的生産の源泉と豪語することで自然を搾取する伝統として記述されている。それは自然文化区別、肉体と精神区別、公的と私的の区別などといった様々な二項図式を構成してきた。『サイボーグ宣言』の狙いは、こうした伝統から脱却することで、二項対立に起因する搾取や抑圧、階級やジェンダーのような問題の無い世界を求めているのである。

「人間」の境界の解体

ハラウェイによれば、世界身体境界線を引いてきた様々な区別は、今や解体しつつある。そしてハラウェイは、この境界が科学と技術によって解体してしまっているという。この境界の解体は、次のような三段階によって進められてきた。

ハラウェイが指摘する第一の境界の解体は、人間動物区別に基づいている。生物学と進化論によって、今や人間動物差異はほぼ消滅しかけている。とりわけダーウィニズムが到来して以来、社会は、人間動物の一種に過ぎない可能性認知せざるを得なくなった。そしてこの可能性は、自然と超自然区別、医学と法学区別理性狂気区別、兆候と疾患の区別などのような二項図式を信頼してきた近代的主体を強く動揺させている。

人間動物差異が曖昧化すると共に、この双方を包括した概念となる有機体が、機械存在との差異によって認識されるようになった。だがサイバネティクス理論機械存在人間とを同一の理論で記述することを可能にして以来、自然と人工の区別精神と肉体の区別機械生物区別の間の差異の全てが尽く曖昧化することになった。これが第二の境界解体である。

今や有機体と機械存在は、コード化されたテクストとして再記述され、共通化することが可能になっている。ハラウェイによれば、この有機体と機械存在の曖昧化は、単なる計算上の機能主義的な合理性をもたらすだけではない。それは境界侵犯による快楽の享受を可能にする。有機体と機械存在の曖昧化は、人間機械化による完全性の実現という虚構を生み出すとハラウェイはいう。この虚構は、まさしく『ニュー・ロマンサー』的な電脳空間の魅力を伴わせる。だがサイバネティクス的な機械存在が仮に永遠に持続する脳のであるとすれば、それはコンピュータの計算に自己を譲り渡すことによる理性の放棄というよりは、むしろ道具的理性への奉仕を意味するのである。

それ故に『サイボーグ宣言』は、科学技術万能主義の神話を提唱している訳ではない。身体境界解釈を誰が操作するのかを考えてみれば、ネットワークの有する神話も可視化されてくるであろう。「人間」を何かに喩えるなら、コンピュータ構成要素やサブシステムと同様に、統計的な計算機能を主とするシステム・アーキテクチャが最も相応しいとハラウェイは述べている。全ての事物空間、肉体はそれそのものとして聖なのではない。むしろ「人間」の全ては部品なのであって、然るべき規範コードで記述された共通言語で命令を入力しさえすれば、部品相互が連動するように設計されているのである。

こうした「人間」と機械の密接な結合という認識は、聊か未来志向的でありながらも、1980年代の時代背景にも照応している。1980年代には、脳に三次元的な映像を送信する「ホロフォニクス(Holophonics)」のように、感覚器官を制御する知覚メディアが既に開発されている。ただしこの「人間」と機械構造的な結合は、必ずしも「人間」の外部に機械が接合するという形式によって成り立つ訳ではない。「人間」と機械差異が曖昧化しているというのは、今や「人間」の内部に機械が入り込む余地が生まれているということなのである。

この境界侵犯の決め手となるのが、第三の境界解体である。それは物理的なものと非物理的なものの差異の曖昧化によって結実する。マイクロエレクトロニクス化した機械存在は、遍在的で、視認できない程に微小である。ハラウェイは、こうした科学技術が不遜な成り上がり者ので、父なるの遍在精神をパロディ化するという。

技術的特異点(シンギュラリティ)

ハラウェイの分析はあくまでも1980年代の科学技術や政治システムの作動の実態を観察した上で実施されている。System of Systemsの高度の複合性情報の加速的な通信、物質的なものが非物質的なものになるまでのマイクロ化によって、人間中心主義的な意味での「人間」は、コンピュータから繰り出されるショック効果を絶えず体験し続けることになった。

技術的特異点(technological singularity)」、あるいは単にシンギュラリティと呼ばれている概念は、この人間中心主義的な意味での「人間」に止めを刺すパラダイムである。正確を期する意味で基礎概念(Concept)を確認するなら、「技術的特異点(シンギュラリティ)」は、人工知能人間の能力を超越する決定的な瞬間を言い表している。それは人間存在そのものを変容させるトランス・ヒューマニズム的なテクノロジーの加速的な進化によって結実する。技術的特異点(シンギュラリティ)以降の人間社会システムがどのように変異していくのかは、未だ誰にもわかっていない。しかし明らかなのは、テクノロジーの加速的な進化が、次なる進化の加速化を招くということだ。遂にはテクノロジーが、人間の領分を完全に超越した速度人間社会システム進化させ続けていくことになる。

確かに、既にその兆候は視えている。GoogleのTensorFlowをはじめとした機械学習ライブラリは、人工知能の研究開発をブラックボックス化することで加速化している。Microsoftの人工知能チャットロボットTay」は、Twitterでヘイト発言を繰り返したことで、人間人工知能の「共生」の問題を顕在化させた。IBMの認知コンピューティングである「Watson」は、専門の代役を務め始めたことで、テクノロジーとビジネスに対する影響力を強めている。

しかしこれらの動向は、技術的特異点(シンギュラリティ)を保証している訳でもなければ、それを阻害している訳でもない。これらの技術的発展可能にしているのはテクノロジーの進化に過ぎず、社会システム全体を含めた進化ではない。真に技術的特異点(シンギュラリティ)を実現するのならば、この双方の進化を加速化させる方法を追究しなければならない。

カーツワイルによれば、技術的特異点(シンギュラリティ)は2045年に予定されている。しかし人工知能をはじめとしたトランス・ヒューマニズム的なテクノロジーは、今現在において既に加速的な進化を実現している。故にこのカーツワイルの予測は外れる可能性もある。あるいは技術的特異点(シンギュラリティ)が早期到来を迎える可能性すらあり得るのだ。

「収穫加速の法則」

カーツワイルは、「収穫加速の法則(The Law of Accelerating Returns)」という主題の下で、科学技術の進化が指数関数的に加速化していくという仮説を立てていた。カーツワイルによれば、コンピュータ技術やそれを取り扱う産業組織は、費用対効用や合目的など、様々なポジティブ・フィードバック・ループを形成することで進化を成し遂げていくという。

この法則が言い表しているのは、科学技術の進化が、産業組織構成された社会システム進化をも助長しているということだ。厳密に言えば、相互に進化を助長し合っているという点で、科学技術と産業組織は「共進化(co-evolution)」の関係にあると言える。科学技術と産業組織進化可能にする方法やパラダイムは一つではない。進化が伴うのは、様々な方法やパラダイムの中からより有用な方法やパラダイムが選択された場合だ。こうした選択によるポジティブ・フィードバック構成されると、コンピュータ技術や産業組織は、更なる発展のために必要となる資源を増大させることが可能になる。発展のために配備できる資源が増大すれば、それだけよりスムーズな発展可能になる。

カーツワイルの仮説を前提として考えた場合、既存の進化が後続の進化を助長するということは、既存の進化が後続の進化を加速化させるということである。進化は、進化するごとに、加速化していく。<加速化した進化>は、更なる<進化の加速化>を可能にする。カーツワイルは、この動向を指数関数的に増大していく傾向として見積りを立てている。彼の仮説によれば、一つの具体的なパラダイムは、その方法やアプローチがその可能性を使い切らない限り、指数関数的な成長を可能にするという。可能性が潰えれば、パラダイムは別様のパラダイムへと転換される。新たな指数関数的な成長を担うのは、その新パラダイムなのであるという。

カーツワイルによれば、人類の種としての進化は、<生物学的な進化>から<技術的な進化>へと転換することになる。これも一つのパラダイム転換だ。指数関数的な成長を許された生命の形式は、自らの進化に数十億年必要であったもののが、数千万年、数十年で済むことになるという。技術的な進化のパラダイムを率いるのは、テクノロジーだ。人類の種としての進化は、もはや人間中心主義的に実現させるのではなく、コンピュータ主導で実現することになる。

すると文明を担うことになるのは、人間超越した人間後(ポストヒューマン)存在になる。この関連からカーツワイルは、コンピュータ人間の知超越する時代の到来を予見している。彼はその時点を技術的な「特異点(Singularity)」と呼ぶ。

特異点が指し示すのは、技術的な進化における「事象の地平線(event horizon)」に他ならない。特異点以降の技術的な進化は、もはや歴史から推論することができない「非知(Unknown)」の領域となる。数学的に言えば、特異であるということは、既存の適切な枠組みでは定義できないということを意味する。特異点は、一定の枠組みで定義し得る対象と定義し得ない対象を区別する境界線上の「点」だということになる。

ここまで確認すれば、技術的特異点(シンギュラリティ)に対するカーツワイルの未来志向に潜む致命的な盲点が露呈することになる。技術的特異点(シンギュラリティ)は、まず歴史との連続的な関連を持たない。むしろこの特異点が発現するのは、歴史的な連続性が断ち切られる瞬間である。カーツワイルの未来志向に伴っているのは、この非連続性を「指数関数的」という連続性を前提とした概念で予測するという矛盾である。

リスクと危険の差異

恐らくカーツワイルが見積もりを立てている技術的特異点(シンギュラリティ)の瞬間は、歴史危機たる破局の瞬間の一例となり得る。それは人工知能研究やロボット工学、IoTのアーキテクチャをはじめとした様々な知覚メディアによって可能になるショック体験の瞬間となり得るだろう。科学技術の加速的な進化に対して批判的な眼差しを向ける一般市民は少なくない。

哲学者ボストロムは、単に無知ゆえに科学技術を非難している訳でもなければ、単に闇弱ゆえに新技術の楽論を展開する訳でもなく、冷静な哲学的眼差しから新技術のリスク観察している。その際ボストロムが導入する区別は、「強度(Intensity)」と「範囲(Scope)」の区別である 。「強度」は人口の大小で差異化された尺度に他ならない。「パーソナル」から「ローカル」、そして「グローバル」に至るまで、徐々に「強度」は増していく。「パーソナル」が個人的なリスクとなる一方で、「グローバル」は、全人類的なリスクとなる。他方、「範囲」の尺度となるのは、「耐久的(Endurable)」と「終端的(Terminal)」の差異である。「耐久的」と「終端的」の区別は、直面するリスクの壮絶を定義している。耐久的なリスクは壮大な破壊を意味する。しかしそれは、回復可能ではなく、対処発見可能リスクである。一方これと対照的に、終端的なリスクは、や永続的な脳障害などのように、回復が困難であるか、あるいは不可能リスクに他ならない。

「耐久的でパーソナルなリスク」の場合、車の窃盗などのように、個人が直面するリスク意味する。だが車が盗まれたとしても、それが回復可能な問題に直結する訳ではない。法システムが作動すれば、ある程度その問題を解決することが可能だ。これに対して、「終端的でパーソナルなリスク」の場合は、致命的な交通事故などのように、個人が直面するより壮絶なリスクとなる。事故した運転手が生き返ることはあり得ない。故にその問題は回復可能なのである。

一方、「耐久的でローカルなリスク」は、一国の不況などのように、ある特定文化圏の集団が直面するリスクとなる。だが不況という問題は、経済システム政治システムが作動することで、回復させることが可能な問題だ。これに対して「終端的でローカルなリスク」は、集団が直面するより壮絶なリスクとなる。それはに直結したジェノサイドやテロリズムのように、生態的な破局を含意している。

他方、これにも増して深刻化しているのが、「耐久的でグローバルなリスク」である。例えば地球環境破壊や生態系を巻き込んだ戦争などのように、この類のリスクは、社会(Gesellschaft)の全人類が直面する大規模な問題として観察されることになる。だがこの類のリスクも、回復可能であるという訳ではない。例えば二酸化炭素の排出量を抑えれば、オゾン層の破壊を軽減することはできるかもしれない。むしろ最も深刻なのは、「終端的でグローバルなリスク」である。このリスクは、「非知の問題X」である。問題Xとして潜在化している「終端的でグローバルなリスク」を、ボストロムは特に「実存的なリスク(existential risks)」と呼んでいる。これについては、例えばチェルノブイリや福島の原発事故を思い描けば、容易に連想できるだろう。技術により勃発した事故や災害によって、地球生命体が絶滅へと向かうシナリオは、実存リスクの最も明確な一種として挙げられる。それは、生命システム共生機構を破綻させる災禍に満ちた破局の状態であると言えよう。

ここで重要となるのは、社会学者ニクラス・ルーマンが導入した「リスク(Risk)」と「危険(Danger)」の区別である。このリスク危険区別は、社会システム理論の主導的差異であるシステム外部環境区別を前提としている。社会システム理論的に言えば、外部環境との差異構成することで自己言及的に作動するオートポイエーシス的なシステムにとって、災禍に満ちた破局の事態は外部環境による過剰な刺激の一つとなる。その刺激の内容はどうあれ、その刺激はシステムの状態変化を伴わせる。ただし、システムが如何にそのショック効果影響を被るのかは、システムそれ自体が自己言及的に規定することである。システムの状態変化がシステム自身に帰属される場合、システムはその状態変化をシステム自身の「行為(handlung)」による状態変化として意味付ける。一方、その状態変化が外部環境に帰属される場合には、システムはその状態変化を外部環境の「体験(erleben)」として意味付ける。

この「行為」と「体験」の区別を前提とすれば、リスクは、自らの意思決定という「行為」によって派生する諸問題である。その一方で危険は、そうした自らの判断とは無関連に「体験」せざるを得なくなる諸問題である。通常ならば我々は「リスク」と「安全」を区別している。だがルーマンのこの区別が言い表すのは、<より顕在的な問題>としてのリスクと<より潜在的な問題>としての危険差異である。我々がリスクを顕在的な問題として発見できるのは、その時には発見することのできない潜在的な問題に盲目的になっているためである。全ての問題を一時に発見し尽くすことなどできはしない。発見可能な問題と発見可能な問題を何処かで線引きしなければ、リスク観察など不可能なのである。

しかし、あるシステム意思決定が「リスク」を取る「行為」となる時、他のシステムはその意思決定影響を被ることによって、その「危険」を「体験」せざるを得なくなる場合がある。だがその「体験」に関わるシステムもまた、その「危険」に相対するための意思決定を下すことができる。その時、意思決定者としてのシステム決定の被影響者としてのシステムは、立場を相互に入れ替えることになる。「リスク」を取る「行為」を選択していたシステムが、今度は「危険」を「体験」することになるのだ。こうして、意思決定の「行為」に関わるシステムが複合化すれば、<より顕在的な問題>と<より潜在的な問題>の様相もまた複合化する。

ボストロムが言及している問題Xとしての「実存的なリスク」は、このリスク観察の不可避的な盲点として潜在化している純然たる危険に他ならない。ボストロムによれば、この「実存的なリスク」の解決を目指す者たちに、試行錯誤の時間が与えられることは許されないという。リスクコミュニケーション組織にせよ、倫理的な規範を重視するモラリストたちにせよ、国際的なセキュリティ機関にせよ、社会システムには、失敗から学習する機会すら与えられないという。過去に体験した出来事に基づいた条件反射的なアプローチは、全く役に立たないのだ。「実存的なリスク」の観察者は、積極的なアプローチを採らざるを得ない。つまり、先手を取る形で、リスクを予期していくしかないのだ。とはいえ、このボストロムの提案にも、危険は不可避的に伴うであろう。

ルーマン流に言えば、科学技術のリスクコミュニケーション盲点として派生する「危険」こそが、それまでの歴史連続性かられば全く別のあり方でもあり得る体験へと結実し得る。だから、その事象の地平線で遭遇することになるのが人工知能なのか、ロボットなのか、ナノテクノロジーなのかといった問題設定で技術的主題を方向付けてしまうと、むしろ想定外の偶発的な技術者の貢献から創発することになるであろう新技術の危機を助長することになるのである。

参考文献

  • Benedikter, R., Giordano, J., & Fitzgerald, K. (2010). The future of the self-image of the human being in the age of transhumanism, neurotechnology and global transition. Futures, 42(10), 1102-1109.
  • Bostrom, Nick. (2002) “Existential Risks : Analyzing Human Extinction Scenarios and Related Hazards,” Journal of Evolution and Technology, Vol. 9.
  • Bostrom, Nick. (2005) “Transhumanist Values,” reprinted in Review of Contemporary Philosophy, Vol.4, No.1-2, pp87-101.
  • Fukuyama, F. (2006). The end of history and the last man. Simon and Schuster.
  • Haraway, D. (1987). A manifesto for cyborgs: Science, technology, and socialist feminism in the 1980s. Australian Feminist Studies, 2(4), 1-42.
  • Hegel, Georg Wilhelm Friedrich. (1807) Phänomenologie des Geistes, hrsg. v. E. Moldenhauer u. K. M. Michel, Suhrkamp.
  • Hegel, Georg Wilhelm Friedrich. (1821) Grundlinien der Philosophie des Rechts oder Naturrecht und Staatswissenschaft im Grundrisse, Berlin 1981.
  • Kant, Immanuel. (1876). Logik: Ein Handbuch zu Vorlesungen (Vol. 23). E. Koschny.
  • Kant, Immanuel. (1960) Werke in zehn Bänden, hg. v, Wilhelm Weischedel, Nachr (1983) d. Ausg. Darmstadt.
  • Kurzwiel, Raymond. (2001) “The law of accelerating returns, ” KurzweilAI.net
  • Luhmann, Niklas. (1986) Ökologische Kommunikation: Kann die moderne Gesellschaft sich auf ökologische Gefährdungen einstellen?, Opladen.
  • Luhmann, Niklas. (1997) Die Gesellschaft der Gesellschaft, Frankfurt/M, Suhrkamp.
  • Luhmann, Niklas. (1997) “Globalization or World Society?: How to conceive of modern society,” International Review of Sociology March 1997, Vol. 7 Issue 1, pp67-79.
  • Nietzsche, Friedrich Wilhelm. (1908) Also sprach Zarathustra: ein Buch fèur alle und keinen, Leipzig: Insel-Verlag.
  • Manfred E. Clynes, and Nathan S. Kline, (1960) “Cyborgs and space,” Astronautics, September, pp. 26–27 and 74–75.