技術的特異点
出典: フリー百科事典『ウィキペディア（Wikipedia）』
未来研究において、技術的特異点（Technological Singularity）とは、人類の技術開発の歴史から推測して得られる未来のモデルの正確かつ信頼できる限界（「事象の地平面」）を表しており、「強い人工知能」や人間の知能増幅が可能となったときに現われると考えられている。フューチャリストらは、特異点の後では科学技術の進歩を支配するのは人類ではなく強い人工知能やポストヒューマンとなり、従って人類の過去の傾向に基づいた変化の予測モデルは通用しなくなると考えている。
この概念は、最初に数学者ヴァーナー・ヴィンジと発明者でありフューチャリストであるレイ・カーツワイルにより提示された。彼らは科学技術の進展の速度が人類の生物学的限界を超えて意識を解放することで加速されると予言した。この意識の解放は人間の脳を直接コンピュータネットワークに接続することで計算能力を高めることだけで実現するのではない。それ以上にポストヒューマンやAIの形成する文化が現在の人類には理解できないものへと加速して変貌していくのである。カーツワイルはこの加速がムーアの法則に代表される技術革新の指数関数的傾向に従うと考え、これをカーツワイル自身の加速するリターンの法則（Law of Accelerating Returns）と呼ぶ。
ある人々は特異点を肯定的に捉えていて、その実現のために働いている。一方、他の人々は特異点を危険で好ましくなく、あり得ないと考えている。特異点を発生させる実際の方法や、特異点の影響、危険な場合の特異点の避け方などが議論されている。
目次 |
[編集] 歴史と定義
この概念は、20世紀の最後の20年に出てきたことと思われがちだが、技術的特異点のアイデアは実際1950年代に遡る。
- 「一度、人間の生活を変化させる技術発展の加速について会話したが、その結論として得られたのは、根源的な特異点がいずれ現われて我々の知る人類はそのままでは存続できなくなるだろうということだ」—スタニスワフ・ウラム、1958年5月、ジョン・フォン・ノイマンとの会話について
この引用文は文脈から切り離されフォン・ノイマン自身の言葉とされることがある。これはノイマンが有名人ということも関係している。
1965年、統計家 I. J. Good は、超人的な知能の効果を強調するという点でより特異点らしいシナリオを描いた。
- 「超知的マシンを、いかなる賢い人もはるかに凌ぐ知的なマシンであるとする。そのようなマシンの設計も知的活動に他ならないので、超知的マシンはさらに知的なマシンを設計できるだろう。それによって間違いなく知能の爆発的発展があり、人類は置いていかれるだろう。従って、最初の超知的マシンが人類の最後の発明となる」
ジェラルド・S・ホーキンズは、彼の本『宇宙へのマインドステップ』（白揚社、1988年2月。原著は1983年8月）の中で「マインドステップ」の観念をはっきりさせ、方法論または世界観への劇的で不可逆な変化であるとした。彼は、人類の歴史の中の5つのマインドステップとそれらの「新しい世界観」に伴っていた技術を示した（彫像、文字を書くこと、数学、印刷、望遠鏡、ロケット、コンピュータ、ラジオ、テレビ……）。彼は言う。「個々の発明は集合精神を現実に近づけ、段階をひとつ上ると人類と宇宙の関係の理解が深まる。マインドステップの間隔は短くなってきている。人はその加速に気づかないではいられない。」ホーキンズは経験に基づいてマインドステップの方程式を定量化し、今後のマインドステップの時期を明らかにした。次のマインドステップは2021年で、その後2つのマインドステップが2053年までに来るとしている。彼の推測は技術的なものを超えて次のようになされた。
- 「マインドステップは……一般に、新たな人類の展望、ミームやコミュニケーションに関する発明、次のマインドステップまでの（計算可能な）長い待機期間を伴う。マインドステップは本当に予期されることはなく、初期段階では抵抗がある。将来、我々も不意打ちを食らうかもしれない。我々は今は想像もできない発見や概念に取り組まざるをえなくなるかもしれない」
特異点は数学者であり作家のヴァーナー・ヴィンジにより大いに大衆化された。ヴィンジは1980年代に特異点について語りはじめ、オムニ誌の1983年1月号で初めて印刷物の形で内容を発表した。彼は後に1993年のエッセイ "The Coming Technological Singularity" の中で概念をまとめた（よく引用される文「30年以内に私達は超人的な知能を作成する技術的な方法を持ち、直後に人の時代は終わるだろう」を含んでいる）。
ヴィンジは、超人的な知能が、彼らを作成した人間よりも速く自らの精神を強化することができるであろうと書いている。「人より偉大な知能が進歩を先導する時、その進行はもっとずっと急速になるだろう」とヴィンジは言う。自己を改良する知性のフィードバックループは短期間で大幅な技術の進歩を生み出すと彼は予測している。
[編集] 超人的知性の創造
人類を超える知性を創造する方法は、人間の脳の知能増幅と人工知能の2つに分類される。
知能の増進の方法として考えられている手法は様々である。バイオテクノロジー、向知性薬（向精神薬の一種）、AIアシスタント、直接的な脳とコンピュータのインターフェイス、精神転送などがそれである。 急進的な寿命を延ばす技術、人体冷凍保存、分子レベルのナノテクノロジーなどは未来の進んだ医療技術の恩恵を受けるまで生きる手段として擁護されることがある。また、それによって永遠の生命や人体の改造を受けられるようになる可能性も出てくる。
人類の知性を増幅させる手段は様々なものが考えられたが、特異点を積極的にもたらそうとしている組織にとっては人工知能が最も一般的な選択肢である。例えば、Singularity Institute（特異点研究所）は、2005年に出版した "Why Artificial Intelligence?" の中で、その選択を明らかにしている。
ジョージ・ダイソンは、自著 Darwin Among the Machines の中で、十分に複雑なコンピュータ・ネットワークが群知能を作り出すかもしれず、将来の改良された計算資源によってAI研究者が知性を持つのに十分な大きさのニューラルネットワークを作成することを可能にするかもしれないという考えを示した。精神転送は人工知能を作る別の手段として提案されているもので、新たな知性をプログラミングによって創造するのではなく、既存の人間の知性をデジタル化してコピーすることを意味する。
[編集] カーツワイルの加速するリターンの法則
レイ・カーツワイルは、歴史を研究することで技術的進歩が指数関数的成長のパターンにしたがっていると結論付け、特異点が差し迫っているという信念を正当化している。彼はこの結論を「加速するリターンの法則」（The Law of Accelerating Returns）と呼ぶ。彼は集積回路の複雑さの成長が指数関数的であることを示すムーアの法則を一般化し、集積回路が生まれる遥か以前の技術も同じ法則にしたがっているとした。
彼は、ある技術が限界に近づくと、新たな技術が代替するように生まれてくると言う。彼はパラダイムシフトがますます一般化し、「技術革新が加速されて重大なものとなり、人類の歴史に断裂を引き起こす」と予測する（カーツワイル、2001年）。カーツワイルは特異点が21世紀末までに起きると信じており、その時期を2045年としている（カーツワイル、2005年）。彼が予想しているのは特異点に向けた緩やかな変化であり、自己改造する超知性が引き起こす急激な変化を想定するヴィンジとは異なる。この違いを「ソフトな離陸」(soft takeoff）と「ハードな離陸」（hard takeoff）という用語で表すこともある。
カーツワイルが彼の法則を提案する前に 多くの社会学者と人類学者は社会文化的な発展についての社会理論を作ってきた。ルイス・H・モーガン、レスリー・ホワイト、ゲルハルト・レンスキらは文明の発展の原動力は技術の進歩であるとしている。モーガンの言う社会的発展の三段階は技術的なマルストーンによって分けられている。ホワイトは特定の発明ではなく、エネルギー制御方法（ホワイトが文化の最重要機能と呼ぶもの）によって文化の度合いを測った。彼のモデルは Kardashev scale を生むこととなった。レンスキはもっと現代的な手法を採用し、社会の保有する情報量を進歩の度合いとした。
1970年代末以降、アルビン・トフラー(未来の衝撃の著者)、ダニエル・ベル、およびジョン・ネイスビッツは、脱工業化社会についての理論からアプローチしているが、その考え方は特異点近傍や特異点以後の社会の考え方に類似している。彼らは工業化社会の時代が終わりつつあり、サービスと情報が工業と製品に取って代わると考えた。
Theodore Modis と Jonathan Huebner は技術革新の加速が止まっただけなく、現在減速していると主張した。John Smart は彼らの結論を批判している[1]。また、カーツワイルが理論構築のために過去の出来事を恣意的に選別したという批判もある。
[編集] 特異点の妥当性と安全性
考えられる超人的知性の中には、人類の生存や繁栄と共存できない目的をもつものもあるかもしれない。AI研究者 Hugo de Garis は、AIが人類を単に排除しようとし、人類はそれを止めるだけの力がないかもしれないと言う。他によく言われる危険性は、分子ナノテクノロジーや遺伝子工学に関するものである。これらの脅威は特異点支持者と批判者の両方にとって重要な問題である。ビル・ジョイはWIRED誌で、その問題をテーマとして Why the future does't need us（何故未来は我々を必要としないのか）を書いた（2000年）。オックスフォード大学の哲学者 Nick Bostrom は人類の生存に対する特異点の脅威についての論文 Existential Risks（存在のリスク）をまとめた（2002年）。
多くの特異点主義者はナノテクノロジーが人間性に対する最も大きな危険のひとつであると考えている。このため、彼らは人工知能をナノテクノロジーよりも先行させるべきだと考えている。Foresight Institute などは分子ナノテクノロジーを擁護し、ナノテクノロジーは特異点以前に安全に制御可能となるし、有益な特異点をもたらすのに役立つと主張している。
友好的人工知能の支持者は特異点が潜在的に非常に危険であると認めて、人間に対して好意的に動作するようにAIを設計して存在のリスクを排除しようと考えている。この考え方はアイザック・アジモフのロボット工学三原則にも具体化されていて、人工知能ロボットが人間を傷つけることを防止することを意図している。ただし、アジモフの小説では、この法則の抜け穴を扱うことが多い。
[編集] ネオ・ラッダイトの見方
一部の人々は、先端技術の開発を許すことは危険すぎると主張し、そのような発明をやめさせようと主張している。ユナボマーとも呼ばれるセオドア・カジンスキーは、技術によって上流階級が簡単に人類の多くを抹殺できるようになるかもしれないと言う。一方、AIが作られなければ十分な技術革新の後で人類の大部分は家畜同然の状態になるだろうとも主張している。カジンスキーの言葉はビル・ジョイの記事およびレイ・カーツワイルの最近の本に書かれている。カジンスキーは特異点に反対するだけでなくネオ・ラッダイト運動をサポートしている。多くの人々は特異点には反対するが、ラッダイト運動のように現在の技術を排除しようとはしない。
カジンスキーだけでなく、John Zerzan や Derrick Jensen といった反文明理論家の多くはエコアナーキズム主義を唱える。それは、技術的特異点を機械制御のやりたい放題であるとし、工業化された文明以外の野生的で妥協の無い自由な生活の損失であるとする。地球解放戦線(ELF)やEarth First!といった環境問題に注力するグループも基本的には特異点を阻止すべきと考えている。
最も共産主義者は特異点を基本的に容認し、AIの反乱を階級の認識と考えている。
ラッダイト運動が雇用機会を奪う産業革命への抵抗だったように、特異点によって未来の雇用機会が奪われることを心配する人々もいる。もっとも、ラッダイト運動者の恐れは現実とはならず、産業革命以後には職種の成長があった。しかし、不本意な雇用に関しては一定の影響があったと言える。すなわち未成年者や老人の雇用は劇的に減った。自発的な雇用における失業率だけが問題とされるべきで、絶対的な雇用率を考慮すべきではないという点は議論すべきである。経済的には特異点後の社会はそれ以前の社会よりも豊かとなるだろう（知識が増え、エネルギーの操作が必要に応じて可能となる）。ありうべき特異点後の未来では、一人当たりの雇用は減少するが、一人当たりの富は増加する。
[編集] フィクションでの描写
フィクションでの特異点の描写は4つに分類される。
- AIと技術的に増幅された人類（ただし、AIよりも劣っていることが多い）：『HALO』（ビデオゲームシリーズ）
- AIと元のままの人類（「ローカルな特異点」と呼ばれることがある）：『マトリックス』、『ターミネーター』のスカイネット
- 生物学的に進化した人類：
- 技術的に増幅された人類：
特異点アイデアを開拓したヴァーナー・ヴィンジの物語に加えて、何人かの他のSF作家は主題が特異点に関係する話を書いている。特筆すべき著者として、ウィリアム・ギブスン、グレッグ・イーガン、グレッグ・ベア、ブルース・スターリングなどが挙げられる。特異点はサイバーパンク小説のテーマのひとつである。再帰的な自己改良を行うAIとしてはウィリアム・ギブスンの『ニューロマンサー』に登場する同名のAIが有名である。アーサー・C・クラークの『幼年期の終わり』、アイザック・アジモフの『最後の質問』（短編）、ジョン・W・キャンベルの『最終進化』（短編）なども古典ともいうべき作品ながら技術的特異点を扱っていると言える。ディストピア色が強いものとしては、ハーラン・エリスンの古典的短編『おれには口がない、それでもおれは叫ぶ』がある。
技術的特異点を扱った初めての短編は、フレドリック・ブラウンが1954年に書いた『回答』であろう。
[編集] 映画とテレビ
人類よりも賢いAIが登場する映画の最も早い例として『地球爆破作戦』（Colossus: The Forbin Project）がある。1969年の映画であり、米軍のスーパーコンピュータが意識を持つようになって人類に平和を押し付けるという話である。『マトリックス』では、AIが人類を支配し鎮圧した世界が描かれている。『ターミネーター』では、スカイネットと呼ばれるAIが意識を持ち、人類を根絶するために核兵器を使用する。
アニメにもヴィンジとカーツワイルによって提案された特異点関連のテーマがある。『GHOST IN THE SHELL / 攻殻機動隊』では、ウェットウェアが遍在し人工意識が発生しはじめた世界を描いている。『Serial experiments lain』では、意識のダウンロードというトピックが扱われている。『バブルガムクライシス TOKYO2040』では、AIが現実を変更する強力な能力を持って出現する。
スティーブン・スピルバーグの『A.I.』のラストシーンは特異点後の世界を描いているように思われる。
[編集] 関連団体、その他
- Sigularity Institute for Artificial Intelligence
- Acceleration Studies Foundation
[編集] 関連項目
- クラークの三法則
- 終末論法 (en:Doomsday argument)
- 文明の終焉 (en:End of civilization)
- オメガポイント (en:Omega point)
- テクノユートピア主義 (en:Techno-utopianism)
- ティッピングポイント (en:Tipping point)
[編集] 外部リンク
いずれも英文
- The Singularity Institute for Artificial Intelligence
- The SSEC Machine Intelligence Project
- The Artificial General Intelligence Research Institute
- KurzweilAI.net
- Acceleration Watch
- Accelerating Future
- The SL4 Wiki
- Singularity! A Tough Guide to the Rapture of the Nerds
