並列分散処理

出典: フリー百科事典『ウィキペディア（Wikipedia）』

並列分散処理（へいれつぶんさんしょり、parallel distributed processing）とは、複数の分散された処理ユニットが同時並行的に情報処理を行うこと。また、そうした情報処理の見方によって人間の認知プロセスの解明を目指す研究アプローチ。通常のコンピュータでは、単一の中央処理ユニット(CPU)が、情報処理を直列（継時的）に行っていることと対比される。英語の頭文字を取ってPDPモデルとも呼ばれる。

認知心理学や人工知能研究では、1970年代以降、コンピュータに人間のような知的行為を行わせようと試みたり、そうした試みを通して人間の認知の仕組みの解明を目指したりしてきた。こうした直列集中処理型の情報処理方式によっても、一定程度の知性を生み出すことは可能であったが、人間の認知の特徴である曖昧な属性の処理や、類似性を利用した処理を実現することは困難であった。

並列分散処理は、人間の知性を実現させている脳神経系における情報処理の仕組みを見直すことで、脳の情報処理の特徴である、複数の処理ユニット（＝神経細胞）が同時並行的に働いていることに注目した研究者グループによって研究が始められ、1986年にグループの代表的研究者であったデビッド・ラメルハートとジェームズ・マクレランドによる『並列分散処理論』（Parallel Distributed Processing: 邦訳書は『PDPモデル』）としてまとめられた。

具体的な研究手法は、数学的なモデル構成や、仮想的な人工神経細胞を組み合わせたネットワークによるコンピュータシミュレーションである。情報処理の仕組みが神経細胞網（＝ニューラルネットワーク）に似ていることから、ニューラルネットワークモデルとも呼ばれる。ネットワークを構成する仮想的な人工神経細胞は、神経細胞を単純化したもので、細胞体に相当する「ノード」と軸索に相当する「リンク」からなる。複数のノード間の複雑なリンクの結びつき（コネクション）が情報の流れと処理を決定することから、コネクションに注目した命名もなされ、コネクショニズムやコネクショニストモデルとも呼ばれる。

直列集中処理との違いは、処理様式だけでなく、離散的な記号処理を行うか否かという点にも見られる。コンピュータをモデルとする直列集中処理モデルにおいては、人間の認知現象をデジタルな記号処理によって説明しようとする。一方、脳神経系をモデルとする並列分散処理モデルでは、情報をアナログなまま処理するため、記号の存在を仮定する必要がない。こうした点に注目し、言語の使用など記号処理を伴う高次の認知プロセスのモデルには直列集中処理モデルが、顔の識別など記号処理を伴わない低次の認知プロセスのモデルには並列分散処理モデルが適しているという主張もなされる。

中央の処理ユニットが故障すれば情報処理全体が破綻してしまう直列集中処理に対し、複数の処理ユニットを持つ並列分散処理は一部の処理ユニットが故障してもある程度の処理がなされうる。こうした障害への頑健性も並列分散処理の利点である。