数学基礎論革命の目標と挫折

　ユークリッドの『原論』以来、公理から定理を証明する仕方が洗練され、「公理系（axiomatic system）」の内容は一つの解釈だけを満たす、イデアの集まりだと想定されていた。ところが、19世紀後半に非ユークリッド幾何学の存在が異論の余地なく証明され、知覚や直観の裏付けのない公理系をどう扱うかが新たな課題となった。また、実数の連続性に端を発するカントールの実無限の集合論が登場し、それがもたらすパラドクシカルな定理群は数学者を戸惑わせることになった。にもかかわらず、カントールの集合論に多くの数学者が惹かれた。集合論が豊かな表現力をもっていたからである。
　数学的対象には数、関数、関数の集合など多様な対象があるが、集合論はすべての対象を集合による統一的な記法で表現できる。つまり、数学的概念はみな集合論の記法で記述できるのである。だが、集合論にはパラドクスが付き纏っていた。公理系がパラドクスを含むと、その公理系を使って証明された事柄はすべてゴミになってしまう。ところが、集合論にはカントールのパラドクスやラッセルのパラドクスが既に知られていた。
　数学の言語としての集合論は豊富な能力をもつので、集合論は活用したい。だが、パラドクスは怖いので、それをうまく抑えこみたい。ヒルベルトはカントールが創造した楽園から私たちを追放することなど、誰にもできないと述べている。1974年イェーナ大学の私講師となったフレーゲは、算術を論理学の一部とみなし、算術の概念や定理を論理学的に基礎付けるという野心的プランを抱く。このアイデアは数学基礎論において「論理主義」と呼ばれる。アリストテレス以来の名辞の論理学やブールの代数的な論理学を改訂するだけでは自分の目的が達成できないことがわかっていたフレーゲは、『概念記法』において、まったく独自に算術の言語を作り上げた。概念記法を用いると、数学での推論を形式的に表現できる。フレーゲは自らのプランを推し進め、算術定理の導出を概念記法を使って形式的な推論として述べた。それが『算術の基本法則』である。
　パラドクスのない集合論で数学を追求する夢を実現するための研究が「数学基礎論」であり、当初は「論理主義」、「直観主義」、「形式主義」の三つの立場があった。
　論理主義の代表はラッセル。論理主義は「信頼できる論理を基礎にして数学を建設する」という主張で、それを実行したのがラッセルとホワイトヘッドの共著『プリンキピア・マテマティカ』。論理主義の難点は、無限集合を論理学に帰着させようとして論理学としてはアドホックな複数の公理（＝無限公理、選択公理、還元公理）を仮定せざるを得なかった点にある。
　直観主義の提唱者はブラウワー。彼は直観的理解の裏付けのない論理は信用できないと主張した。ある概念の存在を証明するのに、その概念が存在しないと仮定して矛盾を導き、そこから存在するという結論を導く帰謬法を禁止した。これを公理として表現すると「排中律の禁止」になる。
　ブラウワーによる帰謬法（＝非構成的な存在証明）の排除に反対したのがヒルベルト。ブラウワーとヒルベルトは1920年代に激しく論争を展開するようになる。直観主義の難点は、素朴な直観に密着したままですべての数学を建設するのは不可能で、既存の数学の大部分が証明されないまま残ってしまう点にある。では、ブラウワーを批判したヒルベルト自身はどういう立場だったのか。ヒルベルトの立場は「形式主義」と呼ばれ、後にゲーデルの発見で挫折することにはなるが、数学基礎論の一応の正統的立場である。
　ヒルベルトは数学で安全な立場を確保するには証明をきちんと形式化する方法を練り上げればよいと考えていた。彼は証明の構造自体を数学的な問題と捉えた。つまり、公理化、形式化を徹底することによって数学の無矛盾性を数学的に保証しようとした。証明とは「公理系」をもとに「推論規則」を適用して定理を導く操作である。そこで、彼は論理学の厳密な視点から従来の証明を読み直そうとした。ヒルベルトは実際に『幾何学基礎論』でユークリッド幾何学を公理的に形式化してみせ、自分の考える「形式化」の方法を具体的に示してみせた。だが、幾何学以外の分野については証明の中で用いられる自然言語の曖昧さが残り、ヒルベルト自身「形式主義」の理念を徹底して展開することができなかった。
　そこに『プリンキピア・マテマティカ』が洗練された論理学的な言語と道具を提供してくれた。新しい武器を得て、ヒルベルトが到達した数学基礎論は次のようなものだった。（1）研究の対象を公理系によって記述された数学の形式的体系に限定する、（2）「無矛盾性」と「完全性」の基準を満たす公理系だけを使う。この二つの方法に従って「安全な数学」を展開するための方針、それが「ヒルベルト・プログラム」だった。まず、実際の数学を形式系にする。以後は、この形式系を数学の本体とみなす。次に、形式系の無矛盾性、つまり、どの命題もそれ自身とその否定が同時にその体系内で証明されることがない、ということを証明する。最後に、形式系の完全性、つまり、「どの命題についてもそれ自身かその否定のどちらかがその形式系で証明できる」ことを証明する。これらによって、数学が完全無欠であることが示される。この限りで、実に見事な計画案である。
　ヒルベルトのアプローチは多くの数学者に支持され、ヒルベルト・プログラムの達成も信じられていたが、ゲーデルが突如劇的な展開をもたらす。ゲーデルは最初ヒルベルト・プログラムの参画者としてスタートし、実数論の形式系を探索していたが、その過程でヒルベルト・プログラムが実行不可能であることを発見したのである。
　その発見とは、数学の形式系、つまり、形式系と呼ばれる論理学の人工言語で記述された「数学」は、その表現力が十分豊かならば、完全かつ無矛盾であることはない、というものだった。つまり、ある数学が無矛盾ならばその数学には解答できない問題がある。数学の形式系の表現力が十分豊かならば、その形式系が無矛盾であるという事実をその形式系自身の中では証明できない。すなわち、数学が絶対的に確かな知識であることを保証する術はない。こうして、ヒルベルト・プログラムで目指したような無矛盾で完全な形式系は実現できない、つまり、数学の絶対的な基礎付けは不可能であるということが示された。