です。これは、「x を先に決める。そのあとで、その x に応じて y を選んでよい」という意味です。
したがって、y は x ごとに変わってかまいません。今回なら、各 x に対して
f(x)<y<g(x)
を満たす y が存在すればよいので、
f(x)<g(x)
をすべての x について調べればよいことになります。
一方、(2) の条件は
∃y∈R,∀x∈R,p(x,y)
です。これは、「先にひとつの y を決める。その同じ y で、すべての x に対応しなければならない」という意味です。
したがって、y を x に応じて変えることはできません。
見た目は似ていても、
∀x,∃y,p(x,y)∃y,∀x,p(x,y)
は一般には別の意味になります。
内側の量化子から処理する
(2) の解法1では、
∃y∈R,∀x∈R,f(x)<y<g(x)
を、内側にある ∀x から処理しました。
まず
∀x∈R,f(x)<y
を、y を固定したまま x の二次不等式として調べます。これにより
y>4a2−12
が得られます。
同じように
∀x∈R,y<g(x)
を処理すると、
y<4−a2+8a−4
が得られます。
つまり、はじめは x,y についての条件だったものが、
∃y∈R,4a2−12<y<4−a2+8a−4
という、y についての存在条件に変わります。最後に、このような y が存在する条件を調べれば、a だけの条件になります。
このように、量化子が重なっているときは、内側の変数から順に消去していくと機械的に処理できます。
ここでの ∧ は分けてよい
ひとつ確認しておきます。いまの処理では、
∀x∈R,(f(x)<y∧y<g(x))
を
(∀x∈R,f(x)<y)∧(∀x∈R,y<g(x))
に分けてから、f 側と g 側を別々に処理しました。Theme3・4 では「分配できない」例ばかり見てきたので気になるところですが、これは許されます。Theme4 で見たとおり、∀ は ∧ には分配できるからです。各 x で2つの不等式がともに成り立つことと、一方が全 x で成り立ち、かつもう一方も全 x で成り立つことは、同じことです。
Theme3 の「同じ x」と同じことが、ここでも起きています。上の式は、「下限より大きい y が存在する」と「上限より小さい y が存在する」を別々に言っているのではありません。ひとつの同じ y が、両方の不等式を同時に満たさなければならないのです。
言いかえると、
∃y∈R,(P(y)∧Q(y))
を、∃ を ∧ に分けて
(∃y,P(y))∧(∃y,Q(y))
としてはいけない、ということです。Theme3 で「∃ は ∧ に分配できない」と見たその罠が、y について再び現れています。下限を超える y はいくらでもあるし、上限を下回る y もいくらでもありますが、それだけでは「同じひとつの y」が両方を満たす保証にはなりません。
だからこそ、最後に見るべき条件は
4a2−12<4−a2+8a−4
です。これは、実数の開区間
(4a2−12,4−a2+8a−4)
が空でない条件を調べている、と見ることもできます。下限が上限より小さくなって、はじめて両方を満たす y が中に入るからです。
成り立つ向きは一つだけ
ここまで (1)(2) を別々に解いてきましたが、二つの答えは無関係ではありません。並べてみます。
∀x,∃y,p(x,y)∃y,∀x,p(x,y)⟺−1<a<5⟺2−22<a<2+22
ここで 2±22 は −1 と 5 の内側にあります。実際、
2−22>−12+22<5⟺3>22⟺9>8⟺22<3⟺8<9
がともに成り立つので、
(2−22,2+22)⊊(−1,5)
です。(2) が成り立つ a では、かならず (1) も成り立つ。けれども逆はそうではありません。
これは偶然ではなく、量化子の順序がもともと持っている性質です。一般に、
∃y,∀x,p(x,y)⟹∀x,∃y,p(x,y)
はつねに成り立ちます。すべての x に同時に効く y が一つあるなら、各 x に対しても、その同じ y をそのまま使えばよいからです。Theme4 の終わりに触れた、一様か x 依存か、という問いの答えがこれで、一様な ∃y∀x のほうが強く、x 依存の ∀x∃y のほうが弱いわけです。
逆向き
∀x,∃y,p(x,y)⟹∃y,∀x,p(x,y)
は一般には成り立ちません。その反例が、包含のすきま 2+22<a<5 にあります。たとえば a=1049 をとると、−1<1049<5 より (1) は成り立ちますが、(1029)2=100841>8=(22)2 より 1049>2+22 ですから (2) は成り立ちません。つまり、各 x に対しては y をとれるのに、すべての x を同時に賄う一つの y は存在しない。∀x∃y は真で、∃y∀x は偽です。
なぜそうなるかは、条件 f(x)<y<g(x) を絵にすると見えます。f は上に凸、g は下に凸ですから、p(x,y) を満たす点 (x,y) は二つの放物線にはさまれた帯です。(1) は「どの x でも帯が空でない」、すなわち各縦線が帯と交わること f(x)<g(x)。(2) は「一本の水平線 y=c が帯ぜんぶを貫く」、すなわち maxf<c<ming となる高さ c があることです。
反例の範囲では、帯はどの x でも空でないのに、f の一番高いところ maxf が g の一番低いところ ming を下回りません。しかも maxf と ming は別々の x で起きるので、水平線をどこに引いても、f をよけきれば g にぶつかり、g をよけきれば f にぶつかる。各縦線では帯に入れるのに、一本の横線では貫けないのです。
変わるのは3行目、種類の違う ∀ と ∃ が並んだときだけです。このときは ⟺ ではなく、∃y∀x から ∀x∃y への一方向しか成り立ちません。一様な y が一つあれば各 x に使い回せますが、各 x ごとに選び直した y を一つにまとめられるとは限らないからです。今回ずっと見てきたのは、この3行目でした。