解説

方針・初手

与式は平方の形にまとめられる。まず非負であることを直接示し，そのあと平方和に対して Cauchy-Schwarz の不等式を用いて上から 1 で抑えるのが自然である。

解法1

与式を

$$ S=x^2+y^2-2x^2y^2+2xy\sqrt{1-x^2}\sqrt{1-y^2} $$

とおく。

まず，

$$ \begin{aligned} S &=x^2(1-y^2)+y^2(1-x^2)+2xy\sqrt{1-x^2}\sqrt{1-y^2} \\ &=\left(x\sqrt{1-y^2}+y\sqrt{1-x^2}\right)^2 \end{aligned} $$

であるから，

$$ S\geqq 0 $$

が従う。

次に，上からの評価を行う。Cauchy-Schwarz の不等式より，

$$ \left(x\sqrt{1-y^2}+y\sqrt{1-x^2}\right)^2 \leqq (x^2+y^2){(1-y^2)+(1-x^2)} $$

である。したがって，

$$ S\leqq (x^2+y^2)(2-x^2-y^2) $$

となる。

ここで

$$ t=x^2+y^2 $$

とおけば，条件 $|x|\leqq 1,\ |y|\leqq 1$ より $0\leqq t\leqq 2$ であるから，

$$ t(2-t)=1-(t-1)^2\leqq 1 $$

である。よって，

$$ S\leqq 1 $$

が分かる。

以上より，

$$ 0\leqq x^2+y^2-2x^2y^2+2xy\sqrt{1-x^2}\sqrt{1-y^2}\leqq 1 $$

が成り立つ。

解法2

三角関数で置き換える方法でも一気に処理できる。

$|x|\leqq 1,\ |y|\leqq 1$ であるから，

$$ x=\sin \alpha,\qquad y=\sin \beta $$

とおける。ただし $\alpha,\beta\in\left[-\frac{\pi}{2},\frac{\pi}{2}\right]$ とすれば，

$$ \sqrt{1-x^2}=\cos \alpha,\qquad \sqrt{1-y^2}=\cos \beta $$

である。

すると，

$$ \begin{aligned} S &=\sin^2\alpha+\sin^2\beta-2\sin^2\alpha\sin^2\beta +2\sin\alpha\sin\beta\cos\alpha\cos\beta \\ &=(\sin\alpha\cos\beta+\cos\alpha\sin\beta)^2 \\ &=\sin^2(\alpha+\beta) \end{aligned} $$

となる。

したがって，

$$ 0\leqq S=\sin^2(\alpha+\beta)\leqq 1 $$

である。

解説

この問題の本質は，与式を

$$ \left(x\sqrt{1-y^2}+y\sqrt{1-x^2}\right)^2 $$

と見抜くことである。これにより下限 $0$ は直ちに出る。

上限については，この平方の形にしたあとで Cauchy-Schwarz を使うと

$$ S\leqq (x^2+y^2)(2-x^2-y^2) $$

となり，最後は 1 変数 $t=x^2+y^2$ の二次式の最大値に帰着する。

別解として三角関数置換をすると，与式そのものが $\sin^2(\alpha+\beta)$ に一致するため，範囲が直ちに読める。構造を最もきれいに表す解法である。

答え

$$ x^2+y^2-2x^2y^2+2xy\sqrt{1-x^2}\sqrt{1-y^2} =\left(x\sqrt{1-y^2}+y\sqrt{1-x^2}\right)^2 $$

であり，さらに

$$ \left(x\sqrt{1-y^2}+y\sqrt{1-x^2}\right)^2 \leqq (x^2+y^2)(2-x^2-y^2)\leqq 1 $$

だから，

$$ 0\leqq x^2+y^2-2x^2y^2+2xy\sqrt{1-x^2}\sqrt{1-y^2}\leqq 1 $$

が成り立つ。