解説

方針・初手

項が3つある平方根の分母の有理化は、2つの項をひとまとめにして和と差の積 $(a+b)(a-b)=a^2-b^2$ を利用する。どの2項をまとめるかで計算量が大きく変わる。根号の中身の和が等しくなるように組を作ると、平方が相殺されて計算が楽になる。本問では $5+6=11$ となることに着目し、$\sqrt{5}+\sqrt{6}$ をひとまとめにして展開を考えるのがよい。

解法1

与式の分母と分子に $(\sqrt{5}+\sqrt{6})-\sqrt{11}$ を掛ける。

$$ \begin{aligned} \frac{\sqrt{5}-\sqrt{6}+\sqrt{11}}{\sqrt{5}+\sqrt{6}+\sqrt{11}} &= \frac{\{\sqrt{5}-(\sqrt{6}-\sqrt{11})\}\{(\sqrt{5}+\sqrt{6})-\sqrt{11}\}}{\{(\sqrt{5}+\sqrt{6})+\sqrt{11}\}\{(\sqrt{5}+\sqrt{6})-\sqrt{11}\}} \end{aligned} $$

分母の計算を行う。

$$ \begin{aligned} (\sqrt{5}+\sqrt{6})^2 - (\sqrt{11})^2 &= (5 + 2\sqrt{30} + 6) - 11 \\ &= 11 + 2\sqrt{30} - 11 \\ &= 2\sqrt{30} \end{aligned} $$

分子の計算を行う。分子は $\sqrt{5} - (\sqrt{6}-\sqrt{11})$ と $\sqrt{5} + (\sqrt{6}-\sqrt{11})$ の積と見ることができる。

$$ \begin{aligned} \{\sqrt{5}-(\sqrt{6}-\sqrt{11})\}\{\sqrt{5}+(\sqrt{6}-\sqrt{11})\} &= (\sqrt{5})^2 - (\sqrt{6}-\sqrt{11})^2 \\ &= 5 - (6 - 2\sqrt{66} + 11) \\ &= 5 - (17 - 2\sqrt{66}) \\ &= 2\sqrt{66} - 12 \end{aligned} $$

これらを分数に戻す。

$$ \begin{aligned} \frac{2\sqrt{66}-12}{2\sqrt{30}} &= \frac{\sqrt{66}-6}{\sqrt{30}} \end{aligned} $$

分母を有理化するために、分母と分子に $\sqrt{30}$ を掛ける。

$$ \begin{aligned} \frac{(\sqrt{66}-6)\sqrt{30}}{\sqrt{30}\sqrt{30}} &= \frac{\sqrt{66 \times 30} - 6\sqrt{30}}{30} \\ &= \frac{\sqrt{6 \times 11 \times 6 \times 5} - 6\sqrt{30}}{30} \\ &= \frac{6\sqrt{55} - 6\sqrt{30}}{30} \\ &= \frac{\sqrt{55} - \sqrt{30}}{5} \end{aligned} $$

解法2

与式の分母と分子に $\sqrt{5}+\sqrt{11}-\sqrt{6}$ を掛ける（分子が自乗の形になる組み合わせを選ぶ）。

$$ \begin{aligned} \frac{\sqrt{5}-\sqrt{6}+\sqrt{11}}{\sqrt{5}+\sqrt{6}+\sqrt{11}} &= \frac{(\sqrt{5}+\sqrt{11}-\sqrt{6})^2}{\{(\sqrt{5}+\sqrt{11})+\sqrt{6}\}\{(\sqrt{5}+\sqrt{11})-\sqrt{6}\}} \end{aligned} $$

分母の計算を行う。

$$ \begin{aligned} (\sqrt{5}+\sqrt{11})^2 - (\sqrt{6})^2 &= 5 + 2\sqrt{55} + 11 - 6 \\ &= 10 + 2\sqrt{55} \\ &= 2(5 + \sqrt{55}) \end{aligned} $$

分子の計算を行う。

$$ \begin{aligned} (\sqrt{5}+\sqrt{11}-\sqrt{6})^2 &= (\sqrt{5}+\sqrt{11})^2 - 2\sqrt{6}(\sqrt{5}+\sqrt{11}) + (\sqrt{6})^2 \\ &= (16 + 2\sqrt{55}) - 2\sqrt{30} - 2\sqrt{66} + 6 \\ &= 22 + 2\sqrt{55} - 2\sqrt{30} - 2\sqrt{66} \\ &= 2(11 + \sqrt{55} - \sqrt{30} - \sqrt{66}) \end{aligned} $$

これらを分数に戻し、2で約分する。

$$ \begin{aligned} \frac{2(11 + \sqrt{55} - \sqrt{30} - \sqrt{66})}{2(5 + \sqrt{55})} &= \frac{11 + \sqrt{55} - \sqrt{30} - \sqrt{66}}{5 + \sqrt{55}} \end{aligned} $$

分子を共通因数でくくって因数分解する。

$$ \begin{aligned} 11 + \sqrt{55} - \sqrt{30} - \sqrt{66} &= \sqrt{11}(\sqrt{11}+\sqrt{5}) - \sqrt{6}(\sqrt{5}+\sqrt{11}) \\ &= (\sqrt{11}-\sqrt{6})(\sqrt{5}+\sqrt{11}) \end{aligned} $$

分母も $\sqrt{5}$ でくくる。

$$ \begin{aligned} 5 + \sqrt{55} &= \sqrt{5}(\sqrt{5} + \sqrt{11}) \end{aligned} $$

分数に戻して約分する。

$$ \begin{aligned} \frac{(\sqrt{11}-\sqrt{6})(\sqrt{5}+\sqrt{11})}{\sqrt{5}(\sqrt{5} + \sqrt{11})} &= \frac{\sqrt{11}-\sqrt{6}}{\sqrt{5}} \end{aligned} $$

分母と分子に $\sqrt{5}$ を掛けて有理化する。

$$ \begin{aligned} \frac{(\sqrt{11}-\sqrt{6})\sqrt{5}}{\sqrt{5}\sqrt{5}} &= \frac{\sqrt{55}-\sqrt{30}}{5} \end{aligned} $$

解説

3項からなる平方根の分母の有理化では、和と差の積 $(a+b)(a-b)=a^2-b^2$ を活用するために2項をひとくくりにする。その際、平方が相殺されて計算が簡単になるような組み合わせを探すのが定石である。

本問では $(\sqrt{5})^2+(\sqrt{6})^2=11=(\sqrt{11})^2$ であることから、解法1のように $\sqrt{5}+\sqrt{6}$ をひとまとめにすることで、1回の有理化で分母から整数項を完全に消去でき、計算見通しが非常に良くなる。

解法2のように別の組み合わせで計算を進めた場合も、計算結果の分子・分母に共通因数（この場合は $\sqrt{5}+\sqrt{11}$）が隠れていることを見抜いて約分できれば、最終的な計算量を減らすことができる。ただし、解法1の方針を最初から選択できるのが試験においては理想的である。

答え

$$ \frac{\sqrt{55}-\sqrt{30}}{5} $$