解説

方針・初手

与えられた式の一部を展開し、項を適切に組み合わせることで共通因数を作り出す。展開して次数の偏りに注目するか、$a^5 - b^5$ の形に注目して因数分解の公式を適用する方針が考えられる。

解法1

与式の一部を展開し、項を並べ替える。

$$ a^5 - a^2b^2(a-b) - b^5 $$

$$ = a^5 - a^3b^2 + a^2b^3 - b^5 $$

前半の2項を $a^3$ で、後半の2項を $b^3$ でくくる。

$$ = a^3(a^2 - b^2) + b^3(a^2 - b^2) $$

共通因数 $a^2 - b^2$ でくくる。

$$ = (a^2 - b^2)(a^3 + b^3) $$

それぞれの括弧内をさらに因数分解する。

$$ = (a-b)(a+b) \cdot (a+b)(a^2 - ab + b^2) $$

同類項をまとめる。

$$ = (a-b)(a+b)^2(a^2 - ab + b^2) $$

解法2

$a^5 - b^5$ の因数分解公式を利用する。

$$ a^5 - a^2b^2(a-b) - b^5 $$

$$ = (a^5 - b^5) - a^2b^2(a-b) $$

$a^5 - b^5 = (a-b)(a^4 + a^3b + a^2b^2 + ab^3 + b^4)$ を用いる。

$$ = (a-b)(a^4 + a^3b + a^2b^2 + ab^3 + b^4) - a^2b^2(a-b) $$

共通因数 $a-b$ でくくる。

$$ = (a-b)(a^4 + a^3b + a^2b^2 + ab^3 + b^4 - a^2b^2) $$

$$ = (a-b)(a^4 + a^3b + ab^3 + b^4) $$

後半の括弧内について、項を組み合わせて共通因数を作る。

$$ = (a-b) \{ a^3(a+b) + b^3(a+b) \} $$

$$ = (a-b)(a+b)(a^3 + b^3) $$

$a^3 + b^3$ を因数分解する。

$$ = (a-b)(a+b)(a+b)(a^2 - ab + b^2) $$

同類項をまとめる。

$$ = (a-b)(a+b)^2(a^2 - ab + b^2) $$

解説

式をそのまま眺めるだけでなく、一度展開して項の組み合わせを変えることで活路が見える典型的な因数分解の問題である。解法1のように展開して整理するアプローチが最も見通しが良く、計算量も少ない。

解法2のように高次式の因数分解公式 $x^n - y^n = (x-y)(x^{n-1} + x^{n-2}y + \cdots + y^{n-1})$ を知っていれば、直接 $a-b$ をくくり出すことも可能である。

答え

$$ (a-b)(a+b)^2(a^2 - ab + b^2) $$