まず、文字列を整理する。$$\begin{align}&a^2-4b^2\\&=(a+2b)(a-2b)\end{align}$$次に、まず、$2b$を求めると、次のようになる。$$\begin{align}2b&=2 \times (\frac{3}{2} - \sqrt{2})\\&=3 - 2\sqrt{2}\end{align}$$次に、$a+2b$ と $a-2b$を計算する。$$\begin{align}&a+2b\\&=3+2\sqrt{2} + 3 - 2\sqrt{2}\\&=6\end{align}$$$$\begin{align}&a-2b\\&=3+2\sqrt{2} - ( 3 - 2\sqrt{2})\\&=4\sqrt{2}\end{align}$$よって、$$\begin{align}&a^2-4b^2\\&=(a+2b)(a-2b)\\&=6 \times 4\sqrt{2}\\&=24\sqrt{2}\end{align}$$