设矩阵 $A=\left(\begin{array}{lll}0 & 1 & a \\ 1 & 0 & 1\end{array}\right), B=\left|\begin{array}{ll}1 & 1 \\ 1 & 1 \\ b & 2\end{array}\right|$ ， 二次型

$$
f\left(x_1, x_2, x_3\right)=x^T B A x
$$

已知方程组 $A x=0$ 的解均是 $B^T x=0$ 的解，但两个方程组不同解.
(1) 求 $a, b$ 的值;
(2) 求正交变换 $x=Q y$ 将 $f\left(x_1, x_2, x_3\right)$ 化为标准形.