求把二次型f（x1，x2，x3）=2x1^2+9x2^2+3x3^2+8x1x2-4x1x3-10x2x3化为

设 f 的系数矩阵
A = [2 8 -4]
[0 9 -10]
[0 0 3]

g 的系数矩阵
B = [2 -4 -4]
[0 3 8]
[0 0 6]

设 T(x) 表示 x 的转置
x = T([x1, x2, x3])
y = T([y1, y2, y3])

则该问题目的则是求 y = Px 的变换矩阵 P

因为 T(x)*A*x = 0;
T(y)*B*y = g; ==> T(x)*T(P)*B*P*x = 0

则 T(P)*B*P = A，求 P
将 A，B分别相似对角化为 归一化后的相似对角阵 L，注意，两种情况下 L一定 相同
则
T(Q)*A*Q = L 。。。。。(1)
T(Q)*T(P)*B*P*Q = L
T(PQ)*B*(PQ) = L 。。。。(2)
从而由 （1）（2）两式可算得 Q 与 P*Q
因而，P = （P*Q）*Q^(-1)

相似对角化过程如下：
注：lam 为特征值，E 为单位阵
对 A：| lam*E - A | = 0 可求得 lam = 2，9，3
对 B：| lam*E - B | = 0 可求得 lam = 2，3，6

所以，L1 = [2 0 0]
[0 9 0]
[0 0 3]

L2 = [2 0 0]
[0 3 0]
[0 0 6]
但是，显然A，B矩阵的特征值不同，即 A，B矩阵不相似，即不存在这样的线性变换
如果，A,B相似，则采用上述过程可求出变换矩阵