已知二次型f(x1，x2，x3)
=x12-5x22+x32+axlx2+6x1x3+4x2x3
使正交变换化为标准型3y12-6y22，求a，b的值．
解：A= ( 1 a/2 b/2 a/2 -5 2 b/2 2 1)， B= (3 0 0 0 -6 0 0 0 0) 由已知条件A与B有相同的特征多项式， |λI-A|=|λI-B| 即λ3+3λ2-(13+a2/4+b2/4)λ+(9+a2/4-ab-5/4b2) 即λ3+3λ2-(13+a2/4+b2/4)λ+(9+a2/4-ab-5/4b2) =λ 3+3λ2-18λ 所以 {a 2-5b2-4ab+36=0 13+a2/4+b2/4=18 解方程得a=4，b=2．
