求正交矩阵P使P-1AP 为对角矩阵

|A-λE| =
1-λ -1 -1
-1 1-λ -1
-1 -1 1-λ
= -(λ + 1)(λ - 2)^2
所以A的特征值为 -1,2,2
解出 (A+E)X=0 的基础解系:a1=(1,1,1)^T
解出 (A-2E)X=0 的基础解系:a2=(1,-1,0)^T,a3=(1,0,-1)^T
将a2,a3正交化得
b1=(1,1,1)^T
b2=(1,-1,0)^T
b3=(1/2,1/2,-1)^T
单位化得
c1 = (1/√3,1/√3,1/√3)^T
c2 = (1/√2,-1/√2,0)^T
c3 = (1/√6,1/√6,-2/√6)^T
得正交矩阵P =
1/√3 1/√2 1/√6
1/√3 -1/√2 1/√6
1/√3 0 -2/√6
则有 P^(-1)AP = diag(-1,2,2)