矩阵A应该是
A=B^2-2B
=(PΛP^-1)(PΛP^-1)-2(PΛP^-1)
=PΛ^2P^-1-2(PΛP^-1)
=PΛ(Λ-2E)P^-1
=P(diag(1,2,-1)*diag(-1,0,-3))P^-1
=Pdiag(-1,0,3)P^-1
第2题|A|=1*2*(-1)=-2
B^2 的特征值是 1, 4, 1
A = B^2- B 的特征值是 1-1, 4-2, 1+1, 即 0, 2, 2
A 相似的对角阵是 diag(0, 2, 2), |A| = 0*2*2 = 0
知道特征值了,所有特征值乘起来,就是行列式的值啊