(1). A^2-2AB=A(A-2B)=E; 所以A^-1 = (A-2B); 所以(A-2B)A=A^2-2BA=E; 所以A^2-2AB=A^2-2BA; 所以AB = BA
(2). 由(1)可知A可逆,A=[col1 col2 col3],col1,col2,col3线性无关。
AB-2BA+3A = -A(B-3I) = -[-2col1 2col1 a.col2+2col3],做列变换不改变矩阵的秩,
所以其秩相当于[0 2col1 a.col2+2col3] 的秩,而且第二列和第三列一定是线性无关的,所以秩为2 。
一开始也没想到,但是证明两个等式相等