NAN=Not a number! 而且|A|=0 ，表明A是奇异矩阵，A的逆矩阵不存在！A\b是承认A的逆矩阵存在的情况下才能使用的！所以当然解不出来。对于该题R(A)=R(A,b)
没有意义的数，比如1/0就会这样
