O que você quer perguntar é : Seja \( A_{m \times n} \) e \( A*A^T = 0_{m \times m} \). Prove que \(A = 0_{m \ \times n}\).
Demonstração: Seja o elemento típico da matriz A representado por \(a_{ij}\). Sendo \(A*A^T = B \), com elemento típico \(b_{ij}\), temos, pelo enunciado, \( b_{ij}=0 \forall i,j\). Note que \(tr(A*A^T)=tr(0) = 0 \), em que \(tr()\) denota o traço da matriz, que é a soma dos elementos da diagonal principal; no caso, \( tr(A*A^T) = \sum_i^n b_{ii} = \sum_i^n \sum_j^n a_{ij} a_{ij} = \sum_i^n \sum_j^n a_{ij}^2 = 0 \implies \)
\(a_{ij} = 0\space\forall i,j \implies A = 0_{m \times n}\),QED.