下列矩阵中，不能相似对角化的矩阵是

对于矩阵A，它是下三角矩阵，主对角线上的元素就是矩阵的特征值，因此有三个不同的特征值，所以矩阵A可以相似对角化。对于矩阵B，它是实对称矩阵，实对称矩阵必定可以相似对角化。对于矩阵C，根据给定的信息，齐次方程组(OE—A)x=0的基础解系有3—1=2个线性无关的解向量，即λ=0有两个线性无关的特征向量，所以矩阵C也可以相似对角化。然而，对于矩阵D，虽然它是上三角矩阵，但无法确定其是否可以相似对角化，因为题目没有给出足够的信息来确定其是否有足够的线性无关的特征向量。因此，不能相似对角化的矩阵是D。