对于二阶常系数非齐次线性微分方程y''+ay'+by=e^-x cosx，已知一个特解y*=e^-x(xcosx+xsinx)，求a和b的值。

由题目给出的二阶常系数非齐次线性微分方程 y'' + ay’ + by = e^-x^cosx 和特解 y^* = e^-x^(xcosx+xsinx)，我们知道 -1 + i 是特征方程 λ^2 + aλ + b = 0 的根。根据这一信息，我们可以将 λ = -1 + i 代入特征方程，得到 (-1 + i)^2 + a(-1 + i) + b = 0。通过展开并分别比较实部和虚部，我们可以得到 a 和 b 的值。具体计算后，我们得到 a = 2，b = 2，因此答案是 D。