解:设方程的两根分别为x1, x2,根据韦达定理
x1+x2=k+1
x1x2=(1/4)k²+1
x1²+x2²=(x1+x2)²-2x1x2
=(k+1)²-2[(1/4)k²+1]
=k²+2k+1-(1/2)k²-2
=(1/2)k²+2k-1
根据题意,x1²+x2²=√5²=5,可得方程:
(1/2)k²+2k-1=5
(1/2)k²+2k-6=0
k²+4k-12=0
(k-2)(k+6)=0
k-2=0 或 k+6=0
k=2 或 k=-6
方程有两个实数根,则△≥0
△=[-(k+1)]²-4×1×[(1/4)k²+1]
=k²+2k+1-k²-4
=2k-3
2k-3≥0
k≥3/2
所以k=-6不合题意,应该舍去
k=2