(1)当a=-时,f(x)=-x2+xlnx,
函数f(x)的定义域为(0,+∞),f(x)在(0,+∞)内单调递减.
下面给出证明:
f′(x)=-x+lnx+1,
令g(x)=-x+lnx+1,则g′(x)=-1+=,
∴当x∈(0,1)时,g′(x)>0,g(x)在(0,1)上单调递增,
当x∈(1,+∞)时,g′(x)<0,g(x)在(1,+∞)上单调递减,
∴g(x)在x=1时,g(x)取得最大值,即g(1)=0,
∴g(x)<g(1)=0,即f′(x)<0在(0,+∞)上恒成立,
∴f(x)在(0,+∞)内单调递减;
(2)由于>1表示点(p+1,f(p+1)) 与点(q+1,f(q+1))连线的斜率,
∵实数p,q在区间(1,2)内,
∴p+1 和q+1在区间(2,3)内.
∵不等式>1恒成立,
∴函数图象上在区间(2,3)内任意两点连线的斜率大于1,
∴f′(x)=2ax+lnx+1>1 在(2,3)内恒成立,
又由函数的定义域知,x>0,
∴a>-在(2,3)内恒成立,
令h(x)=-,则h′(x)==0,解得x=e,
当x∈(2,e)时,h′(x)<0,故函数h(x)在(2,e)上单调递减,
当x∈(e,3)时,h′(x)>0,故函数h(x)在(e,3)上单调递增,
∴h(x)≤g(2)=-,h(x)≤g(3)=-,而->-,
∴a≥-,即实数a的取值范围是[-,+∞);
(3)证明:构造p(x)=,则p′(x)==0,解得x=e,
当x∈(0,e)时,p′(x)>0,故函数p(x)在(0,e)上单调递增,
当x∈(e,+∞)时,p′(x)>0,故函数p(x)在(e,+∞)上单调递减,
∴当x=e时,函数p(x)取最大值,则<,
∴<,即