已知函数f(x)=x^3+(1-a)x^2-a(a+2)x+b b属于R

答：
（1）f(x)=x³+(1-a)x²-a(a+2)x+b
在(-1,1)上不单调，说明导函数f'(x)在区间(-1,1)内存在零点。
求导：f'(x)=3x²+2(1-a)x-a²-2a
所以：f(-1)*f(1)=(3-2+2a-a²-2a)(3+2-2a-a²-2a)<0
即：(a²-1)(a²+4a-5)<0
所以：(a-1)(a+1)(a-1)(a+5)<0
所以：(a+1)(a+5)<0
所以：-5
（2）f(x)在区间(-1,1)上单调，则表明导函数f'(x)在区间(-1,1)上无零点。
抛物线f'(x)=3x²+2(1-a)x-a²-2a=(x-a)[3x+(a+2)] 开口向上，
零点x1=a，x2=-(a+2)/3
所以：两个零点不在区间（-1,1）之内
2.1）x1=a<=-1，x2=-(a+2)/3<=-1，无解；
2.2）x1=a<=-1，x2=-(a+2)/3>=1，解得：a<=-5；
2.3）x1=a>=1，x2=-(a+2)/3>=1，无解；
2.4）x1=a>=1，x2=-(a+2)/3<=-1，解得：a>=1
综上所述，a<=-5或者a<=1时，f(x)在区间(-1,1)上单调。

第一题：
解：
因为：f(x)在(-1，1)不单调，
所以：f(x)在(-1，1)内存在拐点。
即：在(-1，1)内，存在x使f'(x)=0。
f(x)=x³+(1-a)x²-a(a+2)x+b
f'(x)=3x²+2(1-a)x-a(a+2)
令：f'(x)=0，即：3x²+2(1-a)x-a(a+2)=0
x={2(a-1)±√{[2(1-a)]²-4×3×[-a(a+2)]}}/(2×3)
x=[2a-2±√(16a²+16a+4)]/6
x=[a-1±√(4a²+4a+1)]/3
x=[a-1±√(2a+1)²]/3
1、当a≥-1/2时：x=[a-1±(2a+1)]/3
解得：x1=a、x2=-(a+2)/3
因为：f(x)在(-1，1)上不单调，
所以，有-1＜x1、x2＜1
-1＜a＜1…………………………(1)
-1＜-(a+2)/3＜1…………………(2)
由(1)得：-1＜a＜1
由(2)有：-1＜-a＜5，解得：-5＜a＜1，
综合以上，再考虑a≥-1/2，有：-1/2≤a＜1。
2、当a＜-1/2时：x={a-1±[-(2a+1)]}/3
解得：x1=-(a+2)/3、x2=a
因为：f(x)在(-1，1)上不单调，
所以，有-1＜x1、x2＜1
-1＜-(a+2)/3＜1……………………(3)
-1＜a＜1……………………………(4)
由(3)得：-5＜a＜1
由(4)得：-1＜a＜1，
综合以上，再考虑a＜-1/2，有：-1＜a＜-1/2。
3、综合上述1、2两种情形。
有：-1＜a＜1
故：a的取值范围是：a∈(-1，1)。

第二题，关于单调：
对于f(x)，有：
当f'(x)＞0时，f(x)是单调增函数；
当f'(x)＜0时，f(x)是单调减函数。
仿照第一题的作法，只需使f'(x)=0的点在区间(-1，1)之外即可
即：x=[a-1±√(2a+1)²]/3
使|x|≥1即可。
具体做法，不再赘述，留给楼主做练习吧。

求导，f“x= 3x²+2(1-a)x-a(a+2）
若不单调，必定存在x使该导数等于0
即是3x²+2(1-a)x-a(a+2）=0 有解
若单调，则该导数恒大于0 或恒小于零
由此推断a的范围。如果还不懂 你再问吧