解:∵方程为f(x)=∫(a,x) t²f(t)dt
∴两边求导,有f'(x)=x²f(x),
df(x)/f(x)=3x²dx,
ln|f(x)|=x³/3+ln|c|
(c为任意非零常数),f(x)=ce^(x³/3)
∴将解代入原方程有
ce^(x³/3)=∫(a,x) ce^(x³/3)dx,
e^(x³/3)=e^(x³/3)-e^(a³/3),
e^(a³/3)=0,a=-∞