(1)(a^2+b^2,a)=(a^2+b^2-a*a,a)=(b^2,a)=1
同理(a^2+b^2,b)=1
(2)由题知:ma^2=(m+116)b^2
m(a^2-b^2)=116b^2
所以:(a^2-b^2)|116b^2
但是:(a^2-b^2,b^2)=(a^2,b^2)=1
所以:(a^2-b^2)|116
所以a^2-b^2是116的约数,116=2*2*29
a^2-b^2=(a-b)(a+b)
而a-b和a+b同奇偶性,且a,b互质
所以a^2-b^2要么是4的倍数,要么是一个大于3的奇数
所以(a-b)(a+b)=29 或(a-b)(a+b)=116
所以a-b=1,a+b=29或a-b=1,a+b=116或a-b=2,a+b=58或a-b=4,a+b=29
解得只有一组解符合条件
a=15,b=14
所以m(15^2-14^2)=116*14^2
所以m=4*14^2=784
所以k=784*15^2=176400
(3)设a=5x,b=5y,(x,y)=1
则m(x^2-y^2)=116y^2
所以x=15,y=14
a=75,b=70,m=784
k=784*75^2=4410000