⌊x⌋=a,⌊y⌋=b,⌊z⌋=c と置きます.x,y,z はどれも整数ではないので
⌈x⌉=a+1,⌈y⌉=b+1,⌈z⌉=c+1
となり,相異なる整数 a,b,c が
(a+1)2+(b+1)2+(c+1)2=ab+bc+ca+2357
をみたすときの a+b+c の最大値を求めればよいです.これを変形すると
a2+b2+c2−ab−bc−ca+2(a+b+c)=2354
となります.a+b+c を大きくしたいので a2+b2+c2−ab−bc−ca を小さくしたいです.
ここで,well-known fact として
a2+b2+c2≥ab+bc+ca
が成り立つので a,b,c がこの不等式の等号成立条件に近くなるようにしたいです.この不等式の証明を思い出してみると次のような変形が思いつきます:
21((a−b)2+(b−c)2+(c−a)2)+2(a+b+c)=2354.
ここで,対称性から a<b<c と仮定でき,b−a=p,c−b=q と置けば p,q は正の整数であり,
41(p2+q2+(p+q)2)+a+b+c=1177
となります.p2+q2+(p+q)2 が 4 の倍数なので p,q,p+q はどれも 2 の倍数です.各 (p,q) について p2+q2+(p+q)2 の値が小さい順に条件に適合する a,b,c が存在するかを調べていくと,(p,q)=(2,4) のときに
(a,b,c)=(385,387,391)
が見つかり,最小値 1163 が得られます.