複素座標を使った解法を書いておきます.(長くなったので計算の部分だけ読みたい人は後半から読んでください)
well-known fact として以下が成り立ちます.
3点A(a2),B(b2),C(c2)が単位円上にあるとき重心G,内心I,垂心Hについて
- Gの複素座標は3a2+b2+c2
- Hの複素座標はa2+b2+c2
- Iの複素座標は−ab−bc−ca
(a,b,cの符号は適切に定めるとする)
これを使うと問題の条件から
32(a2+b2+c2)=−ab−bc−ca
となり,ここからこの2次方程式を解いてもいいのですが(その場合はAB=ACの条件をa2=bcと直して計算を進めます),AB=ACからA,O,G,I,HはどれもBCの垂直二等分線上にあることがわかり,Aを実軸上に取るとこれらは全て実軸上にあることになり実部だけを見ればいいことがわかります.
ここで,外接円の半径は1であり,OIの長さがわかれば Chapple-Euler の定理から内接円の半径がわかるということも頭に入れておきます.
次のように座標をおきます.
a=1,b=−cosθ−isinθ,c=−cosθ+isinθ
Iの内心の座標のところでa,b,cの座標を適切に定める必要があると言っていたように,その辺りを考慮すると 0<θ<2π となります.
ここまでが前置きでここから計算のパートに入ります.
ℜ(32(a2+b2+c2))=32(2cos2θ+1)
ℜ(−ab−bc−ca)=2cosθ−1
これらが等しいので 2次方程式を解くと cosθ=21,41 となり,cosθ=21 のときは ABC が正三角形になってしまうので cosθ=41 となります.
これよりIの座標は −21 となり, Chapple-Euler の定理から R2−2Rr=OI=21 となり,r=83 がわかるので答えは 11 です.