直線 BC に関して,点 A,O と対称な点をそれぞれ A′,O′ とする.
ここで,四角形 BOCO′ はひし形であるから,線分 BC,OO′ は直交し,中点 M を共有する.
また,△A′BC の外接円を Γ とすると,Γ は BC に関して △ABC の外接円と対称であるから,Γ の半径の 2 乗が求めるものである.
直線 BC,HO はともに AH と垂直であるから,BC∥HO.
∠BHC=180∘−∠BAC=180∘−∠BA′C より,H は Γ 上の点.
OH と Γ の交点のうち H でない方を K とおくと,∠KHA′=180∘−∠OHA=90∘ より,KA′ は Γ の直径であり,K は A′O′ 上の点.
よって,直線 KO′,すなわち直線 A′O′ と,直線 BC の交点は,直線 AO,BC の交点 D に等しい.
MD∥OK,MO=MO′ であるから,中点連結定理より OK=2MD=2(BM−BD)=CD−BD=23
三平方の定理より,
AO2=O′B2=O′M2+MB2=O′M2+4(BD+CD)2=O′M2+42232
AO2=O′K2=O′O2+OK2=4O′M2+232
したがって,AO2=32232−232=3246⋅200=16400 である.
残念ながら,大人しく重心をとった方が早いようです.