OMC116(E)

$AB=a,CD=b$ とおくと求めたい値は $5+\dfrac{\sqrt{3}}{4}(a^2+b^2)$ である．
三角形 $ADP$ を点 $P$ を中心に回転させて点 $D$ を点 $C$ に重ねると,移動後は $AB=\sqrt{3}a$ なので余弦定理より $$\cos\angle BCA=\frac{52-3a^2}{48}$$ 一方で三角形 $ABC$ の面積について $$\frac{1}{2}\cdot4\cdot6\sin\angle BCA=5+\frac{\sqrt{3}}{4}a^2\Longleftrightarrow\sin\angle BCA=\frac{20+\sqrt{3}a^2}{48}$$ 2式より $\cos\angle BCA,\sin\angle BCA$ を消去して整理すると次の式を得る． $$3a^4+(10\sqrt{3}-78)a^2+200=0$$ 三角形 $ADP$ を点 $P$ を中心に回転させて点 $A$ を点 $B$ に重ねて,同様の議論をすることで次の式が得られる． $$3b^4+(10\sqrt{3}-78)b^2+200=0$$ したがって $a^2,b^2$ は二次方程式 $3x^2+(10\sqrt{3}-78)x+200=0$ の2解なので解と係数の関係より $a^2+b^2=\dfrac{78-10\sqrt{3}}{3}$
以上より $5+\dfrac{\sqrt{3}}{4}(a^2+b^2)=\dfrac{5+13\sqrt{3}}{2}$ を得る．

※ $a\rightarrow\dfrac{2}{\sqrt{3}}a$ などとしておくと計算が軽くなるかもしれません．