OMC104(F)

公式解説より計算は重いですが, 思いつきやすいと思います. (おそらく)

$AD$ と $FE$ の交点を $P$ , $BA$ と $FE$ の交点を $Q$ とする. $AE=xy, EC=x(1-y)$ とおく. このとき, $AB=x$ である. また, $AD \parallel BC$ より $AE:EC=PE:EF=DE:EB$ であり, 以下がわかる. $$EB=DE\times \frac{EC}{AE}=\frac{8-8y}{y}，PE=EF\times \frac{AE}{EC}=\frac{3y}{1-y}$$ また, $\triangle BAE \sim \triangle BEQ$ より以下がわかる. $$BQ=BE\times\frac{BE}{BA}=\frac{(8-8y)^2}{xy^2}，EQ=AE\times\frac{BE}{BA}=8-8y$$ $AD \parallel BC$ より, $QB:QF=AB:PF$ , 余弦定理より $AB^2+AB\times AE+AE^2=EB^2$ である. $$\begin{cases} \dfrac{(8-8y)^2}{xy^2}\times \dfrac{3}{1-y}=(11-8y)\times x \\ x^2+x^2y+x^2y^2=\dfrac{(8-8y)^2}{y^2} \end{cases}$$

この連立方程式を $0\lt y\lt 1$ に注意して解くことで, $(x, y)=(\dfrac{20}{13}\sqrt{39}, \dfrac{2}{5})$ がわかる.
実際に解くときは $$x^2=\dfrac{3(8-8y)^2}{y^2(11-8y)(1-y)}=\dfrac{(8-8y)^2}{y^2(1+y+y^2)}$$ と変形して $y$ の二次方程式を解くとよいだろう.