170125 初版 170125 更新
座標平面上に 点A(2, 0) をとり，
原点O を中心とする半径が2 の円周上に
点B, C, D, E, F を，点A, B, C, D, E, Fが
順に 正六角形 の頂点となるようにとります。
ただし，B は第1象限にあるとします。
線分BF上 に点P をとり，そのy 座標を a とします。
Pの座標は(1, a) です。
点P から直線CE に引いた垂線① と，
点C から直線EP に引いた垂線② との交点をHとします。
\(\overrightarrow{\rm EP}=\overrightarrow{\rm OP}-\overrightarrow{\rm OE}\)
\(=(1,a)-(-1,-\sqrt{3})=(2,a+\sqrt{3})\)
と表せることができます。
H の座標を a を用いて表してみましょう。
H は ① 上の点ですから，y 座標は a です。
x 座標はわかりません。
分からないものは，分からないと未知数で置き，関係式を見つける。
これは，問題を数学に乗せる 第一歩です。
H(x, a) とおくことができます。
② より
\(\overrightarrow{\rm EP}\cdot\overrightarrow{\rm CH}=0\) … ③
\(\overrightarrow{\rm CH}=(x+1,a-\sqrt{3})\) ですから，
③ より x の満たすべき式は \(2(x+1)+(a^2-3)=0\)
これより，\(x=\dfrac{-a^2+1}{2}\)
すなわち，H \(\left(\dfrac{-a^2+1}{2},a\right)\)
さらに，\(\overrightarrow{\rm OP}\) と \(\overrightarrow{\rm OH}\) の
なす角を θ とします。
\(\cos\theta=\dfrac{12}{13}\) のとき，a の値を求めてみましょう。
\(\overrightarrow{\rm OP}\cdot\overrightarrow{\rm OH}=\dfrac{12}{13}
\left|\overrightarrow{\rm OP}\right|
\left|\overrightarrow{\rm OH}\right|\) ですが，ここで
\(\overrightarrow{\rm OP}\cdot\overrightarrow{\rm OH}
=\dfrac{1-a^2}{2}+a^2=\dfrac{1+a^2}{2}\)
\(\left|\overrightarrow{\rm OP}\right|
=\sqrt{1+a^2}\)
\(\left|\overrightarrow{\rm OH}\right|
=\sqrt{\dfrac{(1-a)^2}{4}+a^2}=\dfrac{1+a^2}{2}\)
したがって，\(\sqrt{1+a^2}=\dfrac{13}{12}\)
\(a^2=\dfrac{169}{144}-1=\dfrac{25}{144}\)
よって，\(a=\pm\dfrac{5}{12}\) … ④