(1)
\(\overrightarrow{\rm P_3P_4}=\overrightarrow{\rm OA_3}\)
\(\overrightarrow{\rm OA_3}=-\overrightarrow{\rm OA_7}\)
\(\overrightarrow{\rm OA_7}=\overrightarrow{\rm OA_1}+\overrightarrow{\rm A_1A_7}\) \(=\vec{a}-\sqrt{2}\vec{b}\)
よって， \(\overrightarrow{\rm P_3P_4}=-\vec{a}+\sqrt{2}\vec{b}\)

(2)
P₁P₃ = 2r とおくと　△P₁P₂P₃で，余弦定理
\((2r)^2=1^2+1^2-2\cdot 1\cdot 1\cdot \cos 135^\circ\)
\(r=\dfrac{\sqrt{2+\sqrt{2}}}{2}\) これが求める半径

(3)
P₁P₃の中点　つまり　円C の中心を M とする
直線P₂P₅ と M との距離を円C の半径に加えたものを h とすると
S の最大値は \(S=\dfrac{1}{2}h\cdot {\rm P_2P_5}\)
\({\rm P_2P_5}=\dfrac{1}{\sqrt{2}}\cdot 2+1=\sqrt{2}+1\)
∠MP₁P₂=θ として，cos θ = r
\({\rm P_1Q}=r^2\)  \(d={\rm P_2Q}=1-r^2=\dfrac{2-\sqrt{2}}{4}\)
\(h=d+r=\dfrac{\sqrt{2}(\sqrt{2}-1)}{4}+\dfrac{\sqrt{2+\sqrt{2}}}{2}\)
\(S=\dfrac{\sqrt{2}}{8}+\dfrac{1}{4}(\sqrt{2}+1)\sqrt{2+\sqrt{2}}\)