ONEONEさん、こんばんは。
＞A（2、0),B(-2、0),P(p、q）(q＞0）
で点Pが∠APB＝60°を満たして動くとき三角形APBの重心Gの軌跡を求める問題です。
まず、(p,q)の満たす式を求めていけばいいですね。
指針としては、
＞内積を2通りで表すのかと思いｘ成分とｙ成分を掛けて足すのと
A・B＝｜A｜・｜B｜cosθ
って書くので表して連立してみたのですが
というONEONEさんの方法で、よいと思います。
→ → → →
AP*BP=|AP|｜BP|cos60°
ですから、これに座標をあてはめてみましょう。
（以下はベクトルの矢印は省略します）
AP=(p-2,q)
BP=(p+2,q)ですから
左辺=(p+2)(p-2)+q^2
=p^2-4+q^2・・・（あ）
右辺=√{(p-2)^2+q^2}√{(p+2)^2+q^2}*1/2・・・（い）
（あ）＝（い）なので、両辺２倍してから２乗します。
左辺＝4(p^2+q^2-4)^2←（あ）の２倍の２乗
=4p^4+8p^2q^2-32p^2+4q^2-32q^2+64・・（★）
右辺＝{(p+2)^2+q^2}{(p-2)^2+q^2}
=(p+2)^2(p-2)^2+q^2{(p+2)^2+(p-2)^2}+q^4
=(p^2-4)^2+2q^2(p^2+4)+q^4
=p^4-8p^2+16+2p^2q^2+8q^2+q^4・・（☆）
（★）＝（☆）より、
3p^4-24p^2+6p^2q^2+3q^4-24q^2+48=0
3(p^2+q^2-4)^2=0
よって、p^2+q^2=2
これは、点(p,q)は原点中心の半径２の円になることを示しています。
あとは、p/3=X,q/3=Yとして、p=3X,q=3Yを代入すれば、
X^2+Y^2=(2/3)^2
となるので、求める軌跡は原点中心の半径2/3の円周であることが分かります。
p,qの４次式になっているので、計算が煩雑ですが、えいやっと計算するしかないと思います。
頑張ってください！！
補足
図に描けば確かに中心もわかるし、円の式もかけますけど・・・ 数式を用いて説く方法は＜？＞です。