ピタゴラスの三角形　 N1:斜線のベクトル N2:x方向のベクトル 右向き、上向きを正とする。 ベクトルの和を問う問題で, 右向きを正として釣り合

余弦定理ではないです。あえて言うならベクトルの合成かな。

ピタゴラス三角形はあくまで直角三角形のことなので、三辺が3,4,5とは限りません。
3/5の後ろのθは不要です。高校範囲ならsinθとかcosθみたいにくっついて出て来ます。
X軸方向:ベクトルAC×3/5＋ベクトルAB＝0
Y軸方向:ベクトルAC×❓＋ベクトルBC=0
Y軸については自分で導いて下さい。