NDA Math Trigonometric Ratios of Angles and Equations

(C)
Given,
p = Xcosθ − Y sin θ
q = X sin θ + Y cosθ
p‌2 + 4 pq + q‌2 = A X‌2 +BY‌2 …(i)
p‌2 + 4 pq + q‌2 = X‌2 cos‌2 θ + Y‌2 sin‌2θ − 2XY cosθ sin θ + x‌2 sin‌2θ + Y‌2cos‌2θ + 2 XY sin θ cosθ + 4[(Xcosθ− Ysinθ) (X sinθ + Y cosθ) ]
= X‌2 + Y‌2 + 4 [ X‌2 sin θ cosθ + XY cos‌2θ − XY sin‌2θ − Y‌2sin θ cosθ ]
= X‌2 + Y‌2 + 4[(X2−Y2)

sin2θ

2

+XYcos2θ]
= X‌2 + Y‌2 + 2( X‌2 −Y‌2)sin 2 θ + 4 XY cos 2θ …(ii)
From (i) and (ii) we get
cos2 θ = 0
⇒ θ =

π

4

∴ X‌2 + Y‌2 + 2(X‌2 − Y‌2) = A X‌2 + BY‌2
3 X‌2 − Y‌2 = A X‌2 + BY‌2
⇒ A = 3 ; B = −1