a) Có $\begin{cases}M\in(MBC)\cap(SAD)\\ BC\parallel AD\\ BC\subset(MBC); AD\subset(SAD)\end{cases}$

Suy ra $(MBC)\cap(SAD)=My\parallel BC\parallel AD$.

Trong $(SAD)$ gọi $N=SD\cap My$. Suy ra $N=SD\cap(MBC)$.

Từ đó suy ra $BCNM$ là hình thang (với $MN\parallel BC$).

Có $MN\parallel AD$. Suy ra $$\dfrac{MN}{AD}=\dfrac{SM}{SA}=\dfrac{x}{2a}\Rightarrow MN=\dfrac{x}{2a}\cdot AD=\dfrac{3x}{2}.$$
Xét tam giác $SBM$ và tam giác $SCN$ có $$\begin{cases}SB=SC\\ SM=SN\\ \widehat{BSM}=\widehat{CSN}=60^{\circ}\end{cases}\Rightarrow\triangle SBM=\triangle SCN\Rightarrow BM=CN.$$
Tứ giác $BMNC$ có $\begin{cases}MN\parallel BC\\ MN< BC\\ BM=CN\end{cases}$.

Suy ra $BMNC$ là hình thang cân.

b) Áp dụng định lý cosin vào $\triangle SBM$ ta có $$\begin{aligned}BM^2&=SB^2+SM^2-2SB\cdot SM\cos60^{\circ}\\ &=4a^2+x^2-2 \cdot2ax\cdot\dfrac{1}{2}\\ \Rightarrow BM&=\sqrt{4a^2+x^2-2ax}=CN.\end{aligned}$$
Dựng $MN\perp BC$ tại $H$. Ta có $$BH=\dfrac{BC-MN}{2}=\dfrac{3a-\dfrac{3x}{2}}{2}=\dfrac{6a-3x}{4}.$$

$\begin{aligned}MH&=\sqrt{BM^2-BH^2}\\ &=\sqrt{4a^2+x^2-2ax-\left(\dfrac{6a-3x}{4}\right)^2}\\ &=\dfrac{1}{4}\sqrt{28a^2+7x^2+4ax}.\end{aligned}$

Diện tích tứ giác $BMNC$ là $$\begin{aligned}S&=\dfrac{(MN+BC)MH}{2}\\ &=\dfrac{\left(\dfrac{3x}{2}+3a\right)\dfrac{1}{4}\sqrt{28a^2+7x^2+4ax}}{2}\\ &=\dfrac{6a+3x}{16}\cdot\sqrt{28a^2+7x^2+4ax}.\end{aligned}$$