a) Công thức khai triển của biểu thức là
$$\begin{aligned}A&=\displaystyle\sum_{k=0}^{11}\mathrm{C}_{11}^k\cdot x^{11-k}\cdot\left(\dfrac{-1}{x^2}\right)^k+\sum_{n=0}^7\mathrm{C}_7^n\cdot\left(x^2\right)^{7-n}\cdot \dfrac{1}{x^n}\\ &=\sum_{k=0}^{11}(-1)^k\cdot\mathrm{C}_{11}^k\cdot x^{11-3 k}+\sum_{n=0}^7\mathrm{C}_7^n\cdot x^{14-3n}\end{aligned}$$
Để số hạng chứa $x^5$ thì $\begin{cases}11-3k=5\\ 14-3n=5\end{cases} \Leftrightarrow\begin{cases}k=2\\ n=3\end{cases}$

Kết luận hệ số của $x^5$ là $\mathrm{C}_{11}^2+C_7^3=90$.

b) Gọi số tự nhiên có $4$ chữ số phải tìm là $x,1000\le x\le9999$.

Theo giả thiết ta có $x=120n+88=61k+39$ với $n,k\in\mathbb{N}$.

Từ đó ta có $120n-60k=k-49$ suy ra $k-49$ chia hết cho $60$

Mặt khác ta có $$\begin{aligned}1000\le x\le 9999\Rightarrow&1000\le 61k+39\le 9999\\ \Rightarrow&\dfrac{961}{61}\le k\le\dfrac{9960}{61}\\
\Rightarrow&15<k<164\\ \Rightarrow&-34<k-49<115.\end{aligned}$$
Mà $k-49$ chia hết cho $60$ nên $k-49$ chỉ có thể là $0;60$.

• Với $k=49\Rightarrow x=3028$ (chia $120$ dư $28$)
• Với $k=109\Rightarrow x=6688$ (chia $120$ dư $88$)

Vậy số cần tìm là $6688$.