a) Kẻ BH $\perp$ AC tại H, mà SA $\perp$ (ABC) nên SA $\perp$ BH nên BH $\perp$ (SAC).

Do đó SH là hình chiếu vuông góc của SB trên mặt phẳng (SAC). Khi đó góc giữa đường thẳng SB và mặt phẳng (SAC) bằng góc giữa hai đường thẳng SB và SH, mà (SH,SB) = $\widehat{BSH}$.

Xét tam giác ABC vuông cân tại B, BH $\perp$ AC, ta có:

$\frac{1}{B{H}^2}=\frac{1}{A{B}^2}+\frac{1}{B{C}^2}=\frac{1}{a^2}+\frac{1}{a^2}=\frac{2}{a^2}\Rightarrow BH=\frac{a\sqrt{2}}{2}$.

Xét tam giác ABH vuông tại H, có:

AB² = BH² + AH² $\iff$a² = ${\left(\frac{a\sqrt{2}}{2}\right)}^2$+AH² $\iff$AH² = $\frac{a^2}{2}$.

Vì SA $\perp$ (ABC) nên SA $\perp$ AC.

Xét tam giác SAH vuông tại A, có

SA² + AH² = SH² $\iff$(a$\sqrt{6}$)² + $\frac{a^2}{2}$ = SH² $\iff$SH = $\frac{a\sqrt{26}}{2}$.

Vì BH $\perp$ (SAC) nên BH $\perp$ SH.

Xét tam giác SHB vuông tại H, có tan$\widehat{BSH}$ = $\frac{HB}{SH}$ = $\frac{\sqrt{13}}{13}$.

Vậy tang của góc giữa đường thẳng SB và mặt phẳng (SAC) là $\frac{\sqrt{13}}{13}$ .

b) Kẻ AK $\perp$ SB tại K.

Có SA $\perp$ (ABC) nên SA $\perp$ BC mà tam giác ABC vuông tại B nên BC $\perp$ AB.

Do đó BC $\perp$ (SAB) nên BC$\perp$ AK , suy ra AK $\perp$ (SBC).

Do đó CK là hình chiếu vuông góc của AC trên (SBC), suy ra góc giữa đường thẳng AC và mặt phẳng (SBC) bằng góc giữa hai đường thẳng AC và CK, mà (AC,CK) = $\widehat{ACK}$.

Xét tam giác SAB vuông tại A, AK $\perp$ SB, có:

SB = $\sqrt{S{A}^2+A{B}^2}=a\sqrt{7}$;

SA.AB = SB.AK $\Rightarrow$AK = $\frac{SA.AB}{SB}$ = a$\sqrt{\frac{6}{7}}$.

Do tam giác ABC vuông cân tại B nên AC = $\sqrt{A{B}^2+B{C}^2}=a\sqrt{2}$ .

Vì AK $\perp$ (SBC) nên AK $\perp$ CK.

Xét tam giác ACK vuông tại K, có sin$\widehat{ACK}=\frac{AK}{AC}=\sqrt{\frac{3}{7}}=\frac{\sqrt{21}}{7}$.

Vậy sin của góc giữa đường thẳng AC và mặt phẳng (SBC) là $\frac{\sqrt{21}}{7}$ .