Прозрачный слой

Случай 1. Чтобы луч попал внутрь полости, он должен дойти до её поверхности и угол падения на неё должен быть меньше предельного угла полного внутреннего отражения \(\varphi_{\text{пред}} = \arcsin(1/n)\). Из теоремы синусов для треугольника \(OAB\) угол падения на полость связан с углом падения на шар соотношением \(\sin\varphi = \dfrac{2\sin\alpha}{n}\). Условие \(\sin\varphi < \dfrac1n\) даёт \(\sin\alpha < \dfrac12\), т.е. \(\alpha < 30^\circ\).

Случай 2. Для слоя с переменным показателем преломления сохраняется величина \(n(r)\,r\sin\varphi(r)\) (закон преломления для сферически-симметричной среды). На внешней поверхности шара \(n(2R)\cdot 2R\sin\varphi = 2R\sin\alpha\), отсюда при \(r = R\) (внутренняя поверхность полости) \(n(R)\sin\varphi(R) = 2\sin\alpha\). Условие попадания в полость \(\sin\varphi(R) < \dfrac{1}{n(R)} = \dfrac12\) даёт снова \(\sin\alpha < \dfrac12\), т.е. \(\alpha < 30^\circ\). Функция \(f(r) = n(r)\,r = 2{,}5r - 0{,}5\dfrac{r^2}{R}\) на отрезке \(R \le r \le 2R\) монотонно возрастает, поэтому угол \(\varphi\) не может стать \(90^\circ\) раньше, чем луч достигнет внутренней поверхности: при всех \(\alpha < 30^\circ\) луч проникает в полость.