Суть проблемы такова: имеется некая среда, наполненная разными эллипсоидными частицами с показателем преломления отличным от среды. Частицы достаточно крупные, их число - порядка 20-30. Через среду проходит световой луч (далее Луч). Луч пересекает, преломляясь, одну из частиц и выходит из неё в другой точке. 
     Далее, по идее, надо просчитывать возможность пересечения луча со всеми частицами, отбрасывать случаи с отрицательным дискриминантом в уравнении, из вариантов с действительными корнями выбирать минимальный и т.д. Но так как Лучей может быть пара десятков, всё это грозит обернуться огромными потерями во времени. (Каждый Луч может иметь порядка 20-30 преломлений - в самом плохом случае - на каждом преломлении нужно считать 20-30 дискриминантов, да ещё и самих Лучей много).
  Вопрос: как на каждом преломлении отбросить те частицы, с которыми луч заведомо не сможет пересечься?
  Собственно, я прошу даже не о помощи в решении проблемы, а о квалификации её - в какой области копать?

хм... если в общем, то в головуприходит такое:
1. делим область на части, для которых можно просто проверить, попадёт ли туда луч
2. проверяем каждую и убираем неподходящие

в качестве примера:
когда луч выходит из частицы, смотрим его x-координату
если она положительная, убираем все частицы, которые лежат полностью слева от точки выхода (предполагается, что положительное направление - направо)

так же можно сделать и по y

Спасибо. 
У меня даже сложилось такое решение - организовать из частиц дерево по x-координате, дерево по у-координате и дерево по z-координате. При выходе Луча рассматривать только те частицы, которые имеют координату большую, чем у точки выхода (или меньшую, смотря по направлению). Пересечение множеств трех ветвей дерева даст нужные частицы. 
Теперь внимание, вопрос номер два - а не будет ли это дольше? Где посмотреть алгоритмы функции, которая позволяет сказать, что элемент принадлежит множеству?

И повторю свой изначальный вопрос, может, кто ответит - моя задача - это вообще какая область? Куда смотреть?

в общем-то отсечения "далёких" объектов ещё делаются при анализе столкновений (например, когда частицы летают и сталкиваются)
эта задача, в общем-то отличается, но вполне возможно, что какие-то подходы можно будет перенести...

Посмотри тут
http://graphics.cs.uni-sb.de/Courses/ws0607/cg/Termine.html
насчет kd-trees и подобного... Во втором и третьем pdf'ах точно есть полезная информация.

Спасибо. Теперь более-менее понятно, где копать. Буду разбираться.