0) Самый топорный, быстрый и грубый: берём вектор от первой точки ко второй, и от первой к третьей, перемножаем их векторно, нормализуем - и получаем нормаль к данной плоскости (к данному треугольнику). Это значение будет нормалью для всех трёх вершин. Именно его описал TDM
1) Более грамотный: каждая вершина принадлежит ни одному треугольнику, а нескольким. Берём первую вершину, ищем нормали всех треугольников, к которым она (вершина) относится, складываем и нормализуем. Получается нормально к данной вершине.
2) То же что и второе, но там ещё устанавливается зависимость от площадей этих треугольников. Этим вариантом я никогда не интересовался и не занимался. Надо спрашивать на gamedev.ru - там точно знают.
Удачи
