Надо определить массив координат точек эллипса. Задан угол поворота(вокруг начала координат) alpha и полуоси эллипса а, b. Какие формулы будут у координат точек x = , y =

Сам понял чего спросил-то? давай-ка нормально объясни задачу...

можно взять формулу координат точки эллипса и применить к ней оператор поворота

Если речь идет о прямоугольной системе координат (где начало координат есть центр эллипса), а точки a, b - есть пересечение эллипса с положительными полуосями x, y. Тогда x, y находяться из уравнения (x/a)^2+(y/b)^2=1.
Что за угол поворота

Цитата

Что за угол поворота

Автор хотел сказать, что плоскость, в которой лежит еллипс не параллельна ни одной плоскости, образуемой осями координат XYZ.
Для перехода из xy эллипса в мировые XYZ нужно всего лишь учесть "разворот" этой системы координат относительно мировой.
Рисуешь на бумажке интересующую тебя картину. Берешь произвольную точку, опускаешь перпендикуляры на оси XYZ - получаешь прямоугольные треугольники. Открываешь учебник геометрии н странице, где дается определения синуса и косинуса и вуаля - расчитанные катеты и есть значения XYZ.
Так например если плоскость повернута вокруг оси Z на угол a относительно оси X, а радиус вектор до этой точки равен r и образует с плоскостью XY угол b

Код

проекция r на XY: r1=r*cos(b) X=r1*cos(a) Y=r1*sin(PI/2-a) Z=z

либо расчитать матрицу перехода из одной систему координат в другую и пользоваться ей для расчетов.