Допустим было изображение на нём (воображаемый) треугольник, потом мы применили к нему аффинное преобразование(знаем координаты вершин до и после)  каков будет алгоритм интерполяции внутри треугольника?

Еще вопрос если мы хотим перспективное преобразование то надо уже работать с четырёхугольниками? или любое перспективное(а может даже и произвольное) аппроксимируется локально аффинным ? 

Старые координаты используй как UV координаты текстуры. По поводу интерполяции ну какую задашь такая будет. Но вообще лучше так кубическим многочленом инерполируешь, а после интегрируешь.



Нет.

 Что значит или? Но вообще есть методика ускорения перспективного преобразования когда оно производиться не над всем изображением, а только над определёнными точками. А между этими точками уже применяется аффинное. Т.е аффинное преобразование локально применяется для ускорения перспективного преобразования.

какие типы интерполяции существуют я знаю, но например в википедии совсем не то, там рассматривается случай квадратной ортогональной сетки.

у меня нету магической функции для текстуры, мне надо написать алгоритм на уровне берем пиксели из одного треугольника и переносим их интерполируя в другой.

вроде как с треугольником надо работать через это
http://en.wikipedia.org/wiki/Barycentric_c...8mathematics%29



в смысле для одного треугольника можно посчитать только аффинное преобразование т.к. у него всего  3 вершины, но если взять треугольники достаточно малого размера, то скорее всего можно и любое преобразование этим методом аппроксимировать.

я пытаюсь сделать что то типа
http://mesh.brown.edu/engn1610/img/A3-pwbl.png

Исходная она всегда ортогональная. У тебя исходная сетка это точки изображение.


Ну так создай.
http://www.enlight.ru/faq3d/articles/42.htm 


В том то и дело что нетолько, аффинное а любое.
Вот к примеру перспективное тут отчётливо видно.
http://en.wikipedia.org/wiki/File:Perspect...ure_mapping.jpg
Так что для корректного треугольник должен быть маленьким 3-10 пикселей по площаде. 
http://en.wikipedia.org/wiki/File:Texturem...subdivision.svg
http://en.wikipedia.org/wiki/Texture_mapping


Больше похоже сделайте за меня. Да ещё то незнамо что.