Стоит следующая задача:
Имеется набор целых чисел зависимости f(x) = y неубывающей функции.
Необходимо определить полином для данной функции.
В каком направлении мне необходимо продвигаться?

Также необходимо решить ряд следующих задач:
1. То же самое, только для возрастающей функции.
2. Определить максимальную погрешность аппроксимации на конечном интервале значений x.
3. Какие существуют правила, по которым можно оценить погрешность аппроксимации?

P.S. Заранее всем спасибо за посильную помощь в решении данного вопроса.

Начните с книги

Амосов А.А., Дубинский Ю.А., Копченова Н.В.
"Вычислительные методы для инженеров."

Глава 11. Приближение функций и смежные вопросы 

Какой полином? 

Если речь идет именно о задаче аппроксимации, то вид функции f(x) - с точностью до параметров - должен быть известен заранее. Иначе задача не имеет смысла.

Для интерполирования таблично заданной функции можно воспользоваться методом Ньютона или Лагранжа
В итоге получаются одинаковые полиномы n степени, n-кол-во таблично заданных значений.
Я обычно пользуюсь методом Лагранжа, он проще.
Если f(x) задана таблично в n точках, 
--------------------------
| x | x0 | x1| ... | xn |
--------------------------
| y | y0 | y1| ... | yn |
--------------------------

тогда интерполяционный многочлен имеет вид 
                n                 n        x - xj
 Pn(x) = SUM  yi *    PROIZ  ---------
              i=0               j=0      xi - xj
                                 i<>j