1. минимальный треугольник
2. минимальный четырехугольник
3. минимальный эллипс
4. минимальный круг
5. выбрать из них фигуру с минимальной площадью (ну это, в общем-то, и не задача
)4 задачу можно и не решать, т.к. любой круг является эллипсом
задачу 1 можно тоже не решать: треугольник можно считать предельным случаем четырехугольника
есть два возможных варианта решения этих задач:
1. аналитический
2. численный
1й требует описания тех двух фигур, и уже по их свойствам находит решение для четырехугольника и эллипса
плюсы: достаточно просто подставить параметры в формулу, соответствующую ситуации, и получить точные значения параметров
минусы: поиск решения может оказаться довольно сложным, а в некотором случае аналитическое решение невозможно, кроме того, скорее всего, придется решать отдельно задачи для разных фигур
2й способ: строится функция - значение площади в зависимости от параметров фигур, потом ее минимизируют обычными численными методами
плюсы: вся разница в типе покрывающей фигуры вкладывается в функцию, алгоритм минимизации остается тем же (еще нужно будет отдельно написать функцию проверки того, что фигура действительно покрывает две другие)
минусы: часто численные методы имеют ограниченную область применения (накладываются ограничения на минимизируемую функцию)
Но эту фишку с треугольниками еще доказать надо...
Так попонятней просто должно быть, что я имел в виду... 
) Поэтому мы их заливаем. Как? Без разницы, тут пока не в эффективности дело. Берем и заливаем рекурсивно, как до этого было описано начиная с любой внутренней точки объекта (например центр круга).