Цитата(ksili @ 28.3.2011, 08:57  ) |
Не дадите ли вы ссылки на какие-нибудь статьи или работы с описанием использования перцептрона для нахождения интерполирующих функций?
1) Это вообще алгоритм получится детерминированный? Т.е. он всегда будет давать одинаковый и верный ответ о том, что данные можно или нельзя описать определённой комбинацией функций, и если можно, то каковы их параметры? Или по-разному настроенные перцептроны дадут разный ответ? А его настроить ещё надо уметь...
2) Какова вычислительная сложно работы такого алгоритма? Хотя бы какие-то оценки
3) Ему на вход надо подавать сразу все точки или можно по-очереди? |
1) Можно сделать и детерминированным, и недетерминированным.
2) Линейный по каждой размерности. Трудозатраты по каждой размерности перемножаются. Т.е. сложность порядка О(ЧислоАргументов*ЧислоКоэффициентовВСети*ЧислоИтерацийАдаптацииСети)
3) Оба варианта возможны. Поточечная подача обычно быстрее сходится
А по ссылкам... Сложно. С одной стороны, везде, где рассматривается задача прогнозирования (регрессии) на нейросети - это одновременно и задача интерполяции (потому что регрессия должна работать и внутри первоначальной области значений аргументов, так и позволять выходить за эту исходную область значений, но Вам экстраполяция не нужна, значит, остается интерполяция). С другой стороны, сеть обычно решает задачу аппроксимации таблично заданной функции (обучающей выборки), и не стремится к получению "правильной" регрессии (в математическо-статистическом смысле - где регрессия представляет собой условное матожидание). Вообще-то, всё решаемо выбором правильной целевой функции (при обучении штрафующей за неточность ответа сети) - но это уже делается под особенности конкретной задачи, а у Вас пока только общий вопрос (без детальной привязки к задаче) изложен.
Да и не спец я по "ссылкам", особенно в инете. В инете чаще всего идёт полный бред. Я привык к работе с книжками (чаще всего забугорными).
В чём цимес нейросетевого подхода - он позволяет считать производные по адаптивным коэффициентам функции (сети) очень БЫСТРО (время расчета ВСЕГО вектора градиента в 2-3 раза медленнее, чем вычисление фукнции), и использовать всю мощь алгоритмов градиентной оптимизации. При этом оптимизация (обучение сети) является самоисправляющимся процессом - неточности промежуточных вычислений не накапливаются (а вот если, например, решаем систему лин.уравнений методом Гаусса - то там идёт накопление погрешностей при приведении матрицы к диагональному виду). |
я многослойный персептрон никогда не использовал...