Поиск:

Ответ в темуСоздание новой темы Создание опроса
> Математическое решение уравнений нейронной сети 
:(
    Опции темы
Softaz
Дата 13.2.2007, 11:12 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


wasm
**


Профиль
Группа: Участник
Сообщений: 373
Регистрация: 16.1.2006

Репутация: нет
Всего: 16



Здравствуйте!

Нужно решение уравнений нейронной сети. Нашел простенькие из www.basegroup.ru/neural/math.htm (там в диф. исчислении, мне надо это расписать алгебраически). По статье сделана библиотека www.basegroup.ru/download/neuralbase.htm

Чтобы так сказать "въехать в вопрос".
То есть решаю "на бумажке", но ответы очень сильно не совпадают с теми, что дает программа.

Видели ли Вы математическое решение какого-либо, пусть простейшего примера нейронной сети.
То есть задана задача. Нормализуем параметры,... находим веса,... после обучения даем другие параметры и проверяем ошибку. И все это не только в диф.виде, а и в _числах_.

С нормализацией проблем нет, сигмоид тоже понятен. За разбор обучения я еще не брался. Взял параметры из файла nnw программы и попытался самостоятельно на бумажке их решить. Не вышло. Прошу помощи.

Заранее благодарен.
P.S:
Мне не нужно объяснение именно этой сети - можно и другой. Мне нужно "въехать", как все это работает и научиться рассчитать вручную хотя бы простейший пример. Сами сети я никогда не использовал - это будет всего лишь параграф в дипломе (в основном там классические методы - с этим проблем не было), типа, что и на НС можно.

Если предоставите именно _решение_от_начала_до_конца, а не общие форумулы, можно за материальное вознаграждение (баксов 10 - потому что решить, не зная концепции, нельзя, а мне не надо пару диф. формул, сдернутых с сатйта; а если концепция знакома, то готовое решение скорее всего есть. Итого 10$ за скан пары-тройки листов или отправку файлика очень хорошая сумма).


--------------------
Разочарованный в .NET
PM MAIL WWW   Вверх
VictorTsaregorodtsev
Дата 13.2.2007, 11:55 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 274
Регистрация: 28.7.2006

Репутация: 3
Всего: 8



Нет там никакого диф.исчисления smile

Сетка - это просто функция или вектор-функция Y=f(X,W), где Y - выходные сигналы, X - текущий вектор входов, W - набор весов сети. Т.е. при заданных весах и структуре сети и вектору Х выходы сети находятся влёт. Производных здесь нет вообще! Т.е. сетка - это просто набор выражений, в которые надо подставить вектор X или его отдельные компоненты и получить в итоге Y.

Производные возникают только при обучении сети. Традиционный способ решения - продифференцировать целевой критерий по весам синапсов сети, приравнять полученные производные к нулю и решить систему уравнений - неудобен, т.к. надо заново аналитически выписывать все производные при смене размеров/структуры сети и решать уравнения в аналитическом же виде, что долго и неудобно. Поэтому берется следующий способ - вычисляются значения производных и делается шаг вдоль антиградиента (вектора производных, взятого с противоположным знаком) либо привлекаются более гибкие способы из теории градиентной оптимизации. Несмотря на то, что таких производных приходится вычислять много (столько же, сколько весов в сети), ВСЕ их значения, т.е. весь вектор градиента, можно вычислить на нейросетке в режиме обратного распространения за время, пропорциональное времени вычисления самого Y=f(X,W). Если же считать значения производных по-одной через конечные разности, то общее время расчета градиента увеличится во столько раз, сколько весов синапсов в сети. А если выписывать алгебраические выражения для производных и потом уравнения на их базе решать в символьной арифметике - то вообще швах.
PM MAIL WWW   Вверх
  
Ответ в темуСоздание новой темы Создание опроса
Правила форума "Алгоритмы"

maxim1000

Форум "Алгоритмы" предназначен для обсуждения вопросов, связанных только с алгоритмами и структурами данных, без привязки к конкретному языку программирования и/или программному продукту.


Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, maxim1000.

 
0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | Алгоритмы | Следующая тема »


 




[ Время генерации скрипта: 0.0569 ]   [ Использовано запросов: 21 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.