Модераторы: Rickert
  

Поиск:

Ответ в темуСоздание новой темы Создание опроса
> Обучение нейросети, Ошибка при обучении нейросети 
V
    Опции темы
ВикторВитальевич
Дата 16.2.2013, 20:36 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Новичок



Профиль
Группа: Участник
Сообщений: 4
Регистрация: 16.2.2013

Репутация: нет
Всего: нет



Задача: распознать изображение символа

Сеть:

многослойный персептрон

Входной вектор: 300 элементов
Первый скрытый слой: 100 нейронов
Второй скрытый слой: 100 нейронов
Выходной слой: 26 нейронов (на каждый символ соответственно)

Функция активации: сигмоида, коэффициент наклона 0.6

Скорость обучения: 0.6

Начальные веса рандомны в пределах от 0.0001 до 0.001

При обучении сети:
Подаем первый образец, обучаем, сеть его запоминает
Подаем второй образец, обучаем, сеть его запоминает, но первый уже распознать не может
и так до бесконечности

Вопрос: что делать?)

PM MAIL   Вверх
ВикторВитальевич
Дата 17.2.2013, 13:02 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Новичок



Профиль
Группа: Участник
Сообщений: 4
Регистрация: 16.2.2013

Репутация: нет
Всего: нет



ни один человек не сталкивался с такой проблемой?
PM MAIL   Вверх
Flap
Дата 18.2.2013, 21:25 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Шустрый
*


Профиль
Группа: Участник
Сообщений: 70
Регистрация: 16.11.2005

Репутация: нет
Всего: нет



Веса у тебя какие-то странный, ну да ладно.

Цитата

Подаем первый образец, обучаем, сеть его запоминает


Что ты подразумеваешь под обучением? Подстраиваешь веса, пока ошибка не уменьшится до нужной? 
Если да, то неудивительно. У тебя сеть просто переучивается на новый пример.
Подстравай веса один раз на один пример. Потом подавай на вход второй пример, снова один шаг подстройки и пошли дальше.
Правда запамятовал, как ошибку считать. Вроде брал среднюю на всю обучающую выборку.



PM MAIL   Вверх
ВикторВитальевич
Дата 19.2.2013, 00:36 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Новичок



Профиль
Группа: Участник
Сообщений: 4
Регистрация: 16.2.2013

Репутация: нет
Всего: нет



Цитата(Flap @ 18.2.2013,  21:25)
Веса у тебя какие-то странный, ну да ладно.

Цитата

Подаем первый образец, обучаем, сеть его запоминает


Что ты подразумеваешь под обучением? Подстраиваешь веса, пока ошибка не уменьшится до нужной? 
Если да, то неудивительно. У тебя сеть просто переучивается на новый пример.
Подстравай веса один раз на один пример. Потом подавай на вход второй пример, снова один шаг подстройки и пошли дальше.
Правда запамятовал, как ошибку считать. Вроде брал среднюю на всю обучающую выборку.

Сколько примерно эпох обучения придется провести?

про ошибку:
я правильно понимаю, что ошибка это половина от суммы квадратов разности требуемого значения и выхода для каждого нейрона каждой итерации?

про веса: а какие тогда брать?
PM MAIL   Вверх
ВикторВитальевич
Дата 19.2.2013, 20:30 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Новичок



Профиль
Группа: Участник
Сообщений: 4
Регистрация: 16.2.2013

Репутация: нет
Всего: нет



Проблема решена!
Радости полные штаны!

Как достиг этого результата, кстати, можно куда-нибудь прикрепить(Модераторам)

 Цель: распознать 1 из 26 букв
 Модель: многослойный персептрон:
   1 входной слой (количество входов = 1000)
   1 скрытый слой (количество нейронов = 52)
   1 выходной слой (количество нейронов = 26)
 Начальные веса: random(10)/10000+0.001;
 Скорость в ходе обучения speed=0.99*speed;

Форумчане, спасибо ВАМ!

Это сообщение отредактировал(а) ВикторВитальевич - 19.2.2013, 20:30
PM MAIL   Вверх
  
Ответ в темуСоздание новой темы Создание опроса
Правила форума "Программирование игр, графики и искуственного интеллекта"
Rickert

НА ЗЛОБУ ДНЯ: Дорогие посетители, прошу обратить внимание что новые темы касающиеся новых вопросов создаются кнопкой "Новая тема" а не "Ответить"! Любые оффтопиковые вопросы, заданные в текущих тематических темах будут удалены а их авторы, при рецедиве, забанены.

  • Литературу, связанную с программированием графики, обсуждаем здесь
  • Действия модераторов можно обсудить здесь
  • С просьбами о написании курсовой, реферата и т.п. обращаться сюда
  • Вопросы связанные с программированием графики и мультимедии на языках С++ и Delphi
  • Вопросы по реализации алгоритмов рассматриваются здесь

Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, Rickert.

 
0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | Программирование игр, графики и искусственного интеллекта | Следующая тема »


 




[ Время генерации скрипта: 0.0588 ]   [ Использовано запросов: 21 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.