ТЕМА РЕАНИМИРОВАНА  

  Разговор на тему загнулся. Я так понимаю решения никто не нашел.   Что слабо?   
Ладно, шучу. Без обид.
Написать нейросеть для распознавания изображения, голоса, тематики текста или что-то такое - это все из области изобретения велосипеда.  Получить нормальный разговорник в полном понимании этого слова - это пока из области фантастики. Это еще никому не удалось. Проблема не в объеме нейросети, хотя это тоже проблема. Вот у человека в мозгу 10^11 нейрон, каждый имеет от 10 до 1000 связей. Если провести аналог биологического и программного нейрона, то получится, что для их соответствия вес программного нейрона должен быть наверное пару мегабайт. Это из-за разнообразия в органике. В нейроне образуются различные соединения, к тому же из количество может быть различным. Прикиньте, по 16 байта на адрес нейрона - 10^11 * 16, по 16 байт на связь - 500 * 16, по 2Мб на вес. Итого 10^11*16 * 500*16 * 1024*1024*2 = 26 843 545 600 000 000 000 000 Байт.    Да тут 128-битная система нужна (у нас пока максимум 64-битная).
Но программируя нейросеть мы, во-первых, решаем конкретную узкую задачу, а во-вторых, можем упростить работу сети, подавая ей слова уже в виде символов текста или номера из базы (как предлагал Gwendolen). Это значительно, на много-много порядков уменьшит размер сети. Но главная проблема таится в другом. Сразу приведу пример. Допустим вы написали сеть и обучили ее на умение давать "правильный" ответ на разные вопросы. Я сяду работать с вашей программой и через минуту введу ее в ступор:

Я: Привет, ты кто?
ИИ: Здравствуйте, я X#$^% - программа для имитации разговора.
Я: Что ты делаешь?
ИИ: Я разговариваю с вами.
Я: А зачем?
ИИ:      
         Теперь курить можно и здесь   
И дело не в том, что сеть не сможет найти ответ на вопрос: Зачем она со мной разговаривает. Дело в том, что она не поймет вопрос. Ведь если бы я спросил: А зачем ты со мной разговариваешь? Уверен, она нашла бы что мне ответить. Но спросил я именно: А зачем? Что вы ответите человеку, который подойдет к вам на улице и спросит: А зачем? В данном случае само понимание вопроса (интерпретация входных данных) зависит от прошлого опыта.
Вообще проблема решаема. Просто ее решение слишком требовательно к ресурсам. По сути, формируя и усложняя сеть, мы опять же придем к подобию мозга, где каждый раздел сети решает свою подзадачу. Для организации реалистичного разговорника, думаю, понадобятся компов 300-600, хороших современных компов объединенных в высокоскоростную сеть.
Более добавить по теме ничего дельного (если считать, что то, что я сказал, дельное) не могу. Сам еще до конца не разобрался. Да и топикстартеру это не нужно. Советовал бы начать изучение ООП с чего попроще. Опять же, без обид. Но учиться ездить сразу на гоночном каре F1 – плохая идея.

Это сообщение отредактировал(а) sibedir - 5.12.2008, 23:33

sibedir, 
не согласен с Вами, 
само понятие обучения сети подразумевает то что она может задавать вопросы для получения новых знаний или уточнения предыдущей фразы. и в дальнейшем использовать полученный, так сказать новоприобретенный опыт. 
короче говоря на вопрос "А зачем?" никто не мешает задать вопрос "Что "А зачем?" ?" или подобный. Может быть поведение сети будет не совсем автентичным с поведением человека в такойже ситуации, но согласитесь - это вполне реальный выход из положения. 
ИМХО, проблема не в том что сеть можно загнать в ступор вопросами(это можно сделать и с реальным человеком), более насущная проблема это найти приемлемый метод обучения - который при определенной машинной базе будет гарантировать определенные результаты ... повторюсь ИМХО

в общем чем больше мнений тем больше шансы того что придем к общему знаменателю 

"Не совсем" - это мягко сказано. Представляю эту беседу:
Ч: Привет, ты кто?
ИИ: Здравствуйте, я X#$^% - программа для имитации разговора.
Ч: Что ты делаешь?
ИИ: Я разговариваю с вами.
Ч: А зачем?
ИИ: Что значит "зачем?". Поясните вопрос.
Ч: Ну зачем ты разговариваешь?
ИИ: Для осуществления беседы. Это моё основное назначение.
Ч: Ну и как?
ИИ: Что значит "Ну и как?". Поясните вопрос.
Ч: Тебе удается разговаривать?
ИИ: Вас интересует как мне это удается или наличие самого факта разговора.
Ч: И то и другое.
ИИ: Что "И то и другое". Поясните вопрос.
...
Вообще, если честно. Даже такого разговора не может продемонстрировать ни одна из существующих программ, конечно если он не заложен в нее алгоритмично. Мощностей не хватает. Хотя, прошу заметить, это полноценным разговором назвать нельзя.


Соглашусь. Но только с тем, что полностью уподоблять ИИ человеку не стоит.

Вообще, я имел виду, что заниматься этим сложнейшим вопросом вот так, не имея никаких идей, по меньшей мере бессмысленно.

Не знаю, что вы имели в виду под ИМХО. 

Метод обучения зависит не от задачи напрямую. Он зависит от структуры связей, от модели нейрона, от формата входных и выходных данных, в общем, от структуры сети в целом, которая в свою очередь напрямую зависит от задачи. Так что метод обучения искать не нужно, он производная от структуры. А вот организовать саму структуру – вот это я понимаю проблема. Если для вас это не так, то попробуйте меня переубедить. Или, может, вы знаете кого-то, кто сумел это сделать на том железе, что имеется сегодня.

Вот вам моё ИМХО. На современном оборудовании (даже самом современном), пользуясь имеющимися алгоритмами нейросетей НЕВОЗМОЖНО создать полноценную программу-собеседника. То, что можно на сегодня сделать, это убожество достойное только места в цирке, развлекать посетителей. ИИ, в том понимании, в котором он встречается в наших фантазиях, там и останется, пока не появятся принципиально новые взгляды на создание нейросетей и принципиально новое оборудование.

Ну как, есть желание продолжить увеличивать наши шансы? 
Или может новую темку заведем?

Это сообщение отредактировал(а) sibedir - 6.12.2008, 14:03

Как то около гда назад была мысль ради интереса попробовать реализовать говорилку,
вот только вместо нейросети думал создать базу вопрос-ответ (или несколько ответов),
а программа при встрече с незнакомым вопросом/фразой запоминала бы его, а потом
говорила бы сама и смотрела реакцию, но дальше мыслей дело не зашло. 

последнее больших проблем не представляет к реализации главное время на нее,
а вот насчет собеседника ,надо имхо создавать полностью самообучающуюсю систему а не ее имитацию имхо

ну давайте попробуем, сформулируем требования к системе, например:
1. запоминать реакцию на фразы
2. как быть с БД
3.....
давайте сформируем требования сначала! какой она должна быть! каждый свое мнение высказывает! можно фантазировать)))

не читал тему с начала, но как я помню нейросети умеют только определить к какой области пространства входных данных принадлежит точка входных данных. При чем тут мозг человека?

2 GoldFinch
Можешь не читать тему с начала, но вот, если хочешь разобраться с нейросетями, литературку почитать придется или хотя бы вот это
http://ru.wikipedia.org/wiki/Нейросети

На счет собеседника
Создать собеседника на нейросети у нас с вами не получится. Средствов не хватит.
Имитатор разговорника ч/з БД - отстой. Даже браться не хочется. Слишком просто в исполнении, никакого интереса, и слишком тупо в применении, никакого полезного результата.

Если действительно хочется попрактиковатся в нейросетях, то решать лучше простейшие задачи. Скажем так, однолинейные. Т. е. те задачи, где не пришлось бы создавать группу взаимосвязанных сетей (супермегасеть) к коим относится "собеседник". Для начала можно создать сеть по распознаванию образов: символов, фигур. Или сеть классифицирующую содержимое картинок. Если очень постараться, то можно создать сеть распознающую наборы циферок, кторые иногда требуется ввести при регистрации или скачивании файлов.

sibedir, я читал литературку и как я понял, нейросеть задает разбиение пространства входных данных плоскостями на области, и на каждую точку входных данных выдает в двоичном коде область к которой эта точка принадлежит, разве не так?)

sibedir, 

читаем внимательнее
  --->> это уже все есть

а вот  Dmi3ev, дело говорит. для того чтобы что-то начать делать нужно сформулировать общие принципы


самое первое это формалицазция задачи которую мы хотим поставить сети. не в виде "анука ответь как мне на вопрос..." а конкртно: что будет подаваться на вход сети и что должно быть на выходе.
для этого:

•  придумать способ подачи текста на вход сети.
  тоесть слово или целове предложение целиком нужно представить в виде виде сигнала(или сигналов) в диапазоне [1..0]. насколько я знаю нейронные  сети(во всяком случае известные мне) работают только с такой входной информацией
  
  ...надеюсь мысль понятна
  
•  какова будет реакция сети на определенное входное воздействие (входной сигнал)
  
•  сеть нужно как-то обучать. но об этом позже. думаю решив первые два вопроса этот решится сам собой  

если у кого есть другие идеи - излагаем, делимся мнениями

Добавлено через 2 минуты и 59 секунд
GoldFinch, 
именно так. и ее способность к обобщению данных является весьма и весьма интересной, которую можно применять во многих сферах - от предсказания погоды до использования в системах диагностики человеческих заболеваний 

Нет, не так. Нейросеть занимается тем, чем занимается той мозг. А точнее искуственная нейронная сеть - это имитация реальной биологической нейросети. Нейросети распознают номера машин с видеокамер не дорогах, прогнозируют погоду, предсказывют курсы валют.  Короче, можно сказать так, нейросеть с определенной долей вероятности подбирает правельный вектор выходных данных (Y1, Y2...Ym), для определенного вектора входных данных (X1, X2...Xn).

Добавлено через 3 минуты и 58 секунд

Сори. Я просто подумал, что Dmi3ev говорит про разговорник на основе БД "Вопрос-ответ". 

sibedir, вы верно перечитали псевдонаучных статей или вы биолог по образованию?
я вам о математическом описании нейросети, а вы мне про мозг)

"нейросеть с определенной долей вероятности подбирает правельный вектор выходных данных (Y1, Y2...Ym), для определенного вектора входных данных (X1, X2...Xn)" 
да что вы говорите?) что оно получает входные данные и выдает выходные? да еще и с некоторой ошибкой?
а при чем тут нейросеть? про что угодно можно сказать что оно принимает входные даные и выдает выходные %)
а внутри-то у нее что происходит?

если вы говорите что я дал неправильное описание принципов работы нейросети - дайте правильное, объясните в чем ошибка, мне самому интересно

GoldFinch, http://mechanoid.narod.ru/nns/classifier-text/index.html 

и вообще настоятельно рекомендую ознакомиться всем кому сия тема является интересной. не полениться потратить пол часа на изучения сейго небольшого материала

кстати вообще предлагаю сей материал взять за основу....

shara, прочитал по диагонали. Никаких противоречий с тем что я говорил незаметил.

по статье
размер входного вектора по размеру словаря это чтото страшное...
использование частоты вхождения слов в словарь - не самый лучший подход, т.к. не учитывается корреляция слов в словаре и в тексте
да и вообще, сама постановка задачи сомнительна, тут больше подошло бы нечеткое распознавание, типа на выходе 
''спорт'' 35%, ''здоровье'' 55%, ''политика'' 1%, ''техника'' 3%, ''культура" 6%