Подскажите пожалуйста как написать прогу по теме " определения релевантности текстовых документов на основе нейросетевой технологии."?Хотя бы с чего начать?Или как можно формализовать текс?

Звучит некорректно: релевантность может быть запроса и выдаваемого текста.
Так что уточните вам нужно определить схожесть 2х текстов (содержится один в другом, принадлежат ли они одной теме и т.д.)
Или все таки нужно получить релевантный текст на запрос.

Система с которой я работаю называется TextAnalyst (analyst.ru), эта программа с помощью нейросетевого преобразования по частотным характеристикам текста строить семантическую сеть. Такое представление текста весьма удобно для автоматической обработки текстов.


Я бы посоветовал почитать статьи по TextMining, DataMining к сожалению на русском вы почти ничего не найдете так что обращайтесь к забугорному IEEE или просто гуглите
Так же могу посоветовать почитать Ландэ -- неплохой материал по поисковым системам и интернет технологиям

ЗЫ Могу заметить что написать подобную прогу, это не как два байта переслать 

dood, 
В dataparksearch это реализовано.