Поиск:

Ответ в темуСоздание новой темы Создание опроса
> Алгоритм поискового паука (парсера) 
:(
    Опции темы
Fubu_By
Дата 17.4.2010, 10:58 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 290
Регистрация: 14.2.2007

Репутация: нет
Всего: 0



где можно почитать как спроектировать поисковой парсер, который бы лазил по страницам сайта и искал нужную информацию.

принцип работы как у пауков которые лазят по сайтам и выдирают e-mail-ы для спам базы

так же помог бы готовый пример


--------------------
PM MAIL WWW   Вверх
02077461
Дата 19.4.2010, 12:37 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Бывалый
*


Профиль
Группа: Участник
Сообщений: 183
Регистрация: 13.7.2005

Репутация: нет
Всего: 0



А что тут проектировать? База данных сайтов и посещенный страниц. Заходите на главную страницу сайта, регэкспом или парсером на конечном автомате находите все внутренние ссылки (это те которые не начинаются на [protocol]://) и заносите их в таблицу страниц. Выдираете интересующую вам информацию и переходите к следующей странице. После парсинга нужно ставить processed=1 или в дату обработки, если требуется поддержание в актуальном состоянии. Ничего сложного тут нет. Реализовать можно практически на любом языке с помощью CURL (он поддерживает кукисы). Только нужно учитывать некоторые моменты: 
1) отсутствие JS (но тоже можно решить на сервере). 
2) некоторые сайты встраивают sid в GET запрос, и на одну страницу можно зайти бесконечное количество раз.

Если заморочится сильнее, то можно использовать движек огнелиса запустив его в виртуальном дисплее. 
PM   Вверх
Fubu_By
Дата 19.4.2010, 15:16 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 290
Регистрация: 14.2.2007

Репутация: нет
Всего: 0



а что за движёк огнелиса?


--------------------
PM MAIL WWW   Вверх
02077461
Дата 19.4.2010, 15:22 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Бывалый
*


Профиль
Группа: Участник
Сообщений: 183
Регистрация: 13.7.2005

Репутация: нет
Всего: 0



Firefox. 
Вот тут: https://developer.mozilla.org/en/Building_a...sion#section_18 рассказывается как можно запускать приложение в пределах Firefox (не знаю как лучше сформулировать). 
PM   Вверх
Fubu_By
Дата 20.4.2010, 17:05 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 290
Регистрация: 14.2.2007

Репутация: нет
Всего: 0



а какие могут подайти алгартмы, кроме конечных автоматов? чтобы можно было сравнить.
(и чо я это в универе прогулял)


--------------------
PM MAIL WWW   Вверх
Alxndrov
Дата 21.4.2010, 19:06 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Новичок



Профиль
Группа: Участник
Сообщений: 1
Регистрация: 11.4.2010

Репутация: нет
Всего: нет



У меня где-то был готовый проект. Как найду - выложу, думаю поможет.



------------------
Заходите http://www.zveriseo.ru/ не пожалеете

Это сообщение отредактировал(а) Alxndrov - 23.4.2010, 19:35
PM MAIL   Вверх
Fubu_By
Дата 22.4.2010, 12:31 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 290
Регистрация: 14.2.2007

Репутация: нет
Всего: 0



спасибо буду ждать


--------------------
PM MAIL WWW   Вверх
hotdox
Дата 10.6.2010, 22:10 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Новичок



Профиль
Группа: Участник
Сообщений: 1
Регистрация: 10.6.2010

Репутация: нет
Всего: нет



Цитата

так же помог бы готовый пример 

Если до сих пор интересует, то есть http://code.google.com/p/whalebot/ моя реализация, могу отвечать на любые вопросы
PM MAIL WWW   Вверх
  
Ответ в темуСоздание новой темы Создание опроса
Правила форума "Алгоритмы"

maxim1000

Форум "Алгоритмы" предназначен для обсуждения вопросов, связанных только с алгоритмами и структурами данных, без привязки к конкретному языку программирования и/или программному продукту.


Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, maxim1000.

 
0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | Алгоритмы | Следующая тема »


 




[ Время генерации скрипта: 0.0955 ]   [ Использовано запросов: 21 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.