![]() |
|
|
![]()
|
|
| Fubu_By |
|
|||
|
Опытный ![]() ![]() Профиль Группа: Участник Сообщений: 290 Регистрация: 14.2.2007 Репутация: нет Всего: 0 |
где можно почитать как спроектировать поисковой парсер, который бы лазил по страницам сайта и искал нужную информацию.
принцип работы как у пауков которые лазят по сайтам и выдирают e-mail-ы для спам базы так же помог бы готовый пример |
|||
|
||||
| 02077461 |
|
|||
|
Бывалый ![]() Профиль Группа: Участник Сообщений: 183 Регистрация: 13.7.2005 Репутация: нет Всего: 0 |
А что тут проектировать? База данных сайтов и посещенный страниц. Заходите на главную страницу сайта, регэкспом или парсером на конечном автомате находите все внутренние ссылки (это те которые не начинаются на [protocol]://) и заносите их в таблицу страниц. Выдираете интересующую вам информацию и переходите к следующей странице. После парсинга нужно ставить processed=1 или в дату обработки, если требуется поддержание в актуальном состоянии. Ничего сложного тут нет. Реализовать можно практически на любом языке с помощью CURL (он поддерживает кукисы). Только нужно учитывать некоторые моменты:
1) отсутствие JS (но тоже можно решить на сервере). 2) некоторые сайты встраивают sid в GET запрос, и на одну страницу можно зайти бесконечное количество раз. Если заморочится сильнее, то можно использовать движек огнелиса запустив его в виртуальном дисплее. |
|||
|
||||
| Fubu_By |
|
|||
|
Опытный ![]() ![]() Профиль Группа: Участник Сообщений: 290 Регистрация: 14.2.2007 Репутация: нет Всего: 0 |
а что за движёк огнелиса?
|
|||
|
||||
| 02077461 |
|
|||
|
Бывалый ![]() Профиль Группа: Участник Сообщений: 183 Регистрация: 13.7.2005 Репутация: нет Всего: 0 |
Firefox.
Вот тут: https://developer.mozilla.org/en/Building_a...sion#section_18 рассказывается как можно запускать приложение в пределах Firefox (не знаю как лучше сформулировать). |
|||
|
||||
| Fubu_By |
|
|||
|
Опытный ![]() ![]() Профиль Группа: Участник Сообщений: 290 Регистрация: 14.2.2007 Репутация: нет Всего: 0 |
а какие могут подайти алгартмы, кроме конечных автоматов? чтобы можно было сравнить.
(и чо я это в универе прогулял) |
|||
|
||||
| Alxndrov |
|
|||
|
Новичок Профиль Группа: Участник Сообщений: 1 Регистрация: 11.4.2010 Репутация: нет Всего: нет |
У меня где-то был готовый проект. Как найду - выложу, думаю поможет.
------------------ Заходите http://www.zveriseo.ru/ не пожалеете Это сообщение отредактировал(а) Alxndrov - 23.4.2010, 19:35 |
|||
|
||||
| Fubu_By |
|
|||
|
Опытный ![]() ![]() Профиль Группа: Участник Сообщений: 290 Регистрация: 14.2.2007 Репутация: нет Всего: 0 |
спасибо буду ждать
|
|||
|
||||
| hotdox |
|
|||
![]() Новичок Профиль Группа: Участник Сообщений: 1 Регистрация: 10.6.2010 Репутация: нет Всего: нет |
Если до сих пор интересует, то есть http://code.google.com/p/whalebot/ моя реализация, могу отвечать на любые вопросы |
|||
|
||||
![]()
|
| Правила форума "Алгоритмы" | |
|
|
Форум "Алгоритмы" предназначен для обсуждения вопросов, связанных только с алгоритмами и структурами данных, без привязки к конкретному языку программирования и/или программному продукту.
Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, maxim1000. |
| 0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей) | |
| 0 Пользователей: | |
| « Предыдущая тема | Алгоритмы | Следующая тема » |
|
|
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности Powered by Invision Power Board(R) 1.3 © 2003 IPS, Inc. |