![]() |
|
Модераторы: korob2001, ginnie |
![]()
|
|
| serg2004 |
|
|||
|
Новичок Профиль Группа: Участник Сообщений: 2 Регистрация: 22.3.2005 Репутация: нет Всего: нет |
Привет!
Нужно получить выжимку с 1000 страниц сайта. Необходимо делать Запрос метод POST, i=1,...1000, делать каждые 15-20 секунд, чтобы не нагружать сайт. Из каждой полученной по запросу страницы отфильтровать нужное и записать в файл. Наверняка есть подходящие скрипты, ПОЖАЛУЙСТА подскажите где есть или какие ключевые слова по английски использовать, чтобы найти подобный скрипт. Или качалку, типа Телепорт, которую можно настроить на перебор метод POST i=1,...1000 , а потом отфильтрую чем-нибудь. С Уважением к Perl сообществу, Serg |
|||
|
||||
| korob2001 |
|
|||
![]() Эксперт ![]() ![]() ![]() ![]() Профиль Группа: Комодератор Сообщений: 2871 Регистрация: 29.12.2002 Репутация: 31 Всего: 61 |
Попробуй поищи здесь: http://script.woweb.ru/index.htm/c/4
Где хранятся ссылки??? Если их нужно выдёргивать из сайта программно, воспользуйся модулем HTML::Parser или регулярными выражениями. А если хочешь сам написать, то ипользуй модуль LWP, HTTP::Request Создай цикл, на каждой итерации формируй запрос, получай ответ, обрабатывай полученные данные, засыпай на 15 секунд - sleep 15; -------------------- "Время проходит", - привыкли говорить вы по неверному пониманию. "Время стоит - проходите вы". |
|||
|
||||
| serg2004 |
|
|||
|
Новичок Профиль Группа: Участник Сообщений: 2 Регистрация: 22.3.2005 Репутация: нет Всего: нет |
Спасибо!
Как это часто бывает, после отсыла вопроса, САМ подумал, попробовал и нашел экономное решение запрос поменял на GET - проверил - работает, Сделал в Excele таблицу на 1000 строк типа myurl.com/?page.htm?i=1 myurl.com/?page.htm?i=2 ... myurl.com/?page.htm?i=1000 засунул этот список в Телепорт, настроил проект, чтобы не сильно нагружал сервер и ВСЕ Потом обработаю все полученные файлы с помощью Search And Replace Ивана Синтюрина и ВСЁ ! |
|||
|
||||
| GrayCardinal |
|
|||
|
Фигасе ![]() ![]() ![]() ![]() Профиль Группа: Завсегдатай Сообщений: 3039 Регистрация: 9.11.2003 Репутация: 1 Всего: 58 |
serg2004
Ну них@@@@ у тебя "экономное решение" |
|||
|
||||
| anest |
|
|||
|
Новичок Профиль Группа: Участник Сообщений: 2 Регистрация: 18.6.2005 Репутация: нет Всего: нет |
он наверное имел ввиду что сыкономил на программере ;)
|
|||
|
||||
![]()
|
| Правила форума "Perl" | |
|
|
Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, korob2001, sharq. |
| 0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей) | |
| 0 Пользователей: | |
| « Предыдущая тема | Perl: Общие вопросы | Следующая тема » |
|
|
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности Powered by Invision Power Board(R) 1.3 © 2003 IPS, Inc. |