Модераторы: korob2001, ginnie
  

Поиск:

Ответ в темуСоздание новой темы Создание опроса
> Запрос страницы каждые 15 секунд, фильтр и в файл, метод POST, перебор i=1,...1000 
:(
    Опции темы
serg2004
Дата 22.3.2005, 06:39 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Новичок



Профиль
Группа: Участник
Сообщений: 2
Регистрация: 22.3.2005

Репутация: нет
Всего: нет



Привет!

Нужно получить выжимку с 1000 страниц сайта.

Необходимо делать Запрос метод POST, i=1,...1000,
делать каждые 15-20 секунд, чтобы не нагружать сайт.
Из каждой полученной по запросу страницы отфильтровать нужное и записать в файл.

Наверняка есть подходящие скрипты, ПОЖАЛУЙСТА подскажите
где есть или какие ключевые слова по английски использовать, чтобы найти подобный скрипт. smile

Или качалку, типа Телепорт, которую можно настроить на перебор метод POST i=1,...1000 , а потом отфильтрую чем-нибудь.

С Уважением к Perl сообществу, Serg smile
PM MAIL   Вверх
korob2001
Дата 22.3.2005, 06:51 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
****


Профиль
Группа: Комодератор
Сообщений: 2871
Регистрация: 29.12.2002

Репутация: 31
Всего: 61



Попробуй поищи здесь: http://script.woweb.ru/index.htm/c/4

Цитата

Нужно получить выжимку с 1000 страниц сайта.

Где хранятся ссылки??? Если их нужно выдёргивать из сайта программно, воспользуйся модулем HTML::Parser или регулярными выражениями.

А если хочешь сам написать, то ипользуй модуль LWP, HTTP::Request
Создай цикл, на каждой итерации формируй запрос, получай ответ, обрабатывай полученные данные, засыпай на 15 секунд - sleep 15;


--------------------
"Время проходит", - привыкли говорить вы по неверному пониманию. 
"Время стоит - проходите вы".
PM MAIL WWW ICQ MSN   Вверх
serg2004
Дата 22.3.2005, 07:35 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Новичок



Профиль
Группа: Участник
Сообщений: 2
Регистрация: 22.3.2005

Репутация: нет
Всего: нет



Спасибо!

Как это часто бывает, после отсыла вопроса, САМ подумал, попробовал и нашел
экономное решение smile

запрос поменял на GET - проверил - работает,
Сделал в Excele таблицу на 1000 строк типа
myurl.com/?page.htm?i=1
myurl.com/?page.htm?i=2
...
myurl.com/?page.htm?i=1000

засунул этот список в Телепорт, настроил проект, чтобы не сильно нагружал сервер и ВСЕ smile

Потом обработаю все полученные файлы с помощью
Search And Replace Ивана Синтюрина и ВСЁ ! smile




PM MAIL   Вверх
GrayCardinal
Дата 22.3.2005, 14:42 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Фигасе
****


Профиль
Группа: Завсегдатай
Сообщений: 3039
Регистрация: 9.11.2003

Репутация: 1
Всего: 58



serg2004
Ну них@@@@ у тебя "экономное решение" smile


--------------------
PM MAIL WWW   Вверх
anest
Дата 18.6.2005, 00:29 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Новичок



Профиль
Группа: Участник
Сообщений: 2
Регистрация: 18.6.2005

Репутация: нет
Всего: нет



он наверное имел ввиду что сыкономил на программере ;)

PM MAIL   Вверх
  
Ответ в темуСоздание новой темы Создание опроса
Правила форума "Perl"
korob2001
sharq
  • В этом разделе обсуждаются общие вопросы по языку Perl
  • Если ваш вопрос относится к системному программированию, задавайте его здесь
  • Если ваш вопрос относится к CGI программированию, задавайте его здесь
  • Интерпретатор Perl можно скачать здесь ActiveState, O'REILLY, The source for Perl
  • Справочное руководство "Установка perl-модулей", можно скачать здесь


Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, korob2001, sharq.

 
0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | Perl: Общие вопросы | Следующая тема »


 




[ Время генерации скрипта: 0.0441 ]   [ Использовано запросов: 22 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.