Модераторы: korob2001, ginnie
  

Поиск:

Ответ в темуСоздание новой темы Создание опроса
> lwp через прокси -- зависает! 
:(
    Опции темы
burakov
Дата 8.5.2013, 08:36 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 554
Регистрация: 28.7.2006

Репутация: нет
Всего: нет



заметил что грабер основанный на LWP зависает при работе через прокси.

вот задаю вот так. (в данном случае локальный прокси как пример)

my $lwp = undef;
$lwp = LWP::UserAgent -> new ();
$lwp -> cookie_jar (HTTP::Cookies->new ());
$lwp -> agent ('Mozilla/5.0 (Windows; U; Windows NT 5.1; ru; rv:1.9.2.16) Gecko/20110319 Firefox/3.6.16');
$lwp -> timeout (10);
$lwp -> proxy ('http', 'http://127.0.0.1:8080');


потом вот эту строчку
$lwp -> proxy ('http', 'http://127.0.0.1:8080');
меняю на каждый запрос.

в конце концов. редко когда (объемы большие до 1000 000 запросов) заканчивается нормально.
какой то поток подвисает. (напрямую если без прокси работать -- такого замечено не было -- довольно стабильно грабится)

может есть какой подводный камень здесь?
какой то таймаут для прокси еще указать ? где то ?

кто нибудь сталикавался с подобным "подвисом"?


Спасибо.

Это сообщение отредактировал(а) burakov - 8.5.2013, 08:37


--------------------
Нотный архив http://libnote.ru скачать ноты бесплатно
PM MAIL   Вверх
Pfailed
Дата 8.5.2013, 10:15 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 933
Регистрация: 19.7.2009

Репутация: 2
Всего: 39



forum.vingrad.ru/forum/topic-366250/kw-https-lwp.html


--------------------
PM MAIL   Вверх
burakov
Дата 21.5.2013, 13:09 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 554
Регистрация: 28.7.2006

Репутация: нет
Всего: нет



решил написать, может кому поможет
по моему в моем случае. скрипту просто не хватало памяти.
на ВДС свопа по умолчанию не было. потоки просто умирали молча. 




--------------------
Нотный архив http://libnote.ru скачать ноты бесплатно
PM MAIL   Вверх
  
Ответ в темуСоздание новой темы Создание опроса
Правила форума "Perl: CGI программирование"
korob2001
sharq
  • В этом разделе обсуждаются вопросы относящиеся только к CGI программированию
  • Если ваш вопрос не относится к системному или CGI программированию, задавайте его в общем разделе
  • Если ваш вопрос относится к системному программированию, задавайте его здесь
  • Интерпретатор Perl можно скачать здесь ActiveState, O'REILLY, The source for Perl
  • Справочное руководство "Установка perl-модулей", качать здесь


Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, korob2001, sharq.

 
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | Perl: разработка для Web | Следующая тема »


 




[ Время генерации скрипта: 0.0832 ]   [ Использовано запросов: 21 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.