![]() |
Модераторы: korob2001, ginnie |
![]() ![]() ![]() |
|
burakov |
|
|||
Опытный ![]() ![]() Профиль Группа: Участник Сообщений: 554 Регистрация: 28.7.2006 Репутация: нет Всего: нет |
заметил что грабер основанный на LWP зависает при работе через прокси.
вот задаю вот так. (в данном случае локальный прокси как пример) my $lwp = undef; $lwp = LWP::UserAgent -> new (); $lwp -> cookie_jar (HTTP::Cookies->new ()); $lwp -> agent ('Mozilla/5.0 (Windows; U; Windows NT 5.1; ru; rv:1.9.2.16) Gecko/20110319 Firefox/3.6.16'); $lwp -> timeout (10); $lwp -> proxy ('http', 'http://127.0.0.1:8080'); потом вот эту строчку $lwp -> proxy ('http', 'http://127.0.0.1:8080'); меняю на каждый запрос. в конце концов. редко когда (объемы большие до 1000 000 запросов) заканчивается нормально. какой то поток подвисает. (напрямую если без прокси работать -- такого замечено не было -- довольно стабильно грабится) может есть какой подводный камень здесь? какой то таймаут для прокси еще указать ? где то ? кто нибудь сталикавался с подобным "подвисом"? Спасибо. Это сообщение отредактировал(а) burakov - 8.5.2013, 08:37 |
|||
|
||||
Pfailed |
|
|||
Опытный ![]() ![]() Профиль Группа: Участник Сообщений: 933 Регистрация: 19.7.2009 Репутация: 2 Всего: 39 |
forum.vingrad.ru/forum/topic-366250/kw-https-lwp.html
|
|||
|
||||
burakov |
|
|||
Опытный ![]() ![]() Профиль Группа: Участник Сообщений: 554 Регистрация: 28.7.2006 Репутация: нет Всего: нет |
решил написать, может кому поможет
по моему в моем случае. скрипту просто не хватало памяти. на ВДС свопа по умолчанию не было. потоки просто умирали молча. |
|||
|
||||
![]() ![]() ![]() |
Правила форума "Perl: CGI программирование" | |
|
Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, korob2001, sharq. |
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей) | |
0 Пользователей: | |
« Предыдущая тема | Perl: разработка для Web | Следующая тема » |
|
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности Powered by Invision Power Board(R) 1.3 © 2003 IPS, Inc. |