Версия для печати темы
Нажмите сюда для просмотра этой темы в оригинальном формате
Форум программистов > Perl: Общие вопросы > Организовать многопоточную обработку массива


Автор: systemIV 26.7.2015, 17:39
Здравствуйте!
Уже не знаю где искать информацию. Решил изучить многопоточноть. До этого опыта ни на одном языке - не было.

Основная задача:
Брать массив элементов, скажем там 1000 элементов. Обрабатывать в определенное кол-во потоков.

Более подробно:
Есть файл со списком доменов. Я его открываю и преобразую каждую строку в элемент массива.
Есть функция-обработчик, которая заходит на данный домен и проверяет код ответа. Если ответ = 200, выводит его в консоль.
Не знаю как это всё раскидать по потокам, что бы скажем я поставил 10 потоков, и скрипт обрабатывал одновременно 10 доменов. Так же если один из доменов проверился раньше других - не ждать пока все домены проверятся, а сразу в данный поток отправлять новый домен. Вообщем нужно как-то отслеживать завершенные потоки и добавлять постоянно новые, что бы всегда работало ровно 10 потоков.

Если у кого ни будь есть пример, или скажем можете на коленке написать - буду признателен!

Спасибо.

Автор: infarch 27.7.2015, 10:37
В дотнете не стоит создавать потоки вручную. Там другая концепция: вы создаете таски, а система их автоматически раскидывает по пулу потоков. В вашем случае можно попробовать вот это: https://msdn.microsoft.com/ru-ru/library/dd992001%28v=vs.110%29.aspx . Для ограничения колличества паралельно выполняемых задач можно использовать https://msdn.microsoft.com/ru-ru/library/system.threading.semaphore%28v=vs.110%29.aspx

Автор: infarch 29.7.2015, 10:33
Ой, извиняюсь ) Чего-то я дотнет вспомнил вместо перла )

Тогда, создайте нужное колличество потоков, а массив расшарьте между ними с помощью Thread::Queue

Автор: Pfailed 5.8.2015, 13:57
Делаешь массив :shared. Создаёшь 10 потоков. В каждом бесконечный цикл с условием выхода из него если массив стал пустым. В итерации делаешь shift массива и обрабатываешь значение.
Полезные ссылки:
https://metacpan.org/pod/threads
https://metacpan.org/pod/threads::shared
http://perldoc.perl.org/functions/lock.html

Powered by Invision Power Board (http://www.invisionboard.com)
© Invision Power Services (http://www.invisionpower.com)