Пишу клиент-сервер. Расчёт на то что количество клиентов может доходить до нескольких миллионов одновременно. Реализую через сокеты.
Как сделать: принял соединение от клиента, запустил поток по принятию данных. Отправка тоже через отдельный поток, который будет создаваться только в момент, когда надо будет отправить данные. (но если речь не идёт об ответе на принятые пакеты, который будет слаться в потоке, где реализованна функция принятия данных)
Вопрос: какое количество потоков максимально под виндой/юниксами и правильно ли я организую всё это дело?

неправильно

чем меньше тем лучше

нужно не создавать по потоку на соединение, а работать с соединениями асинхронно, количество потоков должно быть постоянным, смотри шаблоны проектирования Reactor и Proactor, фреймверк ACE либо библиотеку Asio

Я спросил про конкретное количество, а не про то сколько лучше.



Уже что-то. Спасибо, посмотрю. Вопросы всё равно в силе для остальных.

  Есть еще такая проблема, что у каждого потока свой стек, поэтому может тупо не хватить оперативки. Например 1Мб стека * 1Млн потоко = 1Тб оперативки. Если 100кб стек, то 100Гб ОЗУ, что тоже не реально. Предельно 10кб стека, тогда 10Гб ОЗУ уйдет только на стек потоков. 10кб это уже предельный размер для стека, хватит лишь чтобы разместить массив на 2000 интов.

в идеальном мире: software threads count = hardware threads count - оптимальное количество потоков
но в реальном мире, есть много разных факторов, нельзя сказать, что для всех приложений это так, если потоки могут выполнять блокирующие операции(например блокирующий вызов WriteFile), то лучше использовать большее количество потоков, скажем K*(hardware threads count), величина K зависит от того, как часто могут возникать простои
назвать конкретное число нельзя, оно зависит от железа и от конкретного приложения

Добавлено через 2 минуты и 55 секунд

здесь уже нужно задумываться о построении кластера, одно дело держать столько подключений(не факт что система даст создать столько сокетов) другое дело с ними со всеми работать

в linux есть переменная /proc/sys/kernel/thread-max она ограничивает максимальное количество потоков в системе.
На доступных мне машинах это значение варьируется от 80000 до 140000.



Каждому потоку нужен стек. Хоть какой-нибудь, а это расход памяти. Несколько миллионов потоков будут безжалостно биться за ресурсы. Создание потока при такой нагрузке будет уже не дешовой операцией.

Подробности о высоконагруженных серверах можно посмотреть здесь   http://www.kegel.com/c10k.html

глянь статейку "Эффективная многопоточность" на www.rsdn.ru

Добавлено через 2 минуты и 50 секунд

Для Винды - это только порт завершения......
Для других - не знаю.
Вроде Free BSD держит 20000 соединений.....
А вообще миллион - это уже почти гугл.
Так что только кластер из супер компов.......

Rickert, 



Во первых - Если Вы создадите проект в котором, одновременно будет столько участников - то вы будете очень богатым человеком. У Вас будет свой штат программистов и свой датацентр. 



Во вторых - возможности даже очень мощного сервера не хватит на то что бы одновременно обслуживать большое число клиентов - тут не в сокетах даже дело - а в том что данные то нужно обрабатывать. Особенно, если у Вас будет реалтайм игрушка. И, думаю, тут будет идти речь не о миллионах соединений, а всего о сотнях. 

Потому, проектируя игру Вы должны сразу продумать разбиение на локации таким образом, чтоб каждую локацию можно было выносить на отдельный сервер. 

Можно сделать пул потоков.   

Всем спасибо, разъяснили!
Solved