Форум программистов [Powered by Invision Power Board]

Версия для печати темы
Нажмите сюда для просмотра этой темы в оригинальном формате

Форум программистов > Разные вопросы > Несколько датацентров. Высокая нагрузка.

Автор: Wowa 18.5.2009, 13:27

Необходимо разместить сервера в дата-центрах разных частей мира. Например:
1 кластер в США
1 кластер в Европе
1 кластер в Азии

Всё бы ничего, но приложения на этих серверах должны в некоторых случаях получать информацию из других дата-цетров и писать инфу в них(в БД напрямую наверно). Очень важна скорость этих действий. Соотношение запросов на чтение/запись 90:10, т.е. можно кешировать инфу у себя локально. Однако как быть с валидацией кеша? Если инфа изменилась в одном дата-центре, то другой дата-центр должен сразу же перестать таскать инфу из кеша.

Автор: vinter 19.5.2009, 12:52

так сделайте как это реализовано в CPU при изменениях в кэше, слать invalidate всем датацентрам. Мгновенной реакции получить не сможешь(а это не реально, в любом случае оверхеды сети), но должно быть достаточно быстро.

Автор: Void 19.5.2009, 13:45

Очевидно, надо в первую очередь смотреть на опыт тех, кто такие географически распределённые системы эксплуатирует: Google, Amazon, Yahoo!. Если не реализациями, то результатами исследований они делятся.
Например: http://research.yahoo.com/files/pnuts.pdf

Я не специалист и системами такими не занимался, но проблем там дофига и больше, и есть подозрение, что дешёвого commodity решения не получится.

Автор: bilbobagginz 19.5.2009, 13:47

Цитата(Wowa @ 18.5.2009, 13:27

)

Если инфа изменилась в одном дата-центре, то другой дата-центр должен сразу же перестать таскать инфу из кеша.

это называется "репликация"
любое ПО поддерживающее данный buzz-word должен это делать. это обычно базы данных, и т.п.

Добавлено @ 13:49

Цитата(Void @ 19.5.2009, 13:45

)

Очевидно, надо в первую очередь смотреть на опыт тех, кто такие географически распределённые системы эксплуатирует: Google, Amazon, Yahoo!.

у них кроме географической распределённости, есть ещё и программная и вообще концептуальная распределённость.
судя по требованиям - 4 ящика таких крутых вещей не требуют.
в худшем случае можно тяжкий контент через akamai перекинуть поближе к клиентам.

тьфу ты, Void, ты прав. слово "кластер" проморгал smile

а какой объем (точнее throughput) данных, Wowa ?

Автор: Wowa 19.5.2009, 14:04

bilbobagginz, пример. Представим, что мы все заходим в тему из Европы, а пост от vinter хранится на кластере в США и любой человек зашедший из европы должен увидеть всю тему целиком и быстро. Т.е. нам нужно пост от vinter запросить из США.

P.S. мы могли бы его запросить один раз и закешировать в Европе, но вдруг пост изменится или мы его из Европы попробуем отредактировать.

Добавлено @ 14:09
Всю тему хранить в каком-то определенном кластере не предлагать, т.к. она итак в одном кластере хранится будет, но некоторые посты из других (удаленных)кластеров должны подгружаться.

Автор: bilbobagginz 19.5.2009, 14:58

Wowa, работаю с кластерами. одна из проблем в коллаборации с народом во всём мире - отсутсвие единой терминологии smile

чтобы мы могли говорить "на одном языке", определи мне пожалуйста термин "кластер" в твоём понимании, что это такое, и скажи каким образом соединены ноды.
2-й вопрос, оставшийся не отвеченым с предыдущего поста: какой средний и максимальный thourghput (поток?) данных между кластерами ? внутри кластеров ?
если даёшь какие-то оценки, то постарайся давать их не в качественном виде "много", "сильно", а в количественном.