Модераторы: LSD

Поиск:

Ответ в темуСоздание новой темы Создание опроса
> Какое железо мне надо? И как лучше организовать? 150 миллионов записей. 
:(
    Опции темы
Vasay
Дата 22.4.2009, 11:13 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
****


Профиль
Группа: Завсегдатай
Сообщений: 2097
Регистрация: 8.3.2006

Репутация: нет
Всего: 73



Блин 24 часа прошло, а индекс еще не сделан :-( (это на моем буке и MySQL)

Добавлено @ 11:26
Poseidon

Мне не нужна ни вставка ни переиндексация. База будет просто периодически заменятся на новую. Мне просто нужен очень быстрый селект.

Цитата

кстати, где ты столько набрал?

Чуть попозже скажу smile


Цитата

Я бы Oracle выбрал. 

Я так подумал - мне дешевле будет иметь кластер с каким-нибудь PostgreSQL чем купить лицензию на оракл. 
Для того что бы задействовать на полную тот сервер который я сейчас взял, мне надо купить лицензию за 17,500$ Я к этому немного не готов.

Это сообщение отредактировал(а) Vasay - 22.4.2009, 11:28


--------------------
Придумать идеальную защиту от дурака невозможно, дураки, наудивление, изобретательны.
PM MAIL   Вверх
Poseidon
Дата 22.4.2009, 12:20 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Delphi developer
****


Профиль
Группа: Комодератор
Сообщений: 5273
Регистрация: 4.2.2005
Где: Гомель, Беларусь

Репутация: нет
Всего: 133



Цитата(Vasay @  22.4.2009,  11:13 Найти цитируемый пост)
Мне не нужна ни вставка ни переиндексация. База будет просто периодически заменятся на новую.
Это сейчас не нужна, в вдруг... Да и как будет проходить замена? Откуда будет браться новавая? В любом случае ее нужно будет создавать и выполнять вставку. Может случится интересная ситуацтия, когда данные еще не вставились (а вставляться они будут несколько суток), а их уже нужно изменить.



--------------------
Если хочешь, что бы что-то работало - используй написанное, 
если хочешь что-то понять - пиши сам...
PM MAIL ICQ   Вверх
Vasay
Дата 22.4.2009, 12:40 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
****


Профиль
Группа: Завсегдатай
Сообщений: 2097
Регистрация: 8.3.2006

Репутация: нет
Всего: 73



Poseidon

Эта база - справочник, сохраняющий свою актуальность в течении года. 

Предоставляется она в виде текстового файла. У меня есть программа которая читает этот файл, дополняет информацией из другой базы и делает SQL дамп. 

Раз в год могу и на профилактику закрыться для обновления базы. 

17,500$ за лицензию на Oracle - для меня не реально! 


--------------------
Придумать идеальную защиту от дурака невозможно, дураки, наудивление, изобретательны.
PM MAIL   Вверх
Akella
Дата 24.4.2009, 16:34 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Творец
****


Профиль
Группа: Модератор
Сообщений: 18485
Регистрация: 14.5.2003
Где: Корусант

Репутация: 3
Всего: 329



Цитата(Vasay @  22.4.2009,  11:13 Найти цитируемый пост)
Для того что бы задействовать на полную тот сервер который я сейчас взял, 

И что за конфиг сервера?
PM MAIL   Вверх
Vasay
Дата 24.4.2009, 17:38 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
****


Профиль
Группа: Завсегдатай
Сообщений: 2097
Регистрация: 8.3.2006

Репутация: нет
Всего: 73



Akella

Я писал выше: Core 2 Quad, 2x500 GB, 8 GB.

А в отличие от IBM у которой с 2006 года лицензии считаются "per unit" а не "per core". У Oracle немного сложнее

Правда я ошибся у Oracle для интеловских многоядерных процессоров множетель 0,5
т.е. Core 2 Quad приравнивается к двухпроцессорной системе, а не 4х.

И мне бы хватило Oracle Database 10g Standard Edition One
http://www.oracle.com/global/ru/ip/10g/database/index.html

Цена 5,800$

Добавлено через 6 минут и 9 секунд
Хотя, нет... все немного хуже 
http://www.oracle.com/global/ru/pdfs/tech/10gseone.pdf

Цитата

$4995 в расчете на один процессор (до двух процессоров на одном сервере)


т.е. 4995*2 = 9990$ 


--------------------
Придумать идеальную защиту от дурака невозможно, дураки, наудивление, изобретательны.
PM MAIL   Вверх
Akella
Дата 24.4.2009, 18:56 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Творец
****


Профиль
Группа: Модератор
Сообщений: 18485
Регистрация: 14.5.2003
Где: Корусант

Репутация: 3
Всего: 329



Так у тебя же один процессор, просто он многоядерный. Или считается каждое ядро?
PM MAIL   Вверх
Vasay
Дата 24.4.2009, 19:05 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
****


Профиль
Группа: Завсегдатай
Сообщений: 2097
Регистрация: 8.3.2006

Репутация: нет
Всего: 73



Akella

Если я не ошибаюсь:

У IBM считается каждый процессор.
У oracle считается за ядро, но для прцессоров intel и amd количество ядер умножается на 0.5 т.е. если у меня 4 ядра, то я плачу как за 2 процессора.



--------------------
Придумать идеальную защиту от дурака невозможно, дураки, наудивление, изобретательны.
PM MAIL   Вверх
Akella
Дата 24.4.2009, 19:18 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Творец
****


Профиль
Группа: Модератор
Сообщений: 18485
Регистрация: 14.5.2003
Где: Корусант

Репутация: 3
Всего: 329



Не знаю, ставил бы ты что-то бесплатное и не морочил то, что на Пасху красят.
PM MAIL   Вверх
Rififi
Дата 24.4.2009, 19:52 (ссылка) |    (голосов:1) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
***


Профиль
Группа: Завсегдатай
Сообщений: 1254
Регистрация: 9.3.2008

Репутация: нет
Всего: 36



Vasay
приоритетом является дисковая подсистема - от скорости её работы зависит всё остальное - если винты тормозят, тебя никакой оракл не спасёт
для этого нужен аппаратный raid-контроллер и 4 sas hdd в рейде 0+1
цена вменяемого контроллера на 4 порта начинается от 400$, смотреть на Adaptec, Intel, 3Ware.
PM MAIL   Вверх
Vasay
Дата 24.4.2009, 22:32 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
****


Профиль
Группа: Завсегдатай
Сообщений: 2097
Регистрация: 8.3.2006

Репутация: нет
Всего: 73



Akella
Цитата

Не знаю, ставил бы ты что-то бесплатное и не морочил то, что на Пасху красят. 


Так на предыдущей странице я и сказал, что выбираю из бесплатных решений.


Rififi
пока такой возможности нет. есть 2 диска. В raid 0 их объединить можно, но я пока не стал. Посмотрю насколько быстро будет работать без этого.

Пока внес в базу 20мл записей - селект по md5 с индексом char(16) идет тысячные доли секунды. 

п.с. тестирую пока на MySQL 5.0.67-community  (она уже была на сервере, когда мне его отдали)

Это сообщение отредактировал(а) Vasay - 24.4.2009, 22:34


--------------------
Придумать идеальную защиту от дурака невозможно, дураки, наудивление, изобретательны.
PM MAIL   Вверх
Akella
Дата 24.4.2009, 22:51 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Творец
****


Профиль
Группа: Модератор
Сообщений: 18485
Регистрация: 14.5.2003
Где: Корусант

Репутация: 3
Всего: 329



а ОС какая?
PM MAIL   Вверх
Vasay
Дата 24.4.2009, 23:11 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
****


Профиль
Группа: Завсегдатай
Сообщений: 2097
Регистрация: 8.3.2006

Репутация: нет
Всего: 73



Akella

CentOS с ядром 2.6.28

Самое интересное, что он 32х битный (i686) с поддержкой ОЗУ больше 4ГБ. Мне сказали что это будет лучше, чем x64.
Честно - не знаю чем. Но настаивать на x64 не стал - админу виднее.
8 гигов система видит, top в данный момент (идет заполнение базы), говорит
Mem:   8006868k total,  7756660k used,   250208k free,    56020k buffers



--------------------
Придумать идеальную защиту от дурака невозможно, дураки, наудивление, изобретательны.
PM MAIL   Вверх
LSD
Дата 27.4.2009, 19:06 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Leprechaun Software Developer
****


Профиль
Группа: Модератор
Сообщений: 15717
Регистрация: 24.3.2004
Где: Dublin

Репутация: 24
Всего: 538



Цитата(Vasay @  24.4.2009,  23:11 Найти цитируемый пост)
Самое интересное, что он 32х битный (i686) с поддержкой ОЗУ больше 4ГБ. Мне сказали что это будет лучше, чем x64.
Честно - не знаю чем. Но настаивать на x64 не стал - админу виднее.

Админ и DBA это два разных человека smile

Не знаю как MySQL (я так понял ты его тестируешь?), но Oracle при наличии более 2-х Гб памяти, лучше использовать 64-х битный.


--------------------
Disclaimer: this post contains explicit depictions of personal opinion. So, if it sounds sarcastic, don't take it seriously. If it sounds dangerous, do not try this at home or at all. And if it offends you, just don't read it.
PM MAIL WWW   Вверх
Bikutoru
Дата 29.4.2009, 08:50 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Увлекающийся
**


Профиль
Группа: Участник
Сообщений: 522
Регистрация: 24.5.2005
Где: Москва

Репутация: нет
Всего: 22



Цитата(Vasay @  22.4.2009,  12:13 Найти цитируемый пост)
Блин 24 часа прошло, а индекс еще не сделан :-( (это на моем буке и MySQL)

А как ты вставляешь данные? Практика показывает, что самый быстрый способ вставки данных в MySQL - это LOAD DATA INFILE в пустую таблицу.

Добавлено @ 08:51
Плюс можно с буферами поиграться: http://venublog.com/2007/11/07/load-data-infile-performance/

Это сообщение отредактировал(а) Bikutoru - 29.4.2009, 08:52


--------------------
Человек, словно в зеркале мир — многолик, 
Он ничтожен — и он же безмерно велик!
Омар Хайям
PM   Вверх
Vasay
Дата 29.4.2009, 10:50 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
****


Профиль
Группа: Завсегдатай
Сообщений: 2097
Регистрация: 8.3.2006

Репутация: нет
Всего: 73



Bikutoru

Да данные я вставил быстро, после чего решил сделать индекс по одному столбцу - так и не сделал на ноуте.

На сервере вставил уже всю базу, стал делать индекс - за 48 часов он его не сделал... Операцию отменил сейчас думаю что делать. 


--------------------
Придумать идеальную защиту от дурака невозможно, дураки, наудивление, изобретательны.
PM MAIL   Вверх
Страницы: (3) Все 1 [2] 3 
Ответ в темуСоздание новой темы Создание опроса
Правила форума "Общие вопросы по базам данных"
LSD
Zloxa

Данный форум предназначен для обсуждения вопросов о базах данных не попадающих под тематику других форумов:

  • вопросам по СУБД для которых нет отдельных подфорумов
  • вопросам которые затрагивают несколько разных СУБД (например проблема выбора)
  • инструменты для работы с СУБД
  • вопросы проектирования БД
  • теоретически вопросы о СУБД

Данный форум не предназначен для:

  • вопросов о поиске разлиных БД (если не понимаете чем БД отличается от СУБД то: а) вам не сюда; б) Google в помощь)
  • обсуждения проблем с доступом к СУБД из различных ЯП (для этого есть соответсвующие форумы по каждому ЯП)
  • обсуждения проблем с написание SQL запросов, для этого есть форум Составление SQL-запросов
  • просьб о написании курсовой, реферата и т.п., для этого есть Центр помощи или фриланс биржа
  • объявлений о найме специалистов, для этого есть раздел Объявления о найме специалистов

Если вы не соблюдаете эти правила, не удивляйтесь потом не найдя свою тему/сообщение. ;)


Полезные советы:

При написании сообщения постарайтесь дать теме максимально понятное название. В теме максимально подробно опишите проблему. Если применимо укажите: название базы данных и версии (MySQL 4.1, MS SQL Server 2000 и т.п.); используемых язык программирования; способа доступа (ADO, BDE и т.д.); сообщения об ошибках.

Для вставки кода используйте теги [code=sql] [/code].

Литературу по базам данных можно поискать здесь.

Действия модераторов можно обсудить здесь.


Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, LSD, Zloxa.

 
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | СУБД, общие вопросы | Следующая тема »


 




[ Время генерации скрипта: 0.1391 ]   [ Использовано запросов: 21 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.