Модераторы: skyboy, MoLeX, Aliance, ksnk
  

Поиск:

Ответ в темуСоздание новой темы Создание опроса
> Сравнение больших массивов и хранение результата. 
:(
    Опции темы
Kudzu
Дата 6.5.2008, 11:34 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Magnificus Picus
*


Профиль
Группа: Участник
Сообщений: 60
Регистрация: 30.4.2008
Где: KLD

Репутация: нет
Всего: 1



Доброго времени суток, уважаемые винградовцы. Столкнулся проблемой и хотел бы послушать ваши идеи.
Имеем: Два массива ~30k элементов, сравниваем эти массивы,из полученного массива экстрактируем элементы в новый.
В итоге: Операция занимает много времени, >80 секунд, что недопустимо.
Варианты: 
1) Поддерживать полученный массив в мемкеше, с блокировками и "протуханиями".
2) Разбить массивы на группы и работать с группами.
3) Некое подобие потоков с промежуточными результатами, которые также в мемкеш.

Ваши варианты?  smile 


Это сообщение отредактировал(а) Kudzu - 6.5.2008, 11:35
PM MAIL WWW ICQ Skype Jabber   Вверх
Feldmarschall
Дата 6.5.2008, 11:58 (ссылка) |    (голосов:3) Загрузка ... Загрузка ... Быстрая цитата Цитата


Новичок
****


Профиль
Группа: Участник
Сообщений: 2641
Регистрация: 11.12.2007

Репутация: 22
Всего: 32



Использовать базу данных и оптимизировать алгоритм, чтобы он не требовал сравнения таких массивов.


PM   Вверх
Kudzu
Дата 6.5.2008, 12:11 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Magnificus Picus
*


Профиль
Группа: Участник
Сообщений: 60
Регистрация: 30.4.2008
Где: KLD

Репутация: нет
Всего: 1



БД и так называемое "промежуточное состояние" отпадает. Всё должно происходить очень быстро и работа происходит с большим массивом + есть лимиты на БД.
К сожалению, это единственный алгоритм(получили,получили,сравнили,получили) и поменять его не получится.

PM MAIL WWW ICQ Skype Jabber   Вверх
SelenIT
Дата 6.5.2008, 13:28 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


баг форума
****


Профиль
Группа: Завсегдатай
Сообщений: 3996
Регистрация: 17.10.2006
Где: Pale Blue Dot

Репутация: 32
Всего: 401



Цитата(Kudzu @  6.5.2008,  11:34 Найти цитируемый пост)
сравниваем эти массивы,из полученного массива 

Из описания совершенно непонятно, как в результате "сравнения" получается какой-то новый массив. Т.е. самая главная часть алгоритма, которую наверняка и можно радикально оптимизировать, осталась за кадром. Можно о ней поподробнее?


--------------------
Осторожно! Данный юзер и его посты содержат ДГМО! Противопоказано лицам с предрасположенностью к зонеризму!
PM MAIL   Вверх
Kudzu
Дата 6.5.2008, 14:11 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Magnificus Picus
*


Профиль
Группа: Участник
Сообщений: 60
Регистрация: 30.4.2008
Где: KLD

Репутация: нет
Всего: 1



Цитата(SelenIT @ 6.5.2008,  13:28)
Цитата(Kudzu @  6.5.2008,  11:34 Найти цитируемый пост)
сравниваем эти массивы,из полученного массива 

Из описания совершенно непонятно, как в результате "сравнения" получается какой-то новый массив. Т.е. самая главная часть алгоритма, которую наверняка и можно радикально оптимизировать, осталась за кадром. Можно о ней поподробнее?

array_values(array_diff($array1,$array2))
PM MAIL WWW ICQ Skype Jabber   Вверх
Fortop
Дата 6.5.2008, 17:40 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
****


Профиль
Группа: Завсегдатай
Сообщений: 2200
Регистрация: 13.11.2007
Где: Донецк

Репутация: 20
Всего: 42



Kudzu, 
Цитата(Kudzu @  6.5.2008,  11:34 Найти цитируемый пост)
два массива ~30k элементов

Лучше база, хоть SQLite, но база, все остальное это такие грабли.... 
Если коннектов будет больше 1-2, то серверу - такие сравнения не сильно понравятся.

Цитата(Kudzu @  6.5.2008,  12:11 Найти цитируемый пост)
работа происходит с большим массивом + есть лимиты на БД.

А на память лимитов нет?


--------------------
Мир это Я.
Живее всех живых.
PM MAIL   Вверх
SelenIT
Дата 6.5.2008, 22:10 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


баг форума
****


Профиль
Группа: Завсегдатай
Сообщений: 3996
Регистрация: 17.10.2006
Где: Pale Blue Dot

Репутация: 32
Всего: 401



Цитата(Kudzu @  6.5.2008,  14:11 Найти цитируемый пост)
array_values(array_diff($array1,$array2)) 

Ужос... Может, есть смысл flip-нуть массивы и воспользоваться array_diff_key? Хотя и это костыли, правильное решение подсказал 
Feldmarschall.


--------------------
Осторожно! Данный юзер и его посты содержат ДГМО! Противопоказано лицам с предрасположенностью к зонеризму!
PM MAIL   Вверх
Feldmarschall
Дата 6.5.2008, 22:40 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Новичок
****


Профиль
Группа: Участник
Сообщений: 2641
Регистрация: 11.12.2007

Репутация: 22
Всего: 32



SelenIT, флипать 30 тыщ? те же грабли, вид в профиль
Я думаю, здесь мы наблюдаем типичную картину - имеется кривое решение, и тайное знание о том, что "мемкеш" спасает от всех проблем.
Остается дождаться "специалиста", который оценит и полюбит
PM   Вверх
  
Ответ в темуСоздание новой темы Создание опроса
Правила форума "PHP"
Aliance
IZ@TOP
skyboy
SamDark
MoLeX

Новичкам:

  • PHP редакторы собираются и обсуждаются здесь
  • Электронные книги по PHP, документацию можно найти здесь
  • Интерпретатор PHP, полную документацию можно скачать на PHP.NET

Важно:

  • Не брезгуйте пользоваться тегами [code=php]КОД[/code] для повышения читабельности текста/кода.
  • Перед созданием новой темы воспользуйтесь поиском и загляните в FAQ
  • Действия модераторов можно обсудить здесь

Внимание:

  • Темы "ищу скрипт", "подскажите скрипт" и т.п. будут переноситься в форум "Web-технологии"
  • Темы с именами: "Срочно", "помогите", "не знаю как делать" будут УДАЛЯТЬСЯ

Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, IZ@TOP, skyboy, SamDark, MoLeX, awers.

 
0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | PHP: Общие вопросы | Следующая тема »


 




[ Время генерации скрипта: 0.0540 ]   [ Использовано запросов: 22 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.