Модераторы: LSD, AntonSaburov
  

Поиск:

Ответ в темуСоздание новой темы Создание опроса
> Поиск строк в файле несколько раз 
:(
    Опции темы
Andy_L20066
Дата 18.3.2010, 13:16 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Бывалый
*


Профиль
Группа: Участник
Сообщений: 177
Регистрация: 10.3.2008

Репутация: нет
Всего: 1



Привет, нужен совет (знаю что подобные теми уже поднимались, но всетаки): есть некий файл, нужно из него значение постоянно вытягивать. Логика такова: приходит риквест на сервер с неким значением, и соотвественно сервер должен проверить нет ли такого значения в файле.  Проблема в том что нужно это делать по несколько раз,  и соответвественно возникает проблема з перформансом поскольку риквестов на сервер может приходить очень много и для каждого нужно проверить есть ли значение в файле...есть такие подходы:
1). можно просто парсать файл, читать построково, проверять есть ли нужное значение...
2). можна было би весь файл как-то замапить в контейнер (HashSet, HashMap)... 
3). этот файл можна замапить в какую то таблицу в базе данных
4). использовать какую библиотеку типа Lucene что - ли, ну вот не знаю даст ли мне это вииграш по памяти

Что посоветуете?

Заранее спасибо!!!
PM MAIL ICQ   Вверх
Metal_Heart
Дата 18.3.2010, 13:55 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


а почему бы и нет?
**


Профиль
Группа: Участник
Сообщений: 728
Регистрация: 31.3.2005
Где: Москва

Репутация: 4
Всего: 12



Andy_L20066, Мудрёно как-то

Любое чтение файла с диска потребует времени и особо не важно как он у тебя будет представлен.

Вариант1: использование файла в ОЗУ или совместное использование страницы ОЗУ

Вариант2: разбить всю кашу по разным файлам, т.е запрос по кирпичам - 1й файл, запрос по авторучкам - 2й.
и перечитывать только изменившийся файл. Но тут нюанс - если размер файла не большой то второй вариант будет всегда в проигрыше.



--------------------
 не стыдно учиться, а стыдно не учиться 
PM ICQ   Вверх
fixxer
Дата 18.3.2010, 15:02 (ссылка) |  (голосов:1) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 672
Регистрация: 14.9.2006
Где: Саратов, Россия

Репутация: 6
Всего: 27



1. Если файл маленький, то зачитать все сразу.
2. Если большой, то
      а) организовать кеш на слабых ссылках;
      б) использовать какой-нибудь сторонний кеш (ehcache);
      в) заменить файл легкой базой данных.

Это сообщение отредактировал(а) fixxer - 18.3.2010, 15:03


--------------------
user posted image
PM MAIL ICQ   Вверх
Andy_L20066
Дата 18.3.2010, 15:04 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Бывалый
*


Профиль
Группа: Участник
Сообщений: 177
Регистрация: 10.3.2008

Репутация: нет
Всего: 1



Цитата

Вариант1: использование файла в ОЗУ или совместное использование страницы ОЗУ


здесь идет речь о том чтобы все хранить в HasMap или в каком то еще контейнере?

Добавлено через 1 минуту и 3 секунды
Цитата

1. Если файл маленький, то зачитать все сразу.

файл большой будет

PM MAIL ICQ   Вверх
fixxer
Дата 18.3.2010, 15:07 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 672
Регистрация: 14.9.2006
Где: Саратов, Россия

Репутация: 6
Всего: 27



да, если совсем большой, то лучше его проиндексировать.

но, думаю, проще всего использовать БД и не париться.

Это сообщение отредактировал(а) fixxer - 18.3.2010, 15:07


--------------------
user posted image
PM MAIL ICQ   Вверх
Andy_L20066
Дата 18.3.2010, 15:11 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Бывалый
*


Профиль
Группа: Участник
Сообщений: 177
Регистрация: 10.3.2008

Репутация: нет
Всего: 1



Цитата

    а) организовать кеш на слабых ссылках;
      б) использовать какой-нибудь сторонний кеш (ehcache);

ну кеш тут не очень то поможет.... считиватся будут постоянно новые значения... тоесть предполагается что в риквесте на сервер будет постоянно новое значение, тоесть всеравно прийдется бегать по файлу...

PM MAIL ICQ   Вверх
fixxer
Дата 18.3.2010, 15:16 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 672
Регистрация: 14.9.2006
Где: Саратов, Россия

Репутация: 6
Всего: 27



Тогда индексирование или база.

Кстати, а какой формат файла-то?


--------------------
user posted image
PM MAIL ICQ   Вверх
Andy_L20066
Дата 18.3.2010, 15:28 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Бывалый
*


Профиль
Группа: Участник
Сообщений: 177
Регистрация: 10.3.2008

Репутация: нет
Всего: 1



еще точно не решно с форматом... скорее всего будет СSV

Добавлено через 7 минут и 59 секунд
Цитата

Тогда индексирование или база.

Если это будет индексирование, то что можете посоветовать...? Lucene?
PM MAIL ICQ   Вверх
fixxer
Дата 18.3.2010, 16:03 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 672
Регистрация: 14.9.2006
Где: Саратов, Россия

Репутация: 6
Всего: 27



Цитата(Andy_L20066 @ 18.3.2010,  15:28)
еще точно не решно с форматом... скорее всего будет СSV

Добавлено @ 15:36
Цитата

Тогда индексирование или база.

Если это будет индексирование, то что можете посоветовать...? Lucene?

Для CSV? Зачем Lucene? Достаточно будет самопального индекса на TreeMap.


--------------------
user posted image
PM MAIL ICQ   Вверх
Andy_L20066
Дата 18.3.2010, 17:00 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Бывалый
*


Профиль
Группа: Участник
Сообщений: 177
Регистрация: 10.3.2008

Репутация: нет
Всего: 1



Цитата

Для CSV? Зачем Lucene? Достаточно будет самопального индекса на TreeMap. 

если есть пример - дай линк пожалуйста, посмотрю что к чему
PM MAIL ICQ   Вверх
  
Ответ в темуСоздание новой темы Создание опроса
Правила форума "Java"
LSD   AntonSaburov
powerOn   tux
javastic
  • Прежде, чем задать вопрос, прочтите это!
  • Книги по Java собираются здесь.
  • Документация и ресурсы по Java находятся здесь.
  • Используйте теги [code=java][/code] для подсветки кода. Используйтe чекбокс "транслит", если у Вас нет русских шрифтов.
  • Помечайте свой вопрос как решённый, если на него получен ответ. Ссылка "Пометить как решённый" находится над первым постом.
  • Действия модераторов можно обсудить здесь.
  • FAQ раздела лежит здесь.

Если Вам помогли, и атмосфера форума Вам понравилась, то заходите к нам чаще! С уважением, LSD, AntonSaburov, powerOn, tux, javastic.

 
0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | Java: Общие вопросы | Следующая тема »


 




[ Время генерации скрипта: 0.1385 ]   [ Использовано запросов: 22 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.