Модераторы: LSD, AntonSaburov

Поиск:

Ответ в темуСоздание новой темы Создание опроса
> Массив строк и память, как подружить 
:(
    Опции темы
serghd
Дата 28.1.2010, 16:42 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Шустрый
*


Профиль
Группа: Участник
Сообщений: 136
Регистрация: 5.10.2009

Репутация: нет
Всего: нет



Смысл в том, чтобы забить list 75к массивами.
Делал цикл на 75000 итераций:
Код

   ArrayList list = new ArrayList();
   for (int i = 0; i < 75000; i ++)
   {
    String[] mas = {"text" + i, "text2" + i};
    list.add(mas);    
   }

JVM вылетает, как я понимаю из-за нехватки памяти. Пробовал также создать массив вне цикла:
Код

   ArrayList list = new ArrayList();
   String[] mas = new String[2];
   for (int i = 0; i < 75000; i ++)
   {
    mas[0] = "text" + i;
    mas[1] = "text2" + i;
    list.add(mas);    
   }

Но в этом случае, поскольку массив содержит только ссылки на объекты, в list сохранится 75к массивов только со значениями последней итерации (изменение элементов массива отразится также на всех массивах list'a).
Код максимально упростил, чтобы оставить только суть, на самом деле парсится xml. Спасибо.

Это сообщение отредактировал(а) serghd - 28.1.2010, 16:45
PM MAIL   Вверх
LSD
Дата 28.1.2010, 17:17 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Leprechaun Software Developer
****


Профиль
Группа: Модератор
Сообщений: 15718
Регистрация: 24.3.2004
Где: Dublin

Репутация: 210
Всего: 538



И в чем вопрос-то? Увеличь память, или перейди на два листа.

Добавлено через 1 минуту и 4 секунды
Или даже 2 массива.


--------------------
Disclaimer: this post contains explicit depictions of personal opinion. So, if it sounds sarcastic, don't take it seriously. If it sounds dangerous, do not try this at home or at all. And if it offends you, just don't read it.
PM MAIL WWW   Вверх
serghd
Дата 28.1.2010, 17:27 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Шустрый
*


Профиль
Группа: Участник
Сообщений: 136
Регистрация: 5.10.2009

Репутация: нет
Всего: нет



так увеличивал, такая же проблема как в последнем посте тут. Не помогает это

Это сообщение отредактировал(а) serghd - 28.1.2010, 17:28
PM MAIL   Вверх
LSD
Дата 28.1.2010, 17:31 (ссылка) |  (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Leprechaun Software Developer
****


Профиль
Группа: Модератор
Сообщений: 15718
Регистрация: 24.3.2004
Где: Dublin

Репутация: 210
Всего: 538



Или переходи на 64 битную JVM или на два листа.


--------------------
Disclaimer: this post contains explicit depictions of personal opinion. So, if it sounds sarcastic, don't take it seriously. If it sounds dangerous, do not try this at home or at all. And if it offends you, just don't read it.
PM MAIL WWW   Вверх
serghd
Дата 28.1.2010, 17:36 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Шустрый
*


Профиль
Группа: Участник
Сообщений: 136
Регистрация: 5.10.2009

Репутация: нет
Всего: нет



Цитата(LSD @ 28.1.2010,  17:31)
Или переходи на 64 битную JVM или на два листа.

>>Или переходи на 64 битную JVM
как, можно по-подробнее?
>>или на два листа
а что, два ArrayList'a занимают меньше чем один большой?
PM MAIL   Вверх
LSD
Дата 28.1.2010, 17:45 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Leprechaun Software Developer
****


Профиль
Группа: Модератор
Сообщений: 15718
Регистрация: 24.3.2004
Где: Dublin

Репутация: 210
Всего: 538



Цитата(serghd @  28.1.2010,  17:36 Найти цитируемый пост)
как, можно по-подробнее?

Ставишь 64-х битную ОС, а на нее 64-х битную JVM smile



Цитата(serghd @  28.1.2010,  17:36 Найти цитируемый пост)
а что, два ArrayList'a занимают меньше чем один большой? 

Два ArrayList-а занимают места меньше чем один ArrayList и 75000 массивов String[].


--------------------
Disclaimer: this post contains explicit depictions of personal opinion. So, if it sounds sarcastic, don't take it seriously. If it sounds dangerous, do not try this at home or at all. And if it offends you, just don't read it.
PM MAIL WWW   Вверх
andrew_121
Дата 28.1.2010, 17:50 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Кодофей
****


Профиль
Группа: Завсегдатай
Сообщений: 3448
Регистрация: 3.1.2008

Репутация: нет
Всего: 33



LSD, простите что я в чужую тему вклиниваюсь, просто любопытно стало.
несколько вопросов.
для начала код:
Код


package javaapplication1;
import java.util.ArrayList;
import java.util.Random;
import org.omg.CORBA.SystemException;

class Item {
    String f1;
    String f2;
    String f3;
    String f4;
    String f5;
    String f6;
    String f7;
    String f8;
}

public class Main {
    public static Item get_item() {
        Item item = new Item();
        item.f1 = new Random().toString();
        item.f2 = new Random().toString();
        item.f3 = new Random().toString();
        item.f4 = new Random().toString();
        item.f5 = new Random().toString();
        item.f6 = new Random().toString();
        item.f7 = new Random().toString();
        item.f8 = new Random().toString();
        return item;
    }

    public static void main(String[] args) {
        ArrayList<Item> item_list = new ArrayList<Item>();
        try {
            for ( int i = 0; i < 100000; ++i ) {
                item_list.add(get_item());
            }
        } catch(java.lang.OutOfMemoryError e) {
            System.out.println(item_list.size());
        }
    }
}

вылетает на 88256 элементов.

1. если по умолчанию ВМ выделяет 64мб памяти, и этой памяти не хватает для 100к элементов, а только для 88256, полагаю, что в обработчике исключения нужно выделить еще памяти.
2. как в коде(не с помощью ключей) ее выделить?
3. как можно узнать объем объекта(не выделенной памяти)? в с++ есть оператор sizeof().
4. равноправно ли правило, что строка состоящая из 10-ти символов занимает 10 байт памяти ВМ?

спасибо.

Добавлено через 42 секунды
Цитата(LSD @  28.1.2010,  17:45 Найти цитируемый пост)
Два ArrayList-а занимают места меньше чем один ArrayList и 75000 массивов String[]. 

поясните пожалуйста. почему так?


--------------------
Удалил аккаунт. Прощайте!
PM MAIL   Вверх
serghd
Дата 28.1.2010, 18:24 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Шустрый
*


Профиль
Группа: Участник
Сообщений: 136
Регистрация: 5.10.2009

Репутация: нет
Всего: нет



Цитата(LSD @ 28.1.2010,  17:45)
Цитата(serghd @  28.1.2010,  17:36 Найти цитируемый пост)
как, можно по-подробнее?

Ставишь 64-х битную ОС, а на нее 64-х битную JVM smile

И мне это рекомендовать всем, у кого будет программа?

Это сообщение отредактировал(а) serghd - 28.1.2010, 18:26
PM MAIL   Вверх
LSD
Дата 28.1.2010, 18:33 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Leprechaun Software Developer
****


Профиль
Группа: Модератор
Сообщений: 15718
Регистрация: 24.3.2004
Где: Dublin

Репутация: 210
Всего: 538



Цитата(andrew_121 @  28.1.2010,  17:50 Найти цитируемый пост)
1. если по умолчанию ВМ выделяет 64мб памяти, и этой памяти не хватает для 100к элементов, а только для 88256, полагаю, что в обработчике исключения нужно выделить еще памяти.

Тут все не так просто smile Во первых - 64 Мб памяти это на всех, включая служебные данные самой JVM (поток сборки мусора, загруженные классы и т.п.). Во вторых ArrayList когда у него заканчивается место в массиве (который используется для хранения) создает новый больше предыдущего в 1.5 раза, а потом копирует туда данные из старого. И значит в какой-то момент времени памяти должно быть достаточно на 2 достаточно больших массива. В третьих если уж вылетел OutOfMemoryError, то ArrayList находится непонятно в каком состоянии (вернее он точно находится в неконсистентном состоянии).


Цитата(andrew_121 @  28.1.2010,  17:50 Найти цитируемый пост)
2. как в коде(не с помощью ключей) ее выделить?

Никак.



Цитата(andrew_121 @  28.1.2010,  17:50 Найти цитируемый пост)
3. как можно узнать объем объекта(не выделенной памяти)? в с++ есть оператор sizeof().

Честно - нет. А так создают много одинаковых объектов и смотрят, сколько они занимают места. Еще есть извраты через unsafe, рефлексию и т.д.



Цитата(andrew_121 @  28.1.2010,  17:50 Найти цитируемый пост)
4. равноправно ли правило, что строка состоящая из 10-ти символов занимает 10 байт памяти ВМ?

1. Один символ занимает 2 байта (это же Unicode).
2. Строка это объект и у нее есть еще данные кроме самих символов. Да и массив символов тоже потребляет место.
3. Строки могут совместно использовать массивы символов.
4. Некоторые ссылки на строку, могут быть ссылкой на одну и ту же строку.




Цитата(andrew_121 @  28.1.2010,  17:50 Найти цитируемый пост)
поясните пожалуйста. почему так?

Массив это объект. Как и любой объект у него есть накладные расходы: 8 байт на заголовок, 4 байта на длинну, и на данные. В случае с массивом объектов длинны 2 это будет 4*2 байта. Вот и считай, что лучше 2 * (8 + 4 + 75000 * 4) или (8 + 4 + 75000 * 4) + 75000 * (8 + 4 + 2* 4).


--------------------
Disclaimer: this post contains explicit depictions of personal opinion. So, if it sounds sarcastic, don't take it seriously. If it sounds dangerous, do not try this at home or at all. And if it offends you, just don't read it.
PM MAIL WWW   Вверх
andrew_121
Дата 28.1.2010, 18:33 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Кодофей
****


Профиль
Группа: Завсегдатай
Сообщений: 3448
Регистрация: 3.1.2008

Репутация: нет
Всего: 33



Цитата(serghd @  28.1.2010,  18:24 Найти цитируемый пост)
И мне это рекомендовать всем, у кого будет программа?

я думаю должна быть возможность "попросить" у ВМ, больше памяти, программно.


--------------------
Удалил аккаунт. Прощайте!
PM MAIL   Вверх
LSD
Дата 28.1.2010, 18:38 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Leprechaun Software Developer
****


Профиль
Группа: Модератор
Сообщений: 15718
Регистрация: 24.3.2004
Где: Dublin

Репутация: 210
Всего: 538



Цитата(serghd @  28.1.2010,  18:24 Найти цитируемый пост)
И мне это рекомендовать всем, у кого будет программа?

Твоя программа жрет слишком много памяти, это все что можно сказать из твоего кода и объяснения. И ты хочешь чтобы тебе подсказали как уменьшить потребление памяти, при этом вообще ничего не рассказывая ни про алгоритм работы, не показывая кода, вообще ничего кроме маленького примера, который вообще неизвестно насколько близок к реальной проблеме. И ты считаешь что это реально?


--------------------
Disclaimer: this post contains explicit depictions of personal opinion. So, if it sounds sarcastic, don't take it seriously. If it sounds dangerous, do not try this at home or at all. And if it offends you, just don't read it.
PM MAIL WWW   Вверх
andrew_121
Дата 28.1.2010, 18:40 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Кодофей
****


Профиль
Группа: Завсегдатай
Сообщений: 3448
Регистрация: 3.1.2008

Репутация: нет
Всего: 33



LSD, спасибо за разъяснение. многое прояснилось.
а по поводу программного перевыделения памяти - жаль конечно smile 

я уже подумал что можно "по человечески" разрулить ситуацию. типа этого:
Код


package javaapplication1;
import java.util.ArrayList;
import java.util.Random;
import org.omg.CORBA.SystemException;

/**
 *
 * @author nixman
 */
class Item {
    String f1;
    String f2;
    String f3;
    String f4;
    String f5;
    String f6;
    String f7;
    String f8;
}

public class Main {
    public static Item get_item() {
        Item item = new Item();
        item.f1 = new Random().toString();
        item.f2 = new Random().toString();
        item.f3 = new Random().toString();
        item.f4 = new Random().toString();
        item.f5 = new Random().toString();
        item.f6 = new Random().toString();
        item.f7 = new Random().toString();
        item.f8 = new Random().toString();
        return item;
    }
    
    static int stepsize = 32*1024*1024;/* мегабайт */
    static int limit = 1024*1024*1024;/* гигабайт */
    static int allocated = stepsize; /* инициализируем размером шага */

    public static void main(String[] args) {
        ArrayList<Item> item_list = new ArrayList<Item>();
        try {
            for ( int i = 0; i < 100000; ++i ) {
                item_list.add(get_item());
            }
        } catch(java.lang.OutOfMemoryError e) {
            System.out.println(item_list.size());
            /* проверяем на разумный предел */
            if ( allocated+stepsize < limit ) {
                /* тут выделяем память */
               main(args); /* перезапускаем */
            }
        }
    }
}


тем не менее, всем спасибо.

UP

Это сообщение отредактировал(а) andrew_121 - 28.1.2010, 18:44


--------------------
Удалил аккаунт. Прощайте!
PM MAIL   Вверх
LSD
Дата 28.1.2010, 18:45 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Leprechaun Software Developer
****


Профиль
Группа: Модератор
Сообщений: 15718
Регистрация: 24.3.2004
Где: Dublin

Репутация: 210
Всего: 538



Цитата(andrew_121 @  28.1.2010,  18:40 Найти цитируемый пост)
я уже подумал что можно "по человечески" разрулить ситуацию. типа этого

Ну можно попробовать пересоздать ArrayList и вызвать у него ensureCapacity() увеличив его немного по сравнению с предыдущим результатом.

Просто в реальных приложениях такая работа на грани означает, что надо что-то радикально менять в алгоритме и/или железе (перейти на 64 бита или нарастить память).


--------------------
Disclaimer: this post contains explicit depictions of personal opinion. So, if it sounds sarcastic, don't take it seriously. If it sounds dangerous, do not try this at home or at all. And if it offends you, just don't read it.
PM MAIL WWW   Вверх
ernando
Дата 28.1.2010, 18:47 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Новичок



Профиль
Группа: Участник
Сообщений: 5
Регистрация: 3.1.2007

Репутация: нет
Всего: нет



serghd, а можешь описать входные условия, ради чего тебе в памяти нужно дербанить 75к объектов, тем более массивов? Просто за все вермя работы в IT не приходилось гонять такие объемы, если это не было узкоспециализированной задачей, но там уже действительно выбирается другое железо и тюнится сама JVM.
PM   Вверх
LSD
Дата 28.1.2010, 18:48 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Leprechaun Software Developer
****


Профиль
Группа: Модератор
Сообщений: 15718
Регистрация: 24.3.2004
Где: Dublin

Репутация: 210
Всего: 538



Кстати в данном случае, можно в класс Item добавить ссылку на следующий элемент и таким образом организовать связный список. Если нужна только однонаправленная итерация по списку, то это будет самый экономный способ динамического выделения памяти smile


--------------------
Disclaimer: this post contains explicit depictions of personal opinion. So, if it sounds sarcastic, don't take it seriously. If it sounds dangerous, do not try this at home or at all. And if it offends you, just don't read it.
PM MAIL WWW   Вверх
Ответ в темуСоздание новой темы Создание опроса
Правила форума "Java"
LSD   AntonSaburov
powerOn   tux
javastic
  • Прежде, чем задать вопрос, прочтите это!
  • Книги по Java собираются здесь.
  • Документация и ресурсы по Java находятся здесь.
  • Используйте теги [code=java][/code] для подсветки кода. Используйтe чекбокс "транслит", если у Вас нет русских шрифтов.
  • Помечайте свой вопрос как решённый, если на него получен ответ. Ссылка "Пометить как решённый" находится над первым постом.
  • Действия модераторов можно обсудить здесь.
  • FAQ раздела лежит здесь.

Если Вам помогли, и атмосфера форума Вам понравилась, то заходите к нам чаще! С уважением, LSD, AntonSaburov, powerOn, tux, javastic.

 
0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | Java: Общие вопросы | Следующая тема »


 




[ Время генерации скрипта: 0.1405 ]   [ Использовано запросов: 22 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.