Модераторы: LSD

Поиск:

Ответ в темуСоздание новой темы Создание опроса
> Как правильно удалить данные? не удаляя их из БД 
:(
    Опции темы
Ceiceron
Дата 31.3.2010, 10:32 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Шустрый
*


Профиль
Группа: Участник
Сообщений: 66
Регистрация: 2.8.2007
Где: Дубна

Репутация: нет
Всего: нет



Задался таким вопросом. Возможно он больше архитектурного плана, но в практике работы с БД скорее всего встречается чаще. Пошерстил поиск, пришел к выводу, что конкретизировать вопрос не получается, соответственно строчу пост.
Итак.
Есть некоторая БД, в ней регулярно создаются записи в таблицах, причем в некоторых таблицах может быть много записей и они наиболее часто опрашиваются (индексы на них есть, так что с производительностью вроде бы как проблем нет). Требуется удалить запись из такой толстой таблицы, но так что бы сама запись не удалялась, а становилась просто не видимой для слоя бизнес-логики приложения (фактически как-то маркируем запись, например есть поле is_deleted в таблице и в нем либо 0, либо 1 соответственно - фильтр). Это все хорошо, но система является открытой и в нее регулярно попадает приличное число мусора и табличка изрядно тяжелеет. 
Теперь вопрос: как разгрузить такую таблицу не сохраняя в ней удаляемые данные, но при этом все записи, помеченные как удаленные, должны быть доступны (обращение к ним крайне не частое, но есть)?
PM MAIL   Вверх
Deniz
Дата 31.3.2010, 11:18 (ссылка) |    (голосов:1) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
***


Профиль
Группа: Завсегдатай
Сообщений: 1251
Регистрация: 16.10.2004
Где: Новый Уренгой

Репутация: 7
Всего: 44



Вариант таблица-архив, т.е. копия основной (плюс пара служебных полей).
Перенос записи в архив может быть 2 вариантов:
1. При добавлении в основную - добавляется в архив, 
  при изменении основной - изменение архива
  при удалении из основной - ставится дата удаления.
2. При удалении из основной запись добавляется в архив.


--------------------
"Для того чтобы сделать шаг вперед, достаточно пинка сзади" (с)
PM ICQ   Вверх
Frees
Дата 31.3.2010, 20:33 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
****


Профиль
Группа: Завсегдатай
Сообщений: 2233
Регистрация: 2.12.2005
Где: Екатеринбург

Репутация: 2
Всего: 54



Цитата(Deniz @  31.3.2010,  14:18 Найти цитируемый пост)
Вариант таблица-архив

в случае если все в одной таблице то все просто а если таблиц не 2 и не 3 а больше и все повязаны и каскады всякие то ИМХО луше флаг is_deleted


--------------------
Кольцов Виктор Владимирович
PM MAIL ICQ   Вверх
Ceiceron
Дата 31.3.2010, 21:53 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Шустрый
*


Профиль
Группа: Участник
Сообщений: 66
Регистрация: 2.8.2007
Где: Дубна

Репутация: нет
Всего: нет



Вообще вопрос концептуальный. Пока решаю задачу через флаг is_deleted. Был опыт создания архивных таблиц, но это фактически иметь почти всю структуру БД в отдублированном виде. Есть мысль создать просто копию БД и в нее писать удаляемые данные, но тогда жутко загружается сам процесс удаления и встает бугром вопрос о том, что делать с таблицами-деревьями (т.е. имеющими ссылки сами на себя), при удалении не всегда можно потом восстановить из архивных таблиц правильные ссылки. В общем если подойти правильно к настройке и работе с СУБД, то огромная таблица не несет сильных проблем, просто периодически напускать на БД утилиту, которая проверит даты удаления и последнего обращения к записи (эти данные можно записывать в таблицу) и поубивает все записи с истекшим сроком годности.
PM MAIL   Вверх
skyboy
Дата 31.3.2010, 23:49 (ссылка) |    (голосов:2) Загрузка ... Загрузка ... Быстрая цитата Цитата


неОпытный
****


Профиль
Группа: Модератор
Сообщений: 9820
Регистрация: 18.5.2006
Где: Днепропетровск

Репутация: 5
Всего: 260



есть идея: разделить хранилище по этому самому признаку is_deleted. к примеру, в mysql есть 
patitioning - возможность по значению в некоем поле сохранять запись в один файл или другой. Таким образом, часто используемые неудаленные данные и редко используемые удаленные можно разнести на разные жесткие диски. к сожалению, невозможно указать разные engine(в таком случае, можно было бы для is_deleted вообще использовать движок Archive). подобный механизм есть и в mssql, и в postgresql, и в oracle

Добавлено через 40 секунд
mysql первый только потому, что я о нем первым подумал!  smile 
PM MAIL   Вверх
Deniz
Дата 1.4.2010, 08:56 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
***


Профиль
Группа: Завсегдатай
Сообщений: 1251
Регистрация: 16.10.2004
Где: Новый Уренгой

Репутация: 7
Всего: 44



Цитата(Frees @  31.3.2010,  22:33 Найти цитируемый пост)
а если таблиц не 2 и не 3 а больше и все повязаны
а посмотри как делает логирование изменений IBExpert. Всего 4 таблицы на всю БД независимо от кол-ва рабочих таблиц.


--------------------
"Для того чтобы сделать шаг вперед, достаточно пинка сзади" (с)
PM ICQ   Вверх
LSD
Дата 1.4.2010, 13:43 (ссылка) |    (голосов:1) Загрузка ... Загрузка ... Быстрая цитата Цитата


Leprechaun Software Developer
****


Профиль
Группа: Модератор
Сообщений: 15718
Регистрация: 24.3.2004
Где: Dublin

Репутация: 24
Всего: 538



Поле is_deleted плохо тем, что могут быть проблемы с уникальными ключами и другими констрейнами.


--------------------
Disclaimer: this post contains explicit depictions of personal opinion. So, if it sounds sarcastic, don't take it seriously. If it sounds dangerous, do not try this at home or at all. And if it offends you, just don't read it.
PM MAIL WWW   Вверх
Gluttton
Дата 2.4.2010, 00:18 (ссылка) |  (голосов:1) Загрузка ... Загрузка ... Быстрая цитата Цитата


Начинающий
***


Профиль
Группа: Завсегдатай
Сообщений: 1170
Регистрация: 28.8.2008
Где: Феодосия

Репутация: 10
Всего: 54



Вот тут похожая тема.

А в первом посте ссылка на статью RSDN'a по теме топика...

Возможно буте интересно smile ...


--------------------
Слава Україні!
PM MAIL   Вверх
Ceiceron
Дата 3.4.2010, 00:04 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Шустрый
*


Профиль
Группа: Участник
Сообщений: 66
Регистрация: 2.8.2007
Где: Дубна

Репутация: нет
Всего: нет



Цитата(LSD @ 1.4.2010,  13:43)
Поле is_deleted плохо тем, что могут быть проблемы с уникальными ключами и другими констрейнами.

Какие проблемы тут могут быть? Целостность БД такое поле не нарушает, запросы будут проходить, другое дело, если не учитываешь значение данного поля: сам дурак.

Gluttton, спасибо за ссылку, тема интересная и не только по поводу данной проблемы, почитаем.

Цитата

как делает логирование изменений IBExpert. Всего 4 таблицы на всю БД независимо от кол-ва рабочих таблиц.

разве IBExpert "садиться" на БД? С Fireberd давненько не работал.
PM MAIL   Вверх
Deniz
Дата 5.4.2010, 05:19 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
***


Профиль
Группа: Завсегдатай
Сообщений: 1251
Регистрация: 16.10.2004
Где: Новый Уренгой

Репутация: 7
Всего: 44



Цитата(Ceiceron @  3.4.2010,  02:04 Найти цитируемый пост)
разве IBExpert "садиться" на БД?
Что значит садится?
IBExpert просто создает несколько объектов и в триггерах заполняет таблицы лога, далее предлагает GUI для просмотра этого лога.
Такую GUI можно и самому сделать, если надо можно сюда выложить скрипт IBExpert'а.


--------------------
"Для того чтобы сделать шаг вперед, достаточно пинка сзади" (с)
PM ICQ   Вверх
DimW
Дата 5.4.2010, 08:11 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
***


Профиль
Группа: Завсегдатай
Сообщений: 1330
Регистрация: 24.2.2005
Где: Орёл

Репутация: 2
Всего: 44



Ceiceron, на мой взгляд правильный и легко реализуемый вариант это:

Цитата(skyboy @  31.3.2010,  23:49 Найти цитируемый пост)
patitioning


плюсы:
1) сущность одна
2) данные по признаку разбиты ФИЗИЧЕСКИ

PM MAIL ICQ   Вверх
LSD
Дата 5.4.2010, 11:56 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Leprechaun Software Developer
****


Профиль
Группа: Модератор
Сообщений: 15718
Регистрация: 24.3.2004
Где: Dublin

Репутация: 24
Всего: 538



Цитата(Ceiceron @  3.4.2010,  01:04 Найти цитируемый пост)
Какие проблемы тут могут быть? Целостность БД такое поле не нарушает, запросы будут проходить, другое дело, если не учитываешь значение данного поля: сам дурак.

Проблема не в этом поле, а в других полях. Допустим у тебя есть поле NAME, которое должно быть уникально. Вначале в таблице была запись со значением ABC, потом ее удалили. И получается ситуация, что пользователь не видит записи ABC, но и создать новую не может.


--------------------
Disclaimer: this post contains explicit depictions of personal opinion. So, if it sounds sarcastic, don't take it seriously. If it sounds dangerous, do not try this at home or at all. And if it offends you, just don't read it.
PM MAIL WWW   Вверх
Frees
Дата 5.4.2010, 20:22 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
****


Профиль
Группа: Завсегдатай
Сообщений: 2233
Регистрация: 2.12.2005
Где: Екатеринбург

Репутация: 2
Всего: 54



Цитата(LSD @  5.4.2010,  14:56 Найти цитируемый пост)
. Допустим у тебя есть поле NAME,

уникальность должна по 2 полям в таких случаях NAME и IS_DELETED


--------------------
Кольцов Виктор Владимирович
PM MAIL ICQ   Вверх
Deniz
Дата 6.4.2010, 05:14 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
***


Профиль
Группа: Завсегдатай
Сообщений: 1251
Регистрация: 16.10.2004
Где: Новый Уренгой

Репутация: 7
Всего: 44



Цитата(Frees @  5.4.2010,  22:22 Найти цитируемый пост)
уникальность должна по 2 полям в таких случаях NAME и IS_DELETED
Интересно, а что ставить в поле IS_Deleted если NAME='ABC' удалят второй, третий и т.д. раз.
Если уж так хочется хранить признак удаления, то уж лучше 2 поля:
1. Date_Created
2. Date_Deleted
но так же появляются проблемы с уникальностью, т.к. уникальный индекс на попадание в период сделать невозможно, только обычная проверка на существование записи. А такая проверка работает в контексте транзакции, и 2 человека в один момент времени смогут внести одинаковые записи.


--------------------
"Для того чтобы сделать шаг вперед, достаточно пинка сзади" (с)
PM ICQ   Вверх
Zloxa
Дата 6.4.2010, 09:19 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Чо?
****


Профиль
Группа: Завсегдатай
Сообщений: 3473
Регистрация: 12.9.2008

Репутация: 11
Всего: 161



Цитата(LSD @  5.4.2010,  11:56 Найти цитируемый пост)
Допустим у тебя есть поле NAME, которое должно быть уникально

тут на помощь придет fbi
Код

create unique index mytable$name$unc on mytable(case when is_deleted = 1 then name end);
create unique index mytable$name$unc on mytable(decode(is_deleted,1,name));

правда отбираться по такому индексу "через альпы" и FK на него не накинешь.

в общем случае секционирование наверно действительно не самый лучишй способ решения данной задачи.
Цитата(DimW @  5.4.2010,  08:11 Найти цитируемый пост)
1) сущность одна[
2) данные по признаку разбиты ФИЗИЧЕСКИ

Это очень даже себе частный случай, кода удаленные записи являют собой одну сущность с актуальными. т.е. равноценно должны участвовать в отборе, использоваться одинаковым  образом бизнес логикой. В этом случае для секционирования наверно можно выбрать ключ и получше. Например неактуальная запись в справочнике товаров может означать что товар не должен быть использован впредь, однако в базе могут хранятся зарегестрированные ранее операци с этим товаром и логика обработки этих операций не должна различать удален товар или нет.

Если же нам необходимо хранить удаленные данные не более чем для аудита, и они не используются бизнес логикой приложения, или же эта логика весьма отличается от логики использования актуальных данных, то это уже однозначно другая сущность, хотя имеет схожий набор атрибутов. Иная логика работы с этими данными может потребовать других индексов, и ограничений, потому использвание секционирования для такого случая наверняка окажется не рациональным.

Цитата(Ceiceron @  31.3.2010,  10:32 Найти цитируемый пост)
 Требуется удалить запись из такой толстой таблицы, но так что бы сама запись не удалялась, а становилась просто не видимой для слоя бизнес-логики приложения

Возникает вопрос. Если запись не используется бизнес логикой, зачем ее тогда хранить?

Это сообщение отредактировал(а) Zloxa - 6.4.2010, 11:10


--------------------
Достоверно известно, что 89% людей доверяют статистике взятой с потолка smile
PM   Вверх
Ответ в темуСоздание новой темы Создание опроса
Правила форума "Общие вопросы по базам данных"
LSD
Zloxa

Данный форум предназначен для обсуждения вопросов о базах данных не попадающих под тематику других форумов:

  • вопросам по СУБД для которых нет отдельных подфорумов
  • вопросам которые затрагивают несколько разных СУБД (например проблема выбора)
  • инструменты для работы с СУБД
  • вопросы проектирования БД
  • теоретически вопросы о СУБД

Данный форум не предназначен для:

  • вопросов о поиске разлиных БД (если не понимаете чем БД отличается от СУБД то: а) вам не сюда; б) Google в помощь)
  • обсуждения проблем с доступом к СУБД из различных ЯП (для этого есть соответсвующие форумы по каждому ЯП)
  • обсуждения проблем с написание SQL запросов, для этого есть форум Составление SQL-запросов
  • просьб о написании курсовой, реферата и т.п., для этого есть Центр помощи или фриланс биржа
  • объявлений о найме специалистов, для этого есть раздел Объявления о найме специалистов

Если вы не соблюдаете эти правила, не удивляйтесь потом не найдя свою тему/сообщение. ;)


Полезные советы:

При написании сообщения постарайтесь дать теме максимально понятное название. В теме максимально подробно опишите проблему. Если применимо укажите: название базы данных и версии (MySQL 4.1, MS SQL Server 2000 и т.п.); используемых язык программирования; способа доступа (ADO, BDE и т.д.); сообщения об ошибках.

Для вставки кода используйте теги [code=sql] [/code].

Литературу по базам данных можно поискать здесь.

Действия модераторов можно обсудить здесь.


Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, LSD, Zloxa.

 
0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | СУБД, общие вопросы | Следующая тема »


 




[ Время генерации скрипта: 0.1343 ]   [ Использовано запросов: 22 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.