Поиск:

Ответ в темуСоздание новой темы Создание опроса
> отбросить выбросы 
:(
    Опции темы
mrgloom
Дата 11.1.2012, 14:13 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 829
Регистрация: 8.6.2011

Репутация: нет
Всего: нет



допустим есть вектор линий.
я хочу отбросить линии с нехарактерными длиной и наклоном.
я делаю это как отсечение по порогу и просто путем сортировки вектора по длине линий и отбрасывание какой то части в % от всех элементов.
вопрос может это делается как то более умно? используя матожидание и дисперсию и т.д.
PM MAIL   Вверх
_Y_
Дата 11.1.2012, 14:39 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
***


Профиль
Группа: Завсегдатай
Сообщений: 1651
Регистрация: 27.11.2006

Репутация: 8
Всего: 34



Любой учебник по статистике. Наверное, не стОит заморачиваться с теорией. Что-нибудь предельно простое. Что-то типа вот этого - раздел Определение и исключение грубых погрешностей. Вот здесь еще довольно просто-кратко. А здесь путаннее, зато с примером для желающих.

В общем - гуглить на "исключение грубых погрешностей".

Все эти простейшие подходы предназначены для отброса по одному параметру. У Вас же длина и наклон (два, если я правильно суммировал smile ). Но в Вашем конкретном случае, как понимаю, надо просто отбросить по каждому параметру по отдельности.


--------------------
Я вот в этом поучаствовал: http://sbor-nik.appspot.com/kick.jsp?id=sbor5737960678883328 (на правах саморекламы:)
PM MAIL WWW   Вверх
Akina
Дата 11.1.2012, 15:56 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Советчик
****


Профиль
Группа: Модератор
Сообщений: 20581
Регистрация: 8.4.2004
Где: Зеленоград

Репутация: 20
Всего: 454



Цитата(_Y_ @  11.1.2012,  15:39 Найти цитируемый пост)
в Вашем конкретном случае, как понимаю, надо просто отбросить по каждому параметру по отдельности. 

Необязательно... например, у него может стоять задача минимизации области попадания концов векторов...


--------------------
 О(б)суждение моих действий - в соответствующей теме, пожалуйста. Или в РМ. И высшая инстанция - Администрация форума.

PM MAIL WWW ICQ Jabber   Вверх
Pavia
Дата 11.1.2012, 18:23 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 418
Регистрация: 6.12.2008

Репутация: 11
Всего: 12



mrgloom, 
Цитата

как то более умно?

Можно. Это типичная задача классификации.  Ну тут море методов. Нейронные сети. K-means. Классификация через скользящее среднее. 
Цитата

У Вас же длина и наклон (два, если я правильно суммировал  ). Но в Вашем конкретном случае, как понимаю, надо просто отбросить по каждому параметру по отдельности.

Во 2 параметра в общем случае могут не быть линейно разделимы и можно применять алгоритмы усиления слабых классификаторов.


Но вот вопрос зачем делать сложно, когда можно делать просто?
PM MAIL   Вверх
_Y_
Дата 11.1.2012, 18:31 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
***


Профиль
Группа: Завсегдатай
Сообщений: 1651
Регистрация: 27.11.2006

Репутация: 8
Всего: 34



От многой мудрости много печали smile 

Конечно, если нужно делать очень уж научно и доказательно, то надо подходить к проблеме с многопараметрическими решениями. Но исходя из моего понимания поставленного вопроса "что-то немного более научное, чем тупой трешхолд", я бы сначала смотрел в сторону простых решений:
  • Описанный мной отсев по каждому параметру отдельно.
  • Или, как вариант, отсев если оба параметра "вне закона".
  • Отсев, комбинируя два параметра с весовыми коэффициентами (ненаучный, но распространенный подход). Коэффициенты, естествнно, берутся исходя из физического смысла процесса.
А уж если не годятся столь простые решения - тогда с шашкой наголо на штурм вершин статистических теорий smile 

Анекдот в тему. Может я его уже и рассказывал.
Стоит задача выключить комп, используя только мышку.
Программист-системщик мышью, копи-пестя, пишет утилитку выключения, кликает-запускает. Работа сделана.
Инженер берет мышку и нажимает ее краем на кнопку питания. 



Это сообщение отредактировал(а) _Y_ - 11.1.2012, 18:35


--------------------
Я вот в этом поучаствовал: http://sbor-nik.appspot.com/kick.jsp?id=sbor5737960678883328 (на правах саморекламы:)
PM MAIL WWW   Вверх
mrgloom
Дата 12.1.2012, 10:31 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 829
Регистрация: 8.6.2011

Репутация: нет
Всего: нет



я только не понял это подходит для любых данных? для любых выборок и т.д. или надо знать что то определенное о данных?

я знаю что у отрезков есть некий теоретический угол наклона(в основном это горизонтальные и вертикальные линии с небольшим отклонением), большинство длинных отрезков болтается вокруг него и посчитав среднее их углов наклонов я хочу определить этот теоретический угол, но есть отрезки малой длины которые повернуты на нехарактерный угол их учитывать не следует так как это шумы.  
пока фильтрую по порогу или отбрасывая процентную часть от сортированной выборки с конца, не знаю стоит ли тут использовать матстат или нет.
PM MAIL   Вверх
Pavia
Дата 12.1.2012, 19:25 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 418
Регистрация: 6.12.2008

Репутация: 11
Всего: 12



Цитата

я только не понял это подходит для любых данных? для любых выборок и т.д. или надо знать что то определенное о данных?

1) Универсальных методов не бывает. 
2) Математика всегда работает с оговоренными аксиомами. Но практика и инженерное дело вещь такая нестрого математическое обоснование может быть пригодно.  Ты же используешь интернет не задумываешься о теории массового обслуживания?

А да вспомнился анекдот. Про математика, и инженера-программиста и голую женщину.

Цитата

я знаю что у отрезков есть некий теоретический угол наклона(в основном это горизонтальные и вертикальные линии с небольшим отклонением), большинство длинных отрезков болтается вокруг него и посчитав среднее их углов наклонов я хочу определить этот теоретический угол, но есть отрезки малой длины которые повернуты на нехарактерный угол их учитывать не следует так как это шумы.  


Простое отсечение по порогу не годится.  Возьмем отрезок длиною 1 пиксель и повернём его на произвольный угол. И на рисуем на изображении. Если посмотреть на наш рисунок то линия может пройти только по 4 вариантам горизонтально вертикально главная диагональ побочная диагональ.
Когда вы будете распознавать угол  вы сможете его получить только с шагом 45 градусов. Ошибка будет +-45/2 градусов.

Это значит что ошибка зависит от длины линии. И определяется как atan(1/len)/2      здесь 1 это 1 пиксель, а len длина линии в пикселях.
Если отрезок маленький, то ошибка при отбрасывании будет большая.
Тут картинки бы надо нарисовать не мне лень. График будет не линейный. Можете сами попробовать берёте линию в векторном представлении поворачиваете на определённый угол, выводите её в битпам. А потом пробуйте определить её угол. 

Отсекать можно по порогу, порог выбирать в зависимости от длины отрезка.  



PM MAIL   Вверх
_Y_
Дата 12.1.2012, 22:48 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
***


Профиль
Группа: Завсегдатай
Сообщений: 1651
Регистрация: 27.11.2006

Репутация: 8
Всего: 34



Цитата(Pavia @  12.1.2012,  19:25 Найти цитируемый пост)
А да вспомнился анекдот. Про математика, и инженера-программиста и голую женщину.

И где же анекдот? Без него проблему не решим


--------------------
Я вот в этом поучаствовал: http://sbor-nik.appspot.com/kick.jsp?id=sbor5737960678883328 (на правах саморекламы:)
PM MAIL WWW   Вверх
Pavia
Дата 13.1.2012, 01:08 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 418
Регистрация: 6.12.2008

Репутация: 11
Всего: 12



Математик и инженер-программист принимают участие в психологическом эксперименте.
 Их посадили в с одной стороны комнаты и они ждут, не подозревая, что случится потом.
 Дверь открывается и в комнату входит обнажённая женщина и встаёт вдали от них. Испытуемых предупреждают, что каждый раз, когда они слышат сигнал — они могут пересечь половину расстояния, оставшегося до женщины.
 Тут же они слышат сигнал, инженер одним прыжком преодолевает половину расстояния, а математик, со скучающим видом остаётся сидеть. Когда и после второго сигнала математик не шевельнулся, инженер поинтересовался, почему он не бежит.
 — Это от того, что я знаю, что никогда не достигну женщину.
 Инженер на тот же вопрос ответил так:
 — Потому что я знаю, что уже очень скоро я буду достаточно близок для любого практического применения!
-------------------------------------------------------------------------------------------------------------------------------------------
Загадка в догонку Шерлок Хомс и Доктер Ватсен угодили в яму. Шерлок Хомс встал на плечи доктору, но не дотянулся до верха. Не хватала каких-то 10 сантиметров. Спустя 5 минут Шерлок нашел решения и они с Ватсеном выбрались из ямы. Как им это удалось?
PM MAIL   Вверх
_Y_
Дата 13.1.2012, 01:30 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
***


Профиль
Группа: Завсегдатай
Сообщений: 1651
Регистрация: 27.11.2006

Репутация: 8
Всего: 34



Цитата(Pavia @  13.1.2012,  01:08 Найти цитируемый пост)
Как им это удалось? 

Шерлок Хомс встал на голову доктору smile 


--------------------
Я вот в этом поучаствовал: http://sbor-nik.appspot.com/kick.jsp?id=sbor5737960678883328 (на правах саморекламы:)
PM MAIL WWW   Вверх
maxim1000
Дата 13.1.2012, 12:56 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
****


Профиль
Группа: Участник
Сообщений: 3334
Регистрация: 11.1.2003
Где: Киев

Репутация: 33
Всего: 110



думаю, всё-таки лучше не удаляться от темы ;)


--------------------
qqq
PM WWW   Вверх
  
Ответ в темуСоздание новой темы Создание опроса
Правила форума "Алгоритмы"

maxim1000

Форум "Алгоритмы" предназначен для обсуждения вопросов, связанных только с алгоритмами и структурами данных, без привязки к конкретному языку программирования и/или программному продукту.


Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, maxim1000.

 
0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | Алгоритмы | Следующая тема »


 




[ Время генерации скрипта: 0.0549 ]   [ Использовано запросов: 21 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.