http://secnews.spb.ru/index.php/2005/11/14/128/
---- 8< ----
Если баги в программном обеспечении приводят к зависанию компьютера, то это ерунда. Гораздо хуже, если из-за ошибок в ПО ломаются автомобили, взрываются ракеты и погибают люди.


Самая первый компьютерный баг в истории был обнаружен в 1945 г., когда инженеры нашли в корпусе компьютера Harvard Mark II мотылька. Этот мотылек закорачивал контакты — и компьютер сбоил. Инженеры сделали запись в журнале событий «Первый случай обнаружения бага» (по-английски «bug» означает «насекомое»). С тех пор компьютерные сбои принято называть багами.

По мере распространения цифровых устройств баги все глубже проникают в нашу жизнь. Они окружают нас повсюду — на мобильных телефонах, в бытовой технике, в автомобилях. К счастью, обычно баги не приносят никакого вреда, кроме морального. Но бывает и по-другому, когда баг вызывает огромные финансовые потери и даже забирает человеческие жизни. Журнал Wired посвятил этой проблеме целую тему номера и опубликовал список 10 худших багов в истории человечества, в хронологическом порядке.

28 июля 1962 г. Космический аппарат Mariner I стартовал по направлению к Венере. Из-за поломки антенны корабль потерял связь с земными службами управлениями и перешел на собственную систему пилотирования. Но эта система содержала обидный маленький баг. В результате аппарат полетел совсем не в ту сторону и его пришлось подорвать над Атлантическим океаном. Последующее расследование установило, что в процессе программирования системы навигации была совершена маленькая опечатка — при вводе одной из формул был пропущен один символ.

1982 г. Авария на Транссибирском трубопроводе. Оперативники ЦРУ внедрили баг (отчет в формате PDF) в канадское программное обеспечение, управлявшее газовыми трубопроводами. Советская разведка получила это ПО как объект промышленного шпионажа и внедрила на Транссибирском трубопроводе. Результатом стал самый большой неядерный взрыв в истории человечества.

1985–87 гг. Несколько человек получили смертельную дозу облучения во время сеансов радиационной терапии с медицинским ускорителем Therac-25. Основанная на предыдущей версии ускорителя, «улучшенная» модель Therac-25 могла генерировать два вида излучения: слабое электронное бета-излучение и нормальное рентгеновское излучение. Еще одно «улучшение» состояло в том, что вместо электромеханической защиты пациента в устройстве была реализована программная защита, якобы более надежная. Обе новые функции были некорректно реализованы неопытным программистом, результатом чего стали как минимум пять смертей и огромное количество несмертельных случаев переоблучения.

1988 г. Переполнение буфера в Berkeley Unix. Первый в мире компьютерный червь (так называемый червь Морриса) заразил от 2.000 до 6.000 компьютеров менее чем за сутки, эксплуатируя уязвимость в реализации функции gets(). В ОС Berkeley Unix эта функция ввода/вывода не имела ограничения на максимальную длину.

1988–96 гг. Генератор случайных чисел Kerberos в течение нескольких лет широко использовался в различных системах шифрования. Предполагалось, что программа должна выбирать ключ случайным образом из многих миллиардов чисел, но генератор случайных чисел выбирал из гораздо меньшего набора численностью примерно в миллион. Как результат, в течение восьми лет любой пользователь мог без труда проникнуть в компьютерную систему, которая использовала модуль Kerberos.

15 января 1990 г. Падение телефонной сети AT&T. Ошибка в новой версии прошивки междугородних коммутаторов привела к тому, что коммутатор перезагружался, если получал специфический сигнал от соседнего коммутатора. Но беда в том, что этот сигнал генерировался в тот момент, когда коммутатор восстанавливал свою работу после сбоя. В один прекрасный день, когда какой-то коммутатор в Нью-Йорке перезагрузился, он подал тот самый злополучный сигнал — и началось. Вскоре 114 соседних коммутаторов непрерывно перезагружались каждые 6 секунд, а 60 тыс. человек остались без междугородней связи на 9 часов, пока инженеры не установили на коммутаторы предыдущую версию прошивки.

1993 г. Широко разрекламированный процессор Intel Pentium неправильно производил деление с плавающей запятой, ошибаясь на 0,006%. Хотя эта проблема реально коснулась немногих пользователей, но стала настоящим кошмаром для имиджа Intel. Поначалу фирма согласилась менять процессор только для тех пользователей, которые могли доказать, что им в вычислениях нужна подобная точность, но затем согласилась поменять процессор всем желающим. Этот баг стоил Intel около 5 млн.

1995–96 гг. Пинг смерти. Отсутствие проверки на ошибки при обработке IP-пакетов позволяла порушить практически любую операционную систему, отправив ей через интернет специальный пакет («пинг»).

4 июня 1996 г. Новая ракета-носитель Ariane 5, результат многолетней работы европейских ученых, гордость стран Евросоюза, взорвалась через 40 секунд после своего первого старта. Только научное оборудование на борту ракеты стоило около $ 500 млн, не говоря о множестве побочных финансовых последствий. Система автоподрыва ракеты сработала после остановки обоих процессоров в результате цепочки ошибок. Началом этой цепочки послужило переполнение буфера, поскольку система навигации подала недопустимо большое значение параметра горизонтальной скорости. Дело в том, что система управления Ariane 5 переделывалась из Ariane 4, а там такого большого значения не могло быть теоретически. В целях снижения нагрузки на рабочий компьютер инженеры сняли защиту от ошибок переполнения буфера в этом программном модуле, поскольку были уверены, что такого значения горизонтальной скорости не может быть в принципе — и просчитались.

Ноябрь 2000 г. Национальный институт рака, Панама. Здесь произошла целая серия инцидентов, вызванная тем, что ПО для планирования радиационной терапии производства американской компании Multidata Systems International неправильно рассчитывало дозы облучения для пациентов. Программа позволяла врачу нарисовать на компьютерном экране расположение защитных металлических щитов, которые защищают тело от радиации. Но программа позволяла манипулировать только четырьмя щитами, тогда как врачи хотели задействовать пять. Они нашли способ «обхитрить» программу, если нарисовать все пять щитов в виде единого блока с дыркой посередине. Единственное, чего они не знали, что программа рассчитывает разные дозы радиации в зависимости от того, как нарисована дырка. Если рисовать ее особым образом, то устройство выдавало двойную дозу радиации. Как минимум восемь человек погибли, а еще 20 получили переоблучение. Врачи, которые должны были вручную перепроверять расчеты программы, были осуждены за убийство.

Все эти примеры, а особенно последний, еще раз показывают, что никогда нельзя в полной мере доверять компьютерам. Ведь программы для компьютеров создают люди, а людям свойственно ошибаться.

WebPlanet.ru
---- 8< ----

Мрачно

(Ссылку утянул с http://secnews.spb.ru/index.php/2005/11/14/128/)

Никогда не доверял устройствам содержащим процессор

Цитата(Sun @ 16.11.2005, 15:59)

икогда не доверял устройствам содержащим процессор

Зря. Пока их не включишь, они очень надежны.

Так что на нас лежит огромная ответственность

Цитата(nikitao @ 16.11.2005, 20:35)

Так что на нас лежит огромная ответственность

Нда, не хотел бы я программить управление ядерным реактором..
Хотя можете спать спокойно, я его не пишу

Цитата(Mayk @ 16.11.2005, 19:09)

1995–96 гг. Пинг смерти. Отсутствие проверки на ошибки при обработке IP-пакетов позволяла порушить практически любую операционную систему, отправив ей через интернет специальный пакет («пинг»).

Еще Стивенс описывал интересную возможность устраивание DoS атаки(Раразработка сетевых приложений UNIX, упр 12.3). Идея следующая - подделывается пакет, который соединяет службу chargen и echo - генератор рандомных символов и эхо ответ. Ну вот, посылается дейтаграмма на любую службу - пусть на echo.
Она отвечает и пересылает ответ на chargen. Тот получает датаграмму, генерирует случайные символы, и отсылает их обратно - echo'у, а тот опять chargen'у... "Упс..". Бедный сервер

Цитата

Так что на нас лежит огромная ответственность

так же как, например, на водителях машин, рельсоукладчиках и прочем народе...

Цитата(Mayk @ 16.11.2005, 17:09)

Началом этой цепочки послужило переполнение буфера

И после этого вы все еще программируете на Си?

Цитата(rsm @ 16.11.2005, 23:45)

И после этого вы все еще программируете на Си?

А что существует язык в котором невозможно переполнить буфер? По-моему это невозможно хотя бы в силу того, что память конечна.

Кстати, там в той мессаге ни слова про си

Кстати, а сколько было багов на презентациях вот этой конторки. Говорят что их было не мало, и что как-то их даже выручали ребята из другой контроки когда полетела не то винда, не то офис на какой-то презентации

Цитата(Mayk @ 16.11.2005, 16:55)

А что существует язык в котором невозможно переполнить буфер? По-моему это невозможно хотя бы в силу того, что память конечна.

В любом языке где нет свободного доступа к памяти - Java, C#, VB, Perl. Переполнение буфера подразумевает не исчерпывание ресурсов памяти, а выход за границу выделеного массива памяти.

Цитата(rsm @ 16.11.2005, 16:45)

И после этого вы все еще программируете на Си?

Большие возможности таят и большие опасности

Цитата(Sun @ 17.11.2005, 16:50)

В любом языке где нет свободного доступа к памяти - Java, C#, VB, Perl. Переполнение буфера подразумевает не исчерпывание ресурсов памяти, а выход за границу выделеного массива памяти.

Ну если

Код

class a{   int ss(){    int[] dd = new int[4];    dd[4] = 4;   } }

не является переполнением буфера, то я не знаю что им является.
Впрочем мы отвлеклись
Добавлено @ 13:11
Кстати, а зачем нужен буфер размером с линейную скорсть?


Это сообщение отредактировал(а) Mayk - 17.11.2005, 13:11

Цитата(Mayk @ 17.11.2005, 10:05)

Ну если Код class a{   int ss(){    int[] dd = new int[4];    dd[4] = 4;   } }  не является переполнением буфера, то я не знаю что им является.

Это называется "Index out of range" Никаких печальных последствий, подобно в языке С это не повлечет и доступа к защищенной памяти не произойдет. Атаки на переполнение буфера были расчитаны чтобы выполнить код для проникновения в ситсему, либо просто вызвать системный сбой.