Ошибка компьютера: как 900 британцев разом оказались за решеткой

Российский ученый-гидролог Александр Цветков почти год отсидел в СИЗО из-за ошибки искусственного интеллекта. Цветкова обвинили в трех жестоких убийствах, совершенных в Москве и Московской области в 2002 году. Гидролога задержали после того, как он попал в объективы камер видеонаблюдения, подключенных к системе искусственного интеллекта. Нейросеть выявила 55-процентное совпадение между внешностью Цветкова и фотороботом, составленным с помощью свидетеля преступления более 20 лет назад. В итоге ученый 10 месяцев провел в СИЗО и был освобожден только после вмешательства СМИ и правозащитников, которые рассказали о деле Цветкова президенту.

Технические ошибки во всем мире нередко ломают судьбы людей, а также наносят существенный экономический урон крупным компаниям и даже государствам. Как из-за бага в программном обеспечении в Великобритании за решетку попали сотни почтальонов? И зачем испанские власти выпустили на линии десятки поездов, которые не проходили в тоннели? Об этом рассказывает программа "Неизвестная история" с Борисом Рыжовым на РЕН ТВ.

                      

900 почтальонов разом оказались за решеткой

Более 900 британских почтальонов оказались на скамье подсудимых из-за ошибок компьютерной программы. Многие из них получили тюремные сроки и потеряли нажитое имущество. Эта скандальная история началась в конце 90-х после того, как правительство Соединенного Королевства решило автоматизировать процесс выплаты социальных пособий. Для этого в почтовых отделениях внедрили программное обеспечение "Горизонт", разработанное известной японской корпорацией. Его использовали около 15 лет.

"Данное программное обеспечение позволяет работникам почт осуществлять транзакции, вести бухгалтерию, а также проводить инвентаризацию. Но было установлено, что на каком-то этапе наступает сбой в работе программы, и в итоге появляются недостачи достаточно большие – по 1000–2000 фунтов стерлингов", – рассказала кандидат исторических наук, доцент РУДН имени П. Лумумбы Елена Кряжева-Карцева.

 Фото: © Скриншот видео          

Из-за некорректной работы программы пострадали простые сотрудники почты. Их обвиняли в финансовых махинациях и хищениях. Сима Мистра провела 10 месяцев за решеткой за недостачу в две тысячи фунтов стерлингов.

"Не было никаких доказательств того, что я украла эти деньги. На суде, когда мне вынесли приговор – "виновна", я думала, что мы не выдержим. Я, муж, мои дети. Я была еще и беременна в тот момент", – вспоминает сотрудница почты Сима Мистра.

Когда счет обвинительным приговорам пошел на сотни, и история попала в СМИ, началось расследование. Верховный суд признал программу "Горизонт" ненадежной. Компания-разработчик извинилась перед несправедливо осужденными и выплатила компенсацию в 58 миллионов евро. При этом никого из сотрудников корпорации не наказали, а британское правительство продолжает заключать с ней контракты – уже в оборонной сфере.

Почему шведский корабль утонул в первом же плавании

Нежелание властей признавать свои ошибки не раз приводило к серьезным ошибкам и убыткам. Показательная история произошла с со шведским галеоном "Васа" в начале XVII века. Для своей эпохи он был самым передовым военным кораблем. Приказ о его строительстве лично отдал король Густав II. Судно должно было стать флагманом и продемонстрировать противникам всю мощь королевского флота. Но вышло наоборот – после спуска на воду в Стокгольмской гавани корабль смог пройти чуть более километра.

"Когда первый порыв ветра наполнил паруса, корабль начал крениться на левый борт. Он так сильно накренился, что нижний ряд артиллерийских орудий ушел под воду. В итоге галеон затонул буквально за 10 минут", – рассказал сотрудник музея "Васа" Фред Хокер.

В тот момент на судне находилось около 150 человек. Погиб каждый пятый. Начавшееся тогда расследование вскоре прекратили, ведь оно ставило под удар весьма высокопоставленных особ, которым заранее было известно о плохой остойчивости корабля. Выяснить причины трагедии удалось лишь после того, как в 1961 году галеон был поднят со дна.

Специалисты пришли к выводу, что почти 70-метровый корабль был сильно перегружен, прежде всего – вооружением.

"Для демонстрации могущества Шведского королевства туда погрузили на данный галеон 64 пушки.

Притом они были не традиционно 12-фунтовые, как планировалось, а 24-фунтовые, то есть вес был превышен как минимум в два раза", – объяснила Кряжева-Карцева.

Также выяснилось, что по своим параметрам галеон был непропорционален, а его центр тяжести сильно завышен. Серьезные погрешности в расчетах произошли из-за того, что галеон строили специалисты разных национальностей, которые пользовались различными системами измерений.

Как американский спутник врезался в Марс

Подобные ошибки приводят к катастрофам и в наши дни. В конце 90-х США запустили к Марсу спутник "Климат Орбитер". Его задачей был выход на орбиту Красной планеты и передача данных на Землю. Однако вместо этого космический аппарат врезался в поверхность Марса. В ходе расследования выяснилось: над разработкой спутника трудились две группы инженеров.

"Притом одна группа специалистов в своей работе использовала традиционную метрическую систему мер, а другая рабочая команда использовала имперскую систему, которая использует традиционные футы. В общем, не совпали системы измерения", – объяснила эксперт.

Американским налогоплательщикам такая ошибка обошлась в 125 миллионов долларов.

Почему испанские поезда не прошли в тоннели

В Испании выбросили на ветер 258 миллионов евро, пытаясь обновить подвижной состав железной дороги. Две провинции на севере Испании – Астурию и Кантабрию – соединяет железная дорога, проходящая в горной местности. Из-за сложного рельефа она отличается от других – и шириной колеи, и габаритами поездов, которым необходимо проходить через многочисленные узкие тоннели. В этой местности живут полтора миллиона человек, и поезда стали плохо справляться с пассажиропотоком. В 2021 году специально для этой магистрали построили 31 новый состав. Но выпустить их на линию оказалось невозможно.

"Когда были поставлены эти поезда, выяснилось, что они просто не пролезают в тоннели. То есть не соответствуют габаритам тех тоннелей, которые есть в этих провинциях", – пояснила историк.

Разразился нешуточный скандал, ведь за каждый состав производитель получил более восьми миллионов евро.

"Региональное правительство занимается чем угодно, кроме контроля исполнения важных проектов, которые нужны нам, кантабрийцам. Над нами просто смеются. Народная партия должна допросить правительство, чтобы нам дали объяснения по поводу этой нелепости с поездами", – заявила в своем выступлении председатель Народной партии Кантабрии Мария Хосе Саенс де Буруага.

Железнодорожники обвинили в случившемся проектировщиков, те, в свою очередь, утверждают, что заказ выполнен строго по техническому заданию, что им предоставили. Круг замкнулся. Нескольких менеджеров уволили, сроки реализации проекта перенесли на несколько лет.

Как люди по всему миру становятся жертвами Boeing

Ошибки в транспортной сфере нередко приводят к катастрофам. Два самолета Boeing 737 МАХ с системой улучшения характеристик маневрирования потерпели крушение из-за того, что алгоритмы работали некорректно. При этом, даже заметив ошибку, отключить систему в полете пилоты не могли. Первый лайнер разбился в октябре 2018 года в Индонезии.

"Он вылетел из Джакарты и буквально через несколько минут рухнул в море", – рассказала Елена Кряжева-Карцева.

Жертвами катастрофы стали 189 человек. Поразительно, но отказываться от опасной системы авиаперевозчики не стали. И уже через пять месяцев по той же причине в Эфиопии разбился лайнер, летевший из Аддис-Абебы в Найроби. Погибли 157 человек, в том числе трое россиян. В итоге во многих странах эксплуатацию этих самолетов приостановили.

"Еще после катастрофы в Индонезии стало понятно, что система улучшения характеристик маневрирования представляет собой проблему", – заявил адвокат Марк Муллер.

Фасад здания превратился в гигантскую печь

Признавать допущенные ошибки не спешат не только авиаконструкторы, но и строители. В погоне за модным дизайном зданий они порой создают проблемы для окружающих. В 2013 году в Лондоне из-за аномальной жары зеркальный фасад строящегося бизнес-центра превратился в гигантскую печь.

"Отраженный свет, который шел на противоположную улицу, даже поджигал машины, плавил стекло, велосипеды. То есть простые граждане пострадали от технического коллапса", – подчеркнула кандидат исторических наук.

Чтобы привлечь внимание к проблеме, активисты даже готовили яичницу прямо на улице, используя жар, исходящий от зеркального фасада. В ответ застройщик выплатил пострадавшим компенсации, но заявил, что проект менять не будет. Мол, подобных ошибок в мире хватает. Например, концертный зал имени Диснея в Лос-Анджелесе или отель Vdara в Лас-Вегасе, которые своей облицовкой в жару тоже плавят все вокруг.