Мистер Бейтс - против почтового отделения ( или почты) Великобритания 2024 сериал
Посмотрела.
Честно - я в шоке. Так слепо доверять программе... А старый добрый аудит с подсчетом марок, конвертов и прочего вручную - что, уже так не делают?
По моему эта история поучительна тем , как не надо делать , т.е. «слепо доверять программе». И ведь проблема не только в Horizon.
Мы настолько привыкли к технике, потому что с ней быстрее и удобнее, что постепенно начинаем воспринимать её результат ,как нечто заведомо правильное. Компьютер выдал цифру — значит, цифра верная, навигатор построил маршрут — значит, надо ехать именно по нему ( хотя этот « Сусанин» может вообще завести к « черту на кулички «

) , система что-то рассчитала — значит, проверять уже вроде бы и незачем…
А ведь любая такая система создана людьми, в неё заложены алгоритмы, программы, данные — и на любом этапе создания , человек может ошибиться. И если ошибка попадает в автоматизированную систему, она уже способна распространиться дальше и вовлечь в « свои сети» огромное количество людей.
Если помните тот глобальный сбой CrowdStrike в 2024 году - он очень хорошо показал, как из-за одного ошибочного обновления программного обеспечения оказались нарушены работы авиакомпаний, банков, больниц и многих других организаций, и там, где цифровые системы перестали работать, людям пришлось возвращаться к бумаге и ручным процедурам.
Мне кажется , что все хорошо в меру , нет, я конечно за технику — но не за слепую зависимость от неё. Потому как , иногда быстрее — совсем не значит практичнее, все таки должен оставаться способ перепроверить результат и понять, что происходит в реальности, а не только в компьютерной системе.
Потому что история с Horizon — это уже не просто пример того, как компьютерная программа дала сбой. Это пример того, что происходит, когда ошибке системы начинают безоговорочно доверять люди, от к-ых зависит судьба других людей. Ведь тысячи почтмейстеров оказались обвинены, многие потеряли работу, деньги, репутацию и свободу, семьи были разрушены, а некоторые люди не выдержали давления и последствий и свели счеты с жизнью . И ведь все это продолжалось годами, несмотря на то, что проблема была не в людях, а в самой системе.
Вот это, на мой взгляд, и есть самое страшное во всей истории: страшно то, что люди, включая юристов, экспертов и всю судебную систему, слишком долго не подвергали сомнению результат этой программы. Компьютерная ошибка превратилась в человеческие судьбы, а затем — в масштабную судебную несправедливость.
Думаю, что история с Horizon , уже не столько про компьютеры, сколько про ответственность человека - ведь никакая программа, алгоритм или автоматизированная система не должны становиться заменой здравому смыслу, проверке и способности сказать: «Стоп. А давайте всё-таки проверим, действительно ли это так».
