О морали беспилотных автомобилей
Могут ли автономные транспортные средства принимать этические решения в чрезвычайных ситуациях без вмешательства человека?
По мнению большинства, полностью автономные транспортные средства (AV) — те, что в поп-культуре — смогут управлять собой без какого-либо вмешательства человека.
Сегодня всё ещё не существует автомобиля, который был бы на 100% полностью автономным. Производители автомобилей – Tesla, General Motors и Stellantis – разработали такие функции, как обнаружение пешеходов, предупреждения о выходе из полосы движения, распознавание дорожных знаков и обнаружение слепых зон. Но полностью автоматизированные автомобили с автоматическим управлением, скорее всего, не будут готовы раньше 2030 года (по оценке Accenture).
Беспилотные автомобили призваны изменить общество к лучшему. По данным Национальной администрации безопасности дорожного движения США, преимущества беспилотных автомобилей варьируются от повышения мобильности для пожилых людей и инвалидов до эффективности и удобства.
Ожидается также, что более высокий уровень автоматизации транспортных средств повысит безопасность дорожного движения за счёт сокращения ДТП и, в конечном итоге, их полного предотвращения. Исследования показали, что 94% аварий происходят из-за человеческого фактора.
В последние годы в AV-технологиях наблюдается некоторый технологический прогресс. Многие автомобили с автоматическим управлением, представленные на рынке, в настоящее время оснащены передовыми системами помощи водителю ADAS, которые не позволяют водителям съехать с полосы движения или помогают им вовремя остановиться, чтобы избежать аварии или уменьшить её тяжесть.
У Tesla есть функция автопилота, которая позиционируется как возможность «полного самостоятельного вождения». Несмотря на громкие маркетинговые заявления, функция достигла только уровня 2 (помощь водителю) из шести возможных уровней в широко используемой таксономии автоматизированного вождения Общества автомобильных инженеров (SAE).
Несмотря на потенциальные экономические и социальные преимущества беспилотных технологий, они также могут представлять и множество рисков.
Неисправности автомобиля, например, могут представлять угрозу безопасности для участников дорожного движения. В прошлом году Tesla попала под следствие после того, как её автомобили, работающие на автопилоте, врезались в припаркованные машины скорой помощи. В феврале этого года владельцы этой марки за последние девять месяцев подали 354 жалобы на «фантомное торможение» в Model 3 и Model Y.
Беспилотные автомобили также уязвимы для кибератак, поскольку, в отличие от традиционных автомобилей, они в основном являются программными продуктами. По мере того, как их работа становится всё более зависимой от ПО, растут опасения, что хакерские атаки и кибератаки могут поставить под угрозу надлежащее функционирование беспилотных автомобилей и представлять угрозу как для водителей, так и для производителей автомобилей.
Другой проблемой является отсутствие чётких правил, регулирующих производство беспилотных автомобилей. Согласно исследованию будущего автономных транспортных средств, проведённому McKinsey & Company, во многих странах отсутствуют всеобъемлющие правила безопасности и эксплуатационные стандарты. Например, правила для автономных автомобилей в Европе остаются фрагментарными. В ЕС не существует законодательной базы, специально предназначенной для утверждения AV. В Китае различные правила также появились на муниципальном уровне.
Отсутствие нормативной ясности имеет правовые последствия, включая вопрос об ответственности. Возникает вопрос: когда автомобили могут двигаться сами по себе, ответственность за несчастные случаи несёт производитель или водитель?
Эти риски также подчеркивают этические проблемы, с которыми приходится сталкиваться автопроизводителям и правительствам при разработке беспилотных автомобилей. Одна из таких проблем связана с тестированием автономных транспортных средств. Например, производители беспилотных автомобилей используют дороги общего пользования в США в качестве испытательной лаборатории для экспериментов с беспилотным вождением.
Согласно недавнему отчёту Минтранса США, компании по производству беспилотных автомобилей, такие как Waymo и Cruise, почти удвоили свои тестовые мили до рекордных 4,1 миллиона миль на дорогах Калифорнии с декабря 2020 года по ноябрь 2021 года по сравнению с предыдущим годом.
Несмотря на потенциал повышения безопасности дорожного движения, испытания беспилотников на дорогах общего пользования могут подвергнуть риску окружающих. Это подчёркивает моральную дилемму, с которой сталкиваются автопроизводители, регулирующие органы и общественность: создаёт ли регулирование AV более безопасные дороги для людей или оно замедляет внедрение беспилотных технологий, которые могут снизить количество дорожно-транспортных происшествий?
Ещё одна важная этическая проблема при разработке беспилотных транспортных средств связана со способностью машин принимать моральные решения. Хотя внедрение автономных транспортных средств может снизить количество дорожно-транспортных происшествий, такие события нельзя исключать, основываясь на прошлых записях. Например, в Сан-Франциско (США) в 2021 году произошло 53 столкновения с беспилотными автомобилями.
На основе опроса «Moral Machine», в котором приняли участие 2,3 миллиона человек во всем мире в 2018 году, респондентам было предложено 13 сценариев, в которых столкновение с участием автономного транспортного средства, убивающее пассажиров и пешеходов, было неизбежным. У участников спросили, кого они пощадят.
Важный вывод исследования заключался в том, что моральные принципы, которыми руководствовались водители, варьировались от страны к стране. Другой вопрос заключался в том, что женщины и мужчины по-разному рассматривали этические и моральные ситуации.
Следовательно, без консенсуса по универсальному моральному кодексу было бы практически невозможно разработать автомобиль, который универсально удовлетворял бы этическим нормам, принятым населением во всём мире.
Двигаясь вперёд, важно расширить общественное обсуждение с фокуса на поведении транспортных средств при столкновении на многие типы социальных изменений, в которые могут быть вовлечены беспилотные технологии. К ним относятся рассмотрение таких факторов, как требуемый уровень безопасности, распределение обязанности между регулирующими органами и поставщиками транспортных средств, а также компромиссы между конфиденциальностью и другими интересами.
В частности, политикам, производителям автомобилей и общественности необходимо будет разработать соглашение о компромиссах и установлении приоритетов среди этих этических соображений.
Подписывайтесь на журнал «Вестник ГЛОНАСС» и навигационный Telegram-канал
