Зловещая долина – как в неё не «упасть» беспилотным автомобилям на основе AI?
Предположим, что существует Зловещая долина для разработчиков AI (искусственного интеллекта).
Во-первых, некоторый необходимый фон. Одно из самых неприятных этических сомнений, связанных с AI, заключается в том, что людей можно обмануть, заставив поверить в то, что система AI разумна. Имейте в виду, что на сегодняшний день нет ни одного AI, который хотя бы отдалённо приблизился к тому, чтобы быть разумным. Просто в данный момент этого не происходит.
Мы не в разуме AI. Мы не знаем, как туда добраться. Мы не знаем, произойдёт ли это. Разум AI — стоящая мечта и стремление, но не торопитесь и не думайте, что мы на пороге её достижения, предупреждает всех Лэйнс Элиот, эксперт по AI.
Многие предупреждают, что если нам каким-то образом удастся добиться разумности AI, будь то намеренно или случайно, мы столкнёмся с экзистенциальным риском. Риск заключается в том, что этот разумный AI может решить, что людей не стоит иметь рядом с собой. Нас могут раздавить, как букашек. Или сделать рабами AI. Это может произойти из-за того, что AI сам решит сделать это, или AI может в конечном итоге стать нашей собственной машиной судного дня, которая уничтожит нас из-за нашей собственной несостоятельности.
Если вы попадёте в ментальную ловушку, думая, что система AI разумна, вы, вероятно, будете полагаться на неё, чтобы делать то, что делают разумные существа. Но пока ещё нет никакого здравого смысла человеческого качества, встроенного в любой из сегодняшних AI. AI, с которым мы сталкиваемся в настоящее время, чрезвычайно хрупок и неглубок, когда речь идёт о человеческих способностях. Вы можете попасть в неприятную и опасную ситуацию, если поверите, что система AI разумна.
Как это связано со Зловещей долиной?
Вспомните, что сам термин «зловещая долина», кажется, говорит нам о том, что человеческая близость будет постепенно возрастать по мере того, как система AI или робот будут всё ближе и ближе приближаться к человекоподобной форме. В тот момент, когда система AI приближается к тому моменту, когда она уже довольно близко, но всё же не совсем там, у нас появляется жуткое ощущение, что что-то не так. До этого момента мы знали, что AI не был человеком. Теперь мы в этом не уверены.
Разработчики AI, которые принимают это сердцем, вероятно, намеренно будут стремиться удержать свой AI от Зловещей долины, стремясь остановиться с точки зрения особенностей AI, непосредственно перед тем, как упасть в пропасть. Специалисты по этике AI, как правило, приветствуют это искреннее усилие.
Разработчики AI и технические специалисты в целом видят цель и часто слепо преследуют её с большим удовольствием. Нет времени остановиться и понюхать розы. В области AI нормативной целью был бы идеализированный AI, который неотличим от человека. Но мы ещё не там.
Мы изменили разрушительное стремление к достижению цели и превратили его в логично звучащую аргументированную основу, чтобы поступать правильно.
Теперь, когда эти сообразительные разработчики AI знают о Зловещей долине, они могут направить свой ум и техническое мастерство на то, чтобы преднамеренно перепрыгнуть через пропасть, но сделать это с видимостью обмана. Сделайте так, чтобы AI выглядел и казался полностью похожим на человека, хотя разработчики знают, что это неправда.
Мошенническое мышление выглядит так. Не позволяйте вашей системе искусственного интеллекта снимать шляпу и заставлять людей чувствовать этот неуловимый подтекст жуткости. Исключите аспекты, которые могут дать какой-либо намёк или намёк на то, что AI не обладает человеческими способностями. Делайте это, тайно осознавая и непростительно зная, что AI не обладает человеческими способностями, и всё дело в том, чтобы скрыть эту правду от тех, кто взаимодействует с AI или зависит от него.
Возникает примечательный вопрос, над которым стоит задуматься: проливает ли свет на «зловещую долину» появление настоящих беспилотных автомобилей на основе искусственного интеллекта, и если да, то, что это побуждает нас делать?
В настоящей самоуправляемой машине нет водителя-человека. Настоящие беспилотные автомобили — это те, в которых искусственный интеллект управляет автомобилем полностью самостоятельно, и во время вождения не требуется никакой помощи человека.
Настоящего самоуправляемого автомобиля 5-го уровня пока нет, и мы даже не знаем, удастся ли этого достичь и сколько времени потребуется, чтобы добраться до него.
Между тем, усилия уровня 4 постепенно пытаются набрать обороты, проводя очень узкие и выборочные испытания на дорогах общего пользования, хотя существуют разногласия по поводу того, следует ли разрешать эти испытания.
AI — это совокупность компьютерных программ и алгоритмов, и, безусловно, он не способен рассуждать так же, как люди. В наши дни существует постоянная и опасная тенденция антропоморфизировать AI. С этим пояснением вы можете себе представить, что система вождения с искусственным интеллектом не будет изначально каким-то образом «знать» об аспектах вождения. Вождение и всё, что с ним связано, должно быть запрограммировано как часть аппаратного и программного обеспечения беспилотного автомобиля.
Многие из сегодняшних испытаний беспилотных автомобилей продемонстрировали, что существующие системы вождения с искусственным интеллектом, как правило, запрограммированы на вождение в довольно прохладном и строгом соответствии с законом. Система вождения с AI обычно полностью останавливает беспилотный автомобиль перед знаками «Стоп». Система вождения с AI не совершает смелых прогонов через перекрестки, когда сигнал светофора неизбежно станет красным. Эти своенравные методы вождения являются прерогативой водителей-людей.
В некотором смысле, вы могли бы почти догадаться, что беспилотный автомобиль — это беспилотный автомобиль по стилю вождения, который он демонстрирует. Даже если визуально автономное транспортное средство выглядит как обычный автомобиль, управляемый человеком, вы можете наблюдать за действиями вождения и, возможно, сделать логический вывод, что им, вероятно, управляет система AI.
Когда система вождения с AI строго легальна в своих действиях, это, возможно, явный признак того, что это, вероятно, роботизированная система (несмотря на людей-водителей, которые, по общему признанию, делают это, хотя в современном мире они кажутся далекими друг от друга). Если системы вождения с искусственным интеллектом должны водить так же причудливо, как водители-люди, будет ли это прыжок через Зловещую долину или падение в Зловещую долину?
С точки зрения этического AI Зловещая долина представляет собой интригующую загадку. Есть кто-то, кто полностью верит в Зловещую долину, а некоторые – нет. Но независимо от того, верите вы в неё или нет, вы не можете прятать голову и притворяться, что конструкции как таковой не существует. Конструкция как идея живёт и в некотором подобии обладает вирусной силой. Ненавидите это или любите, проклятая или, может быть, возвышенная тема сохраняется.
Должны ли те, кто находится в сфере этического AI, принять или в целом отвергнуть Зловещую долину, или оставаться несколько нейтральными в отношении правдивости и вместо этого сосредоточиться на воздействии, которое возникает из-за продолжающихся расхождений в представлениях о ней?
Подписывайтесь на журнал «Вестник ГЛОНАСС» и навигационный Telegram-канал
