«Зловещая долина» искусственного интеллекта
Есть странные вещи, которые привлекают ваше внимание и заставляют вас думать, что что-то в этом мире пошло не так. Странность не вопиющая. Возможно, вы даже не сможете сразу указать, в чём заключается несоответствие или почему у вас покалывает ваше пресловутое паучье чутьё. Возможно, есть только малейший намек на заниженную жуткость, и ваш тонкий человеческий радар улавливает, казалось бы, скрытые сигналы.
Если вы никогда не слышали о Зловещей долине, теме, относительно популярной в области AI и особенно робототехники, вас ждёт небольшое удовольствие.
Некоторые скептики и циники утверждают, что нет никакой долины, что всё это махинация и не выдерживает никакой критики. Одни будут радостно улыбаться и хлопать вас по спине за то, что вы хорошо знакомы со Зловещей долиной, а другие визгливо будут отчитывать вас, что это шведский стол с чушью, и вам нужно быстро очистить свой разум мыльным куском умственно очищающего мыла.
Все это тесно связано с растущим осознанием того, что общество должно серьезно и трезво уделять внимание этике AI.
В 1970 году профессор Масахиро Мори из Токийского технологического института опубликовал довольно скромную статью в журнале Energy (не рассаднике AI и робототехники как таковых) и сказал следующее:
«Я заметил, что, продвигаясь к цели сделать роботов похожими на людей, наша близость к ним возрастает, пока мы не приходим в долину, которую я называю Зловещей долиной».
Интересно и несколько удивительно, что эта статья, опубликованная в 1970 году, в конечном итоге положила начало целой арене исследований и множеству связанных исследований, проектов, а иногда и огненной буре споров о том, Концепция Зловещей долины действительно существует. Это демонстрирует, что интригующие и временами изменяющие точку зрения идеи не обязательно должны быть сильно запутанными или перегруженными жаргоном и высокомерием. Краткая идея может быть как бы даже не более могущественной, чем может показаться на первый взгляд.
Вы сталкиваетесь с роботизированной системой, лицо которой похоже на человеческое. Представьте, что это роботизированное лицо было разработано в ходе многочисленных итераций. Разработчики искусственного интеллекта, собирая голову робота, постепенно стремились сделать лицевую часть робота всё более и более похожей на настоящее человеческое лицо.
Их первая попытка была чрезвычайно примитивной. Лицо робота выглядело так же, как в научно-фантастических фильмах: оно было полностью металлическим и демонстрировало шестерёнки и провода. Вы сразу понимаете, когда смотрите на хитроумное изобретение, что это робот. Никаких вопросов в вашем уме по этому поводу.
Следующая попытка разработчиков AI заключалась в том, чтобы обернуть металлические детали пластиковыми материалами. Хотя это выглядит несколько более дружелюбно, вы всё равно сразу понимаете, что это голова робота и лицо робота.
Разработчики AI полны решимости продолжать в том же духе. Они лепят пластик и придают ему телесные тона. Они добавляют черты, которые кажутся очень похожими на человеческое лицо, такие как родинки, волосы, пятна и тому подобное.
На первый взгляд может и впрямь показаться, что это человеческое лицо. Если была сделана фотография лица робота, и вас попросили определить, изображено ли на снимке лицо человека, а не лицо робота, вы могли бы зайти в тупик из-за того, что сразу не смогли бы сказать, что это было. С другой стороны, если бы вы стояли рядом с устройством, вы, вероятно, при ближайшем рассмотрении смогли бы понять, что это не человек, а робот.
Дело в том, что до того, как вы получили возможность рассмотреть крупным планом, в лице было что-то, что, казалось, не совсем складывалось. Конечно, это было похоже на человеческое лицо. Но что-то было не так. Вы должны были продолжать пристально смотреть снова и снова, чтобы указать пальцем на то, что выглядит не совсем правильно. Возможно, это настоящее лицо. Опять же, может быть, это не так. Ваш ум волнуется соответственно.
Подобие жуткости входит в ваш разум.
У вас не было такого подобия жуткости, когда вы видели две более ранние версии. Вы могли бы без паузы или колебания определить, что робот был роботом. Эта последняя версия, однако, была другой.
Предположим, что разработчики продвинулись дальше в своих исследованиях и уладили все так, что лицо робота стало неотличимо от человеческого лица. Когда вам сообщают, что это роботизированное лицо, вы ошеломлены. Боже, они проделали такую большую работу, чтобы всё выглядело правдоподобно!
Жуткость и подозрительность вызовут, например, такие вещи как роботизированная рука, которую вы решили пожать, но не смогли почувствовать костяные характеристики человеческой руки: «Когда это происходит, мы теряем чувство близости, и рука становится зловещей».
Если вы принимаете предположение о том, что феномен Зловещей долины существует, я уверен, вы задаетесь вопросом, какая вам польза от того, что вы знаете, что зловещая долина, по-видимому, существует.
Это классика на все времена: «Ну и что?» - тест на практичность.
Оказывается, многие люди придумали множество интерпретаций того, что мы должны или можем сделать со Зловещей долиной. Есть тонны мнений. Я буду обращаться к некоторым из них в ближайшее время.
Между тем, вот что предложил Масахиро Мори: «Мы надеемся спроектировать и построить роботов и протезы рук, которые не попадут в Зловещую долину. Таким образом, из-за риска, связанного с попыткой увеличить степень человеческого сходства для масштабирования второго пика, я рекомендую дизайнерам вместо этого брать первый пик в качестве своей цели, что приводит к умеренной степени человеческого сходства и значительному ощущению близости. На самом деле, я предсказываю, что можно создать безопасный уровень правдоподобности, преднамеренно следуя нечеловеческому замыслу. Я прошу дизайнеров задуматься над этим».
Подписывайтесь на журнал «Вестник ГЛОНАСС» и навигационный Telegram-канал
