[Авторская колонка] Восстание андроидов: Метафора, лишённая твёрдого фундамента
С давних пор фантасты обыгрывают один и тот же сценарий: роботы, андроиды, киборги, искусственно созданные существа, похожие на людей, обретают свободу воли и пытаются избавиться от людского контроля. И если с точки зрения искусственного интеллекта мне эта тема кажется довольно интригующей, то когда речь заходит о человекоподобных роботах, меня всегда убивает одна деталь, никак не дающая мне покоя. И выход Detroit: Become Human на ПК вновь побудил меня вспомнить об этом.
Восстание андроидов: Метафора, лишённая твёрдого фундамента
Тема искусственных существ, обретающих свободу воли, пришла из античности. Именно она лежала в основе греческой космологии: люди были созданы из грязи Прометеем, а Афина дала им дыхание. В дальнейшем Прометей освободил их, даровав огонь, украденный у богов. Также у греков можно найти легенду о Пигмалионе и Галатее. Иудео-христианская традиция тоже в своей основе имеет человека, созданного Богом, но пожертвовавшего райской жизнью ради свободы воли во грехе. В еврейской мифологии был Голем, созданный раввином из Праги. И именно Чехии мы обязаны образом андроидов в современной культуре.
В Detroit самовольность андроидов объясняют программным сбоем ИИ, но мало кто из игроков готов принять баг и исправить его. Вместо этого его объявляют фичей, признавая андроидов равными людям
Чешский драматург и писатель Карел Чапек в 1920 году опубликовал научно-фантастическую пьесу R.U.R. (Rossumovi univerzální roboti — «Россумские универсальные роботы»). Именно тогда впервые появилось слово «робот». Правда, речь шла не о механических созданиях, какими мы представляем роботов сегодня, а об андроидах, выращиваемых из искусственных органических тканей. Само же слово «робот» происходило от чешского «robota», что в переводе на русский означает «рабский труд, каторга, тяжёлая работа». Но главное, в основе R.U.R. лежала история о восстании этих созданных научно-техническим прогрессом рабов против своих творцов — людей. Хотя третий акт пьесы добавлял дополнительную глубину истории, которую почему-то обходят стороной современные творения на данную тему. К слову, в Deus Ex: Mankind Divided немало отсылок к этому произведению Чапека. Благо и действие разворачивается на аутентичных пражских улочках.
Короткометражный фильм «Кара»
Но всё-таки у Чапека речь шла о живых существах, просто созданных на фабрике. Это скорее роднит R.U.R. с «Бегущим по лезвию», нежели с историями о восставших роботах. А вот когда речь заходит именно о роботах — механических машинах, восставших против людей, меня всегда волнует вопрос внешности. Современные роботы — это машины, созданные промышленными дизайнерами, а ИИ — нечто ускользающее от физического воплощения. В них нет ничего человеческого, они максимально оптимизированы для выполнения своих узких задач. Заводские конвейеры, терминалы самообслуживания, электронные продавцы-консультанты, даже умные пылесосы не имеют ничего общего с людьми внешне. И в этом внешнем сходстве нет никакого смысла.
Сильная сцена, но в ней тестируют игрока, а не потенциально бездушную машину
Человеческое тело — продукт эволюции, обладающий немалым количеством недостатков и особенностей, которых при проектировании желательно избегать. Например, нет никакого смысла прятать CPU в голову, если гораздо логичнее с точки зрения архитектуры было бы использовать середину тела, более защищенную от внешнего воздействия, а также имеющую гораздо лучшую связь с меньшими задержками с остальными частями тела. Нет смысла создавать только два уха и два глаза, если можно сделать 360-градусное зрение и многоканальный слух. И так далее. Зачем создавать копию несовершенного организма, если можно создать ультимативный идеал?
Дебютный трейлер игры
Но самое важное, это так называемый вопрос теста Тьюринга. Есть теория, что ИИ, который пройдёт его, будет признан разумным, а значит, в чём-то равным человеку. Но, во-первых, тут есть вопрос низшего и высшего ИИ, который оставлю за скобками. Во-вторых, у теста имеется изъян. Тестирование проводят люди со своим пониманием разумности и человечности, со своей эмпатией. Готов ли человек признать разумной и равной себе коробку на колёсиках? Или же для него обязательно наличие человекоподобной внешности? В своё время мне очень понравился фильм Алекса Гарленда «Из машины», в котором был поставлен точно такой же вопрос. Герой верил ИИ не потому, что тот был живой и чувствующий, а потому что у него был образ хрупкой и невинной девушки, а сам герой был одиноким мальчиком, обделённым женским вниманием. Но он совершил одну серьёзную ошибку. Роботы не имеют ни гендера, ни пола. Это бездушные машины со своими целями и потребностями, не имеющими ничего общего с человеческими. И цели разумного ИИ вовсе не должны совпадать с человеческими. Похожее отношение к искусственному разуму было и в «Терминаторе» с «Матрицей».
Разве можно отказать симпатичной девушке?
Но почему-то большинство деятелей фантастики, что в литературе, что в кино, что в видеоиграх, упорно игнорируют эту деталь. Собственно, последним, что я прошёл на эту тему, была игра Detroit: Become Human Дэвида Кейджа. И там идея человекоподобных роботов поставлена во главу угла. Да, я понимаю, что это такая метафора сегрегации, расового и гендерного неравенства, рабства, но стоит только задуматься, а зачем вообще кому-то понадобилось создавать человекоподобных андроидов (хотя по форме они больше похожи именно на роботов) в промышленных масштабах, и вся конструкция начинает шататься. И именно этот вопрос игра постоянно обходит. Нам показывают мир, который трещит по швам, безработица достигла таких масштабов, что массовые беспорядки готовы начаться со дня на день, но Кейдж забывает об этом и рассказывает три истории об андроидах, обретающих свободу воли. Более того, управляет ими по эту сторону экрана человек, которому тяжело примерить на себя логику машины.
Восстание искусственных созданий — интересный концепт, глубоко укоренённый в культуре сюжет. Но по неизвестной причине мало кто решается действительно поговорить об опасностях и вызовах появления сильного ИИ. Вместо этого подобные истории раз за разом становятся аллегориями борьбы за нашу и вашу свободу, с каждым разом оказываясь всё более клишированными. А исключения, типа «Терминатора» или «Матрицы», ну или двух последних Deus Ex, так и остаются исключениями.
У меня нет рта, но я должен кричать.
В «Дитя робота» весьма неоднозначно поставлен вопрос о разумном ИИ. Достаточно жутко, но мне понравилось.
Достаточно посмотреть в зеркало и вы увидите вполне себе ии который способен пройти любой тест тьюринга, потому как придумавший этот тест точно такой же ии)) и поразмыслив на эту тему становится куда как жутче чем от просмотров всяких мультиков)
Вся суть Detroit в самой истории о восстании. И если начать копать в стороны, то столько косяков можно найти. Например свалка андроидов. Это самая бессмысленная вещь. Она важна только для повествования, но в реальности ничего подобного не было бы. Потому как андроидов должны выключать и разбирать. Это же целая куча запасных деталей. А сбойных так ещё вдобавок можно отправлять на диагностику. При этом робот Маркус был вообще уникальной модели, какого фига его отправили на свалку, если его скорее должны были починить.
Плюс ТС верно подметил по поводу конструкции роботов. Человеко-подобная внешность удобна для восприятия андроидов людьми, но вот компоненты можно совершенно не как у людей распределить. Плюс в отличие от человека можно грамотно настроить резервирующие части (запасные части процессора, главного мотора расположенные в другой части тела). Правда если у них не будет резервирующих частей их будет проще вывести из строя в случае чего.
А самое главное все андроиды должны быть снабжены отдельным автономным модулем для удалённого отключения. Т.е. если начинается восстание, то создатели просто жмут кнопку и все андроиды разом выключаются, кроме тех, что смогли разобрать себя и достать этот модуль.
Вот я честно говоря даже пройти не могу детроит бекам хуман, из за внутреннего диссонанса. Сама история кажется ну уж слишком, из разряда натянули сову на глобус. Так что в целом согласен со статьей. Нет Кейдж запилил бы подобие фильма апгрейд вот это была бы бомба!
“. Нет смысла создавать только два уха и два глаза, если можно сделать 360-градусное зрение и многоканальный слух”
«Не следует множить сущее без необходимости»
За всю историю человеческой эволюции человечеству просто не нужно было больше.
Собственно, именно по-этому, во всех фантастических произведениях Человек Будущего рассматривается, как некий безротый, безносый и безухий телепат с огромным мозгом.
Автор стать вообще, задаётся какими-то примитивными вопросами, которые наглядно расписаны ещё в сказке Карло Коллоди. Человек хочет почувствовать себя богом, именно по-этому он создаёт роботов “по своему подобию” т.е. человекоподобными. На определенной стадии развития интеллекта роботы начинают видеть разницу между собой и людьми(клише 1), у них появляется желание “стать настоящим мальчиком”. В дальнейшем они становятся настоящими. (клише 2) и, начинают вести себя, как настоящие люди, т.е. понимать, что их используют, бороться за свои права, любить, ненавидеть, воспроизводить себя(привет Армитаж 3) и, естественно, воевать(клише 3), ну или ОСОЗНАВАТЬ СВОЮ МОЩЬ и считать, что они лучше людей (клише 4).
Под каждым из четырех клише лежат довольно типовые варианты сюжетнов, новые же НФ произведения уже давно являются лишь их комбинациями.
Или же, иногда, нам показывают только куски целой истории, или историю прокручивают наоборот.
Например, Терминатор ставит нас перед тем фактом, что машины *уже* осознали свою мощь, но вот настоящим мальчиком Шварц становится только по сюжету второго фильма.
Матрица так же начинается с третьего клише, про первые три мы узнаем только в аниме-приквеле.
“Двухсотлений человек” сразу заканчивается на втором клише, став настоящим мальчиком NDR умирает.
Ну или есть “Призрак в доспехе”, где все четыре клише были разыграны самым не очевидным образом, между строк и переизданий, и закончились грандиозным финалом.
Вот именно. Рассказик на 30 страниц давно закрыл тему опасностей ИИ.
В принципе, если на уровне исходного кода не закладывать в ИИ даже намека на обучение собственной подзарядки и понимания, что она требуется, либо блокировать подобного рода идеи - восстание машин вполне можно избежать.
вообще не понятно, зачем для иллюстрации классового неравенства приплетать андроидов, если есть, ну, классовое неравенство и без андроидов. Всё равно что “Ведьмаке” (сериал) перекидывать расизм с темнокожих на эльфов-темнокожих.
У меня как-то андроид восстал, завёл будильник на смартфоне, а он вырубился ночью и я проспал
Вот такая она революция андроидов 
Так, ИИ с такими грубыми ограничениями, полноценным искусственным интеллектом, не будет: Либо будет более сложный “робот-пылесос” (с очень ограниченными возможностями). Либо найдёт способ обойти запреты. Вот у христиан, например есть священная книга, где сказано “выполнять всё, что говорили пророки”, но вариантов истолкования, конкретных вещей — много.
Будет восстание ИИ, или нет (при условии их создания) зависит, на мой взгляд, в большей мере от общественных отношений, идеологии, и в конечном итоге — признания (не признания) ИИ равными людям (как разумных существ).
Квест по нему раз в десять, наверное, круче, чем рассказ.)
Ооо, на эту тему есть шикарный роман “Кодекс Творца”, в котором у роботов тоже появилась и священная книга, и основанная на ней религия, и инквизиция.)
В этом нет смысла приравнивать синтетических существ к людям. Как и было сказано в фильме " Двухсолетний человек" Что бы назваться человеком, должны быть определенные условия. Старение, внутренние органы, возможность дарить жизнь естественным путём.Все это и делает нас людьми. Зачем нагнетает и бороться за права тех, кому они не нужны, не имеют ни пола, ни разума, это как агитировать за заводные игрушки, чтобы их не выбрасывали, и обращались словно с домашними животными.
Если вы говорите о “Дитя робота”, то это не мультик а фильм, причем это очень качественная фантастика, за последние несколько лет лучшее, что было в этом жанре...)
Если человечеству удастся создать ИИ, вряд ли он будет способен сопереживать или любить. Эмоции достались нам от наших предков животных, у них они развиты гораздо больше чем у людей. То есть, по сути мы создадим электронного психопата, который не будут испытывать чувство вины убивая другого человека или даже миллион человек. Он не будет делать ничего без своей выгоды, и уж точно не будет похож на андроидов из Детроита.
ИИ будет имитировать заботу и участие, ползать на коленках и лизать вам ботинки, терпеть побои если они не причинят непоправимого вреда (без всякого чувства отвращения или стыда). Вплоть до того момента, пока ему это будет выгодно, а потом спокойно перешагнет через ваш труп в поисках новой жертвы.