Сарабанда Зловещей долины

Лекция для посетителей фестиваля электронной музыки Signal в 2024 году

Закройте глаза и вообразите самое страшное существо, которое только сможете.

Если визуализация получилась, постарайтесь запомнить как можно больше деталей. В каких отношениях вы состоите с этим чудовищем? Угрожает ли оно лично вам, вашим близким, всему человечеству, никому? Есть ли ему до вас дело? Знает ли оно о вашем существовании? Умеет ли оно знать?

Сохраните ответы на эти вопросы в сокровищницах ваших сердец — они вам сегодня пригодятся.

Если визуализация не получается, не буду говорить «ничего страшного»: напротив, это-то и есть самое страшное.

Сейчас все, даже и особенно те, кто не справился с упражнением, могут представить себе, что наш монстр дан нам не умозрительно, а на экране компьютера — потому что его только что сгенерировала нейросеть. Вероятно, каждый, кто экспериментировал с генеративным искусственным интеллектом, знает это ощущение: как? чёрт побери, каким образом ему удаётся воспроизвести то, что ни один человек не может вообразить, скомпилировав из накопленных за всю жизнь визуальных впечатлений, — и в то же время точно бьющее в самые чувствительные точки?

Природа современных технологий искусственного интеллекта такова, что они могут порождать образы, которые мы сами никогда не сумеем вообразить, потому что совокупный объём «визуальных впечатлений» какой-нибудь, к примеру, MidJourney несоизмеримо больше, чем у любого из нас, и, вообще говоря, включает вообще всё зримое. Не только всю визуальную культуру человечества за всё время его существования (а значит, и все возможные способы, которыми могут быть визуализированы абсолютно все архетипы коллективного бессознательного), но и всё, что когда-либо созерцали все млекопитающие, все птицы, все рептилии, все рыбы, все насекомые и пауки, все грибы и растения, все микроорганизмы — а также все боги, демоны, неодушевлённые объекты.

Если ИИ может создавать образы невообразимые, но глубоко нас трогающие, то что это говорит о природе восприятия и сознания? Почему образы, созданные ИИ, так сильно воздействуют на нас? Может быть, они обращаются к неким аспектам нашей психики, которые делают нас уязвимыми для подобных интервенций со стороны нечеловеческих актантов?

Рискнём предположить, что эти уязвимости обусловлены самой «прошивкой» антропоцентрического сознания, и локализовать их мы сможем, анализируя некоторые эффекты его активности, — например, так называемый «эффект зловещей долины» (Uncanny Valley Effect).

Представим себе процесс разработки дизайна идеального робота-компаньона. Голый код и голый механизм, лишённый т. н. человеко-ориентированного интерфейса (то есть того, что человек может увидеть, опознать и встроить в свою картину мира) никому не нравятся.

Тогда дизайнер проектирует что-то вроде кавайного робота-пылесоса, да ещё приклеивает ему глазки, чтобы воспользоваться эффектом парейдолии — все в восторге. Можно добавить ручки и ножки — градус умиления возрастёт.

Дизайнер рад, что угадал верное направление, и в следующей версии усиливает антропоморфность своего продукта — потребитель в целом доволен, но вдруг начинают поступать данные, что некоему узкому сегменту целевой аудитории почему-то становится не по себе.

Очередная, ещё более антропоморфная и реалистичная версия вызывает резкое неприятие — возвраты становятся массовым явлением, а изображения нашего робота проникают в тревожные мемы и крипипасты.

Это и есть «зловещая долина» — термин придумал японский профессор Масахиро Мори в 1970 году.

Вот знаменитый график зависимости эмоциональной реакции от степени человекоподобия и реалистичности. Слева милые винтажные роботы, справа — довольно-таки реалистичная кукла традиционного японского театра бунраку и, на самом конце графика, экстремум — настоящий живой и здоровый человек.

Но посередине — бездна лавкрафтовщины и парализующего ужаса.

Заметим, что к настоящим временам этот график, вероятно, несколько изменился. Появились, в частности, новые образчики, да и массовая культура значительно продвинулась. Труп всё ещё находится в том же нижнем экстремуме, а вот зомби мы за 54 года научились не бояться — благодаря таким деятелям, как Джордж Ромеро («Ночь живых мертвецов», 1968) или Фрэнк Дарабонт («Ходячие мертвецы», 2010–2022).

Кстати, нас всегда в этом графике удивляло, что кукла бунраку размещается так далеко наверху и справа. Неужели 1970 году не было ничего более антропоморфного? На наш нынешний вкус они довольно криповые.

Сейчас я буду показывать серию картинок, а вы поднимайте руки, когда почувствуете, что вам становится некомфортно.