Опасные видения: как поиски утопии могут привести к катастрофе

Видения утопии повсеместно распространены на протяжении всей западной истории. Они вдохновили великие произведения искусства и литературы, побудили бесчисленное количество верующих подчиняться Божьим заповедям и стали причиной самых кровавых конфликтов в коллективной биографии нашего вида.

Утопические видения также являются центральной чертой шумихи вокруг общего искусственного интеллекта, или AGI. В статье под названием «Почему искусственный интеллект спасет мир» технический миллиардер Марк Андриссен пишет, что передовые системы искусственного интеллекта позволят нам «решить новые задачи, которые невозможно решить без искусственного интеллекта: от лечения всех болезней до межзвездных путешествий». " Генеральный директор OpenAI Сэм Альтман также заявляет, что с помощью AGI «мы можем колонизировать космос. Мы можем заставить работать термоядерный синтез и солнечную [энергию] в массовом масштабе. Мы можем вылечить все болезни». Утопизм повсюду в Кремниевой долине.

Проблема в том, что у утопии есть угрожающая изнанка. Во-первых, его стремление может нанести глубокий вред тем, кто стоит на пути. Вот почему утопические фантазии породили одни из самых ужасных злодеяний в истории: если средства оправдываются целью, а цели в буквальном смысле представляют собой утопический мир бесконечных или астрономических величин ценностей, то что именно не обсуждается, когда это происходит? приходит к реализации этих целей?

Мы уже можем наблюдать подобное мышление в гонке за AGI: такие компании, как OpenAI, занимались массовыми хищениями интеллектуальной собственности, что привело к множеству судебных исков, а такие системы, как ChatGPT, построены на жестокой эксплуатации людей на Глобальном Юге, некоторые из них платили 1,32 доллара в час за просмотр самых ужасающих материалов в сети. Этот вред, безусловно, стоит выгод, учитывая, что, по словам Альтмана, «мы находимся всего в нескольких шагах от изобилия в масштабах, которые трудно себе представить».

Связанный

Во-вторых, реализация утопии может также иметь катастрофические последствия, поскольку большинство утопических представлений по своей сути являются исключающими. Всегда есть кто-то, кто намеренно исключен из любой воображаемой утопии — какая-то нежелательная группа, чье присутствие в раю лишило бы ее права считаться таковой. Если бы христианский рай включал, например, атеистов, это не был бы рай. Следовательно, всегда следует спрашивать, для кого предназначено то или иное утопическое видение. Все или только избранные? Если да, то каких людей пускают внутрь, а каких отправляют на погибель, если не приговаривают к уничтожению?

Всегда следует спрашивать, для кого предназначено то или иное утопическое видение. Все или только избранные? Если да, то каких людей пускают внутрь, а каких отправляют на погибель?

Хотя религиозная вера на Западе быстро ослабевает, утопизм этого не делает. Поэтому важно понять природу и потенциальную опасность утопического мышления. Чтобы лучше разобраться в этих вопросах, я связался со своей коллегой Моникой Бельските, блестящим консультантом по фьючерсам, которая считает Universal Studios, DreamWorks и Nike своими прошлыми клиентами. Она также консультировала по блокбастеру «Черная пантера: Ваканда навсегда» и за последнее десятилетие выступала с докладами о будущем на крупных медиа- и технологических конференциях по всему миру. Отменяя термин технического гуру Кевина Келли, она разработала концепцию «протопического будущего», которая предлагает регенеративное и инклюзивное видение будущего в качестве альтернативы бинарной утопии-антиутопии.

В нашем телефонном разговоре мы обсудили ряд тем, в том числе происхождение утопического мышления и вопрос о том, является ли техническая элита «истинно верующими» или просто использует утопизм как «дымовую завесу», чтобы отвлечься от разрушения планеты. Это интервью было отредактировано для обеспечения длины и ясности.

Меня очень заинтересовало утверждение о том, что утопия по своей сути является исключающей. Я слышал, как вы говорили в подкасте, что маргинализированные народы зачастую лучше живут в воображаемых антиутопиях, чем в утопиях. Не могли бы вы уточнить?

Дело даже не в том, что в антиутопиях им лучше, чем в утопиях — в утопиях их буквально не существует! Почти без исключения маргинализированные люди полностью лишены всех представлений, кроме самых последних утопических представлений. Практически единственное место, где маргинализированные народы существуют в научно-фантастических и футуристических видениях, — это антиутопии (и их присутствие часто воспринимается как признак антиутопии), потому что в утопиях для них буквально нет места, учитывая евгенические и исключающие идеи. природа утопизма. Например, наличие квир-людей, людей с ограниченными возможностями и нейроотличных людей в некотором роде отрицает саму природу утопизма — ведь если инвалидность все еще существует (не говоря уже о том, чтобы ее праздновать), то является ли это вообще утопией? Существует целый набор внешне вдохновляющих футурологических видений, которые внешне прославляют это стирание.