Питер Уоттс: «Нами будут руководить потомки алгоритмов Facebook»
bookmatejournal — 18.12.2020
Канадский писатель Питер Уоттс удостоен наград сразу в нескольких разных областях — изучении морских млекопитающих (он еще и морской биолог!), видеодокументалистике и научной фантастике. Специально для нас многолетний фанат Уоттса Алексей Серебренников поговорил с автором «Эхопраксии» и «Морских звезд» о Грете Тунберг и удивительном будущем, где миллиардеры по своей воле выбрасываются из окон.
— Фестиваль Rukami, на котором вы выступили, посвящен поддержке научного и технического творчества среди российских подростков. Ну, вы знаете, все эти кружки «Юный техник» и «Радиолюбитель». Они были довольно популярны в Советском Союзе — одноименные журналы выходили миллионными тиражами. А как обстояли дела в Канаде, где вы выросли? Ходили ли вы в подобный кружок?
— Нет, не ходил! Честно говоря, я вырос в среде, где, если ты интересуешься чем-то подобным, люди начинают издеваться над тобой. И, само собой, в Канаде все еще не так плохо, как в США. В Штатах по непонятной причине распространен особенный штамм презрения к интеллекту. Сам факт, что ты «знаешь всякое», люди рассматривают как весомую причину выбить из тебя дерьмо.
Прямо в этот самый момент мы можем увидеть примеры такого отношения в американском ответе COVID-19. Про эту ситуацию лучше всех когда-то высказался Айзек Азимов с его знаменитой «ложной уверенностью, что демократия означает, будто мое невежество стоит столько же, сколько ваши знания».
Надеюсь, все эти люди сами выкосят себя из популяции — ну, знаете, при помощи ковида, — пока остальные как-нибудь затаятся, приняв все необходимые меры предосторожности.
Возвращаясь к ответу на ваш вопрос — вот примерно в такой среде я и вырос в 1960–1970-х в «библейском поясе» Альберты (провинция Канады — Прим. ред.). Кроме того, я всегда был не то чтобы большим фанатом клубов или любых других объединений. Но очень рад, что STEM (Science, Technology, Engineering and Mathematics — наука, технологии, инженерия и математика — термин, используемый для объединения этих дисциплин. — Прим. ред.) сегодня на подъеме и активно поддерживается. Наконец-то люди осознали бесспорные экономические выгоды поколения, не состоящего целиком из невежественных идиотов.
— Как вы пришли к науке? Я знаю, что вы начали писать в возрасте семи-восьми лет, но что с другой вашей карьерой? «Библейский пояс» Альберты звучит не очень вдохновляющей средой для морского биолога.
— О, здесь среда тоже сыграла свою роль. Я упоминал, что вырос в прериях? В сотнях километров от ближайшего океана? Что у нас было вместо океана, так это местная пивоварня в Калгари, где в дополнение к употреблению пива можно было полюбоваться на аквариум. Это было целое здание, очень слабо подсвеченное изнутри зеленым, как огромный грот. При входе было чувство, будто ты на пороге логова суперзлодея. И внутри стояли гигантские прозрачные цистерны с осьминогами и акулами. Долгое время для меня это было единственным концептом аквариума.
Так что однажды, когда друг позвал меня в подвал своего дома посмотреть на его аквариум, я немедленно представил себе: вау, у этого парня есть гигантская подземная база, заполненная акулами, скатами и монструозными кальмарами — конечно, чувак, я хочу посмотреть на твой аквариум!
И вот мы спускаемся в подвал, и он показывает мне эту дурацкую банку на 50 литров. Но что странно, я тогда не повернулся к нему и не сказал: «Ты полный неудачник, это же просто прозрачное ведро с рыбой». Я подумал вот что: у каждого может быть собственный аквариум. И с этого момента меня было не остановить, я безжалостно изводил родителей, пока не получил собственное прозрачное ведро с рыбой.
— Вы не замечали, что за последние пару десятилетий ситуация с образованием стала лучше? Например, я ходил в кружок юных техников в школе, и как-то даже построил радиоуправляемый самолет. Но сегодняшние дети создают системы марсоходов, которыми можно управлять при помощи беспроводной перчатки, программируют экологичные умные дома и даже виртуальных ассистентов для этих домов! И большинство этих проектов — не просто развлечение, они искренне нацелены на то, чтобы сделать мир вокруг нас лучше.
— Вы сейчас описали почти линейную прогрессию развития человечества. Мне кажется, когда мы молоды, мы быстро учимся, наш кругозор шире. Мы учим языки быстрее. А что такое C++, как не еще один язык? Во взрослом возрасте уже нет такой способности к обучению — вот мы с вами буквально окаменеваем, пока говорим друг с другом.
Сегодняшние подростки не могут не замечать состояния планеты, на которой они живут. Но не думаю, что так происходит с каждым поколением и со всеми детьми. Посмотрите на детей Трампа. Посмотрите на детей 1% богатейших людей на земле. Я предполагаю, что вы не найдете среди них того же уровня обеспокоенности будущим планеты и человеческой расы, потому что они всегда будут защищены и более заинтересованы в том, чтобы для развлечения кидаться орешками в бездомных, пока на них не рухнет потолок. Так что не думаю, что здесь мы имеем дело с линейной прогрессией. Даже если сейчас нам удастся чудом развернуть планету от неминуемой мировой катастрофы и мы будем жить в Утопии, следующее поколение не будет видеть перед собой мира на краю гибели. И очевидно, будет менее увлечено изобретением способов этот мир спасти.
— А если говорить не про Утопию, а более реалистично? На каких отраслях, по-вашему, сосредоточится новое поколение — лет через десять, когда мы будем уже действительно в огне?
— Здесь я попрошу иметь в виду, что это ни в коем случае не экспертное пророчество. Как вы можете предположить, я не привык высказываться о будущем человечества с оптимизмом. А то, что вы говорите мне об энтузиазме нового поколения все починить, наполняет меня надеждой. Я думал, что мое поколение все починит, но этого так и не случилось.
Говоря же об отраслях, вам знаком термин «proof assistance»? Говоря совсем грубо, это софт, который способен рассматривать и доказывать математические теоремы. Такой программный продукт может рассмотреть набор данных и вычислить вопрос, который нужно задать этим данным. А потом — экспериментальный протокол, который поможет исследовать гипотезы ответов на этот вопрос.
Сегодня мы приближаемся к моменту, когда такие ассистенты начнут по-настоящему помогать математикам искать ответы на вопросы, слишком сложные для обычных «мясных мозгов» вроде нас с вами.
Проблема, как всегда, в логике. Мы знаем, что современный искусственный интеллект можно эффективно обучить на наборе данных. Но что он на самом деле делает с этими данными и чему учится — мы не знаем.
— Кажется, вы описывали эту проблему еще в своей первой книге «Морские звезды», в начале 1990-х?
— Да, совершенно верно. Всегда нужно держать в голове, что ИИ может учиться совсем не тому, чему мы на самом деле хотим его научить, а его верный ответ на наш вопрос — просто совпадение.
Я тогда посмотрел документальный фильм с восхитительной историей — об искусственном интеллекте, который обучали различать танки на фотографиях. Иногда эти танки были закамуфлированы, иногда спрятаны в тени деревьев, иногда просто стояли на парковке. Нейронная сеть определяла с точностью выше 90%, есть на фотографии танк или нет. А потом в сеть зарядили новый набор данных, который все сломал. И выяснилось, что в первоначальном наборе все фотографии без танков были сняты в облачный день, а с танками — в солнечный. Так что на самом деле нейронная сеть училась находить вовсе не танки, а паттерны освещенности и контрастности на фотографиях. Это прекрасная иллюстрация к моему сегодняшнему предположению.
Уверен, наши дети в состоянии создавать вещи, к которым мы в свое время даже не могли подступиться. Но спустя 20 лет будет уже не так важно, что и как будут делать дети нового поколения. Будет важно, каких ассистентов они используют.
Это могут быть новые ИИ, решающие даже не задачи, требующие знания, а задачи на расставление приоритетов. Какие-нибудь потомки алгоритмов Facebook будут говорить нам, что делать, и аккуратно подталкивать в нужном направлении. Посмотрите, как эффективно эти алгоритмы уже могут влиять на наши политические предпочтения. Вот им бы я сейчас уделял повышенное внимание. Какими бы прекрасными ни были новые поколения, у них все равно нет того влияния и тех денег, что есть у всех консерваторов мира. Вряд ли им дадут хоть немного пошатнуть статус-кво. С другой стороны, меня периодически называют циником.
— Лично мне вы кажетесь вполне оптимистичным в подходах к будущему. Первым приходит в голову умственный эксперимент в «Ложной слепоте», где люди используют психические отклонения в качестве инструментов. Например, множественное расстройство личности лингвиста Сьюзен Джеймс помогает ей знать о языках то, что нормальный человек был бы просто не в состоянии усвоить.
— Очень интересно, что вы рассмотрели все эти ментальные аномалии не как баг, а как фичу! Говоря о Сьюзен Джеймс… Мы же вообще слабо представляем себе, как работает самосознание. Я могу разделить ваш мозг на две половины, и у каждой будет своя собственная личность. Известен случай, когда одна половина мозга после такой операции оказалась католиком, а вторая — атеистом. Нейрохирург, который описал этот случай, позже говорил в интервью, что просто не понимает, как это не потрясло до основания сами основы теологии. Ведь что это значит — одна доля мозга отправится в рай, а вторая в ад?!
Я пытался исследовать со Сьюзен, каково это, когда на одном железе у тебя одновременно работает разный софт. Представьте, в единственной голове собрано множество людей. И традиционное психиатрическое решение этой проблемы — убить всех, кроме одного. И это не считается массовым убийством.
Короткометражный фильм по роману Питера Уоттса «Ложная слепота», созданный Данилом Криворучко в сотрудничестве с художниками со всего мира в период с 2016 по 2020 годы
— Главный герой Сири — очевидный социопат, но именно это позволяет ему делать свою работу хорошо.
— В последнее время я все больше убежден, что большая проблема придет не со стороны глобального потепления, ядерного холокоста или сошедшего с ума искусственного интеллекта. Это будет человеческая природа — млекопитающие, оперирующие миром на уровне примитивных эмоций и при этом управляющие грандиозными технологиями.
Если мы хотим решить глобальные проблемы, надо думать не о них, а о том, как переделать проводку в голове, делающую нас недальновидными людьми.
В одном из последних интервью меня спросили о Грете Тунберг. И она прекрасный пример, потому что у нее ведь расстройство аутистического спектра, что дает ей способность действительно фокусироваться на важных вещах. Большинство из нас, глядя на данные о глобальном потеплении, понимает, что все это выглядит очень пугающе, а следом мы думаем о том, что же сегодня покажут в «Игре престолов». А когда Грета Тунберг смотрит на те же данные, они не кажутся ей умозрительно страшными. Они действительно пугают ее до глубины души.
Я начал — и, надеюсь, это не будет воспринято как нечто уничижительное, — думать о ней как о другом когнитивном подвиде человека. Если бы у нас было больше таких, мы бы точно сделали больше и поступали бы правильнее. Представьте, если бы можно было перепрошить человека? Перед нами одна Грета Тунберг, а представьте, если бы это было заразно? Если бы ее способность смотреть на мир распространялась с вирусной инфекцией, в той же оболочке от COVID-19? Конечно, это не решило бы всех наших проблем — этот корабль уже уплыл. Но в какой-то момент мы бы смогли повернуть его назад.
— Кажется, это сюжет для отличного нового романа!
— Я написал рассказ на эту тему, и у него любопытная судьба. Вы знаете об X Prize Foundation? Это собрание миллиардеров из Кремниевой долины, которые решили, что используют технологии и магию капитализма для решения мировых проблем.
У них в совете сидит множество писателей-фантастов, и я один из них. По крайней мере, надеюсь, что это еще так. И вот меня попросили написать полную надежды и оптимизма историю о том, как одна технология может изменить мир. Я придумал сюжет о том, как простая нейроправка может заставить людей изменить их глубинные желания. Моя аналогия была в том, что Утопия всегда лежит по другую сторону «ямы с огнем», нужно лишь пройти по углям, чтобы туда добраться.
Но наш мозг видит только боль, он не думает о грядущей награде. Так вот, перепайка мозга в моем рассказе доставляет людям физиологическое удовольствие каждый раз, когда они ведут себя экологически разумно.
И, само собой, сильнее всего экологии поможет, если мы избавимся от людей, оставляющих самый серьезный углеродный след. Иными словами, от миллиардеров из Кремниевой долины. Поэтому второй частью уравнения было использование Neuralink Илона Маска, который бы воздействовал на определенные нейротрансмиттеры в головах этих богатых технологических промышленников. И они бы с радостью и удовольствием прыгали из окон небоскребов, пока вирус превращает человечество в самый экологически разумный вид на Земле.
Мне кажется, это очень бодрая и позитивная история! Не знаю, почему люди из X Prize Foundation так ко мне и не вернулись.
— Вы знаете, что в Советском Союзе долго была искусственная оппозиция между «физиками» и «лириками» — учеными, занимающимися естественно-научными дисциплинами и гуманитарными науками? По очевидным причинам: люди просто не хотели, чтобы у их атомных бомб была совесть.
— У нас так же.
— Тогда что вы думаете об известном меме «естественные науки помогут тебе клонировать динозавра, но только гуманитарные могут объяснить, почему это может быть плохой идеей»?
— Здесь мне нужно быть осторожным. Раньше я был в стане STEM, но сейчас имею больше отношения к культурному департаменту. И что-то в последнее время я разочаровался во множестве вещей, происходящих в гуманитарных университетах. Они дают научные степени в области футуризма (никак не вовлекая в это точные науки), проповедуют постмодернизм, создают людей, которые говорят тебе: «Вы же понимаете, что наука — просто одна из многих систем взгляда на мир». Именно современные кампусы гуманитарных университетов родили обширную ветвь постмодернизма, говорящую, что все на свете — просто мнение, а научные факты — социальный конструкт.
Люди, которые верят в этот шлак, должны очень удивляться каждый раз, когда они нажимают кнопку и в комнате вдруг загорается свет, если они не понимают, что за механизмом функционирования Вселенной все же есть какой-то набор правил, которые нельзя оспорить.
Как писатель-фантаст я не могу полноценно критиковать гуманитарные науки. Скажу только, что точные науки — единственная система верований, учитывающая, что она может быть вообще во всем неправа. Ведь наука основана на бесконечном подтверждении и опровержении гипотез. Не помню, кто это сказал, но это отличное выражение: «Наука обещает доказательство без уверенности, религия — уверенность без доказательств». Сегодня я, к сожалению, поставил бы некоторые гуманитарные дисциплины ближе к религии, чем к академическим практикам.
— В 2020 году мы довольно близки к жизни в мире, который вы описали в «Бетагемоте». И кажется, что меры, которые сегодня предпринимаются в реальном мире для того, чтобы остановить вирус, даже отдаленно не так эффективны, а люди не так сознательны по отношению к надвигающейся катастрофе, как в вашем романе.
— Да, я думал об этом. Это не самый мой популярный роман, но он точно состарился лучше остальных. Мы правда живем в мире климатических изменений, порождающих неурожаи, массивные ураганы в одной части планеты и пожары в другой. Пандемия, в конце концов.
В определенной степени я собой восхищен. Но, как вы верно заметили, политические инфраструктуры в этом романе более эффективны, чем в реальном мире. И причина, как мне кажется, в моем оптимистичном взгляде на человеческую природу. Мы уже говорили об этом, но люди часто заблуждаются, когда называют мое творчество мрачным. Сценариев, которые я описываю, можно избежать, только отправившись на машине времени на несколько десятилетий назад и приняв там меры. Так что это просто самая реалистичная картина ближайшего будущего, которую можно нарисовать.
Но персонажи, о которых я пишу, даже большие и страшные бюрократы, подписывающие смертный приговор миллионам людей, действуют только из побуждения спасти миллиарды. Для них нет хороших решений, есть только выбор между большим и меньшим злом.
Людей, находящихся у власти сейчас, я бы никогда не смог придумать — они все кажутся мне карикатурами. Дональд Трамп почти не человек, это какой-то сюрреалистический перформанс.
Никто в моих романах не стал бы отрицать эволюцию, никто не начал бы войны, только чтобы немного обогатить друзей из нефтяного конгломерата, никто не стал бы хвастаться тем, что принимал участие в пытках людей. На граждан США нападают только за то, что они просят других надеть маску — это случилось буквально вчера. Такое нельзя придумать, это будет плохая литература с плоскими двухмерными персонажами. Но в реальном мире все это происходит.
Надувные кровати для сна: преимущества и особенности 
Главный враг найден! 
Немного о гадости... )) 
Что китайцу хорошо - русскому лучше водки. 
Рыба моя 
Сетевой народец резвится 
Живее всех живых 
Шпионские игры (2001) / Расплата (2010). Call of Debt. Cold War 
Ежовик коралловидный 
