Занятие 19: Стагнация или сингулярность?

Во время занятий к беседе присоединились три гостя:

1. Соня Аррисон, технический аналитик, автор книги 100 Plus: How the Coming Age of Longevity will Change Everything, и сооснователь Singularity University

2. Майкл Вассар, футуролог, в прошлом президент Singularity Institute for the study of Artificial Intelligence (SIAI)

3. Доктор Обри ди Грей, эксперт в области геронтологии и директор по науке SENS Foundation.

I. Перспективы

Питер Тиль: Давайте начнем с того, что каждый из вас обрисует свое видение того, какие технологические изменения ждут нас в следующие 30 или 40 лет.
Майкл Вассар: Намного проще говорить о том, каким будет мир через 30 лет, чем о том, каким он будет через 40. Период в тридцать лет кажется обозримым. Сегодня мы прошли путь от того, как вычислить один-два гена, до вычисления полного генома человека, и это стоит тысячи долларов. Пол Аллен сейчас проводит эксперимент на $ 500 миллионов, который, кажется, идет хорошо. Пройденный технологиями путь одновременно захватывает дух и пугает.
Представьте, что через 30 лет у нас будут вычислительные мощности, которые превышают современные в миллионы раз и чьи алгоритмы в сто раз более эффективны. В тот момент мы приблизимся к тому, что сможем симулировать мозг и все такое. И после этого все завертится.
Но такой прогресс в течение следующих 30 лет — это ни в коем случае не то, что можно считать само собой разумеющимся. Преодолеть узкие места — например, ограничения энергии — будет сложно. Если мы это сделаем, мы окажемся в самом конце пути. Но я предполагаю, что этот путь не будет таким уж гладким.
Обри ди Грей: У нас есть четкое представление, какие технологии могут получить развитие, но куда более смутные представления о сроках их разработки.
Возможно, пройдет всего 25 лет, и мы сможем достичь второй космической скорости.
Но у этого предположения есть два предостережения: во-первых, это вопрос существенных ресурсов, которые требуются на разработку, и второе, даже в этом случае шансы 50 на 50; т.е. у нас есть примерно 50-процентный шанс достичь цели. Но есть примерно 10-процентный шанс не достичь цели в следующие 100 лет или около того.
В известном смысле, все это неважно. Нечеткость сроков не должна влиять на расстановку приоритетов. Мы должны заниматься тем, чем занимаемся, несмотря ни на что.
Если вы взглянете на такие подходы к искусственному интеллекту, то поймете, что, чтобы добиться успеха, вам надо обладать одновременно отличным пониманием того, как устроен мир и гораздо большими вычислительными мощностями.
Они ценны даже при 10-процентном шансе добиться успеха в течение следующих 30 лет.
Мы должны с пониманием относиться к тому, что придется рассматривать очень трудные подходы. Планировать развитие технологий нелегко. По сути, это процесс раздвигания границ неизвестного и планирования манипуляций над природой, начатый при неполном знании природы в начальной точке.
Достижение полномасштабной загрузки — и его сроки — настолько спекулятивная тема, что вероятно, нет никакого смысла говорить об этом как о чем-то действительно вероятном. Но наши приоритеты должны остаться теми же: разрабатывать революционные технологии в биотехе, вычислениях, железе и т.д.
Соня Аррисон: Большую часть времени я занимаюсь биотехом, поэтому буду говорить об этом сегменте в первую очередь. Ясно, что биология очень быстро превращается в инженерную проблему.
Я начала интересоваться биотехом несколько лет назад, когда мои друзья из IT стали покупать книги по биологии. Они полагали, что следующей большой вещью в программировании почти наверняка будет биология, а не компьютеры. Сейчас эта точка зрения стала мейнстримом. Билл Гейтс как-то говорил то же самое, наряду с остальными. Лучшие инженеры идут в биотех. Через 30 или 40 лет подход к биологии как инженерной дисциплине может радикально преобразить мир. Есть ощущение, что геномика развивается быстрее, чем гласит закон Мура.
Цены падают. Вычисление первого генома человека стоило порядка трех миллиардов долларов. Сейчас это можно сделать примерно за 1000 долларов.
В области компиляции генома проделана работа, которая позволяет изучить все виды геномов, которые только бывают у организмов, и это открывает кучу возможностей. Сегодня основные претензии сводятся к тому, что, несмотря на то, что первый геном человека был получен в 2000 году, 12 лет спустя не слишком-то многое сделано в направлении новых трактовок или методов лечения, основанных на этой технологии.
Позиция таких критиков довольно слаба, потому что они упускают из виду важную вещь: на протяжении большей части этого 12-летнего срока вычисление генома было столь дорогим, что лишь очень немногие ученые могли использовать геном в своей работе. Конечно, сейчас, когда цены серьезно упали, этот барьер тоже падает.
Что-то обязательно будет происходить — т.к. люди продолжают работать над радикально новыми вещами. Генная терапия как метод лечения выглядит многообещающе.
Возможно, мы можем разработать и новые виды топлива. На Кикстартере есть проект по объединению генов светлячка и генов дуба. В итоге должны получиться деревья, которые будут светиться.
Это больше, чем просто прикольная идея — возможно, вы используете эти светящиеся деревья для освещения улиц вместо уличных фонарей. Это здорово. И есть гораздо больше всего, что мы сейчас даже не можем себе вообразить. Очень многое может произойти и произойдет на стыке биологии и инженерии.
Из вещей, не связанных с биотехом, перемещение обучения в онлайн кажется, способно радикально изменить сферу обучения. Такие вещи, как Стендфордские занятия по искусственному интеллекту, Udacity, Академия Хана — мы не знаем точно, чем все это кончится, но можно утверждать, что есть множество вещей, которые ожидаются на этом фронте.
Питер Тиль: Давайте вовлечем культурную составляющую: почему большинство людей считает вас сумасшедшими?
Майкл Вассар: Иметь мнение о будущем — это в любом случае выглядит странным.
Лишь очень незначительное меньшинство пытается представить будущее, даже ближайшее. Возможно, потому, что думать о будущем несколько некомфортно и трудно. Люди предпочитают работать с моделями, в которых только одна переменная, а все остальное сохраняется в том же состоянии. Мы, конечно, знаем, что это нонсенс, потому что мир устроен иначе. Но это служит для упрощения. Рассуждая в таком упрощенном ключе, мы можем сосредоточиться на одной вещи и работать вместе. Распыление на 100 неизвестных в каком-то смысле лишило бы нас этой динамики.
Но размышление о будущем очень важно, и это то, что может вас изолировать.
Отстранение от людей означает, что остается меньше тех, с кем вы можете поговорить. Остается меньше общих сопутствующих смыслов; люди перестают понимать, откуда вы это взяли.
Но это не говорит о том, что люди верят во что-то отличное от того, во что верим мы. Обычно нет. Обычно вы не сталкиваетесь с тем, что кто-то резко против вашей непохожести. Возможно, повернутые на идее глобального потепления или апокалипсиса действительно твердо уверены, что иные взгляды на будущее неприемлемы. Но большинство не слишком обо всем этом думает. То, что воспринимается как сумасшествие, – это не содержание взглядов, а в большей степени сам факт постановки веры на первое место.
Обри ди Грей: Я несколько не согласен. Люди так или иначе склонны иметь какое-то представление о будущем. Обычно это ожидание относительной стагнации.
Люди склонны думать не только, что большинство вещей не изменится, но что даже то, что изменится, — не изменится слишком быстро. Люди, которые критикуют мою точку зрения в биотехнологиях и старении, например, не распознают плохие логические шаги и не ухватывают существенные моменты. Наоборот, они предпочитают не верить в то, что я говорю, потому что это противоречит их склонности к стагнации. Они уходят вполне убежденные, что прогресс в технологиях антистарения и продолжительности жизни никогда не ускорится. И это поражает.
Я пробую и противопоставляю этому, обращая внимание на то, что если бы вы должны были спросить кого-нибудь в 1900 году, сколько времени понадобится в 1950 году, чтобы пересечь Атлантику, они бы предсказали, исходя из скоростных траекторий океанских лайнеров. Они бы не смогли предвидеть появление самолета. То есть они бы ошиблись в вычислениях на порядки. Разумеется, каждый знает, сколько технологических изменений произошло в последние столетия и десятилетия. Каждый знает, что сделал интернет в недавние годы. Но существует большая неохота применять что-то из этого как прецедент для того, что могло бы или вероятно случится в будущем.
К этому можно подойти и с точки зрения желательности. Страх неизвестного — это очень глубоко сидящая эмоция. Когда люди сталкиваются с радикально новыми суждениями, они склонны думать, что все пойдет неправильным путем. Людям очень трудно рассмотреть обоснованную возможность реализации таких сценариев, поэтому они преувеличивают риски. Более рациональные подходы к обсуждению исчезают.
Соня Аррисон: Отмечу, что никто не считает сумасшедшей меня.
Питер Тиль: Ты хорошо маскируешься…
Соня Аррисон: Ну, трудно назвать меня “сумасшедшей”, так как я сфокусирована на технологиях, основанных на реальности. Я пишу о выращивании искусственных тканей, регенеративной медицине, раскрытии секретов природы, например. Это все существует уже сейчас, и продолжает развиваться, и, я полагаю, действительно меняет мир. Есть три причины, почему у людей с этим бывают проблемы.
Во-первых, они этого не понимают. Во-вторых, они этому не верят. В-третьих, они этого боятся.
Задумайтесь на секунду о деревьях-фонарях. Некоторых людей будоражит только сама идея. Это очень отличается от того, что есть сейчас. Некоторые реагируют автоматически, не особо задумываясь: “Не вмешивайтесь в природу! Не играйте с Богом!” Такую реакцию можно понять, но она преграждает дорогу прогрессу. Это не лучшая реакция. Часто она не продуктивна.
Питер Тиль: Тогда лучший подход — это игнорировать этих людей?
Соня Аррисон: Чем игнорировать, лучше их обучать. Важно доносить вещи доступным языком. Технология, которую люди не понимают, часто больше похожа на магию. А магия пугает.
Но если вы разъясните – “вот это отвечает за это” – вы сможете “продать” им эту идею. Это всего лишь вопрос объяснения бенефитов и стоимости. “Это вытеснит грязное ископаемое топливо”, например, может стать одной из убедительных линий аргументации в пользу светлячково-древесных уличных фонарей.
Питер Тиль: Существует очень интересный кейс, что мы по всей вероятности увидим небывалый или ускоряющийся прогресс в грядущие десятилетия.
Так почему бы просто не сесть, взять попкорн и не наслаждаться представлением?
Иной разрез этого вопроса вот какой: в книге Р. Курцвейла “Сингулярность уже близка” (The Singularity is Near) прогресс следует за экспоненциальной кривой роста. Это закон природы. В известном смысле, сингулярность случается вне зависимости от того, что делают для ее появления отдельные люди прямо сейчас.
Предположение было в том, что всегда будет достаточно людей, которые пробуют сделать что-то новое, поэтому лично вам не нужно ничего делать, и можно просто ждать, когда что-то произойдет само по себе. Есть ли что-то неправильное в этой аргументации?
Обри ди Грей: Да. Роль играет не только сам факт, что технологии развиваются.
Когда они развиваются – это не менее важно. Возьмите, например, борьбу со старением. Ежедневно умирает примерно 150 000 людей. Около 100,000 этих смертей происходят от старости. (Вероятно, около 90% смертей в западных странах происходят по причине старости). То есть, каждый день, который вы не промедлите, сохранит 100 000 жизней. С этой точки зрения неважно, насколько неизбежна сингулярность.
То, что она неизбежна – это слабое утешение для людей, которые умирают или теряют любимых сейчас. Мы хотим победить старение с помощью медицины как можно скорее, по той простой причине, что чем быстрее мы этого достигнем, тем большему числу страждущих мы облегчим страдания.
Майкл Вассар: Полностью согласен. Важно работать в направлении осуществления благ и избегания вреда. Неизбежность может быть обоюдоострой: иногда вам хочется, чтобы она наступила (если это влечет хорошие последствия), а иногда вам не хочется, чтобы какие-то вещи случались. Фокусируясь на неизбежности, можно потерять много других важных вещей. Если смерть неизбежна или кажется таковой, то будем исходить из того, что все мы рано или поздно умрем, но все равно остается некоторый шанс на выживание, и мы должны за него побороться. Кроме того, попкорн вреден. Хотя, я думаю, Обри мог бы прикинуть, как сделать его не таким вредным…
Соня Аррисон: Сосредотачиваться только на неизбежности опасно, потому что это позволяет людям стать самодовольными в отношении плохих систем, которые уже используются… Люди могут игнорировать множество порочных стимулов, что часто мешает или демотивирует ученых, работающих над радикальными технологиями. Слишком мало людей думают о том, как FDA (US Food and Drug Administration (Управление по контролю качества пищевых продуктов и лекарственных средств Министерства здравоохранения и социальных служб США, регулятор рынка лекарственных средств США, без согласия которого препараты не могут быть выпущены на рынок – прим.перев.) может заблокировать очень важные разработки. Если все это в любом случае произойдет, то гораздо меньше смысла в том, чтобы реформировать то, что мы имеем сейчас, то есть мы можем лучше осознать наши цели. Но конечно, подобная реформа крайне необходима, и она не случится, если мы не будем работать над этим.

Питер Тиль: Ну, так кто, по-твоему, займется этим? Кто будет ковать наше технологическое будущее?
Майкл Вассар: Ты. (смеется)
Питер Тиль: (пауза) Майкл… предполагается, что ты будешь мотивировать людей в этой аудитории…
Майкл Вассар: Но я говорю серьезно. Таких людей немного. Ты, Элон, Шон…
Соня Аррисон: По моему мнению, инновации приходят из двух источников: сверху вниз и снизу вверх. Существует огромное DIY-комьюнити в биологии. Эти любители работают в лабораториях, которые они устроили у себя на кухнях и в подвалах. На другом конце спектра находится DARPA (Defense Advanced Research Projects Agency (Aгентство передовых оборонных исследовательских проектов; ведомство, которое ищет и финансирует перспективные проекты в области технологий – прим.перев.) которое тратит кучу денег, пытаясь вывести новые организмы.
Ученые из разных стран общаются друг с другом, совместно работая над комплексными проектами в области биологии. И эта взаимосвязанность играет очень важную роль. Совокупно эти взаимодействия принесут нужные изменения.
Обри ди Грей: Не согласен. Мой ответ — Опра Уинфри.
Да, есть немного таких людей, как Питер. Очень мало таких людей-прорицателей, которые реально могут внести важные изменения на ранней стадии формирования проектов. Но еще есть довольно много людей с таким образом мышления, как у Питера, которые не делают этого. Это не означает, что эти люди не понимают проблемы или значение технологий. Они очень хорошо все это понимают. Но их сдерживает общественное мнение. Они возможно не могут внятно объяснить это самим себе… Но они нутром чувствуют эмоциональную блокаду, которую поднимают вокруг них другие люди. Хорошее финансовое положение не означает, что ты не боишься, когда люди над тобой смеются. Многие потенциальные прорицатели воздерживаются от действий только потому, что не сопротивляются давлению общества.… Вот почему так критически важны те люди, кто формирует мнение большинства. Возможно, что ни одна другая группа людей не может сделать для революционных технологий будущего больше.
Пересиливая сопротивление общественности и влияя на дискурс, эти люди могут побудить любого строить технологию. Если мы сможем изменить общественное мнение, крупные благотворители могут запустить этот механизм.
Майкл Вассар: Я не думаю, что прогресс будет инициироваться сверху или снизу, ну правда. Отдельные меценаты, которые сосредоточены на каких-то конкретных вещах, как, например, Пол Аллен, конечно, делают хорошее дело. Но они реально не ускоряют будущее; они в большей степени ускоряют отдельный поток в надежде, что это ускорит приход будущего.
Ощущение такое, что эти люди никак друг с другом не сверяют часы. Исторически, подход «сверху вниз» не работает. И подход «снизу вверх» тоже. Изменения происходят где-то посередине – сообщества типа квакеров, королевского общества или отцов-основателей (имеется в виду группа политиков, стоявшая у истоков основания США,http://en.wikipedia.org/wiki/Founding_Fathers_of_the_United_States — прим. перев.) Эти эффективные группы насчитывали несколько десятков или несколько сотен членов. Почти никогда не бывает гениев, работающих в одиночку.
И это почти никогда не департаменты обороны или большие институты. Вам нужны зависимость и доверие. Эти особенности не могут быть в одном человеке или у миллионов.
Питер Тиль: Существует три точки зрения на то, кто определяет будущее: комбинация «сверху вниз» и «снизу вверх», творцы общественного мнения и сообщества. Давайте поработаем с идеей Майкла про сообщества. Представьте, что это всего лишь маленькая группа людей, работающих в технологической сфере, которая продвигает свои идеи.
Обри ди Грей: Я думаю, что довод про сообщества правильный. Майкл прав в том, что один человек ничего не изменит. Тут очень много зависит от инфраструктуры. В биологии работы обходятся в порядочную сумму денег. Разработка алгоритмов тоже может быть довольно дорогостоящей. Люди должны встраивать себя в сеть денежных потоков, неважно, идет ли речь о финансировании из средств предпринимателей, филантропов или общественности. Но действительно радикальные технологии, которые обсуждались на этом занятии, настолько ранние, что помощь филантропов будет, вероятно, играть ключевую роль еще некоторое время. Это может быстро измениться, если эти технологии сильно продвинутся, и больше людей увидят в них коммерческую живучесть. Когда общественное мнение поменяется, люди, которые захотят, чтобы их избрали, будут финансировать те вещи, которые хочет общественность, и мы увидим, что эти вещи начнут финансироваться больше.
Соня Аррисон: В каком-то смысле желание видеть только один источник прогресса ошибочно. Прогресс может появиться, и обычно так и происходит, из многих сфер. Вещи взаимосвязаны. Идеи вырастают друг из друга, и часто идеи, которые казались непригодными, позднее могут сработать.
Вопрос из аудитории: Мы знаем, что в прошлом происходил прогресс. Но довольно редко этот прогресс выглядел так, как люди предполагали вначале. Так откуда вы знаете, что ваши заявления о том, как прогресс будет осуществляться в будущем, верны? Что вы думаете о расхожем мнении, что “большинство дискуссий о будущем — это или фантазии или хрень”?
Майкл Вассар: Люди привыкли прогнозировать будущее довольно определенным образом. Представьте, что вы ищете нефть. Это подразумевает довольно конкретный прогноз: в таком-то месте находится столько-то нефти, которая кончится через столько-то лет. Основная масса людей перестала это делать. Недавняя научная фантастика собирается сделать немного больше, чем научная фантастика прошлого.
Обычно было трудно предсказать далекое будущее. Возможно, относительно легко предсказать, что будет к концу 2020х годов, основываясь на предыдущем опыте. Но необычайно тяжело делать какие-то утверждения про 2040 год.
До эры кино и масс-медиа люди умели предсказывать будущее гораздо лучше. Они использовали логику и анализ трендов, а не то, что круто выглядит на большом экране. Современные прогнозы будущего больше нацелены на то, чтобы выглядеть вероятными, чем на то, чтобы делать обоснованные и точные прогнозы.
Смотрите на вещи, как у Нила Стивенсона в «Лавине» – там кое-где хорошая абстракция, кое-где сатира. Много деталей, которые, вероятно не будут такими в конце 2020-х. Но мы можем воспринимать их как настолько же обоснованные, как и курцвеловские описания возможного будущего технологий.
Соня Аррисон: Этот вопрос в конечном итоге говорит: “Окей, куча людей в прошлом ошиблась насчет будущего, поэтому зачем нам сейчас вообще говорить об этом?” Это нонсенс. Да, люди будут ошибаться. Но мы не говорим о догадках из серии “пальцем в небо”. Мы говорим о том, что есть сейчас и отталкиваемся от этого. Это не научная фантастика. Генная технология и терапия уже существуют.
Да, мы можем создать жизнеспособный код, как это продемонстрировал Крейг Вентер. Вопрос в том, сколько времени это займет, и насколько быстро мы сможем продвигаться вперед. Это вопросы, на которые трудно ответить. Но это не значит, что об этом не надо думать. Мы обязаны думать об этом. Тот факт, что у людей разные точки зрения, никак не обесценивает проект.
Вопрос из аудитории: Будущее будет научной или инженерной проблемой?
Обри ди Грей: Если так ставить вопрос – то мы ровно посередине. В медицине и вычислениях, например, мы видим переход от подходов, основанных на исследованиях и науке, к инженерному подходу.
Майкл Вассар: Наука имеет большее значение, чем инженерия.
Но говорить проще о последней. То есть некто должен использовать инженерию, чтобы отстранить 99.9% людей, которые не имеют представления о том, что происходит. Но затем этот некто должен погрузиться в науку вместе с оставшимися 0.1%. Вот откуда придут успехи.
Соня Аррисон: Еще есть проблема агрегирования знаний. Одному человеку трудно или невозможно знать все. И получается, что люди не знают, чем занимаются другие, поэтому иногда они работают над одним и тем же или чем-нибудь избыточным. С помощью компьютеров можно лучше организовать знания, относятся ли они к науке или инженерии.
Вопрос из аудитории: В области железа закон Мура, похоже, сохранит актуальность. Но в области программного обеспечения, процесс разработки и сотрудничества, кажется, будет улучшаться только линейно. Это проблема поиска средств ускорения или мы имеем дело с каким-то скрытым пределом в этой области?
Майкл Вассар: Линейный рост возможностей поможет вам преодолеть основные барьеры. Существует круг обратной связи. Линейный рост может быть достаточным, чтобы контролировать процесс, ускорить его и получить положительную обратную связь, чтобы увидеть изменения, которые приведут к экспоненциальному росту. И затем вы возвращаетесь к линейному росту. Это справедливо, вероятно, для всей психологии и искусственного интеллекта (который, по сути, есть психологическая инженерия).
Питер Тиль: Мы знаем, что на практике планирование времени очень важно.
Поэтому в то самое время, когда мы не знаем точно, когда воплотятся революционные технологии будущего, планирование времени играет очень большую роль. Это все научная фантастика, которая только лишь похожа на правду, и, может быть, не имеет смысла работать над этим сейчас. Это будет похоже на китайцев, которые пытались запустить ракету в 11 веке. Никто не работал и не мог бы работать над сверхзвуковыми полетами в средние века.
Обри ди Грей: Не думаю, что аспект времени настолько критичен. На пути к конечной цели всегда должны быть промежуточные точки. В 11 веке целью мог бы быть полет на Луну. Но технологии тогда позволяли только, скажем, оторваться на один фут от земли. То есть, в то время вы могли бы получить ученую степень, если бы разработали систему, которая позволила бы вам оторваться от земли на 10 футов.
То есть вопрос в том, какие пути приведут к конечной цели, а какие нет. Мы обязаны распознать хорошие пути и дать им зеленый свет. Но без долгосрочной цели вы не сможете организовать конкурентный путь и никогда ничего не достигнете.
Питер Тиль: То есть, возможно, цель на 20 лет вперед со множеством промежуточных целей — это хороший подход. Проблема в том, что чем больше майлстоунов, тем более абстрактным становится вопрос достижимости цели.
Обри ди Грей: Вы вынуждены наблюдать, как это приходит, и избегать плохих поворотов. И есть еще гуманистические причины, чтобы смотреть на вещи шире.
Мы должны помнить, что 100 000 жизней сохраняются ежедневно благодаря тому, что решение проблемы старения появится раньше. В этом свете 20 лет — это значительно лучше, чем 21.
Соня Аррисон: Людей обычно отпугивает цель, которая кажется слишком трудной или невозможной. Мы не можем видеть в каждом неутомимого провидца. То есть демонстрация шансов на успех — это ключевая вещь. Мы можем выращивать в лабораториях кровеносные сосуды, трахеи и мочевые пузыри. Таким образом, мы можем добраться до сердец. Демонстрация промежуточных шагов — это ключ к успеху, потому что без них меньше народу будет увлечено перспективами выращивания новых сердец.
Майкл Вассар: Проект Аполлон был гигантским проектом длиной в 10 лет, вобравший в себя множество технологий. Это было больше 40 лет назад. В данном случае мы, вероятно, больше не сможем даже полететь на Луну. Создание Конституции США было невероятным успехом. Отцы-основатели знали, как это сделать. Они писали, опираясь на определенный социально-экономический и технологический контекст. Они не собирались писать всеобъемлющее руководство для всего мира на все времена. И, тем не менее, когда мы сегодня захватываем власть в арабских странах, мы просто повторяем нашу конституцию. Мы понятия не имеем, как сделать то, что делали отцы-основатели 200 лет назад. Мы потеряли способность делать настолько проработанную с точки зрения культурных нюансов систему. Прикладная история сильно недооценена.
Вопрос из аудитории: Ни одна тенденция не существует без каких-то ограничений. Где асимптота будущего? В какой момент мы достигаем границ физического мира? Сколько длится экспоненциальный рост и в какой момент он заканчивается?
Майкл Вассар: Трудно сказать, где это заканчивается. Возможно, что еще не сейчас — еще очень многое нужно сделать. Если что-то происходит х раз подряд, и нет других переменных, единственный способ подумать о шансе, что это случится еще раз, это оценить по формуле (x+1)/(x+2). Это очень грубый прием, но он может быть довольно полезным.
Обри ди Грей: Курцвейл допускает, что вы получаете S-кривые. Но на смену этим кривым могут прийти новые S-кривые, и каждый раз парадигма будет совершенствоваться. Склейте все эти кривые воедино, и вы получите S-образную мегакривую. Очевидно, внутри физических законов это предел, до которого вы можете продвинуться. Но мы пока не добрались до этих проблем.
Соня Аррисон: В каком-то смысле, вещи замедляют ход. Но это нормально. Необходимость порождает все изобретения. Появятся другие вещи, которыми можно будет заниматься. Всегда будет новая экспоненциальная кривая.
Вопрос из аудитории: Мы в Stanford Transhumanist Association заинтересованы в открытом диалоге о последствиях технологических изменений, и мы проводим много исследований на предмет того, как основные эмоции, например, страх или сочувствие, влияют на оценку технологий человеком. Какие, на ваш взгляд, пути наиболее эффективны, чтобы заинтересовать людей идеями трансгуманизма?
Соня Аррисон: Иногда можно просто апеллировать к человеколюбию. Некоторые аспекты трансгуманизма, если их хорошо осознать, могли бы облегчить очень много страданий. Некоторые вопросы очень хорошо попадают в эту категорию. Поэтому, если вы их правильно обозначите, вывод напросится сам собой. Никто не хочет увеличения страданий.
Другие вещи не так хорошо ложатся в эту плоскость. Есть вещи, которые только выглядят революционно новыми – мы можем думать, что они замечательные, но для других это не так. Эмоциональный аргумент в таких вещах такой, что люди должны быть свободными, чтобы быть личностями. Но тут очень важен момент страха. Многие люди боятся свободы. То есть, проблема лежит глубже.
Майкл Вассар: Вы можете апеллировать к человеческому чувству изумления. Если вам доводилось говорить с теми, кто страдает болезнью Альцгеймера или какими-то душевными расстройствами, у вас могло появиться чувство, что они что-то упускают. Также, как и все мы. Разрыв между ними и нами ничтожно мал. Мы, возможно, упускаем массу вещей. Разве мы не должны попробовать и исправить это, чтобы терять меньше?

II. Заключительные мысли (от Питера Тиля)

Этот курс был в основном посвящен вопросу перехода от нуля к единице. Мы много говорили о том, как создавать новые технологии, и о том, как радикально улучшенные технологии могут приблизить сингулярность. Но мы можем использовать куда больше инструментов для перехода от нуля к единице. В каждой новой вещи в мире заключено нечто важное с точки зрения сингулярности. Создаете ли вы новую компанию или принимаете ключевое в своей жизни решение — это сингулярность в миниатюре. В действительности, жизнь каждого человека — это сингулярность.
Очевидный вопрос, что вам делать с вашей сингулярностью.
Очевидный ответ, к сожалению, — идти проторенной дорогой. Вас постоянно побуждают перестраховываться и быть обычным. Будущее, о котором мы говорили, — это только вероятности и статистика. Вы только часть статистики.
Но очевидный ответ - неправильный. Это как продать себя по дешевке. Статистические процессы, закон больших чисел и глобализация – эти вещи вне времени, вытекающие из теории вероятности и, возможно, случайные.
Но, как и технология, ваша жизнь – это история, состоящая из событий, который происходят только один раз.
По свой природе сингулярные события трудно изучать и обобщать. Но большой секрет состоит в том, что осталось много нераскрытых маленьких секретов. Все еще очень много белых пятен на карте человеческого знания. Вы можете исследовать их. Так идите и заполните эти белые пятна. Буквально каждый момент – это возможность пойти в эти новые места и исследовать их.
Не существует, по всей вероятности, никакого особенного времени, которое непременно правильное для того, чтобы начать свою компанию или свою жизнь. Но некоторые моменты кажутся более благоприятными, чем другие. Сейчас как раз такой момент. Если вы не возьмете на себя ответственность и не откроетесь навстречу будущему, если вы не возьмете ответственность за свою жизнь — есть ощущение, что этого не сделает никто.
Так что отправляйтесь на поиски своих рубежей и исследуйте их. Решите сделать что-то важное и отличающееся от всего. Не ограничивайте себя понятиями “удача”, “невозможно” или “бесполезно”. Используйте свою силу, чтобы построить свою собственную жизнь, идите и делайте новые вещи.