Апокалипсис не за горами: Интервью Илона Маска программе Axios

Штаб-квартира Axios

Арлингтон, штат Виргиния

Джим ВандеХей, сооснователь (Д): Очень во многом наша политика, наши споры направлены в прошлое, тогда как будущее уже наступило. Если взять потепление климата — оно уже происходит. Если взять ИИ, возможности машинного обучения, которые многократно превосходят человеческие, то всё это происходит уже сейчас.

Майк Аллен, исполнительный директор (М): Да, а Уолл-стрит и Вашингтон очень сильно отстали — они едва говорят на этом языке.

Д: Нас ждут новые этические споры, новые политические споры, новые бизнес-споры. Всё это кардинально изменится. И человечеству придётся думать с такой скоростью, к которой мы не привыкли.

Илон Маск об ИИ и апокалипсисе.

Д: Спасибо, что пришли, мы очень благодарны. Давайте начнём с того, что мы в целом разделяем ваши тревоги по поводу ИИ: с одной стороны, люди не очень понимают, что это такое, но при этом понимают потенциальные последствия для человечества.

Илон Маск, технологический предприниматель (И): Без проблем. Возможно, я иногда буду прерываться и проверять, не случилось ли каких-то ЧП.

Д: Мы поняли.

И: Они часто происходят, к сожалению… У меня в голове заел «Болеро».

Д: Что-что?

И: У меня в голове заел «Болеро»…

Д: Ну что, приступим. На самом базовом уровне, как людям представить себе искусственный интеллект? Если бы вы объясняли это одному из своих младших детей, как бы вы сказали, что такое искусственный интеллект?

И: Это просто цифровой интеллект. И поскольку алгоритмы и технические средства совершенствуются, этот цифровой интеллект будет превосходить биологический интеллект с большим отрывом. Это очевидно.

Д: То есть вы хотите сказать, что он превзойдёт человеческий интеллект и в скором времени машины станут не просто умнее нас, а многократно умнее.

И: Сделать так, чтобы ИИ был хорошим, или хотя бы постараться так сделать, представляется мне разумным решением.

М: Но в этом мы сильно отстали.

И: Да, мы не уделяем достаточно внимания. Нас больше заботит, кто кого как обозвал, чем то, что ИИ может уничтожить человечество. Это безумие.

Д: Прежде, чем обсудить решения…

И: Как дети в песочнице.

Д: Это может стать огромной проблемой для общества. Какие сценарии больше всего пугают вас?

И: Человечество не приспособлено к тому, чтобы думать об угрозах своему существованию в целом. Эволюция приучила нас думать о близких вещах, краткосрочных, переживать за других людей, а не думать о явлениях, которые могут уничтожить всё человечество разом. Но в последние десятилетия… да в общем, в последний век у нас появились ядерные бомбы, которые потенциально могут уничтожить цивилизацию, конечно же. У нас появился ИИ, который может уничтожить цивилизацию. У нас появилось глобальное потепление, которое может уничтожить цивилизацию или по крайней мере нанести ей значительный урон.

М: Прошу прощения, каким образом ИИ может уничтожить цивилизацию?

И: Ну, это может быть что-то вроде того, как люди уничтожили ареал приматов. То есть это не обязательно будет уничтожение, но нас могут просто задвинуть в дальний уголок мира. Когда хомо сапиенс стал намного умнее других приматов, он вытеснил всех остальных в маленькие ареалы. Они ему просто мешали.

Д: А разве не может ИИ уже на сегодняшнем этапе технического развития применяться в довольно деструктивных целях?

И: Можно создать рой дронов-убийц за очень небольшие деньги. Просто взять чип распознавания лица, который используется в телефонах, прицепить небольшой заряд взрывчатки к стандартному дрону и отправить их прочёсывать здание, пока они не найдут нужного человека, врежутся в него и взорвутся. Это уже сейчас возможно. Никаких новых технологий изобретать не нужно — прямо сейчас.

Д: Люди думают, что это что-то из фантастических романов и фильмов, что это всё очень далеко, но когда я слышу ваши речи, я думаю: да нет же, всё это уже здесь!

И: Думаю, риск не столько в том, что на нас будут охотиться дроны, а в том, что ИИ будет применяться для создания крайне действенной пропаганды, в которой мы не сможем распознать пропаганду.

М: Это дипфейки.

И: Да, влияние на развитие общества, влияние на выборы. Искусственный интеллект оттачивает послание, улучшает его, проверяет реакцию, ещё раз улучшает — в течение миллисекунд он может адаптировать, изменять послание, реагировать на новости. В соцсетях есть множество аккаунтов, которые ведут не люди. Откуда вы знаете, человек это или нет?

М: Одна из причин, почему регуляторы и другие люди не видят этой проблемы, — это скорость, быстрота перемен. Каковы последствия столь быстрых перемен?

И: Регулирование происходит медленно и линейно. А перед нами стоит экспоненциальная угроза. Если на экспоненциальную угрозу реагировать линейно, то, скорее всего, победит экспоненциальная угроза. Вот вся суть проблемы.

М: У вас есть нейробиологическая компания, где вы работаете над созданием физического интерфейса для мозга.

И: Да. Электронно-нейронного интерфейса на микроуровне.

Д: Что это такое — типа штекера в голове, который будет подключаться к компьютеру?

И: Да, чип и пучок проводков.

М: Он будет вживляться хирургически? И вы сможете, например, скачать Джима?

И: Угу. Да! Конечная цель Neuralink — достичь симбиоза с искусственным интеллектом и добиться как бы демократизации интеллекта, чтобы устранить монополию на его хранение в цифровом формате правительствами и крупными корпорациями.

Д: По сути, это попытка человека достичь здорового слияния с машинами.

И: Да.

Д: Чтобы победить машин, надо по сути слиться с ними.

И: Именно. Как нам сделать так, чтобы будущее представляло собой сумму усилий всего человечества? Если миллиарды людей будут иметь широкополосное подключение к ИИ-версии самих себя, это сделает всех сверхумными. Это всё чистая эзотерика.

М: Да, но вы говорите, что это больше наука, чем фантастика.

И: Я верю, что это достижимо.

М: Когда я смогу получить интерфейсный имплант?

И: Вероятно, в течение десяти лет. Между прочим, в каком-то смысле он у вас уже есть, ведь у вас есть цифровая третичная оболочка в виде телефона, компьютеров и т. д. По сути у вас уже есть вычислительные устройства, образующие третичный слой вашего восприятия.

М: Итак, вот у нас есть имплант в мозге, мы скачиваем большую часть Джима. Смогу ли я научить этого цифрового Джима свободно говорить по-китайски или играть на тубе, а потом закачать обратно в него?

И: Да. По ходу дела Neuralink поможет решить множество неврологических проблем. Ну, например, как лечить спинномозговые травмы? Мы уже знаем как: вживить электроды в двигательную кору мозга, чтобы обойти повреждённый участок спинного мозга, и установить локальные микроконтроллеры возле мышечных групп. Так можно полностью восстановить функции конечностей. Это очень перспективно.

Кроме того, память. По мере старения люди теряют память. Это очень печально, когда мать забывает собственных детей. И это тоже решаемо.

М: Я видел ваши выступления, смотрел интервью, и иногда по вам видно, что вы очень расстроены происходящим.

И: Я считаю, что мы должны попытаться принять ряд мер, которые с большей вероятностью обеспечат человечеству хорошее будущее. Я за человека. Моя вера в человечество в этом году слегка пошатнулась, но я по-прежнему на стороне человечества.

Д: Вы говорили, что это был самый трудный для вас год, самый изнурительный. Почему?

И: Tesla была под угрозой гибели из-за увеличения объёмов выпуска Model 3. По сути, компания теряла очень много денег, и если бы мы не решили эти проблемы за очень короткий отрезок времени, мы бы погибли. И это было крайне сложно — решить их.

Д: Насколько близко к гибели вы подошли?

И: Это был вопрос недель.

Д: Работали 24 часа в сутки?

И: Да, я работал 7 дней в неделю, ночевал на заводе, я был в покрасочном цеху, в сборочном, в кузовном…

Д: А вы не боитесь просто не выдержать такой переработки?

И: Ещё как. Никто не должен проводить столько времени на работе. Это вредно. Люди не должны так много работать, это неправильно. Это мучительно.

М: В каком смысле мучительно?

И: У меня от этого мозг болит и сердце. Это больно. Я этого никому не советую. Я делал это только потому, что иначе Tesla с большой вероятностью погибла бы.

М: Вы верите в Бога?

И: Я верю, что есть какое-то объяснение этой вселенной, которое можно назвать Богом.

М: Илон Маск, спасибо вам за прекрасный разговор. Спасибо, сэр.

Д: Это было очень интересно. Спасибо вам большое!