«Мы сможем искусственно создавать множество разновидностей разума»
Kевин Келли — журналист и автор нескольких бестселлеров на темы футурологии и кибернетики. В начале 1990-х он основал журнал Wired, посвященный изучению влияния информационных технологий на разные стороны современной жизни. Кевин Келли предсказал великое будущее интернет-коммерции задолго до того, как Джефф Безос заперся в своем гараже и основал Amazon. В диспуте о возможных последствиях развития искусственного интеллекта Келли выступает на стороне оптимистов — он считает, что умные машины будут нашими помощниками, а не конкурентами. Осенью писатель приедет в Москву, чтобы принять участие в BBI саммите, проходящем в столице 10–11 сентября. Портал iz.ru решил поговорить с американским визионером.
— Вас часто называют футурологом. Считаете ли вы себя футурологом сами?
— Я обычно не называю себя футурологом. На самом деле я стараюсь «предсказывать» настоящее. Тем не менее я экстраполирую — говорю о будущем, основываясь на трендах, которые мы видим сегодня. Когда я пишу, я стараюсь рассказывать о вещах, которые уже имеют место. Опираясь на них, я рассуждаю о том, что может произойти в будущем.
— Ваша официальная должность в журнале Wired называется senior maverick, и на русский это иногда переводят как «главный спорщик» (более точное значение слова — «инакомыслящий». — iz.ru). В чем суть этого названия? Имеется ли в виду, что вы профессионально подвергаете сомнению устоявшиеся представления?
— Название должности в Wired — это на 10% шутка и на 90% правда. Дело в том, что руководство журнала Wired запретило использовать название «свободный редактор» — так обычно называют бывших редакторов, которые продолжают сотрудничать с журналом. Так вот, я решил, что вместо этого буду называться Senior Maverick — это значит, что у меня свой особый путь и что я нахожусь вне организации.
— А значит ли это, что вы все-таки спорщик?
— В какой-то степени — значит. Не то чтобы я был полным спорщиком. Спорщик всегда подвергает сомнению все существующие мнения. И я считаю, что это очень полезная стратегия. Очень важно ставить под вопрос то, что большинство людей принимают за истину. Но как минимум в половине случаев общепринятое мнение действительно верно. И в отличие от большинства заядлых спорщиков я принимаю этот факт.
— Ваша статья «Миф о сверхчеловеческом искусственном интеллекте» многим показалась достаточно спорной. Все боятся, что искусственный интеллект отберет у нас все рабочие места и вообще начнет угрожать человечеству. А вы полны оптимизма.
— Дело в том, что человек с улицы не знает, что ему и думать об искусственном интеллекте. И за ответом обращается к экспертам. А среди экспертов возникло два лагеря: примерно 75% волнуются о негативных сценариях развития, я же в лагере с 25% тех, кто считает, что волноваться не стоит.
— В своих выступлениях вы часто говорите, что развитие ИИ создаст больше новых рабочих мест, чем уничтожит старые. Как вы пришли к такому заключению?
— Дело в том, что сочетание человеческого разума и искусственного интеллекта мощнее, чем ИИ или человек по отдельности. И поэтому появится спрос на специалистов, которые смогут хорошо работать в команде с ИИ.
Идея о том, что можно создать ИИ, который будет превосходить человеческий разум во всем, неверна. Системы ИИ будут мыслить не лучше, а иначе, чем мы — и в этом будет их главная ценность. Они не заменят нас, а станут нашими помощниками. Потому что наш интеллект — это не одномерная величина, а набор из многочисленных режимов мышления. Когда мы создаем искусственный интеллект, мы не можем оптимизировать его работу во всех режимах сразу. Чтобы оптимизировать какой-либо инструмент, нужно сделать его узкоспециальным. Иначе получится швейцарский нож: в нем есть и отвертка, и штопор, и ножницы, но настоящей отверткой, штопором или ножницами пользоваться намного удобнее.
— Расскажите поподробнее о том, какие режимы мышления нам не удается синтезировать в системах ИИ, какие из них остаются исключительно человеческими?
— Большинство из известных нам типов мышления человека пока не удается воссоздать искусственно. На самом деле весь невероятный прогресс в области ИИ, который мы видим сегодня, основан на всего лишь одном типе мышления — восприятии, распознавании образцов, паттернов. Этот тип лежит в основе всех систем ИИ, которые мы создали до сих пор. ИИ может распознавать речь и синтезировать ее, распознавать изображения и синтезировать их и, наконец, распознавать комбинации элементов и синтезировать их. Даже игру в шахматы или го можно свести к распознаванию комбинаций на доске и синтезу наиболее выигрышных ответных комбинаций. Вот собственно и всё. Мы пока не смогли синтезировать более сложные типы вроде символического рассуждения — например, способность решать графические задачи на тесте IQ (прогрессивные матрицы Рейвена. — Ред.).
Тем не менее совершенно удивительно, какого прогресса в области искусственного интеллекта мы достигли за счет синтеза всего лишь одного типа когниции.
И все же распознавание паттернов — это, я бы сказал, весьма «плоский» тип мышления. Все нейроны в нейронной сети эквивалентны, нет никакой иерархии, и результаты достигаются «грубой» вычислительной силой за счет их количества. Это просто миллиарды взаимосвязанных узлов без всякой структуры.
Проблема в том, что все эти глубокие нейронные сети нуждаются в огромном количестве данных. Показываешь машине миллион кошек и миллион собак — и после этого она может отличить собаку от кошки. Но маленькому ребенку достаточно и 12 примеров, чтобы выучить эту разницу. Вот этого системы ИИ пока не умеют. Нам пока не удалось научить их использовать малые наборы данных для успешного обучения.
Более того, ребенок может выучить разницу между собакой и кошкой и использовать это знание, чтобы научиться отличать жирафов от слонов. Перенос опыта решения проблемы на новую задачу — еще один пример того, что искусственный интеллект пока не умеет.
Еще один класс задач, которые пока не под силу машинам, — это проблемы, для решения которых требуется то, что мы называем «здравым смыслом»: наши знания о мире в целом, о том, как он устроен.
Я бы сказал, что многие из свойственных людям типов мышления пока даже не имеют названий — потому что мы еще не определили их должным образом. Наши знания в этой области сильно ограничены.
— Поможет ли прогресс в области искусственного интеллекта лучше понять, как мы сами мыслим?
— Безусловно! Пытаясь воссоздать различные типы мышления, мы поймем, как мы сами их используем. Искусственный интеллект станет своего рода микроскопом, с помощью которого мы сможем подробно рассмотреть человеческий разум. Я думаю, что ИИ станет одним из основных инструментов изучения работы мозга человека, наряду с магнитно-резонансной томографией.
Сейчас мы сталкиваемся с этическими и техническими ограничениями при изучении работы мозга. Например, мы многое узнали, изучая людей с расстройствами мозга и травмами головного мозга. Но такие исследования нельзя провести систематически: мы не можем заставить больного снова и снова производить какие-либо действия множество раз. Мы тем более не можем контролировать характер травмы. С развитием систем ИИ мы наконец-то сможем методично проводить лабораторные исследования в области когнитивной науки. Мы сможем искусственно создавать множество разновидностей разума и тестировать их. В процессе этого изучения мы откроем много еще не описанных типов мышления.
— Мы начали с того, что развитие систем ИИ приведет к возникновению новых рабочих мест и профессий. Что это будут за профессии?
— Профессии обычно представляют собой наборы задач. В течение следующих 40 лет системы искусственного интеллекта изменят содержание большинства профессий, но не уничтожат сами эти профессии. Мы отдадим машинам часть задач, чтобы уделить больше внимания другим аспектам той же профессии. Задачи, в которых важна производительность, мы поручим системам искусственного интеллекта. Если нам приходится повторять одно и то же действие 10 раз в день, мы четко сформулируем задачу и отдадим ее роботам. Таким образом, у нас освободится время, чтобы заняться новыми, менее четко определенными задачами.
Нас будут притягивать задачи, в которых производительность не имеет значения. В таких задачах на первый план выходит исследование нового и игра. Это задачи, которые требуют от нас попробовать что-то и допускают возможность неудачи. Все это совсем не про производительность: мы экспериментируем, учимся новому, дискутируем с друг другом и не то чтобы действительно производим что-либо.
Когда мы начинаем заниматься чем-то совершенно новым, в начале ничего не известно, все ужасно неэффективно, и нужно проводить много экспериментов, чтобы разобраться. Это именно то, что нравится людям. Потом, в процессе работы нам постепенно удается сформулировать задачи, определить стандартные процедуры, и вот тут-то возникает потребность в оптимизации. На этом этапе мы будет отдавать работу машинам — они помогают нам оптимизировать процессы.
В длительной перспективе нашей основной работой будет постоянное изобретение новых вещей. Переходя от изобретения к оптимизации, мы будем поручать работу роботам.
Наши головы будут заняты вещами, в которых оптимизация не только не нужна, но иногда может даже и навредить. У нас будет вечная работа — развивать передовые технологии и изобретать новые машины. Это одна из профессий, которые никогда не исчезнут.
Другая группа профессий, которые никогда не исчезнут, — это занятия, в которых человек является основным интерфейсом. Например, интерфейсом, через который другие люди обращаются за помощью к машинам. Мы — социальные животные, нам нравится быть с другими людьми. Работать с другими людьми будет нашим естественным предпочтением.
Поэтому появятся люди, которые будут профессионально помогать другим общаться с машинами. У нас же есть кинологи, которые понимают поведение собак и помогают нам работать с ними. Они лучше обычного человека умеют коммуницировать с собакой. Точно так же найдутся и люди, которым лучше других будет удаваться найти общий язык с роботами.
— А какими качествами должен будет обладать человек, чтобы найти общий язык с машиной? Будет ли эта профессия принципиально отличной от профессии инженера, который создает искусственный интеллект?
— Да. Создать систему ИИ и интуитивно чувствовать, как она мыслит и как с ней нужно общаться, — это разные вещи. Роботы будут мыслить иначе, чем мы. И найдутся люди, которые в силу личностных особенностей смогут лучше других понимать машины и взаимодействовать с ними. И я допускаю, что такими людьми могут оказаться те, кто сегодня испытывает проблемы с трудоустройством. «Проводники» в общении с машинами не обязательно будут иметь аналитический склад ума и выдающиеся математические способности.
Я хочу подчеркнуть, что в будущем мы создадим множество разновидностей искусственного интеллекта, которые будут сильны в различных типах мышления. И для коммуникации с такими системами потребуются люди совершенно разного склада ума.
Сегодня люди думают, что возможен лишь один-единственный искусственный интеллект, наподобие приложения Uber, и что мы просто будем наращивать его мощность до бесконечности. Что у нас будет некий единый океан интеллекта. Но это миф. Мы создадим сотни, возможно даже тысячи разновидностей ИИ.
Я думаю, что со временем мы откроем некую периодическую таблицу элементарных типов мышления. Вроде периодической таблицы химических элементов. В химии атомы составляют молекулы веществ, свойства которых зависят от набора и конфигурации этих атомов. Точно так же мы будем создавать различные типы искусственного интеллекта, комбинируя элементарные типы мышления. Скорее всего, мы откроем типы мышления, которые полностью отсутствуют в человеческом интеллекте.
— Вы отмечаете, что системы искусственного интеллекта помогут нам с выполнением понятных, четко определенных задач. Возможно ли будет создать искусственный интеллект, обладающий способностью к творчеству?
— Давайте думать о разумных машинах как о домашних животных. Или, скажем, инопланетянах. Некоторые из них покажутся нам глупее и примитивнее других. Некоторые из них не будут способны к творчеству. Но мы создадим и другие системы ИИ, которые будут заниматься творческим мышлением. Большинство людей будут шокированы, если узнают, что процесс творчества — это довольно механическая процедура. Но только креативность у роботов будет совершенно чужеродная, не похожая на человеческую. И в этом-то и будет заключаться ее основная ценность для нас. Способность мыслить иначе.
— В одном из своих выступлений вы приводите формулу успешного стартапа на ближайшие годы: «Возьми X и добавь к этому «иксу» искусственный интеллект». Вы называете этот процесс «когнификацией». Сейчас все говорят о необходимости «когнифицировать» медицинскую диагностику и юриспруденцию. А вам приходят в голову какие-нибудь необычные вещи, которые тоже можно было было бы когнифицировать? Вещи, о которых реже упоминают, когда говорят о применениях искусственного интеллекта?
— Как вам, например, когнифицированное вязание? Одна компания недавно создала машину, которой можно показать сложную геометрическую форму — и она свяжет вам эту форму.
Вообще, искусственный интеллект можно добавить к любой вещи, которая только может прийти в голову. Вот еще пример: генерация новых рецептов. Компания IBM создала систему Watson, которая смогла обыграть человека в телевикторине Jeopardy. И эту систему научили создавать новые рецепты, которые не пришли бы в голову ни одному повару. И блюда, приготовленные по ним, действительно вкусные!
Вот я сижу в своей комнате и смотрю на предметы вокруг. К любому из них можно добавить искусственный интеллект, чтобы сделать эту вещь более эффективной или более интересной. Вот, например, окна. Мы можем научить их реагировать на погоду: затемняться, когда солнце светит слишком ярко, или автоматически проветривать помещение. Можно встроить в них модуль распознавания лиц, чтобы персонифицировать их работу.
Это такая игра: смотришь на вещь и придумываешь, что она сможет делать, если ее когнифицировать.
— В вашей книге «Неизбежно. 12 технологических трендов, которые определяют наше будущее» вы пишете о том, что в мире, где технологии постоянно развиваются, нам всем суждено быть вечными новичками во всем. Потому что технологии устаревают и заменяются новыми быстрее, чем мы успеваем достичь мастерства в их использовании. Какие последствия такое положение вещей будет иметь на образование?
— Постоянно оставаться новичками будет непросто. Ведь мы любим достигать мастерства. И те, кто достигают мастерства в чем-либо, получают за это вознаграждение в виде статуса, возможности принимать важные решения и т.д. Один из путей решения этой проблемы — научиться лучше и быстрее учиться любым новым вещам. Я думаю, что в будущем основной фокус образования будет именно на развитии умения быстро овладевать всё новыми навыками.
Основной целью студента будет выяснить, как лично он может наиболее эффективно овладевать любыми новыми навыками в будущем. Сегодня по окончании вуза выпускники не знают почти ничего о том, как оптимизировать собственное обучение с учетом индивидуальных особенностей. Оказывается, это очень сложно понять. Отчасти потому, что мы не фокусируемся на этой проблеме и вместо этого пытаемся вкладывать наши усилия в получение конкретных, частных навыков.
Нам придется разработать систему, позволяющую студентам идентифицировать наиболее эффективные методы для изучения различных типов навыков. Пространство методов обучения будет иметь множество измерений. Потому что для одного и того же человека разные методы обучения будут оптимальными для разных навыков, а для одного и того же навыка найдутся различные методы изучения, оптимизированные под индивидуальные особенности каждого студента.
— Специалисты по большим данным сейчас находят золото лучше геологов и ставят диагнозы лучше врачей. У многих создается впечатление, что в ближайшем будущем только у людей технического склада ума будут хорошие шансы в карьере. Есть ли какие-то чисто гуманитарные области, которые развиваются сейчас и будут иметь большое значение в ближайшем будущем?
— Для специалистов по обработке данных сейчас действительно открываются огромные возможности — ведь в стольких областях анализ данных до сих пор применялся очень ограниченно. Но это не значит, что всё, что мы делаем, будет сводиться к статистике и программированию. Цифровая эпоха принесла нам и множество гуманитарных задач. Например, дизайн стал невероятно важным аспектом! Дизайном теперь занимается великое множество людей. Эта гуманитарная, а не техническая профессия. Чем больше у нас компьютерных технологий, тем больше нам нужно интерфейсов для них, и нам нужны люди, которые могут создавать дизайн этих интерфейсов. А чтобы создать интерфейс, которым удобно пользоваться, нужно быть хорошим психологом и понимать людей.
— В 1990-х вы много писали о том, как сетевая экономика изменит мир и как децентрализация позволит потребителю связываться с производителем напрямую. Вы даже писали о цифровых деньгах. И вот теперь у нас есть криптовалюты и технология блокчейн. Насколько важной это может стать в ближайшем будущем?
— По своей сути блокчейн — это такой децентрализованный бухучет, при котором бухгалтерские книги хранятся у всех пользователей сразу и защищены криптографией, благодаря чему поменять записи и совершить подлог очень сложно. Такую технологию можно использовать для создания валюты. На мой взгляд, криптовалюты — это наименее интересное направление использования технологии блокчейн. Сегодняшние криптовалюты используются скорее как золото, чем как деньги: люди вкладывают в них деньги, чтобы получить доход, а не используют их для покупки товаров и услуг.
В будущем технологии децентрализованного учета получат множество более интересных применений. Например, рано или поздно мы создадим единую глобальную платформу, в которой все компьютеры и предметы в мире вокруг нас будут соединены в единую систему. Эта система позволит тысячам людей в разных концах земли вместе работать над одним проектом в реальном времени. И нам нужно будет учитывать, кто выполнил какую работу, кто имеет доступ к какой части системы, когда и кто должен получить определенное извещение и т.д. Чтобы всё это сделать, нам потребуется единая система учета. Разумеется, децентрализованная система, распределенная между всеми пользователями, будет желательней, чем централизованная система под контролем одной организации. Вот тут-то нам и понадобится технология наподобие блокчейна.
