В мировой фантастике есть несколько самых расхожих образов, которые активно эксплуатируются: восстание искусственного интеллекта, перемещение во времени, мутация и контакт с внеземным разумом.

Но проблемы с искусственным интеллектом, наверное, выглядят наиболее острыми, так как являются наиболее реалистичными, ведь мы каждый день сталкиваемся с «разумными» машинами.

Но что мы знаем об искусственном интеллекте? На самом деле, очень мало чего.

Сергей МарковИ сейчас мы поговорим об ИИ серьёзно со специалистом в этой области.

Моим собеседником стал Сергей Марков  специалист по методам машинного обучения, основатель портала «ХХ2 Век», автор одной из сильнейших российских компьютерных шахматных программ.

Здравствуйте, Сергей.

Всё, что связано с искусственным интеллектом вызывает живейший интерес со стороны кинематографа и писателей-фантастов. В связи с этим, мне бы хотелось задать, самый популярный вопрос — стоит ли нам  бояться искусственного интеллекта?

Я думаю, что страхи в данном случае серьёзно преувеличены, просто в силу того, что средства массовой информации ради расширения аудитории любят пугать публику. Но, с другой стороны, внедрение любой развитой технологии почти всегда влечёт за собой возникновение определённых рисков и угроз. Появление первых каменных орудий принесло не только повышение производительности труда и утверждение доминирующего положения наших предков в природе, но новые опасности — сколько голов в истории было разбито каменными топорами? Промышленная революция также шла нога в ногу с сопутствующими ей техногенными рисками, история знает немало примеров техногенных катастроф, которые, однако, не замедлили темпов технического прогресса. Напротив, потенциально опасные технологии формировали своеобразный технологический вызов, стимулировали развитие новых технологий, предназначенных для снижения рисков, для защиты от случайного или преднамеренного использования той или иной технологии во вред.

Внедрение систем ИИ, как и любых других сложных и потенциально опасных систем, должно сопровождаться разработкой механизмов обеспечения безопасности, управления рисками. При этом надо понимать, что никаких серьёзных оснований для паники и алармизма в этой сфере по всей видимости нет.

Зачем развитому разуму порабощать людей, уничтожать их культуру? Не более правдоподобным будет сценарий С. Лема, в котором искусственный интеллект просто улетает прочь от людей?

Ну тут, как всегда, с одной стороны люди боятся, что продвинутый искусственный интеллект будет либо слишком человечным, а значит унаследует те или иные потенциально опасные повадки нашего вида: стремление к власти, агрессию и т.д. Либо наоборот окажется настолько чуждым нам, что это приведёт к конфликтам из-за непонимания или за счёт стремления ИИ к неудачно сформулированным и, в силу этого, неправильно понимаемым целям.

Если говорить о первом сценарии, то нужно принимать в расчёт, что по крайней мере в отношении человеческого разума верно наблюдение о том, что более высокий уровень развития интеллекта обычно связан со снижением уровня агрессии. Сверхразум вряд ли будет агрессивным, кроме того, делить с людьми ему будет, в общем-то, нечего. Современное человечество, например, не стремится уничтожить популяцию человекообразных обезьян, более того, предпринимаются целенаправленные меры для сохранения животного мира.

Второй же вид сценария на самом деле содержит в себе внутреннее противоречие. Хорошо известен аргумент с ИИ, которому поставлена задача максимизировать число производимых скрепок (т.н. paperclip maximizer). В итоге этот ИИ переделывает на скрепки весь земной шар. Нереалистичность такого сценария основана на том, что для того, чтобы преуспеть в выполнении такого апокалиптического проекта, ИИ должен быть достаточно умным: ведь ему придётся в процессе выполнения задачи сталкиваться с противодействием людей, других ИИ, управлять производственной базой (оставим за скобками вопрос о том, в результате какого чуда такого рода ИИ может быть передан столь всеобъемлющий контроль над производством), осуществлять сложнейшие логистические операции. Такого рода способности несовместимы со слепым следованием примитивной цели.

Так как же можно понять, что имеем дело с искусственным разумом? Насколько верен Тест Тьюринга?

Я думаю, что вопрос о верности или неверности Теста Тьюринга не совсем правильный. Тест Тьюринга это по сути определение, через предложенную Тьюрингом процедуру мы определяем искусственный разум, создаём такое определение разума, под который может подпадать как человеческий, так и нечеловеческий разум. Определение это, с одной стороны, удобно с практической точки зрения, поскольку в каждом конкретном случае возможна нехитрая экспериментальная проверка. С другой стороны, в нём не содержится попыток определить понятие разума качественно. То есть мы, грубо говоря, заявляем, что если нечто выглядит как кошка, мяукает как кошка и вообще во всех экспериментах проявляет себя как кошка, то это, по всей видимости, кошка. Но такое определение не определяет кошку как таковую, считая это понятие самоочевидным — в конце концов каждый видел кошку и умеет отличить её от собаки или от бегемота. Или от примуса.

В этом смысле позиция Сёрля и других известных критиков подхода, предложенного Тьюрингом, это просто спор об определениях. Тем, кто хочет более глубоко вникнуть в философские аспекты проблемы, хотел бы порекомендовать работу Пола Кокшотта «Boettke Syntax and the Turing Test», в ней достаточно подробно разобраны аргументы критиков Теста Тьюринга (http://www.academia.edu/1119127/Boettke_Syntax_and_the_Turing_Test_).

Вопрос о переносе сознания на носитель или в другое тело остаётся открытым? Я понимаю, что вопрос сложный, но как бы вы объяснили возможный механизм такого переноса обывателям?

Поскольку мозг человека это физический объект, и поскольку именно мозг является физическим носителем человеческого сознания, в теории ничто не препятствует созданию искусственного эквивалента мозга. В принципе, существует две разновидности этой задачи: создание копии чьего-либо сознания на другом носителе и перемещение чьего-либо сознания на другой носитель. Для первой разновидности этой задачи нужны механизмы, которые позволят «отсканировать» сознание, т.е. зарегистрировать те физические характеристики мозга, которые собственно определяют его как систему, обладающую сознанием. Здесь возможны разные подходы, начиная от применения неинвазивных механизмов (магнито- и электроэнцефалография, позитронная эмиссионная томография и т.п. — этим методам пока не хватает разрешающей способности, чтобы регистрировать процессы, происходящие в отдельных клетках мозга) и заканчивая различными инвазивными техниками (внедрение наноустройств в нейроны, модификация нервной ткана генноинженерными способами, разрушающие методы, подобные тем, что были использованы в проекте EyeWire — эти методы пока что также далеки от совершенства). Некоторые учёные предполагают, что эту проблему вообще нельзя решить эффективно, т.к. помешают фундаментальные физические ограничения — существование квантовой неопределённости. Впрочем, их мнение является в настоящее время маргинальным.

Если посмотреть на вторую разновидность задачи (перемещение сознания), то предположения о возможности её реализации основаны на наблюдаемых эффектах нейропластичности. Мы надеемся, что в будущем, мы сможем заменять клетки нервной ткани на их аналоги одну за одной, «в режиме онлайн».

Пока что оба проекта представляются довольно фантастическими, но технологии, которые в будущем могут лечь в основу реального инженерного решения, развиваются уже сегодня. Растёт точность магнитоэнцефалографов, появляются новые решения (например, феррит-гранатовые плёнки, магнитометры свободные от спин-обменного уширения), активно развивается в последние годы оптогенетика. Пока мы не видим принципиальных, фундаментальных препятствий для осуществления в будущем описанных проектов, и я надеюсь застать первые практические решения в этой области.

Насколько это будет тот самый человек или другое живое существо, если его лишить прежних чувств, прежних ощущений. Будет ли это тот же Ваня или Вася, или Маша, или нечто иное?

Вопрос это интересный и не очень простой. Думаю, что в полной мере ответить на него мы сможем только на основе эксперимента. Если в тесте, подобном Тесту Тьюринга, мы не сможем отличить копию от оригинала, то, по всей видимости, нужно будет признать эквивалентность копий. Такого рода вопросы всегда вызывают к жизни обсуждение проблем, подобных апориям Зенона, проблемы континуальности сознания, соотношения материального и идеального — здесь уже было сломано множество копий, и будет сломано ещё больше. В принципе, некоторую пищу для рассуждений об этих тонких материях наука может предоставить уже сейчас. Например, мы знаем, что нематоды C. Еlegans, подвергнутые витрификации (грубо говоря, заморозке), а затем возвращённые к жизни, сохраняют долговременную память (https://www.ncbi.nlm.nih.gov/pubmed/25867710). Из работ Оливера Сакса и других неврологов и нейропсихологов, мы знаем о том, как проявляет себя сознание человека, мозг которого пострадал от различных повреждений. Но, конечно, пока что в этой области есть куда больше вопросов, чем ответов.

Почему люди бояться искусственного разума? Чем подпитана бесконечная эксплуатация в кинематографе образов восставшего супер компьютера?

В принципе, я уже частично высказал своё мнение по этому поводу, отвечая на первый вопрос. Напугав человека, вы можете привлечь его внимание. Современные СМИ, борются именно за этот ресурс, ведь от их успеха в этом противоборстве зависит поток средств от рекламодателей. С другой стороны, со стороны потребителей медиаконтента существует запрос на страшилки — люди хотят острых ощущений, и такого рода спрос рождает соответствующее предложение. Существуют также конспирологические теории, в соответствие с которыми властные элиты хотят поддерживать негативное отношение масс к учёным, чтобы держать последних под контролем, чтобы дать понять последним, что без стальных кулаков государственной полицейской машины невежественные люди быстро расправятся со всеми умниками, задумавшими изобретать различные богомерзкие механизмы. Есть ли в таких теориях некоторая доля правды? Вполне возможно, хотя я бы не стал переоценивать степень сознательности подобной политики.

Какие основные заблуждения фантастов в области ИИ вы бы выделили? Что упускают фантасты, гоняясь за популярными образами кошмара восстания машин?

Вообще, фантасты-мыслители, это обычно довольно умные люди. Среди лучших из них вы вряд ли найдёте хотя бы одного, кто занимался примитивными пугалками. Роботы Азимова в цикле «Роботы и империя» вступают с людьми в сложные и многогранные отношения, заканчивающиеся возникновением синтетической цивилизации. Системы ИИ у Руди Рюкера, изгнанные на Луну и подвергшиеся агрессии со стороны напуганных невежественных людей, также в конечном счёте приходят к появлению синтетических форм. Конечно, можно найти и контрпримеры. Пьеса «R.U.R.» Карела Чапека, созданная в 1920 году, описывает восстание роботов (не без определённой симпатии к роботам), но, если приглядеться внимательно к этому произведению родоначальника жанра, можно заметить, что в действительности в противостоянии людей и машин здесь нашли воплощение внутренние противоречия современного Чапеку человеческого общества. HAL 9000 Артура Кларка, созданный под впечатлением первых успехов ИИ в 1960-е, скорее история неудачи конкретного технологического решения, предостережение тем, что собирается доверять достаточно сложным автономным системам принятие жизненно важных решений. Интересен в этом смысле контраст между HAL’ом и электронным мозгом звездолёта «Тантра» у Ивана Ефремова. Советский фантаст тоже рисует картину неудачи, но создана эта картина таким образом, что несмотря на неудачу, читателя ни на мгновение не покидает оптимизм и надежда, связанная с будущими достижениями человеческого разума.

Если же говорить о бульварном чтиве, то подобные произведения обычно характеризуются либо отсутствием попытки объяснить те или иные действия ИИ, либо крайне примитивным объяснением, демонстрирующим полное непонимание принципов работы и тенденций развития этой технологии.  ИИ в таких произведениях то демонстрирует беспричинную агрессию, то неверно интерпретирует указания людей, при этом столь несовершенным и опасным системам по какой-то причине доверено управление военной машиной, производством и т.п. Возникает резонный вопрос: какие идиоты создавали эти системы, какие идиоты доверяли этим системам управление? Ведь даже школьнику понятна чудовищная глупость таких решений. В сущности, эти сюжеты мало отличаются от трэш-кино, в котором красную ядерную кнопку доверили умственно отсталому алкоголику. Может подобный персонаж нажать кнопку? Может. Может ли в жизни воплотиться подобный сценарий? Вряд ли.

Шахматы считаются одной из самых сложный игр, однако для ИИ долгое время именно игра Го была крепким орешком. Что мешало ИИ освоить эту игру?

Есть широко распространённый неправильный ответ на этот вопрос: всё дело в том, что в Го больше вариантов. Количество различных позиций в Го около 10170, тогда как в шахматах «всего» 1047. Если же подсчитывать число возможных партий, то разница становится ещё более внушительной (10360 против 10123). Но, с другой стороны, даже 10123 это куда больше, чем число атомов в видимой части Вселенной (1079—1081). А самое главное, сложность игры остаётся одинаковой для любого игрока. Что человек, что машина имеют дело с одной и той же доской, с одними и теми же правилами.

На самом деле принципиальная разница между шахматами и Го с точки зрения ИИ в том, что для шахмат не так сложно придумать нехитрую функцию, которая на основе простых правил будет довольно неплохо оценивать позицию. Можно оценить «стоимость» фигур на доске, присвоить отдельные оценки разным элементам позиции — наличию проходных, сдвоенных, изолированных, «слабых» пешек, мобильности фигур, пешечному прикрытию короля и т.д.

Принципы оценки шахматной позиции были давно выработаны экспертами-людьми, и от программистов требовалось лишь запрограммировать необходимые правила и уточнить стоимость конкретных элементов позиции и их сочетаний. Конечно, такая функция часто ошибается, но дополненная более-менее интеллектуальным перебором вариантов, она позволяет на равных сражаться с сильнейшими «белковыми» игроками и превосходить их. Конечно, здесь остаётся ещё множество алгоритмических хитростей, нюансов, трюков и способов подбора «стоимости» различных параметров системы, прогресс именно в этой области позволил только за последние 10 лет усилиться программам более чем на 500 пунктов Эло (при использовании одинакового оборудования). Словом, прогресс не прекращается и здесь, просто человеческий уровень игры остался далеко позади.

Если же посмотреть на Го, то оценка позиции в этой игре не может быть произведена на основе оценки небольшого множества легко формализуемых компонентов. Именно поэтому настоящий прогресс в этой сфере произошёл только тогда, когда появились новые модели для распознавания образов (конкретно — свёрточные нейронные сети). Оценка позиции в Го связана с анализом сложных позиционных паттернов, и в этом смысле эта задача похожа именно на распознавание изображений. Комбинация многослойных нейронных сетей с таким алгоритмом как MCTS (Монте-Карло-перебор), обусловило успех такого проекта как AlphaGo.

Что ждёт нас в будущем? Какими будут компьютеры?

Есть несколько перспективных направлений развития вычислительной техники: квантовые компьютеры, нейроморфические процессоры (системы, представляющие собой аппаратную базу для искусственных нейронных сетей). Возможно, что в какой-то момент лидерство может перейти к «мокрым» технологиям — вычислительным устройствам, созданным на основе тканевой инженерии — кто знает, быть может в будущем компьютеры будут не собирать, а выращивать. Показателен путь, проделанный устройствами, предназначенными для майнинга криптовалют — от обычных центральных процессоров к специализированным матричным процессорам видеокарт, затем в сторону ПЛИС (главным образом, FPGA — программно конфигурируемых вентильных матриц) и, наконец, ASIC — специализированных под конкретную задачу процессоров. Нейросетевая технология сегодня находится между вторым и третьим этапами — многослойные нейронные сети вовсю обучают на массивах видеокарт и появляются первые реализации нейронных сетей на FPGA. Впрочем, наиболее пионерские проекты уже подошли к созданию специфических процессоров, например, IBM’овский нейроморфический процессор TrueNorth. Параллельно происходит развитие квантовых устройств. В общем, я бы сделал ставку на квантовые нейроморфические процессоры в конце 2020-х, а вот что будет дальше сказать очень сложно.

В фантастике часто показывают роботов, которые могут чувствовать. Почему мы стремимся очеловечить компьютеров и машин? Каким на самом деле может выглядеть искусственный интеллект? Так ли необходимо для него быть похожим на человеческий разум?

Очеловечивание — один из важных инструментов нашей психики. Ребёнок очеловечивает игрушки, наши предки очеловечивали природные явления и объекты неживой природы. Сегодня люди флиртуют с виртуальными помощниками и ругаются на медленно работающий компьютер или докучливый телефонный антоинформатор.

Если же говорить о феномене самосознания, и о том, обретут ли машины сознание, то вопрос это довольно интересный. Одна из наиболее популярных гипотез возникновения человеческого сознания говорит о том, что сознание — это продукт эусоциальности. Для того, чтобы приспособиться к существованию в социуме, необходимо прогнозировать поведение других его членов. Для этого в мозге человека возникли функциональные области, получившие название «зеркальных нейронов». Затем неизбежно эти структуры оказались замкнуты на самого индивида, то есть возникло представление о себе как о другом, самоотражение. Наше сознание в этом смысле похоже на бесконечный коридор зеркал, образуемый двумя зеркалами, поставленными друг напротив друга — явление завораживающее и удивительное. Если взглянуть на эту концепцию в свете проблем ИИ, получается, что универсальный ИИ, эффективно взаимодействующий с другими интеллектами, искусственными ли, естественными ли, рано или поздно должен обзавестись аналогом человеческого сознания.

Мы упустили самый важный вопрос — что же такое разум?

Думаю, этому термину можно дать огромное количество весьма остроумных понятий. Я думаю, что наиболее важной качественной характеристикой в данном случае является способность системы демонстрировать многообразие поведенческих реакций для приспособления к существованию в достаточно сложной среде. Но я думаю, что найдётся немало желающих поспорить с таким определением, тем более, что в нём заложена некоторая количественная оценка, дать которую будет, как всегда, непросто.

Что такое робот? Впервые К. Чапек изобразил роботов, как искусственно созданных людей, вроде роботов из фильма «Бегущий по лезвию», затем они «превратились» в металлических големов, а сегодня мы снова видим тех самых «других людей».  

Выходит, мы хотим видеть «другое человечество» больше, чем стальных големов?

Ну тут, безусловно, сам прогресс технологии влияет на те образы, которые возникают в искусстве и в других формах человеческой фантазии. В XIX веке большинство «контактёров» с НЛО сообщали, что пришельцы летают на дирижаблях, и прилетели на Землю с Луны. В научно-фантастических фильмах меняется дизайн космических кораблей, устройство приборных панелей, даже фасоны одежды людей будущего. Поэтому, я думаю, что на дизайн роботов в научно-фантастических произведениях больше влияют не какие-то наши глубинные желания, а прогресс в области технологии и дизайна, а также веяния моды.

В японском театре играют андроиды. Что нужно, чтобы искусственный интеллект смог лицедействовать или шутить?

Думаю, для этого нужно научить его лицедействовать или шутить. А для этого, в свою очередь, можно использовать накопленные массивы человеческих шуток, а также обучение с подкреплением, когда зрители и читатели будут иметь возможность давать обратную связь о качестве подобных шуток и лицедейства. И, естественно, нужна хорошая, достаточно сложная вычислительная модель, например, достаточно большая и быстрая многослойная рекуррентная нейронная сеть.

Как обстоят дела в современной России с развитием кибернетики и компьютерных технологий?

И хорошо, и плохо. С одной стороны, у нас традиционно сильная физико-математическая школа, многие российские специалисты входят в число международных исследовательских групп, ведут собственные весьма передовые исследования в этой области. Многие современные модели машинного обучения (например, метод опорных векторов) были созданы учёными из СССР и РФ. С другой стороны, расходы на науку и образование в современной России оставляют желать лучшего. Когда заработная плата вузовского преподавателя, преподающего студентам дисциплины из области компьютерных наук, существенно ниже зарплаты программиста-практика, что можно говорить о перспективах компьютерных технологий в нашей стране? Кроме того, мы сильно отстали в развитии производственной базы, а это значит, что мы полностью зависим от импортного оборудования. Если заглянуть в суперкомпьютерный TOP-500, становится немного грустно.

Расскажите о развитии интерфейсов и что нам ожидать от этой области в ближайшем будущем?

В этой области традиционно ведётся довольно много экспериментов. Наиболее интересные направления, на мой взгляд: передача трёхмерных изображений (здесь испытывается множество альтернативных решений), устройства дополненной реальности, кинетические и другие пространственные интерфейсы, неинвазивные интерфейсы машина-мозг (на основе ЭЭГ, МЭГ и транскраниальной магнитной стимуляции), инвазивные интерфейсы (оптогенетика, электрические имплантаты).

Что нужно знать простому человеку об ИИ?

Чем больше люди будут знать об ИИ, тем лучше. Поэтому в идеале, конечно, знать всё. Но на всё, к сожалению, никогда не хватит времени, поэтому я бы посоветовал просто почитать о современных проектах в этой области, причём по возможности получать информацию из надёжных источников, какими являются научные и научно-просветительские проекты и издания, а в идеале из первых рук — от исследователей-практиков, если те находят время рассказать о своей работе.

Вы бы хотели, чтобы ваш разум, после вашей смерти перенесли в другой носитель или в компьютер?

Конечно, хотя и понимаю, что для этого сознания это будет, наверняка, весьма травмирующим опытом. Впрочем, я надеюсь, что технология поможет обмануть смерть уже в ближайшие десятилетия.