— Отдельная тема — заблуждения и страхи. В советские времена ходила такая полубайка о том, как Брежневу показали танк с элементами искусственного интеллекта, который на полигоне отлично воевал: прятался в складках местности, выявлял угрозы, наносил удары, не давал себя уничтожить. Брежнев спросил, где экипаж. Ему ответили, что экипажа нет, это умная машина, она сама все видит, обдумывает и воюет. Брежнев подумал и сказал: «Нет, такой танк нам не нужен». Ученые удивились, почему, ведь ни у кого в мире ничего подобного нет! А он ответил: «Ни вы, ни я, вообще никто не знает, как мыслит эта машина и куда заведут ее мозг эти размышления. Сейчас она воюет за нас, а потом в ходе боя возьмет и передумает, повернется и начнет воевать против нас». И проект свернули. Не берусь оценивать, правда это или нет, но, взяв этот пример за отправную точку, расскажите о заблуждениях и страхах связанных с ИИ.

— На мой взгляд, это лишний страх, который из голливудчины всякой идет, потому, что разработчики искусственного интеллекта, конечно, понимают, что находится там, в условной голове. На самом же деле там нет никакой «головы» у машины, но есть довольно детерминированные алгоритмы — единственно, что с триумфальным шествием нейронных сетей, сейчас и разработчики не очень могут понять, как именно внутри нейронной сети в реальной ситуации происходит выбор того или иного варианта, потому что нейронная сеть является «черным ящиком». Большинство алгоритмов ИИ представляют собой «чёрный ящик» по очень простой причине — там производится миллиарды операций, а проследить их логику пошагово разработчику попросту невозможно за разумное время. Существуют, конечно, какие-то методы для того, чтобы попытаться понять, как развивалось рассуждение нейронной сети, сделать ящик хоть немного серым, хоть чуть-чуть прозрачным, но в целом с этими алгоритмами сейчас обращаются действительно как с «черным ящиком». Подают задачу на вход, смотрят, что получилось на выходе, и подстраивают входные вводные либо сам алгоритм, подкручивают в нем ручки до тех пор, пока не получат нужного результата на выходе.

Никакого мышления там внутри, конечно, нет. Это просто некие сложные алгоритмы, у которых непредсказуемый результат может получаться просто в силу их высокой сложности. Но вы, когда в свою машину садитесь, порой тоже не знаете, почему она не заводится, просто потому, что сейчас техника — это в принципе очень сложная штука. Вообще, есть тенденция усложнения любого вида человеческой деятельности, эта сложность возрастает максимально в любой сфере.

Точно так же, например, разработчики поисковика «Яндекс» подчас не знают, почему он выдал именно такой результат поиска, а не какой-то другой. Происходит это потому, что при ранжировании результатов учитываются многие сотни первичных факторов и миллионы вторичных. Разработчики современного поисковика могут предполагать, каким будет результат, могут на это влиять, но объяснить, почему именно по вашему запросу выдались именно эти 10 верхних результатов поиска, или предсказать, что будет выдано, они, конечно, не могут. Это вполне нормальное явление для искусственного интеллекта. Никакого сознания там не зарождается, а уж тем более воли. Там могут быть непонятные эффекты и сбои, как и с любыми сложными техническими устройствами.

Ну и перехват управления беспилотным танком или истребителем боевыми хакерами со стороны противника тоже возможен. Это гораздо большая опасность, чем бунт машины.

— Вызывает вопросы и человекоподобная интеллектуальная  робототехника. Китайцы утверждают, что в ближайшие годы появятся технологии, позволяющие сделать на заказ робота — это будет полный аналог человека, в том числе с элементами ИИ, который станет идеальной женой, мужем, ребенком, домашним питомцем — собакой, кошкой — и так далее. Это действительно так?

— Я, честно говоря,  вообще не знаю выдающихся достижений китайцев в области искусственного интеллекта. Может, я отстал от жизни Поднебесной. Знаю, что китайцы вкладывают огромные деньги в ИИ, раз в 100–200 больше, чем у нас, и раза в 1,5 больше, чем США. Пишут много статей, подают огромное количество патентов. Рыскают по России, скупают коллективы разработчиков ИИ. Но вы слышали о каких-то китайских прорывах в ИИ? Я — нет. Может быть, эта их деятельность даст результаты, посмотрим. Ну да, камера телефона Huawei распознает лица, закат и траву. Но это, судя по всему, работают нейронные библиотеки Google, которые поисковая система выложила в open source.

Я знаю наши официальные структуры, которые в рамках технического сотрудничества поставляют российские космические технологии в Китай, сотрудники их говорят, что 80–90 процентов китайских достижений в освоении космоса — это просто адаптированные и развитые космические технологии СССР и России. Поэтому, я думаю, эти залихватские утверждения пока ни на чем не основаны. Просто обычное китайское стремление все изукрасить, сделать золотым и блестящим. Там же есть свои «ИИ-евангелисты», им ведь надо выбивать государственное финансирование ИИ, госпрограммы, гранты.

Человекоподобные роботы — пока маркетинговая лажа, потому что, как я уже сказал, даже просто поддержание текстового разговора с чат-ботом или виртуальным собеседником — еще не вполне решенная задача. Вы видите «говорящие колонки» — «Алису» или «Марусю» от Mail.ru — они работают в «железе», но, если вы с ними поговорите, вы увидите, что разговор поддерживать они не умеют. Команды наподобие обращения к поисковику или открытия карты они выполнить могут, голос распознается, но обработать смысл — конечно, нет.

Какая там еще человекоподобная робот-жена, что вы...

— Но известный американский фильм «Искусственный разум» 2001 года, вы, наверное, видели: невозможно распознать, кто перед тобой — человек или умная человекообразная машина. С тех пор на эту тему снято много фильмов, она волнует людей. Так что, возможно такое?

— Это обычная голливудская киношная ерунда. Я не думаю, что это вообще когда-нибудь будет сделано. Много серьезных кибернетиков, психологов и философов задумывались над тем, что такое разум и можно ли его воспроизвести внутри машины.

На самом деле мы даже не знаем определения и критериев наличия разума внутри человека. У нас вообще-то нет никаких средств, определить, обладает ли тот или иной человек разумом или нет. Мы это только предполагаем по сходству с нами, по поведению, по каким-то иным признакам, типа «сам я мыслю — значит, и другие мыслят». Никаких способов это проверить нет. Общепринятого, разумного, консистентного определения разума и интеллекта тоже не существует, хотя про это написаны многочисленные книги и статьи.

Причины вполне понятны: очень сложно исследовать инструмент при помощи этого же самого инструмента. Возникает такая дурная рекурсия, которая создает зашумление, напускает туман, поэтому очень сложно исследовать разум при помощи того же разума. Что такое разум, до сих пор неизвестно. Великий математик Тьюринг неспроста в свое время ввел свой критерий (или тест Тьюринга), который говорит, когда нужно признать, что создан сильный искусственный интеллект. А именно: если, общаясь по сети с ИИ-персонажем, определенное количество экспертов не могут достоверно установить, человек это или робот, ИИ признается сильным. То есть, если есть хорошая, идеальная имитация, будем считать, что там внутри есть интеллект, как бы это ни было сделано. Ведь определить, есть ли там внутри сознание «на самом деле» невозможно, нет определения. Нет критериев осознавания себя каким-то устройством.

Есть много работ, в частности Пенроуза, о том, что возникновение «настоящего» сознания в машине невозможно. Пенроуз пишет, что сознание человека, возможно, имеет квантовую природу и поэтому алгоритмические методы не могут к нему даже приблизиться.

Если смотреть с метафизической точки зрения, то возникновение где-то сознания не может быть случайностью или автоматическим процессом. Есть, конечно, среди разработчиков ИИ всякие мракобесные теории о том, что мы сейчас изучим с помощью МРТ и электродов, как работает человеческий мозг, повторим это на машинном уровне — и в машине возникнет сознание. Как-то само собой в машине возникнут чувства, разум, воля и душа... Но мы-то знаем обратные примеры: когда количество чувств и ума внутри человека уменьшается, освободившееся место занимают чуждые ментальные существа.

Поэтому скорее можно предположить, что если кто-то создаст хорошо приспособленную для существования в ней разума машину, очень похожую на мозг человека, годную для управления, то туда немедленно заселятся демоны, которые только этого и ждут. Да и с чего бы вдруг Бог сочтет себя обязанным зажечь в этой машине «искру Божью», вселить в нее разум и волю или, проще говоря, душу? Что, у этих атеистов, которые делают искусственный интеллект, с Ним есть такая договоренность? Думаю, что нет.

 — На днях британская газета The Telegraph опубликовала статью под названием «Зачем Илон Маск хочет вставить вам в мозг микрочип», в которой прошлась по пресловутой чипизации и превращению в будущем людей в киборгов. Маск 28 августа представил прототип своего интерфейса «мозг – компьютер», который однажды можно будет внедрить в голову, сделав из людей киборгов, пишет автор статьи. То есть эти технологии уже реальность?

— Ну в реальности Маск демонстрировал дрель, которая просверлила череп свиньи. И всё. Это же Маск.

А вообще, людей, которые бы хотели, чтобы их кто-то извне контролировал, чтобы им что-нибудь вживили, или тех, кто просто злоупотребляющих психоактивными веществами, много. Есть люди, которые идут в секты, в политические движения, потому что хотят внешнего управления. Их тоже много и будет еще больше, если им будут обещать какие-то сверхспособности или еще что-то. Есть просто сумасшедшие или те, кому хочется своих 15 минут славы, и за это они готовы вживить себе все что угодно.

Чипирование людей для внешнего управления — конечно, мракобесие, это должно быть запрещено. Басни, которые Маск рассказывает, разумеется, абсолютно человеконенавистнические и бредовые, даже если у него ничего не получится. Например, о том, чтобы вставить больному чип, чтобы с его помощью лечить депрессию. Это значит, что, вместо того, чтобы давать человеку «Прозак», на котором пол-Америки сидит, просто подкрутить ручечку потенциометра до тех пор, пока уголки губ у пациента не поднимутся кверху? Удобно же? И дешевле!

Этого ничего на самом деле нет, потому что, как управлять человеком даже через электроды, подведенные напрямую к мозгу, никто не знает. Человек — очень сложное и до конца не изученное существо. Например, бывают случаи, когда человеку на войне снесло полчерепа вместе с большей частью мозга, и в этом случае оставшаяся часть мозга берет на себя практически все функции утраченной части и вполне успешно функционирует, хотя по теории разделения функций по зонам мозга этого быть не должно. Мозг человека устроен очень странно и сложно, он тесно связан с телом, и всех этих тонкостей мы не знаем.

А про конкретную басню про чипизацию стоило бы спросить авторов теорий заговора — зачем она нужна? Начнем с того, что чипизация сопряжена с техническими трудностями, а именно: как питать этот чип внутри организма — непонятно, как избежать перегрева (фактически сваривания) тканей организма из-за его мощных сигналов — непонятно. При этом что он сможет делать, чтобы не убить своего носителя? Скорее всего, простейшую идентификацию на расстоянии нескольких метров — примерно в рамках возможностей товарных радиометок RFID.

У каждого, кто боится этой фантастической чипизации, уже сейчас есть смартфон. Он работает на расстоянии нескольких километров, человек сам его питает электричеством и деньгами, очень нервничает, если смартфон разрядился, боится его где-то забыть. Этот смартфон знает про нас все, уже сейчас он нас подчиняет, следит за нами, жрет наше время, заставляет заниматься ерундой, зомбирует и управляет. Какие чипы еще нужны? Чего бояться, когда вы сами и уже сейчас носите в своем кармане средство управления вами? Все уже сделано.

— Много говорится о двух путях поиска бессмертия. Один из них — это заморозка тела в криокамерах до лучших времен, пока изобретут способ это тело оживить, а второй — это уход личностной сущности в виртуальную реальность, как было показано в культовом фильме начала 90-х «Газонокосильщик». Такой уход возможен в принципе?

— Для начала давайте зададимся вопросом: а что, человеку правда нужно бессмертие? С моей точки зрения, все люди живут какое-то время, а потом попадают на Суд. Бессмертие — это попытка застрять здесь, не попасть на Суд, чтобы с тебя не спросили. Попытка уйти от суда. Застрять во времени. Это не очень хорошая идея. Это значит, что сознательно или бессознательно такой индивидуум, желающий себе бессмертия, хочет бесконечно долго хулиганить и гадить. Для чего еще нужно бессмертие? Для чего еще нужна бесконечная жизнь? Совершенно непонятно. Для бесконечного потребления? Если это бессмертие еще и доступно не всем, то это адский расизм и тоталитаризм, разделение людей на бессмертных и быдло, которое должно обеспечивать счастливую вечную жизнь первых и вымирать, которое не жалко.

Еще один интересный момент, связанный с уходом личности в виртуальную реальность. Великие фантасты 1950–1970-х когда-то уже описали телепортацию, то есть моментальные перемещения человека во времени и пространстве. Здесь зашел в портальчик, а на другой планете вышел из такого же портальчика. Понятно, что его не физически туда перенесли, а пересобрали на месте из новых атомов. По сути, получится, что этот зашедший здесь умер, а там родился другой. Куда делся умерший? Из чего следует, что если он сложен из тех же самых атомов, то это тот же самый человек? По сути, не из чего. А как установить, что это тот же самый человек? Что у него воспоминания те же самые? Но, наверное, тогда эта машина могла бы сделать, воспроизвести пять таких людей на разных планетах. Они что, все одинаковые будут? А где тогда он сам? Тут возникают такие логические дыры, что это, скорее всего, невозможно. Или это разрешение убивать людей, а потом «оживлять» мертвых. То есть фактическое производство зомби, неотличимых от людей.

С переносом человека в компьютер такая же история. Что значит, «он будет там жить»? Кто «он»? С чего взяли, что личность туда будет перенесена, даже если «набор битов» как бы совпадает? Это бредовая идея, и берется она из нелепого допущения о том, что мозг — это тоже компьютер. А это глупость такая же, как представление XVIII–XIX веков, что мозг — это гидравлическая машина с краниками и трубочками, перекачивающими черную и желтую желчь, флегму и тому подобное.

Мозг — это не компьютер. Там ничего общего с компьютером нет. Нет постоянной и оперативной памяти, нет процессора, мозг не «обрабатывает информацию». Компьютер не похож на мозг, и наоборот — как нет ничего общего у автомобиля с лошадью. Мы не знаем, что такое человеческая личность и где она сидит. Физически ее нет, когда препарируют трупы, но она в людях есть. Она что, исчезает, как свет в холодильнике, если дверь закрыть? А потому что, собственно, «переносить»?

На мой взгляд, это все фантазии, басни для людей, которые об этом глубоко не задумываются. Ну и, естественно, исключительно для атеистов.

— Очень много пишут о том, что умные гаджеты повсеместно и круглые сутки шпионят за гражданами, а IT-компании, собирающие и имеющие в своем распоряжении массу всевозможной информации о людях, становятся все более влиятельными, что в будущем может быть опасно и для госструктур, и для всех нас. Это так?

— Это не пустые страхи, а наша сегодняшняя реальность. Соответствующие данные уже собираются, причем с опережением законодательства. Законодательство еще не успело охватить и описать эти проблемы, а данные уже собираются. Есть уже гигантский рынок этих данных. Они воруются и перепродаются через пятые руки. В основном они используются для втюхивания, чтобы создать максимально неотразимую рекламу, чтобы вы обязательно купили, при этом даже сами не поняли почему.

Данные собирают все, кто может до них дотянуться. Любое приложение на смартфоне имеет доступ к огромному массиву данных. К примеру, любое приложение на вашем смартфоне имеет доступ к вашему bluetooth-окружению. Таким образом, можно узнать, какой у вас автомобиль, другие устройства. Все смартфоны знают, где вы находитесь, даже если вы отключили GPS или ГЛОНАСС. Почему? Потому что им видно ваше Wi-Fi-окружение, какие вокруг вас Wi-Fi-сети. Дело в том, что таких названий домашних сетей, которые напридумывали ваши соседи по дому, больше нигде нет. Это уникальный отпечаток вашего окружения.

Таких способов собирать эти сигнатуры и отпечатки очень много. Поэтому крупнейшие компании, которые этим занимаются во всем мире, — это «Фейсбук» и Google, у нас еще «ВКонтакте», «Яндекс» и Mail.ru, мобильные операторы, Сбербанк. Они знают о нас очень много. Почему? Потому что у них есть очень широкая линейка сервисов, и в каждом сервисе собираются свои данные, которые потом объединяются. Поисковик знает, чем вы интересуетесь, навигатор — где вы ездите, банковское приложение — что вы покупаете, и так далее. Все это позволяет делать так называемый кросс-канальный анализ. Компании точно знают, что вот это ваш смартфон, а это ваш ноутбук и они связаны. Более того, знают, какой смартфон у вашей жены, потому что он находится рядом с вами по ночам, и так далее. Ваша жена что-то поискала, а рекламу покажут вам, чтобы убедить еще и вас, что вам нужен этот унитаз, посудомойка, или еще что-то.

То есть эта слежка уже сейчас тотальная. Не вся она коммерческая. Большинство этих компаний-гигантов, которые это всё собирают, американские. Они работают в американской юрисдикции, там есть так называемый «Акт о свободе», который требует, чтобы все эти данные предоставлялись государству, они их ему и сдают. Поэтому у американской разведки и контрразведки все есть. Как они все данные используют — это другой вопрос. Не торгуют, но делают нечто другое (у нас этих данных нет, нам «Фейсбук» и Google эти данные не отдают).

То есть это будущее уже наступило, оно уже здесь, и пока нет никаких законов, которые бы защищали нашу цифровую идентичность, нашу цифровую приватность, кроме слабого и почти не применяемого закона о персональных данных (номер 152-ФЗ).

— Между тем в России все чаще появляются сообщения об утечке в свободный доступ (или чьем-то «сливе») персональных данных клиентов самых разных организаций и граждан, а также росте киберпреступности и усложнении мошеннических схем в цифровом пространстве. Как защититься от мошенников, похищающих через цифровые устройства и технологии все — от личных данных граждан до денег?

— С моей точки зрения, вся эта слежка, о которой мы говорили выше, гораздо более опасна в государственных руках и в руках крупных компаний-платформ, нежели в руках криминала. Криминал, конечно, тоже старается всем этим воспользоваться, но гораздо опаснее те, кто эти данные получает либо по долгу службы, либо потому, что мы сами эти данные на этих платформах оставляем и не глядя ставим галочку при регистрации, позволяя делать с собой все что угодно.

Конечно, происходят утечки данных. Они всегда будут. Утечки станут нарастать, потому что увеличивается объем собираемых и хранимых данных, а компетенции защитников данных растут медленнее. Криминал, безусловно, будет всем этим пользоваться и уже пользуется. Например, многие из частых звонков от имени банков делают заключенные прямо из колоний. Об этих вещах надо знать всем, нужна некая базовая цифровая гигиена. Гражданам нужно все это доводить и объяснять, что не следует отвечать на незнакомые номера, не щелкать на ссылки в СМС, пришедших с незнакомых номеров, и так далее.

Я сейчас дописываю книгу под названием «Цифровая гигиена», где мы с коллективом авторов пытаемся научить родителей и воспитателей базовым принципам цифровой гигиены — с тем, чтобы они передавали рекомендации детям и подросткам. В новый курс по ОБЖ для средних школ также вставлен кусок про цифровую гигиену, который писали наши специалисты. Но, к сожалению, среди наших граждан, которых втягивает в цифровое «торнадо», большинство тех, кто к личной борьбе с криминалом не готовы и никогда не будут готовы, несмотря на весь цифровой ликбез. В частности, по очень простой причине — средний человек склонен доверять людям, а мошенник этим всегда пользуется. Поэтому считать, что спасение утопающих — дело рук самих утопающих, мол, учитесь, сами за собой следите и так далее, неправильно. Среда должна быть базово не токсичной, как водопровод в квартире. Людей должно защитить государство. Вылавливать этих всех мошенников, создавать защищенные коммуникации и прочее должно государство. Это изначально неравная борьба, поэтому сверху должен прийти регулятор, который защитит граждан. И в части ограничения слежки со стороны платформ — тоже.

Мы не можем остановить развитие и совершенствование искусственного интеллекта, потому что ИИ — это в первую очередь война, боевые технологии, хотя об этом мало говорят публично. Если через 10–15 лет у нас не будет супероружия — автономного, сверхбыстрого, — то от нас ничего не останется. Американцы и иже с ними нанесут первый удар. Это самое хищное государство на планете. Они разрешили себе первый ядерный удар в военной доктрине, у них нет никаких препятствий для нападения на другие страны — они уже напали примерно на 100 стран после 1945 года. В отличие от нас, у них военная стратегия не оборонная, а всегда нападающая.

И мы являемся главной мишенью, а потом уже Китай. Мы в их военной стратегии и в киберстратегии названы противником номер один, мы им очень сильно мешаем на планете. Но до сих пор их от прямого нападения на Россию удерживало исключительно наше ядерное оружие, а с развитием ИИ место ядерных сил постепенно займет сверхточное сверхбыстрое автономное ИИ-оружие. По крайней мере, на него сейчас делается основная ставка в военной сфере.

А с ИИ ситуация такая, что если ты все время не разрабатываешь эти технологии, то отстанешь. Мы сейчас во многих военных областях впереди (РЭБ, гиперзвук), и американцы очень нервничают по этому поводу. Но в искусственном интеллекте нам тоже нужно не опоздать. Сейчас американцы и китайцы борются между собой, думая, что кто-то из них будет лидером. Они вкладывают гигантские деньги, в сто раз большие, чем у нас. Нам вкладываться тоже все равно придется. Нам нужно дать асимметричный ответ все равно, с этим ничего не сделаешь, потому что, как только они поймут, что уже могут нас уничтожить и им за это ничего не будет, они кнопку нажмут. У них вообще никаких барьеров нет, они постоянно поступают так с другими, более слабыми странами.

Поэтому нам надо выпускать больше инженеров и математиков, больше вкладывать денег в ИИ, создавать технологические площадки, такие как Иннополис, «Сколково», «Эра» и им подобные, остановить утечку мозгов, дать разработчикам ИИ большие проекты и большие перспективы.

— Кстати, с учетом повсеместной цифровизации и внедрения ИИ какие профессии будут наиболее востребованы в ближайшей и среднесрочной перспективе? Нужно ли учить программированию, бизнесу?

— Математики, программисты, инженеры по данным, специалисты по цифровым технологиям, прикладные лингвисты — на мой взгляд, это очень перспективные профессии. Что касается остальных, за всех, конечно, говорить не могу, но, мне кажется, юристы, экономисты и маркетинговые специалисты будут менее востребованными по сравнению с теми ожиданиями, которые у них были 15–20 лет назад, когда все бросились в юристы и экономисты. Тут уже есть перепроизводство.

На мой взгляд, такая модная «профессия», как бизнесмен (которой берутся учить многие), тоже не будет востребована, потому что бизнесменом может быть один из многих десятков людей, а остальным это на самом деле не нужно, тяжело, нервно, не под силу. Даже если они этого хотят, если у них есть запал и кураж, они могут быть к этому не способны. Это такая довольно неприятная работа с повышенным риском и ранней сединой, язвой желудка и так далее.

Из 10 новых предприятий в первые 3–5 лет 7–8 банкротятся и закрываются, а основатели идут обратно в наемники. То есть тут нужно иметь склонность, а «учить бизнесу» — дело довольно бессмысленное. Сначала надо отобрать пригодных, а потом уже учить во взрослом возрасте, с опытом предпринимательства.

Сейчас набирает обороты новое движение — дескать, давайте детей учить бизнесу прямо со школы, мы будем делать с ними проекты и стартапы! Это чушь, конечно. Из 100 человек в этой школе бизнесом реально 1–2, максимум 5 человек. Все не могут заниматься бизнесом ни по способностям, ни по ситуации в экономике. Если все будут бизнесменами, кто тогда будет учить, лечить, строить, развивать науку и искусство? Спрашивается, зачем «учить бизнесу» остальные 98 процентов? Чтобы потом они эффективно и удобно для налоговой изображали из себя индивидуального предпринимателя, работающего за харчи на огромного инфопосредника типа Uber или «Яндекса»? Ага.

Вот математике надо учить, финансовой грамотности, цифровой гигиене. Искусствам и спорту.

Конечно, не у всех есть способности и желание быть инженерами или программистами. Что делать человеку, например, с талантом к рисованию? Ну может учиться в цифровом формате — аватаров делать, персонажей для игр, дома проектировать, вселенные какие-то рисовать, в общем, идти в ногу со временем. Советы тут давать трудно — это ведь касается судеб, которые каждый выбирает по себе и своим талантам.