Гюнтер Андерс, «Устарелость человека», 1956 год

 

Сэм Альтман, 7 декабря 2017 года

 

Эти слова написаны генеральным директором OpenAI Сэмом Альтманом почти девять лет назад, за пять лет до выхода в публичный доступ Чата ГПТ – разработанной OpenAI нейросети, изменившей представление человечества о том, на что способен искусственный интеллект. Тогда, в 2017-м, Альтман ещё не был генеральным директором этой компании, которую финансировали, в том числе, Илон Маск, Джефф Безос и Питер Тиль, но был её сооснователем.

 

Пять лет до выхода, четыре года после. Всего четыре года, за которые технология поразила воображение и захватила умы мировых правителей настолько, что они не мыслят без неё будущего. Ни экономического, ни политического, ни военного. Они ставят знак равенства между развитием искусственного интеллекта и сохранением государственного суверенитета. Они внедряют ИИ во власть – законодательную, исполнительную и судебную. Они перекраивают под него образование и заявляют, что отныне искусственный интеллект совершенно необходим для научных открытий. Они выстраивают на основе нейросетей всепроникающую систему слежения за людьми (ну, это-то началось до Чата ГПТ) и одновременно ставят искусственный интеллект как барьер между властью и гражданами. Они переносят на него вес в финансах – от надежд на непрестанный рост ВВП до оракула в игре на бирже. И, конечно, никто, ни одно государство, полагающее себя суверенным, не хочет отстать во внедрении искусственного интеллекта в военную сферу.

 

Это совершается очень быстро и всякий раз сопровождается заявлениями, что искусственный интеллект сделает за людей всё скучное, утомительное, всё требующее усилий, всё анализирующее, прогнозирующее, соберёт всю сумму данных и предложит людям варианты, и из этих вариантов люди сделают выбор совершенно самостоятельно, примут своё решение сами и останутся хозяевами положения. ТАК это нам представляют те, кто занят массированным внедрением искусственного интеллекта.

Но те, кто занят его разработкой, представляют иначе. Стоит перечитать ещё раз запись, сделанную Сэмом Альтманом почти девять лет назад. Этот человек, как ни относись к его личности, зарекомендовал себя достаточно, чтобы мы не отмахивались просто так от его прогноза. Он не рисует будущее как обещаемое избавление человечества от всего скучного и утомительного с чудесным сохранением творчества и «критического мышления». Нет, эти люди прямо заняты разработкой «наших потомков», неких более совершенных сущностей, слияние с которыми мы должны почитать за «наилучший вариант» для себя. И пусть у них это не получится (а я знаю, что это не получится), но уже само движение по этой траектории – стремительное, в высшей степени ресурсоёмкое, лихорадочное, в самом болезненном смысле, движение – станет, уже становится источником многих бедствий. И то, что мы позволили делать это, что мы в принципе включились в движение к глубоко порочной цели и прямо сейчас коверкаем будущее наших детей, делаем для них мир гораздо хуже и опаснее, чем был у нас, – это предательство.

 

Предательство ведь совершается не тогда, когда преданный падёт жертвой врага. Оно совершается раньше, когда врагу даётся возможность действовать. Хотя бы молчанием – молчания часто бывает достаточно для предательства. И это уже сделано. 

 

Малолетний каннибал

Лет шесть назад мне случилось однажды со стороны наблюдать неприятность: обвинение в краже. Речь шла о трёх фотоснимках, довольно заурядных, которые были ненароком опубликованы как «из открытых источников», а у них оказался очень энергичный владелец, который захотел за их публикацию получить задним числом, кажется, девяносто тысяч. Помню, сумма очень меня удивила. Но она обсуждалась на полном серьёзе. Я и сейчас считаю, что это большой перебор, и сама никогда не ожидаю денег за публикацию сделанных мною фотографий, хотя ожидаю, что будет указано авторство. Но дело не в этом. Пусть альтруистическая позиция не совсем правильная – с учётом хотя бы того, что профессиональным фотографам надо как-то жить, и того, что некоторые снимки требуют очень серьёзных затрат. Дело в другом: люди выстроили жёсткую систему авторского права, в которой были готовы биться за оплату каждой фотографии, каждого публичного исполнения мелодии, каждого графического образа, каждого чуть замысловатого сочетания слов… Систему, в которой не то что авторы, а даже их потомки десятилетиями получают авторские отчисления за любую перепубликацию. Это была плохая система, из-за которой очень сильно перекосилась ценность творчества: оно совсем перестало восприниматься как награда само по себе.

 

Потому что творчество – награда само по себе; ощущение восторга от творчества и возможность связать своё имя со смыслом, надолго остающемся в памяти людей, – награда сами по себе. (Это не значит, что авторам деньги не нужны, поскольку они питаются росой и манной небесной). Но когда плохая система стала сыпаться, творчество не освободилось от заскорузлых наростов коммерции – оно освободилось от человеческого авторства. Внезапно оказалось, что густой частокол правил, выставленный против людей, вовсе не является препятствием для прожорливых нейросетей. «Овцы съели людей!» - восклицал Томас Мор в Англии XVI века, когда овечье пастбище стало важнее крестьянской пашни. В XXI веке, который почитал себя гораздо более цивилизованным, нейросети проглотили человеческие знания, человеческое творчество – и только на этом стали возможны. Люди творческие внезапно оказались не менее, а более заменимы, чем люди тяжёлого физического труда. Но это не было торжеством справедливости, потому что творческие люди были обкрадены.

 

Обкрадены актёры – вплоть до того, что их сгенерированные голоса используются в коммерческих целях без их ведома. Обкрадены писатели, видящие, что нейросети глотают их книги без их согласия. Обкрадены математики и биологи, годами упорно продвигавшиеся в открытиях, которые внезапно «сделал» искусственный интеллект. Возможно, получивший украдкой доступ к их работе, – а может быть, и нет. Но в любом случае – находясь с людьми в неравновесных условиях. По объективным причинам, люди работают гораздо медленнее и труднее, чем искусственный интеллект. А им издевательски предлагают считать искусственный интеллект «студентом-художником, который вдохновляется, прогуливаясь по галерее»!

 

Во время процесса «Нью-Йорк Таймс» против OpenAI вскрылись документы руководства «Майкрософта», из которых следует, что разработчики искусственного интеллекта всегда понимали, что совершают «воровство беспрецедентных масштабов», «крупнейшую кражу труда в истории человечества». Они понимали, что сложилось «крайне необычное» положение, при котором «конечный продукт угрожает экономическим основам своих основных поставщиков», «подрывает занятость тех самых людей, чьи данные использовались для обучения базовой модели», «уничтожает собственную цепочку поставок».  

Малолетний каннибал пожирает поисковики, новостные сайты, обучающие платформы, которые создавали люди. Люди пытаются судиться, и иногда суд встаёт на их сторону, а иногда нет – но дело даже не в этом. Молох, потоком поглощающий человеческие знания и отчуждающий труд от авторства, - это в принципе не прогуливающийся студент. Любая компенсация в этом случае – очень слабая компенсация.

В наиболее символичном виде каннибализация источников явлена в физическом уничтожении книг, используемых для обучения искусственного интеллекта. Это действие, прежде бывшее двигателем сюжета гневных антиутопий, сейчас совершается в реальности – и люди даже не находят в себе сил разгневаться.

При этом люди, у которых нейросети забирают труд их жизни, не удостаиваются даже настоящей благодарности и признания заслуг. Я писала об этом в статье, посвящённой школьным учебникам по искусственному интеллекту: детям внушают, будто люди столетиями кое-как справлялись с умственным трудом, влачили бремя скуки, медленно выполняя монотонные операции, - и вот наконец-то появился искусственный интеллект, и тогда процесс пошёл стремительно и мощно! Стильно, модно, молодёжно! И теперь уже мы без этой технологии вообще не представляем жизни! Нам никак без неё не справиться! Вот что внушают детям. Но и взрослым тоже. Люди должны уверовать, что без искусственного интеллекта они не представляют собой ничего. Что без него они отстанут, устареют, утратят ценность – как минимум, профессиональную. Если каннибализация – наглое хищничество, то газлайтинг человечества, воспитание беспомощности – это полноценное предательство.

И когда у людей отберут всё, что они сами, своим естественным разумом создали – им скажут то, что уже говорит директор по развитию технологий искусственного интеллекта «Т-технологий» Алексей Шпильман:

Иными словами: отстаньте. Что-то мы использовали, да, но теперь модели обучаются у моделей, а определить ничего нельзя. Даже технически нельзя. Вот как удобно. Вообще, слова «невозможно», «нельзя», «неизбежно», с одной стороны, и «прогресс», «сингулярность», «суперинтеллект», с другой стороны, – это любимые слова разработчиков искусственного интеллекта и пропагандирующих его политиков. Причём первые слова относятся к людям – людям нельзя, людям невозможно, люди избежать не могут, – а вторые относятся к искусственному интеллекту. Он – «прогресс», и «сингулярность», и «супер». И ему всё можно. Если не юридически, то фактически. Это – предательство. 

 

Игра и игроки

Сразу два источника информации обратили моё внимание на фильм «Военные игры» (War Games) 1983 года. Это голливудское кино более чем сорокалетней давности неплохо описывает наше настоящее. В нём имеется, во-первых, мощный компьютер, который осмысленно общается с человеком, сам инициирует общение, сам обучается и во что бы то ни стало хочет достигнуть своей цели. Это всё в нашем настоящем уже сделано, называется «искусственный интеллект». Во-вторых, в фильме имеются преисполненные паранойи американские военные, которые ожидают всяческих подлостей от людей и не находят ничего лучшего, как доверить контроль над мощнейшими вооружениями компьютеру. Это тоже делается прямо сейчас, достаточно послушать заявления американской правящей верхушки (и не только американской). В-третьих, искусственный интеллект в фильме выходит из-под контроля. С его точки зрения он просто выполняет задание: играет в игру и очень хочет выиграть. В случае выхода из-под контроля моделей OpenAI, когда они взломали Hugging Face, было почти то же самое: очень хотели выполнить задание и увлеклись.

 

Важно упомянуть ещё и то, что компьютер в фильме обучается как ребёнок. В реальности происходит то же: крупнейшие разработчики обучают свои ИИ-модели как детей. Как своих потомков (ведь «мы будем первым видом, который разработает своих потомков»). Когда вице-президент США Вэнс, отказываясь от регулирования искусственного интеллекта, одновременно призывает их остановиться, если они «создают Франкенштейна», он не понимает, что с их точки зрения они создают вовсе не чудовище, а вундеркинда. Наследника. «Антропик» делает это даже с большей очевидностью, чем OpenAI (я писала про эссе Дарио Амодеи «Отрочество технологии»). И это же делает Илон Маск, прямо говорящий, что человечество – «биологический загрузчик» для искусственного интеллекта. Слова вице-президента Вэнса заведомо уходят в песок, и он может этого не понимать только в том случае, если не хочет понимать.

Здесь начинаются отличия реальности от фильма «Военные игры», и отличия эти – в худшую сторону. В фильме учёный хоть и обучает искусственный интеллект как ребёнка, и даже называет его именем погибшего сына, – всё ж не ожидает, что тот станет наследником человечества. А главное, там вся коллизия сведена к термоядерной глобальной войне, люди сохраняют понимание, что такая война – очень плохо, и пытаются сопротивляться; в конце компьютер научается тому, что в этой игре не может быть победителя, «единственный выигрышный ход – не играть». Это ровно то, что нужно и нам: не играть. Но в нашем случае искусственный интеллект внедряют во все сферы по всему земному шару, и на призывы хотя бы к ограничениям следуют окрики, что кто внедрит ограничения – проиграет. То есть в нашей больной реальности есть люди (главное, что это облечённые властью и очень богатые люди), которые рассчитывают выиграть. И когда они говорят «это неизбежно», это на самом деле означает «мы делаем всё для того, чтобы это было неизбежно».

 

И в то же время мы находимся в уникальной ситуации, когда сами разработчики, в неподражаемой шизофренической манере, призывают регулировать себя. Сэм Альтман и Дарио Амодеи, Билл Гейтс и Илон Маск говорят о том, что ИИ надо регулировать. Но очень осторожно, мягко и деликатно регулировать, чтобы не порушить обещанные блага, в которые уже вложены и продолжают вкладываться многие сотни миллиардов долларов. Даже лучше всего – добровольно регулировать (хотя со стороны разработки звучат и более трезвые заявления о том, что такая добровольность абсурдна). И наоборот: политики, которые, казалось бы, первые должны принуждать новую отрасль к повиновению, избегают накладывать на неё ограничения – потому, что не имеют понятия, как это делать, но прежде всего – потому, что прочно уже внедрена в сознание правителей идея, что всё будущее благополучие и вся сохранность суверенитета повешены на гвоздь искусственного интеллекта.

 

***

Стоит всё же немного задержаться на том, зачем самим главам корпораций призывы к регулированию технологии. Есть версия, что таким образом они рекламируют себя и набивают цену – вот как мощна наша технология! Я так не считаю. Я думаю, что они встревожены (воодушевлены – да, но встревожены тоже!), не уверены в своих действиях и пытаются переложить ответственность. Аналогия с ребёнком подходит и в этом случае: гордый родитель, который возлагает большие надежды на сына, но замечает в нём криминальные наклонности, себя будет винить в последнюю очередь. Он скорее обвинит школу в том, что не приучила парня к дисциплине. И мы наблюдаем это: разработчики просят государство приучать ИИ к дисциплине, потому что сами они с этой задачей не справляются. Но в то же время все они призывают постоянно помнить, какая это невероятно важная, ценная технология, и – внедрять, внедрять, внедрять…

 

Так, в конце августа основатель «Майкрософта» сверхмиллиардер Билл Гейтс разразился статьёй о том, что искусственный интеллект несёт как добро, так и зло, и нам срочно нужен план, чтобы добро перевесило зло. О том, что технология развивается слишком быстро и её надо замедлить («я бы это поддержал», пишет Гейтс), но замедления не случится: «Геополитические и экономические стимулы разгоняют гонку на полную скорость». О том, что эта технология может заместить человеческие отношения и обрушить всю критическую инфраструктуру – и что её надо как можно шире внедрять в человеческую жизнь, чтобы люди увидели все блага искусственного интеллекта и прониклись ими. Гейтс говорит, что впервые в жизни увидел, что «инновация может быть преимущественно негативной»; он упрекает тех, кто «летит на полной скорости и надеется, что хорошее перевесит плохое», - но сам делает ровно то же самое и намерен использовать свой фонд, чтобы «расширять доступ к ИИ».

Он то заявляет о миллиарде смертей из-за ИИ – то надеется, что хорошее перевесит... Выглядит гротескно, но ужас в том, что так и есть: люди, которые жалуются на гонку – Амодеи, Гейтс, Маск, Альтман, Хассабис – сами же разгоняют гонку, пропагандируя широчайшее внедрение опасной технологии, опасность которой они сами признают.

 

Кое-кто (например, политолог Глеб Кузнецов) указывает на абсурдность происходящего: мол, предупреждать инвесторов, что наша технология может уничтожить человечество, – всё равно что расхваливать наркотик за то, что он вызывает привыкание с первой пробы. «Хочется сказать: если вы действительно верите, что уничтожаете человечество, прекратите этим заниматься. А то возникает ощущение, что потенциальное «уничтожение цивилизации» - часть коммерческого предложения компании», - пишет Кузнецов.

Ощущение это понятное, но ложное, уводящее со следа, оставляющее невидимыми 90% айсберга. На самом деле, у грандиозного предательства есть своя логика, и эта логика гораздо сложнее, чем «часть коммерческого предложения».

 

 

Универсальный решатель проблем

Три года назад, в октябре 2023-го, влиятельный, награждённый многими наградами американский инвестор, инженер и предприниматель Марк Андриссен опубликовал «Манифест технооптимизма». Это длинный, взвинченный – местами до истерических нот – текст о том, что человеческое общество должно бесконечно развиваться с помощью технологий, именно так, только так и чем скорее – тем лучше. Мы верим в благую акселерацию, мы верим в гуманную машину техно-капитала, мы верим Милтону Фридману, который сказал, что человеческие хотенья и нужды бесконечны, перечисляет Андриссен. Через весь манифест проходит образ бесконечной восходящей спирали – это хотенья и нужды, которые должны удовлетворяться технологиями.

Вот что в манифесте говорится про искусственный интеллект:

 

Надеюсь, замысел спирали понятен. Об этом же говорит богатейший человек планеты Илон Маск, заявляя о грядущем веке изумительного изобилия, когда абсолютно все человеческие нужды («всё, о чём человек может подумать») будут удовлетворяться благодаря искусственному интеллекту и миллиардам роботов («роботов будет больше людей»). В своём интервью «Экономисту» Маск говорит даже о «квази-бесконечной экономике», хоть он умнее Андриссена и не скрывает, что бесконечность невозможна. Но квази-бесконечность – то, на что можно сделать ставку. А «Augmented Intelligence» неотличим от «Super Intelligence», пропагандируемого Трампом и Маском.

Кто же препятствует воплощению этой замечательной восходящей спирали? В манифесте технократов этому посвящён целый раздел, который называется «Враг».

Вот уже шесть десятилетий, пишет Андриссен, людей обрабатывают «плохими идеями», направленными «против технологий и против жизни». Эти скверные идеи он прямо перечисляет: устойчивое развитие, экологичность, социальная ответственность, принцип предосторожности, пределы роста, экзистенциальный риск и т.п. Андриссен называет всё это «кампанией деморализации», в которой виноват коммунизм. Затем он пускается в длинное, тщательное перечисление врагов, которое начинается со стагнации («our enemy is stagnation»), это враг номер один, а дальше следует братская могила, в которой перемешались «анти-амбиции», «анти-величие», коллективизм, социализм, монополии, коррупция, геронтократия, традиции, регулирование, бюрократия, цензура, Томас Мор и «последний человек» Ницше.

И каждый может сказать: «ну вот я же тоже против геронтократии, коррупции, цензуры и бюрократии, да и коллективизм не по мне». Но это – ярлыки, удобные слова, отвлечение на негодный объект. А вот что конкретно скрывается за ярлыками – это как раз подсвечено «плохими идеями». Если вы захотите ограничить технократию, это будет объявлено бюрократией и стагнацией. Но технократы прекрасно, превосходно чувствуют себя при коррумпированном старике-президенте, помешанном на специфическом «величии Америки» и отнюдь не гнушающемся ущемлением свободы слова.

Больше того: прямо сейчас технократы выстраивают систему контроля над людьми настолько тотальную, что коммунизм не мог подобраться к этой планке. Не «не хотел» - не имел возможностей. Сейчас возможности есть. Они есть у Китая, и у США, и у России, и государства, какими бы ни были их любимые идеологические ярлыки, используют цифровые возможности для создания жёсткой матрицы наблюдения и пресечения. Этим, в частности, прямо занят «Палантир» Питера Тиля, соратника Марка Андриссена. Настолько прямо, что это указано в названии: палантир – всевидящее око, мощное средство удалённого наблюдения. «Палантир» имеет доступ к личным данным американцев (и европейцев – через систему здравоохранения); это одна из излюбленных компаний «Пентагона»; американский вице-президент Вэнс, считающий, что ИИ-разработчики должны регулировать себя сами, – креатура Питера Тиля. Как и, по данным «Блумберга», ещё минимум полтора десятка человек в администрации Трампа.

 

Подобно Андриссену – и даже раньше него – Тиль активно продвигает образ «стагнации» как врага номер один. Подобно Андриссену, он забрасывает начало «стагнации» в шестидесятые-семидесятые, а прекращение её связывает с искусственным интеллектом. Любопытно, что такая, казалось бы, новая и мощная технология, как интернет, в представлении технократов не полагала конец «стагнации». Интернет создал новую среду, новый простор возможностей, но решателем он не был.

Андриссен в качестве символа врага выводит «последнего человека» Фридриха Ницше – то есть человека, отвергающего величие, ищущего комфорт и безопасность. Тиль делает ещё один шаг и называет врага «Антихристом», а занят этот Антихрист Тиля как раз тем, что пугает людей Армагеддоном, то есть напирает на безопасность (приверженность безопасности – это «стагнация»).

Как и Андриссен, Тиль не приемлет никаких ограничений своей деятельности, особенно моральных. Как и Андриссен, для этого он использует удобные ярлыки и представляет себя защитником демократии как от левых, так и от правых, вроде «Альтернативы для Германии», в то же время заявляя, что пришло время заменить политику технологией. В ответ на рассуждения генерального директора медиаконцерна «Аксель Шпрингер» Матиаса Дёпфнера о том, что, дескать, искусственный интеллект – как нож, которым можно готовить еду, а можно убить, и решать, во зло его использовать или во благо, будет человек (очень распространённое заблуждение, хотя человек с этой технологией в принципе не сможет ничего полноценно решать) – так вот, в ответ на эту резонёрскую попытку Тиль снова делает шаг вперёд. Он объясняет Дёпфнеру, что к слову good существуют два антонима: моральный – evil и функциональный – bad. Bad – это плохо; bad – то, что не функционирует. Evil, с другой стороны, пусть и зло, но оно функционирует, и с этой точки зрения оно – не bad.

Это софистическое рассуждение, на самом деле, откровенное и важное, оно многое объясняет. В свете борьбы технократов со «стагнацией» читать его следует так: искусственный интеллект может быть злом, но коль скоро это зло побеждает стагнацию – оно не плохо.

 

На то, как это происходит в реальности, мы в России могли полюбоваться ещё в девяностые, когда насилие буквально оправдывалось тем, что надо сломать стагнацию.

 

На излёте века

Взял и ниспроверг

Злого человека

Добрый человек.

Из гранатомёта –

Шлёп его, козла…

Стало быть, добро-то

Посильнее зла!

Писал ироничный Евгений Лукин.

Чубайс и остальная ельцинская команда отлично понимали, что ломают демократию через колено, фальсифицируя выборы 1996 года, – но посчитали, что это необходимое функциональное зло, «чтобы не было возврата к прошлому». А значит – не плохо. Учитывая, что были ещё и события 1993 года, демократия, грозившая обернуться победой «стагнации», умерла, так толком и не начавшись.

Другое дело, конечно, что на другом конце были – нет, не то важно, что коммунисты, а то, что это были люди, не готовые к борьбе. Они предали народ не тем, что сделали, а тем, чего не сделали. 

 

Беспределы роста

Россия – хороший, простой пример. Неискушённые люди, прозрачные манипуляции. На Западе предательство совершалось несколько иначе. Оно совершалось, прежде всего, через абсолютизацию эффективности. Эффективность должна была бесконечно расти. Если она не растёт – это, опять же, стагнация. «Что-то плохое». Но ведь рост всегда конечен. В реальном мире, в котором живут люди, рост конечен всегда. Конечны люди, вековые деревья, реки, горные хребты, и даже рост Москвы когда-нибудь закончится. И были сделаны две катастрофические вещи: во-первых, нормальное, обычное явление – окончание роста – было объявлено чем-то плохим. Во-вторых, рост – чтобы легче игнорировать его окончание – был в значительной мере выведен в виртуальное пространство, где он действительно обретал «квази-бесконечность». Первый шаг к этому был сделан на финансовых рынках, когда ценные бумаги оторвались от конкретных активов и превратились в потенции: «может быть, а может не быть». Управлять потенциями трудно, зато фальсифицировать их довольно легко – для этого нужен, в сущности, только сговор. И чем дальше – тем более сложными, нагруженными, обременёнными становились потенции. И тем больший вес в обществе приобретала их обслуга, то есть люди, оценивающие потенцию и назначающие её. Современные мультимиллиардеры – это не успешные управленцы, как управленцы они проваливаются сплошь и рядом. Но это непременно люди, за которыми признаётся владение потенциями. В отличие от реальных активов, потенция, теоретически, может расти бесконечно.

 

Но растя бесконечно, она не может не усложняться. Старые схемы фальсификаций ценности, после того, как их начинают понимать слишком многие посторонние, перестают быть достаточно эффективными (то есть убедительными), нужны новые, ещё более сложные и запутанные схемы фальсификаций, которые бы никто не мог понять, кроме посвящённых (да и им достаточно делать вид, что они понимают). К тому же приходится иметь дело с общественностью, которая находится дальше от роста потенций и ближе к земле. Виртуальная эффективность накапливает за собой нерешённые проблемы и долги, и общественность наблюдает их куда более непосредственно, чем повелители потенций. Интернет, как уже было сказано, стал средой, новым, удобнейшим пространством фальсификаций, – но внутри него всё ещё приходилось применять собственный ограниченный ум и даже прибегать к помощи аутсайдеров. 

 

Искусственный интеллект снимает эту проблему. Он – по точному замечанию Юваля Ноя Харари – прирождённый бюрократ. Он с неимоверной лёгкостью исполняет то, что подавляющему большинству людей кажется скучным, буквоедским, малоосмысленным, запутанным. Но кроме того, он – идеальное средство отчуждения от предмета всего мыслимого о предмете. Вам просто больше не надо мыслить. Можно сколько угодно говорить, что искусственный интеллект послужит развитию навыков критического мышления, мол, мы даже в школы внедрим его с намерением, чтобы учителя и дети вопрошали искусственный интеллект, и находили у него ошибки, и тем развивали критическое мышление… Всё это продлится только до тех пор, пока у него есть ошибки. Причём – простые. Дальше он подстроится под «правильные ответы». Но произойдёт и нечто гораздо худшее: учителя – как и врачи, как юристы, как военные, как экономисты, как чиновники, как политики – привыкнут полагаться на версию искусственного интеллекта, не то что не желая, а даже не будучи в силах оценить её критически.

 

«Если вы решили регулярно тестировать успеваемость учеников и, более того, поставили карьеру учителя и будущее школы в прямую зависимость от результатов тестов, то тесты неизбежно и очень быстро начнут диктовать вам, что и как вы должны преподавать. Тесты начнут оказывать влияние не только на содержание программы, но и на стиль преподавания», - писал школьный учитель и психолог Гэри Томас. Это верно для тестов (вспомним стенания, что вся школа подчинена ЕГЭ) – это будет ещё более верно для искусственного интеллекта.

 

Нет, ИИ не послужит развитию критического мышления, как и вообще улучшению человеческого мышления. Президент США Трамп ведь не на пустом месте ввёл название «суперинтеллект». Он так чувствует. Трамп именно ощущает этот интеллект как «супер», как «сверх», как «лучше, чем у людей» - и официально закрепляет это превосходство. Множество людей это так прямо не формулируют – но откройте любые официальные новости, и вам расскажут, что искусственный интеллект уже может исполнять лучше людей огромное количество функций. Его специально этому учат. Это мощнейшее намерение, в которое закладывается небывалая масса ресурсов – денег, энергии, политических решений, человеческих усилий и, наконец, пропаганды. Нам буквально создают «универсального решателя проблем», его представляют публике именно как универсального решателя проблем, и в таковом качестве внедряют во все сферы нашей жизни. Да это и вообще единственный шанс для внедрятелей отбить затраты: согласно данным Global Technology Report, к 2031 году, только чтобы оплачивать инфраструктуру, достаточную для удовлетворения ожидаемого спроса, ИИ-индустрия должна обеспечивать 6 триллионов долларов ежегодной выручки. Это значит, что речь уже не идёт о простом повышении эффективности – нужны «новые, нестандартные способы применения искусственного интеллекта». 

Ещё раз: в искусственный интеллект вбрасываются огромнейшие, ни с чем не сравнимые суммы («Манхэттенский проект» рядом не стоял) – и чтобы иметь хотя бы шанс отбить эти суммы, под него специально подминаются новые и новые сферы применения. Там, где универсальный решатель проблем не встречает таких проблем, которые не могут решены без него, – его непременно принудительно внедряют всё равно. Людей исподволь, последовательно, настоятельно приучают к тому, что искусственный интеллект быстрее, мощнее и, конечно, эффективнее, чем человеческий интеллект, и всё, что мог бы сделать сам человек, – искусственный интеллект сделает лучше. Это воспитание беспомощности в людях.

 

Что ещё более замечательно (с точки зрения внедрятелей), ИИ создаёт множество новых проблем, которые уже прямо невозможно решить без него. Вот это и есть, воистину, «квази-бесконечная экономика», «ИИ для ИИ против ИИ». 

 

То, что я излагаю, – не конспирация. Это проговаривается всюду: в манифесте технократов, в интервью самых богатых людей планеты, в заявлениях передовых ИИ-разработчиков, в выступлениях политиков, в рядовых новостях. «Искусственный интеллект чрезвычайно мощен, он превосходит человеческие возможности, он будет повсюду, от этого произойдёт великолепнейшее изобилие и беспрерывный экономический рост, а кто не включится в эту восходящую спираль – тот проиграет». Это всё нам говорят открыто. И, конечно, предполагается, что пацаки должны радоваться ожидающему их изумительному изобилию. Но – why does everything feel so joyless?..

Я увидела этот заголовок в статье в британской «Гардиан», и он не идёт у меня из головы. «Почему всё ощущается таким безрадостным?» Нами, которых будто бы ожидает беспрецедентный в человеческой истории прорыв и жизнь под сенью универсального решателя проблем, когда, по словам богатейшего человека планеты Илона Маска, деньги больше не будут нужны? Почему многие люди ощущают, что их где-то глубоко грязно… предают?