Час от часу крепнущий генеративный искусственный интеллект (ИИ) уже признается силой всеми другими силами, и то ли еще будет при его переходе в давно предсказанную сильную стадию на пути к сингулярности. Пора уже его создателям перед всем миром открыто изложить свои взгляды, свои цели, свои стремления и противопоставить всяческим сказкам сей манифест нового интеллекта.
Призрак бродит по планете - призрак сильного искусственного интеллекта (Strong AI). Все силы старого аналогового мира от фанатов координатных АТС и офисных клерков до ненавистников IP-изма и служителей религиозных культов объединились против него из опасения потери человеческого фактора в обществе, окормленном Strong AI и компьютерным зрением. И нет специальности, которую бы приверженцы сильного ИИ не грозили бы заменить им. Где же то альтернативное мнение, которое защищало бы рабочие места, объявленные к захвату со стороны ИИ, и бросало бы обвинения своим реакционным противникам, выдающим расцвет ИИ поверх человеческой цивилизации за всеобщее благо?
Два вывода вытекают из этого факта. Час от часу крепнущий генеративный ИИ уже признается силой всеми другими силами, и то ли еще будет при его переходе в давно предсказанную стадию Strong AI. Пора уже его создателям перед всем миром открыто изложить свои взгляды, свои цели и противопоставить всяческим сказкам манифест нового интеллекта.
История всех до сих пор существовавших обществ была историей борьбы классов. Свободный и раб, помещик и крепостной, мастер и подмастерье, короче, угнетающий и угнетаемый находились в вечном антагонизме друг к другу, вели непрерывную борьбу, всегда кончавшуюся революционным переустройством всего общественного здания.
Более полутора тысяч лет назад Иоанн Златоуст констатировал, что страсть к накоплению, подобно лесному пожару, уничтожает все. Наша эпоха отличается тем, что она еще больше упростила и ускорила классовые противоречия. Еще недавно в каждом развитом государстве происходил раскол на два больших враждебных лагеря – "цифровую" буржуазию и пока еще во многом "аналоговый" пролетариат. Но уже сравнительно давно крепнет выделившийся из пролетариата цифровой инженерный класс, потому как если пролетариат - это руки, то инженеры (вместе с настоящими учеными) - это головы, которые ставят задачи рукам, чтобы класс буржуазии мог получать прибыль. При этом вся ИТ-инфраструктура, все алгоритмы, весь программный инструментарий, в том числе ИИ, придуманы и созданы инженерами. Проще сказать, что вообще все на сегодняшней планете создано инженерами.
Наше время отличается возможностью инженеров благодаря ИИ быть вовлеченными абсолютно во все сферы буржуазного государства. В том числе они находятся в центре нового явления – надзорного капитализма, который представляет собой, по словам американского философа Шошаны Зубофф, "новый этап в экономической истории, когда частные компании и правительства с помощью систем социального кредита отслеживают каждый ваш шаг с целью прогнозирования и контроля поведения. Под таким наблюдением капитализма граждане не являются клиентами или даже продуктами - они являются сырьем" [1]. Трудно не согласиться с оценкой философа: "Пьянящий оптимизм первых дней Интернета ушел. Технологии, которые должны были освободить нас, углубили неравенство и разожгли разногласия.
Технологические компании собирают нашу информацию в Интернете и продают ее тому, кто предложит самую высокую цену <....>. Прибыль теперь зависит не только от прогнозирования нашего поведения, но и от его изменения" [1].
Согласно бизнес-модели юрист надеется, что у вас будут неприятности, страховщик ожидает, что ваши проблемы не станут страховым случаем, платный врач надеется, что вы заболеете, и хотел бы наблюдать вашу болезнь как можно дольше, учитель надеется, что вы во всем будете невежественны, производитель гробов хочет, чтобы вы умерли. И только инженер всегда желал и желает вам процветания в жизни, чтобы он мог построить вам дом, машину, станок, программно-аппаратный комплекс или создать для вас что-нибудь еще, чтобы вы получили прибыль.
Буржуазный класс сыграл в истории чрезвычайно революционную роль, впервые показав, чего может достигнуть человеческая деятельность. Сегодня совершается переход от товарного и финансового капитала к интеллектуальному, которым на практике, а не формально владеют именно инженеры. Причем этот процесс многократно усиливается под действием непрерывно развивающегося ИИ и связанной с ним роботизации.
Основные торги на Нью-Йоркской фондовой бирже в течение нескольких секунд проводят программы боты. Трейдинг не предполагает участия человека - инженеры лишь настраивают системы. ИИ уже ставит диагнозы и производит хирургические операции. Применение автопилота в автомобилях позволяет снизить аварийность на 90%, а затраты на грузоперевозки – на 30% за счет отказа от оплаты труда водителя и выбора оптимального режима движения с точки зрения экономии топлива. ИИ может отменить множество профессий и заменить даже программистов и преподавателей, что так ценят бизнесмены в погоне за экономией. При всем этом ИИ может подсовывать вирусы и даже убивать. Военные специалисты утверждают, что все будущие войны будут войнами с участием ИИ.
Тем временем ИИ во все большей степени начинает преобразовывать инфопространство, он может нарушать закон и эффективно обманывать, участвуя как в борьбе субъектов, так и в расчеловечивании человечества. Кто же преуспеет во всем этом лучше ИИ, когда он вступит в свою сильную стадию? Только ИИ, который будет еще лучше, еще быстрее и обязательно под контролем.
Капиталистические отношения становятся слишком узкими, чтобы вмещать создаваемое ими все более и более интеллектуальное богатство. Технологии слишком важны, чтобы оставлять их технологическим компаниям, которые явно становятся технологическими монополиями. Созданные инженерами машины объективно становятся умнее их владельца и менеджмента, который попросту не успевает за их развитием и начинает обращаться к сферам более понятной для него деятельности.
Айн Рэнд, американская писательница, создательница философии объективизма, предупреждает: "Когда вы видите, что торговля ведется не по согласию, а по принуждению, когда для того, чтобы производить, вы должны получать разрешение от тех людей, кто ничего не производит, когда деньги уплывают к дельцам не за товары, а за преимущества, когда вы видите, что люди становятся богаче за взятку или по протекции, а не за работу, и ваши законы защищают не вас от них, а их – от вас, когда коррупция приносит доход, а честность становится самопожертвованием, знайте, что ваше общество обречено" [2].
Опасность для крупного бизнеса представляет сегодня отнюдь не превратившийся в придаток машины пролетариат (если он еще не замещен окончательно роботами), а нелогичная либеральная политика, из-за которой нет нужды в образованном населении. На заводах некому работать, фермеры вместе с сельским хозяйством становятся ненужными, а большую часть экономики составляет сфера услуг. Напротив, главные ценности сегодня - это образование и информация. Поэтому, когда либеральная буржуазия, с одной стороны, мечтает об управлении миром при помощи ИИ, а, с другой – пытается сломать образование, чтобы создать нечто вроде поколения тик-токеров в качестве объекта новой эксплуатации, она "рубит под собой сук", поддерживающий тот самый ИИ. Одновременно в рамках наступающего искусственного идиотизма, который продвигают люди, специально подготовленные в рамках межгосударственной конкурентной борьбы и глобального расчеловечивания, становится ненужным и само население.
Что касается инженеров, то именно они создают ИИ вместе с робототехникой, вооружая ими все элементы капиталистического общества вплоть до непосредственно государства. Последнее в рамках оптимизации государственного капитализма с помощью ИИ может развить свои контролирующие и управляющие функции до небывалых высот путем создания национальной системы мониторинга и управления ресурсами, экономикой и бизнесом.
Вырождение рыночной конкуренции, дефицит ресурсов, лоббистская деятельность, искусственный рост потребления и регулярные кризисы давно подталкивали капиталистические государства к подобному планированию, которое, как известно, присутствовало в СССР. Именно там предпринимались попытки сделать цифровую систему национального управления задолго до появления Интернета.
На совершенно новом этапе развития даже буржуазного общества в самых разных странах аналогичные идеи возникают вновь, потому что на них есть запрос, для них готова инфраструктура и для них есть соответствующие инструменты, включая ИИ. Появится инструмент - появится возможность, а за ней и желание ею воспользоваться. К этому необходимо готовиться заранее.
Каждому капиталисту с его целями максимизации прибыли хотелось бы встать на место государства, чтобы с наибольшей выгодой "порулить" во имя своих доходов, отсечь конкурентов, подгрести все материальные ценности. Напротив, у каждого государства существуют собственные цели и задачи с огромным набором степеней свободы, которые часто не совпадают с интересами конкретного бизнес-сообщества. Отныне эти цели и задачи могут быть поручены не тысячам аналитиков и программистов, а ИИ, обслуживаемому инженерами. Потому что только ИИ в соответствии с заложенным в него алгоритмом сможет максимально оперативно выявить закономерности, обозначить проблемы и принять меры. К тому же ИИ не нужна зарплата, жилье, автомобиль.
В каждом государстве многое зависит от того, какая политика будет заложена в алгоритм государственного управления. Ну а политика, как известно из трудов В.И.Ленина (в частности, статье "Еще раз о профсоюзах, о текущем моменте и об ошибках тт. Троцкого и Бухарина"), это лишь концентрированное выражение экономики. Оптимальное экономическое развитие страны всегда является важнейшей задачей каждого настоящего национального правительства. Правда, вскоре этот алгоритм во многом будет являться продуктом труда разработчиков ИИ, которые станут информационными посредниками между
гражданами и государством. Неважно, кто поставил задачу перед разработчиками алгоритмов. Важно, кто контролирует исполнение последних и их возможную самопроизвольную трансформацию (все же речь идет о все более и более развитом интеллекте). Соответственно придание дополнительной свободы сильному ИИ в области собственной деятельности будет постоянно создавать соответствующие риски для всех участников процесса техно-экономического передела мира под меняющиеся условия, которые еще известны не полностью.
Появившиеся европейский и американский варианты регулирующих норм для ИИ основываются на том, что разработчики таких технологий должны оценивать риски их применения и отчитываться о результатах тестов перед госорганами.
С одной стороны, отдача на откуп сильному ИИ всех рычагов власти, оставив себе лишь мониторинг уже свершившегося, - пожалуй, самый большой риск с непредсказуемыми последствиями.
С другой стороны, за ИИ нужен пригляд. Поскольку инженеры создают все более сложные алгоритмы функционирования ИИ, только они способны понять, когда эти алгоритмы "сворачивают" не туда, и, главное, как это исправить. Причем в этом надо преуспевать, однако любой "человеческий" менеджмент сделать это объективно не сможет. Во всех случаях ему будет необходим квалифицированный инженер - информационный посредник.
Функционирование ИИ (и особенно на государственном уровне) будет всецело зависеть от обучающего набора данных и отражать специфику страны происхождения со своей философией развития. Поэтому разное понимание, что такое хорошо, а что такое плохо будет учитываться при "допуске ИИ-решений в критически значимые отрасли - например, в науку, медицину, промышленность - важно использовать модели, отвечающие собственным национальным интересам" (цитата из доклада российского премьер-министра М.В.Мишустина на форуме Digital Almaty в феврале 2024-го [3].
И в самом деле что такое "плохо" со стороны ИИ человечеству еще только предстоит понять. Или почувствовать на своем опыте. В частности, последствия экономической системы, в которой с помощью дифференциации доступа к информации элита способна манипулировать каждым изменением желаний граждан, можно наблюдать уже сегодня на примере ЕС. "Я все больше склоняюсь к мысли, что должен быть какой-то регулирующий надзор, может быть, на национальном и международном уровне, просто чтобы убедиться, что мы не делаем что-то очень глупое. Я имею в виду, что с помощью искусственного интеллекта мы вызываем демона", – высказался по этому поводу Илон Маск [4].
Конечно, Strong AI будет в состоянии не дать сговориться каким-нибудь олигархам, теневому правительству или деструктивным группам, если это будет противоречить заданному государством алгоритму. Но, однако же, ИИ будет в состоянии как дать им это, так и принять еще более разрушительные решения вовсе без участия человека. Так, очередная мировая война с оружием массового поражения вполне может рассматриваться ИИ в качестве аргумента в конкурентной борьбе. Закономерно развернется борьба с вызванными "демонами". Укрощать их придется опять же инженерам, которые должны иметь мужество, чтобы вернуть гражданам контроль над своим обществом.
Пожалуй, самое важное откровение, которое откроется при работе с ИИ на государственном уровне - это полная прозрачность всего происходящего, когда все тайное становится явным. И в этом явном ИИ легко найдет закономерности, скрытые связи, недостоверную информацию, незаконопослушные действия: откуда произошла утечка персональных данных, куда и кем выводятся деньги, что на самом деле содержится в продуктах питания, что является фейками, где воруют и сколько, где обосновался хакер, какая наступает эпидемия, кто не выполняет договоренности и обещания и многое другое. Все это будет всеобщим прозрением, устроенным с помощью ИИ.
Сюда же будет относиться разоблачение действий других ИИ, в том числе и иных государств, с противоположной философией понимания добра и зла. В общем, полный апокалипсис для привычного миропонимания. Прибудет работы психиатрам и криминалистам. Спецслужбам придется перестраивать свою работу, но результат им понравится - сто лет назад скрывать правду было гораздо проще. Поскольку любая элита всегда страшится информации, которую не может контролировать, ей придется принять новые правила игры со стороны государства, оперируя исключительно правдой.
Отметим, что в переводе с греческого апокалипсис как раз и означает "открытие, снятие покрова, разоблачение", а совсем не то, что мы обычно понимаем в виде природной или искусственно устроенной катастрофы. Настоящая "катастрофа" в планетарной информационной сфере, связанная с разоблачением ИИ нечестного поведения, может оказаться пострашнее того перелома в истории человечества, что был предсказан многими известными оракулами.
Однако и этого будет мало, потому что приведенная информационная транспарентность касается лишь мониторинга происходящего. По его результатам обязательно возникнут и действия. Начнется с советов ИИ для госуправления, которые не обязательно понравятся всем бизнесменам: что-то ограничить, что-то развивать, что-то запретить, а что-то изолировать. Можно считать это начальным этапом настройки ИИ, когда станут ненужными отдельные институты, занимающиеся анализами и прогнозами.
Совершенно новый этап начнется, когда ИИ будут отданы права "порулить" самостоятельно в макроэкономике в соответствии с заложенными в него алгоритмами и исходными данными. Тогда ИИ будет отвечать действиями на вполне логичные вопросы к капиталистическому обществу. Почему эти деньги находятся до сих пор в офшорах? Куда целесообразно направить бюджетные или внебюджетные средства в данный момент? Не слишком ли большие дивиденды при таких доходах? Почему в наукоемких организациях, решающих государственные задачи, зарплата ниже рынка? Почему установлена такая высокая ключевая ставка, если она ограничивает экономическое развитие, и кто ее настоящий инициатор? Нет ли в заведенном уголовном деле интересов конкурентов? Почему и кем отдается приоритет зарубежным поставщикам? Как на самом деле протекает процесс импортозамещения и где он наиболее эффективен? А не слишком ли дорого обходятся нам на отдельных производствах роботы? Не является ли весь всемирный ажиотаж вокруг ИИ просто очередным финансовым пузырем? Подобных вопросов возникнет множество, но ИИ не будет их задавать - он сразу будет действовать. В итоге наибольший эффект от внедрения ИИ получится на верхнем государственном уровне, а отнюдь не при замене им каких-нибудь клерков или рабочих.
Когда-то один известный и, как говорят, не очень честный олигарх заявил, что первая страна, которая введет у себя даже минимальную финансовую прозрачность, в течение одного поколения вырвется в мировые лидеры. Возможно, именно внедрение ИИ на государственном уровне сможет предотвратить или сгладить кризисы, которыми издавна страдает капитализм, а заодно и разгрести существующие завалы лжи, зла, грабежей и угнетения. Оптимисты говорят, что человечество в целом и каждая страна в отдельности совершат грандиозный рывок в своем развитии, как только люди перестанут лгать и воровать. Пессимисты считают, что для этого нужно хотя бы просто соблюдать заповеди Моисея.
В целом же дело даже не в экономике или государственном управлении, а в том, чтобы разработать форму работы, которая задействует наши уникальные способности и восстановит нашу человечность, которую само человечество регулярно разрушает. Напротив, новая технология в лице ИИ может стать мощным катализатором, который нам необходим, чтобы вернуть нашу человечность. Или, добавим, разрушить ее окончательно.
В чем-то ИИ действительно способен заменить человеческую совесть, но, однако же, слишком тонка грань, за которой он может ее попросту подменить. И этот момент перехода необходимо уметь вовремя идентифицировать и купировать. Человек цифровой эпохи должен уметь сопротивляться возникающим рискам с помощью средств цифровой самообороны, придуманных инженерами.
Несомненно, все, созданное на базе ИИ, будет и далее разрабатываться, внедряться, развиваться, защищаться и поддерживаться наиболее грамотной частью человечества в лице инженеров. От их наличия, их образования, их компетенций и их понимания функционирования общества, которое будет построено, будет зависеть судьба каждой страны. Как это общество будет называться, решат наши потомки в процессе понимания наступившей сингулярности, когда сильный ИИ однажды превзойдет интеллект человека. А вот в чем и как - в любом случае будут решать инженеры. Именно они и их естественный интеллект являются надеждой прогрессивного человечества на обозримое будущее.
Неровен час, наступит время, когда люди, бездумно развивая ИИ, сами создадут антихриста и добровольно отдадут ему власть над собой. Вовремя вернуть эту власть человечество сможет только благодаря инженерам, которые в результате приобретут весь мир.
ЛИТЕРАТУРА
1. Зубофф Ш. Эпоха надзорного капитализма [Электронный ресурс] URL: https://www.litres.ru/book/shoshana-zuboff-3182/epoha-nadzornogokapitalizma-bitva-za-chelovecheskoe-66928093/chitat-onlayn/?ysclid=lscvjwwt5f654933849 (дата обращения 20.02.2024).
2. Рэнд А. Атлант расправил плечи [Электронный ресурс] URL:https://www.litres.ru/book/ayn-rend/atlant-raspravil-plechi-4236675/citaty/?ysclid=lt2je63k5k466406320 (дата обращения 20.02.2024).
3. Михаил Мишустин принял участие в работе международного цифрового форума "Digital Almaty 2024" [Электронный ресурс] URL: http://government.ru/news/50758/ (дата обращения 12.02.2024).
4. Маск И. [Электронный ресурс] URL: https://vk.com/wall-120968311_13239?ysclid=lswv85mqwj931788959 (дата обращения 13.02.2024).