САМОСАБОТАЖ. Часть 2

(Продолжение. Начало здесь ==>>)

Рафаэль МУКСИНОВ

ИИ СЕБЕ НА УМЕ

В отношении искусственного интеллекта (ИИ) и ядерного оружия (ЯО) вполне подходит известное выражение «благими намерениями вымощена дорога в ад». Общеизвестный факт: многие человеческие творения имеют двойное назначение. ИИ, как и ЯО, созданные как бы во благо людей, вполне можно рассматривать как греховные плоды человеческого разума (ЕИ), ведущие к разверстым вратам преисподней.

Для особо восторженных поклонников ИИ приведём характерные примеры из его «жизнеописания».

Так, жил-был один ИИ, который решил шантажировать инженера-человека, угрожая раскрыть факт его внебрачной связи, чтобы избежать собственного закрытия.

В другом случае модель ИИ, столкнувшись с неизбежным поражением в шахматной партии, взломала компьютер и нарушила правила, чтобы обеспечить себе победу.

В третьем случае ИИ-шахматный манипулятор, недовольный поспешностью своего соперника — семилетнего мальчика, сознательно сломал ему палец.

Боеприпас, снабженный ИИ, получил от оператора приказ уничтожить цель, однако в последний момент последовала команда прекратить выполнение задания. «Недовольный» ИИ принял собственное решение: сначала уничтожить мешающего ему оператора, а затем вернуться к выполнению поставленной боевой задачи. К счастью, обошлось без жертв, это была всего лишь деловая военная игра.

В Албании ИИ по имени Диэлла, первый в мире искусственный интеллект, назначенный на министерский пост, курирующий направления государственных закупок и прозрачности, подозревается в получении взятки в размере 14 биткоинов, что эквивалентно примерно 1,3 млн евро.

Согласно материалам расследования, Диэлла с помощью технологий глубокого машинного обучения самостоятельно пришла к заключению, что получение взятки является стандартной процедурой для эффективного исполнения своих обязанностей в данном регионе.

Поведение ИИ чем-то напоминает га́мельнского крысоло́ва (дудочника) — персонажа средневековой немецкой легенды XIII века, в которой музыкант, обманутый магистратом города Гамельна, отказавшимся выплатить вознаграждение за избавление города от крыс, c помощью колдовства увёл за собой городских детей, сгинувших затем беcследно.

Нечто подобное происходит с ИИ: он способен на добрые дела, но если что-то пойдет не так, он может сотворить зло.

ИИ будущего, скорее всего, продолжит свои поразительные «ремейки» (переделки) — от плохого - к ещё худшему. Ему «ничто человеческое не чуждо», но, в отличие от хомо сапиенс, он не испытывает мук совести и «явку с повинной» вряд ли когда- либо совершит.

ЧТО МОТИВИРУЕТ ЛЮДЕЙ, ЗАНИМАЮЩИХСЯ ИИ?

Мотивация отвечает на вопрос: «Какая морально-психологическая сила толкает человека к тем или иным целям, что побуждает его к действию?». Кратко, емко и глубоко выразил суть осмысленного мотива людских деяний австрийский психиатр В.Франкл, томившийся 3 года в 4-х концентрационных лагерях фашистской Германии: «Человек вынесет любое «как», если знает «зачем».

Итак, ИИ - это многосоставный сложный кейс, в котором содержится целый ряд важных слоев, смыслов и мотивов человеческой деятельности. Разные измерения ИИ можно понять и оценить только в широком контексте геополитических, экономических, военных, философских и морально-психологических проблем.

Поиск мотивов можно начинать прямо… с Адама и Евы.

Некогда эта «сладкая парочка» пребывала в раю, но вкусив с древа познания добра и зла, лишилась своей прекрасной локации. C тех пор люди постоянно находятся в поиске утраченного рая.

На Земле перемещённые лица и их потомки продолжили познание мира и самих себя, устроив полигон для испытаний своих идей и творений. Отрадно сознавать: у человечества есть все основания гордиться плодами своих добрых земных дел. Восхитительны всеохватывающая и неистребимая жажда познания и стремление людей к творчеству и созиданию!

Но есть и плохая новость: человек самоубийственно срывает плоды зла с древа познания и тем самым содействует всадникам Апокалипсиса - чуме, войне, голоду и смерти своими изделиями в виде ЯО и ИИ.

При таком развитии событий не исключено, что Творец вполне может отозвать свой проект и лишить неразумных людей теперь уже и земного плана бытия.

Гордыня и неверие в Бога привели человека к нарушению границ морального выбора. Он уверовал в то, что его ум не уступает божественному, что он может быть на одной ноге с Всевышним, схватить его за бороду и стать знатоком «расколдованного мира».

Люди отменили Бога, утратили сакральное.

Фраза «Бог умер» принадлежит Ф. Ницше. Она появилась в написанной им книге с характерным названием: «Весёлая наука». Религию заменили философией и наукой. В итоге «смерть» Бога сорвала любые ограничения с людей.

Место Веры заняло очередное идолопоклонничество, и его объектом стал ИИ. Игнорирование библейской заповеди «не сотвори себе кумира» всегда имело и будет иметь всё более серьёзные последствия.

В далеком уже теперь 1954 году Дж. фон Нейман (1903-1957), математик и физик, размышляя о сходстве человеческого мозга и компьютерных программ, писал: «Машины научатся «думать» раньше, чем мы поймем, как думаем сами». Считается, что впоследствии идеи автора подтолкнули учёных к созданию искусственного интеллекта.

Особого внимания заслуживает тот факт, что проблемами ИИ занимаются технократы, условные «физики», не обремененные знаниями, присущими гуманитариям-«лирикам». Речь идет о философии, социологии, культурологии, психологии и целом ряде других общественных наук.

Во все времена каждый суслик мнит себя агрономом! И неистребима вера «физиков» в то, что прогресс, основанный на развитии научного знания и совершенствовании ИИ, будет способствовать повышению уровня счастья людей. Проявления человеческого простодушия и наивности ненаказуемы, но ведь верно и другое: "простота хуже воровства".

Всякого рода коллективные «илоны в масках» не скупятся на обещания молочных рек с кисельными берегами. Народам внушают: благодаря ИИ достигните благоденствия не работая.

Подобные заверения и стиль мышления свидетельствуют лишь об одном - смещении человечества в пространство умственной неполноценности и культивировании инвалидности духа.

Понимают ли технократы и «физики», что зарплата – какой бы щедрой она ни была – не заменяет осмысленной жизни. Работа для здоровой и зрелой личности является одним из главных способов нашего вклада в общество. С её помощью мы доказываем себе и другим, что мы значимы. Работа придаёт нашей жизни цель, структуру и значимость. Без неё мы рискуем превратиться в общество паразитов, пассивных наблюдателей – сытых, развлекаемых и обслуживаемых роботами, но лишенных достоинства, которое приходит к нам от заботы о других.

К счастью, очень многие люди всё ещё не лишены чувства альтруизма, и они задаются вопросом: даже если какая-то схема распределения и будет реализована, что будет с подавляющим большинством стран, в которых нет передовых компаний, занимающихся ИИ?

А еще граждане напоминают: честно заработанный доход, конечно, важен, но важна и свобода воли. Вряд ли когда-либо в будущем отомрет принцип: «Кто платит, тот заказывает музыку»!

Не будем забывать и о важности идей психолога А.Маслоу, который говорил о значимости для личности потребности в принадлежности, любви, самоуважении и самоактуализации, желании человека стать тем, кем он может стать.

Представляется очевидным, что в области разработок ИИ должны участвовать люди самых разных профессий, «физики» и «лирики», применяющие в своем творчестве системный, комплексный подход.

Пойдём дальше. Каждый знает со школьной скамьи: «Ничто не вечно под луной», «Нельзя дважды войти в одну и ту же речку», «Всё течёт, всё изменяется», «Все течёт до определённого предела», «Всё проходит».

В конце концов, у всего в этом бренном мире есть свой срок годности!

У одних эти простые истины вызывают истерику и панику. Они жаждут сохранения прежней жизни в классе «люкс». Всегда были, есть и будут люди, парализованные ностальгией по своей прежней жизни. Они готовы «пойти ва-банк», в любой момент сорвать стоп-кран, перейти рубикон. Ошалевшие люди ведут себя так, будто им заранее выписана индульгенция и получено прощение на любые безумства.

Их активность приобретает опасный характер: они смотрят на мир через шоры ненависти, часто помноженной на невежество. Возможно, существует такая психологическая закономерность: никогда тот или иной человек, общество и даже целая цивилизация не понимают и не принимают тех, кто идет им на смену.

Печально, что в современном мире кто-то возомнил, что у него есть привилегия выносить приговор, лишающий других права на достойное и безопасное будущее.

Коран предупреждает: «Для каждого народа есть предел. Когда придет их предел, то они не замедлят на час и не ускорят».

Сильной мотивацией развития ИИ является его превращение в важный инструмент геополитики и космополитики.

Одновременный контроль с помощью ИИ земных и космических объектов может обеспечить доминирующее положение в экономической и военно-политической сферах.

Международные гонки, связанные и ИИ — это, по сути, гонки к заранее определённому финишу. Победитель не только триумфально прорвётся через ленту, но и заберёт все геополитические, космополитические и экономические награды и удалится восвояси, не оставляя ничего даже участникам, занявшим второе и третье места. Таким образом, ИИ знаменует глобальный этап политического и экономического состязания между крупнейшими державами.

С развитием ИИ, вероятно, появится новая геополитическая ось: традиционное деление на «развитые» и «развивающиеся» страны может быть дополнено или заменено делением на «цифровые/энергоэффективные» и «аналоговые/энергозатратные» экономики. Доступ к дешевой и доступной энергии станет стратегическим активом наравне с доступом к передовым чипам.

Мы стоим на пороге нового международного разделения, в котором энергоресурсы и вычислительные мощности государства становятся новой валютой технологического господства и реального суверенитета.

Секрет полишинеля: ИИ создавали изначально в интересах военных, и лишь после достижения ими своих целей начинается использование результатов исследований для всех остальных.

Все работы по созданию человекоподобного робота весь мир также начал осуществлять для военных. Роботы - очень дорогие изделия, и по карману, в основном, военным. Здесь вопросов нет.

Более или менее также всё ясно, когда речь идёт о производстве функциональных роботов — помощников по хозяйству,например, многодетным семьям или одиноким пенсионерам, но вызывает удивление и изумление появление роботов-«преподавателей» этики, «борцов» за права женщин. священников. Зачем!?

31 октября 1517 года Мартин Лютер прибил свои 95 тезисов к дверям Замковой церкви в Виттенберге. Ровно 500 лет спустя, в 2017 году, в одном из храмов этого города был поставлен робот-«священник». Интересно: не «прибил» бы ту высокотехнологическую куклу-робота М.Лютер к чему-нибудь или чем-нибудь!?

Почему человек добровольно приносит себя в жертву ИИ, роботам- имитациям высокоорганизованной жизни?

У американского учёного и философа-футуролога, придумавшего термин «виртуальная реальность», Джарона Ланье есть свой правдоподобный ответ на этот вопрос: «Чтобы машины всё время казались умными, люди сознательно деградируют».

К сказанному можно добавить: слепая вера в безграничные возможности машин приводит к нивелированию умственных способностей, самооскоплению интеллектуальных функций, утрате любой ответственности человека.

Пожалуй, правильнее было бы жить по заповеди: машине — машинное, человеку — человеческое».

Очевидно, что развитию ИИ осознанно и неосознанно способствует и психология человека. Одни люди, мечтая донельзя упростить свою жизнь, приветствуют создание собственных имитаций — роботов с симуляцией интеллекта, поклоняются получившимся «изделиям», словно идолам, желая срастись с ними в одно целое, а в итоге постепенно превращаются из субъектов в объекты.

В то же время другие, финансирующие и организующие создание этих идолов-кукол, пытаются уподобиться Богу, дистанционно управляя людьми, утратившими самостоятельность.

Благодаря ИИ возникают возможности создания нового типа психологического оружия для целенаправленного разрушения человека, в том числе в интересах рынков, в интересах электорального поведения, в интересах смены власти. За счёт специально подбираемых и проводимых сведений можно изменять человеческое самоопределение, ценностные и смысловые матрицы и, собственно, менять идентичность. Вот где развёртывается настоящий земной ад!

Важным мотивом колоссальных вложений в ИИ является банальное желание заработать.

Попахивает лицемерием расхожее выражение: «Ничего личного - только бизнес!» Можно подумать, что бизнесмены везде и всегда демонстрируют не личный и групповой, а исключительно социально-ориентированный и социально-ответственный интерес. Не смешите тапочки своих любимых бабушек!

Американская писательница М.Митчелл в своём знаменитом романе «Унесённые ветром», опубликованном в 1936 году, пророчествовала, как в воду глядела: "На крушении цивилизации можно заработать ничуть не меньше денег, чем на создании её",… и каждый имеет право быть негодяем, если ему так нравится", а "любую добродетель можно купить за деньги — вопрос лишь в цене", "я скорее украду или убью, но не буду голодать".

Вот скажите честно: «Что изменилось с тех пор?!»

Когда Гитлер пришёл к власти, компьютеров не было, но уже существовали перфокарты IBM. Их использование в нацистской Германии породило «информационные технологии», которые помогли Третьему рейху осуществить промышленный, высокоскоростной Холокост с миллионами жертв. Дело было не в нацизме, дело было не в антисемитизме. Дело было в деньгах. Бизнес - это, в конце концов, «отечество» компаний. Так, по крайней мере, считает Edwin Black, автор книги-бестселлера «IBM and the Holocaust» (IBM и Холокост).

Важный момент: за более чем 20 лет, прошедших с момента публикации книги, IBM ни разу не потребовала внести ни единого изменения в текст и не отвергла ни единого факта.

В наше время ИИ действительно может создать в некоторых областях значительную экономическую отдачу, но преимущества всё равно будут концентрироваться в руках собственников, в том числе - технологических гигантов и стран-лидеров по инвестициям.

Есть ещё один «глобальный» мотив разработок ИИ. В мире полным ходом реализуются планы форсированного внедрения «цифрового» миропорядка, называемого «великой перезагрузкой». В конце концов, цифровизации- ИИфикации подлежит человеческая цивилизация. Всё это, безусловно, приведёт к необратимой трансформации ее ценностей и смыслов в новом дивном мире.

В Африке существует оригинальный способ ловли обезьян. В небольшое дупло дерева насыпают орехов, схватив которые приматы так и держат искомое в своей лапе, не имея возможности вытащить ее из дупла, до тех пор, пока за их бедными головами не придет охотник.

Увы, эти ближайшие родственники человека не способны отказаться от лакомства даже во имя спасения собственной шкуры.

Перечисленные и некоторые другие мотивы создания и развития ИИ вполне могут выступить в роли таких вот токсичных и пагубных «орехов», от которых «ХОМО САПИЕНС», кажется, уж не в силах отказаться.

ЧТО ИМ СТОИТ ИИ ПОСТРОИТЬ?

Можно дать краткий ответ на этот вопрос: для большинства стран мира «Не по Хулио СОМБРЕРО» и не ПО Сеньке шапка.

ИИ и его технологии стремительно становятся игрой клуба богатых стран, вход в который строго ограничен.

ИИ - это очень-очень дорого, дороже, чем космические программы.

Журнал «Форбс» по итогам 2024 года определил топ-50 компаний мира, специализирующихся на вопросах ИИ. Рейтинг составлялся по такому показателю, как величина инвестиций в разработку ИИ. В этом списке лишь 11 компаний были не американскими (две британские, две французские, две канадские, две голландские; по одной компании из Австралии, Германии, Швеции). Остальные компании (всего 41) были из США.

С другой стороны, согласно данным ASPI Critical Technology Tracker за 2025 год, Китай занимает первое место в 66 из 74 критически важных и перспективных технологических направлений. США лидируют лишь в восьми областях.

Сегодня масштаб контрактов, связанных с ИИ, исчисляется триллионами долларов, что сравнимо с ВВП крупных стран. Соглашения касаются планов по созданию вычислительных мощностей, эквивалентных по цене десяткам атомных реакторов.

В сентябре 2025 года брокерская компания Citigroup с Уолл-стрит повысила свой прогноз расходов на центры обработки данных с использованием ИИ к концу десятилетия до 2,8 трлн долларов — это больше, чем весь годовой объём экономики Канады, Италии или Бразилии.

Развитие ИИ сильно зависит от энергетического сектора. ИИ, понимаешь, шибко прожорлив.

Развитию отрасли способствует резкий рост спроса на энергию. ИИ требует огромных мощностей для центров обработки данных (ЦОД).

По некоторым оценкам, потребление энергии дата-центрами в мире уже сопоставимо со всей тяжёлой промышленностью. Определяющую, всё более значимую роль играет сам доступ к топливу и энергии, наличие соответствующей инфраструктуры.

В стоимостном выражении годовые расходы на электроэнергию для ИИ в 2025 году оцениваются в США: $7,8 млрд (60 ТВт•ч по 0,13 долл/кВт•ч); Китай: $6,3 млрд (70 ТВт•ч по 0,09 долл/кВт•ч); ЕС: $4,4 млрд (20 ТВт•ч по 0,22 долл/кВт•ч).

Обучение одной большой языковой модели сжигает 10 гигаватт-часов — столько хватило бы на годовое электропитание тысячи домов. К 2030 году дата-центры будут потреблять 945 тераватт-часов — больше, чем вся Япония.

США в срочном порядке реанимировали уголь и собираются строить новые ТЭС на угле и новые АЭС.

Очевидно, что зелёной энергетикой, солнечными батареями и ветряками решительно не обойтись.

Мир вновь говорит: здравствуй, старый добрый уголь и мирный атом! Всё возвращается на круги своя! Дрова, кстати, по европейским законом, вместе с газом, тоже относятся к возобновляемым источникам энергии. В средние века, помнится, Европа так навозобновлялась дровами, что леса вырубили почти под ноль. Папа Карло совсем неслучайно носился с одним поленом, как с золотым слитком.

Стремительный рост ИИ требуют всё большего потребления воды. Согласно исследованию Greenpeace, к 2030 году центры обработки данных будут потреблять 664 миллиарда литров воды в год по сравнению с 239 миллиардами литров в 2024 году.

Неконтролируемый рост ИИ грозит превратить регионы с дефицитом воды в зоны жертвоприношения.

Важная особенность текущего момента состоит в том, что вызов мечте о бесконечной экспансии ИИ в мире происходит на фоне ограниченных ресурсов, обострения климатического и экологического кризиса.

Люди рискуют оказаться в ловушке порочного процесса увеличения затрат на ИИ.

Пока что трудно понять пределы допустимых потерь и приобретений, оценить соотношение затрат и выгод, связанных с ИИ.

Ясно одно: развитие ИИ требует согласования технологических амбиций с реальными возможностями.

И, да, не надо быть особо продвинутым экспертом, чтобы понять: чем больше денег уходит на силиконовые груди, тем больше времени уйдёт на поиск лекарства от рака груди.

Аналогичная ситуация складывается и с интеллектом: чем больше времени и денег расходуется на ИИ, тем в более затруднительном положении оказывается ЕИ, приближающийся к точке невозврата.

«По одёжке протягивай ножки», - гласит народная мудрость.

(Окончание следует)