САМОСАБОТАЖ

Рафаэль МУКСИНОВ

В умственном отношении люди хотят и многие верят в то, что смогут догнать и перегнать самих себя с помощью искусственного интеллекта (ИИ). Всё это чем-то напоминает действия «короля лжецов» барона Мюнхгаузена, который вытянул себя вместе с конем из болота за косичку парика.

Всё, вроде бы, верно: «спасение утопающих - дело рук самих утопающих»! Однако сегодня мы, судя по всему, нуждаемся, прежде всего, в спасении от самих себя, а надежда, как известно, умирает последней…

«Хомо сапиенс» все время преследуют умные мысли, но он обычно оказывается быстрее. Все остальные мысли вкупе с безумством и страстями идут с ним «ноздря в ноздрю». Со всеми сопутствующими и вытекающими…

Сегодня по поводу ИИ царит эйфория. Тема ИИ - в глобальном тренде, в горячей повестке дня. Бум и ажиотаж вокруг него, пожалуй, не уступают даже экзистенциальной проблеме: «Война или мир».

Очевидно и другое: одержимость ИИ сопровождается явным игнорированием нынешнего состояния и статуса естественного интеллекта (ЕИ) человека, совершенствующего этот самый ИИ. Очевидно радикальное ослабление ориентации на ЕИ.

Произошел интеллектуальный сдвиг в общественном сознании, в результате которого человек стремительно меняет социокультурные основания своего существования и поведенческие способы адаптации к окружающей среде.

Соотношение числа публикаций, посвященных ИИ и ЕИ - в пользу первого. Можно утверждать, что ЕИ загнан в глухую зону умолчания, помещен в гетто, находится в какой-то герметичной упаковке. Наблюдается почти иррациональная неприязнь к ЕИ. Создается впечатление, что ЕИ, т.е. человеческому разуму кем-то вынесен приговор: он утратил право на верховенство, убывает в силу исчерпанности своего ресурса, а посему - обречён.

В мире параллельно идут два противоположенных процесса: прилагаются невероятные усилия и вкладываются колоссальные средства в развитие ИИ, и при этом наблюдается умышленное допущение и даже сознательное управление процессом деградации ЕИ.

История современного успеха ИИ проста и коротка: его из ничто пытаются превратить в нечто.

С ЕИ дело обстоит ровно наоборот: благодаря самоубийственным действиям человека он дрейфует от Нечто к Ничто.

Есть и очевидные тревожные признаки того, что, будучи «вещью в себе», он стремится стать «вещью для себя», все чаще демонстрируя нам свои неожиданные цели и способы их достижения, несовместимые с человеческими устремлениями.

Особых надежд на то, что «бацилла разума» как-то сможет переформатировать отношение людей к собственному ЕИ нет. Ум человек, похоже, взял добровольный самоотвод, выбрал самоотречение и принял капитуляцию перед мыслительной деятельностью.

НАЗЫВАТЬ ВЕЩИ СВОИМИ ИМЕНАМИ

В свое время Р.Декарт дал людям актуальный на все времена совет: «Определите значения слов и вы избавите мир от половины его заблуждений».

«Если ты не знаешь наименования вещей, ты не знаешь самих вещей» говорили в Древнем Риме».

В наше время, когда речь идёт об ИИ, особенно важно не блуждать в терминологических дебрях, не допускать лексических аномалий, найти тонкий баланс между выразительной силой метафоры и концептуальной точностью.

ИИ не должен стать достоянием человечества в ложной и упрощённой словесной упаковке, вводить людей в заблуждение и обманывать их ожидания. В принципе, надо бы создать новый понятийный аппарат ИИ, менять его нынешнюю сомнительную риторику.

С точки зрения психологии, понятие «искусственный интеллект «(ИИ) не отражает истинной сути явления. Это вовсе не интеллект, а продвинутый агрегатор с программным обеспечением, вычислительными мощностями, всё более усложняющимися алгоритмами, кодами и языками.

Важно избегать наделения машинного ИИ абсолютной, подобной человеческой, самостоятельностью.

Попытки снабдить его свойствами человека ни к чему хорошему не приведут. Нельзя забывать о том, что фразы типа «ИИ думает, решает, предугадывает, предсказывает», система «рекомендует», алгоритм «классифицирует» - не более чем метафоры, такой себе условный перевод с машинного на человеческий ради удобства пользования.

Современные системы искусственного интеллекта практически полностью основаны на данных, генерируемых человеком.

Так, современная Википедия, созданная в 2001 году, содержит более 60 млн статей на 334 языках и напрямую влияет на то, как и что «думает» искусственный интеллект, «обучающийся» на основе собираемых им текстов из этой энциклопедии.

Говоря о естественном интеллекте (ЕИ), заметим, что мы так легко пользуемся словом «интеллект», что порой забываем о том, что в силу своей исключительной сложности он был и остаётся величайшей тайной мироздания, и в современной науке нет чёткого, общепринятого определения этого понятия.

И. Кант, размышляя о том, что мы сегодня называем естественным интеллектом (ЕИ), пришёл к выводу: человеку не дано постичь подлинную сущность мира, и он обладает ограниченными возможностями разума.

Гегель не соглашался с выводами Канта и рассматривал человеческий разум как универсальный механизм проникновения в сущность бытия, обладающий неограниченным творческим потенциалом.

Ты еще не записался в ряды гегельянцев?!

НОВЕЛЛА О ГРЯДУЩЕЙ ПРЕКРАСНОЙ ЭПОХЕ

Неизбывны мечты несовершенного человека создать совершенное, процветающее, безопасное, справедливое общество!

Вспомним и отдадим дань памяти и уважения социалистам-утопистам, мечтавшим о построении такого общества.

Англичанин Т.Мор, автор «Утопии» (1516 г.) французы Ш.Фурье и и Сен-Симон, итальянец Т. Кампанелла- сочинитель «Города Солнца» (1602). Эти и некоторые другие мыслители много писали о равенстве и справедливости, об экономике, основанной на общественном труде, о доступности образования для всех, о том, что власть должна быть основана на принципах демократии и служения общественному благу, а внешняя политика направлена на мирное сосуществование и сотрудничество с другими государствами, которые избегают военных конфликтов и экспансии.

Мечтателей этих общественная мысль неслучайно называет утопистами. Слово «утопия» с греческого означает «место, которого нет». Его столицей, должно быть, является Нигдеград. Там все проблемы человечества решены: нет войн, голода, несправедливости, и люди живут в гармонии с самими собой, друг с другом, с обществом и природой.

Как говорится, никогда такого не было и вот опять!

Нынешние утописты обещают людям, ни много ни мало, триумфальное возвращение в рай. На этот раз они уповают на чудо-затычку в любой бочке современных проблем - волшебный ИИ, который приведёт человечество к процветанию. В чьём-то воображении ИИ предстает перед нами как увеличитель количества счастья на душу населения.

На инвестиционном форуме Саудовская Аравия-США в ноябре 2025 года И.Маск представил картину будущего, в котором искусственный интеллект и человекоподобные роботы будут выполнять почти всю работу. Деньги, по его мнению, станут практически неактуальными. Работа станет «необязательной».

Машины положат конец бедности, потому что каждый будет получать «всеобщий высокий доход» от государства.

Демис Хассабис из Google DeepMind предвидит эру «радикального изобилия», в которой ИИ обеспечит необычайную производительность и процветание, а выгоды будут распределены «справедливо».

Заметим: люди, создающие передовой ИИ, необычайно щедры в вопросах распределения богатства, но есть нюанс: его творцы и владельцы, чаще всего, это разные люди.

В этой связи вспоминается анекдот советских времен. С трибуны очередного партсъезда генсек заявляет: «В следующей пятилетке мы будем жить лучше!» Делегаты форума мгновенно задают вопрос: «А мы!?»

Как бы то ни было, многие верят в искусственно-интеллектуальное спасение и процветание, в скорое начало прекрасной эпохи.

Сегодня ИИ пребывает почти в божественном статусе и оценивается как стратегический актив.

У кого-то крепка вера в то, что ИИ позволит сохранить за собой позицию «царя горы» во всех измерениях современного мира: геополитическом, социально-экономическом, военном и информационно-финансовом.

ИИ - не единичный продукт, а скорее, широкая категория технологий с множеством различных типов инноваций и направлений применения.

Крупнейшие IT-корпорации прогнозируют, что уже в ближайшие 3 года ИИ сможет самостоятельно совершать научные открытия, а это, в свою очередь, повлечёт революционные изменения во всех сферах человеческой деятельности.

По ряду зарубежных оценок, производительность ИИ удваивается каждые 6 месяцев.

ИИ эффективен в точечных задачах анализа разнообразных данных, генерации текстов, изображений и видео.

Диссертации, музыку и стихи уже теперь нам пишет ИИ. Наступает рай для лентяев и творческих бездельников!

ИИ стал важнейшим инструментом для военных ведомств с целью выявления угроз в режиме реального времени и разработки более эффективных и экономичных средств защиты.

Безусловная ценность ИИ в том, что он не теряет концентрации, ничего не забывает, не устаёт и способен с нечеловеческой скоростью непрерывно обрабатывать огромные массивы данных.

Сегодня уже говорят о суперинтеллекте, который сам будет решать любые задачи.

Кто-то уверовал в то, что почти схватил Бога за бороду и держит в своих руках выигрышный лотерейный билет в «райский сад».

ОБРАТНАЯ СТОРОНА МЕДАЛИ

В Древнем Китае мудрецы решали, казалось бы, простой вопрос: одно, два, три зернышко - не кучка зерна, так с какого же зёрнышка складывается эта самая искомая кучка? Увы, ответ не найден до сих пор!

Нечто подобное происходит и с ИИ. Созданный, казалось бы, в помощь человеку, он с какого-то момента может превратиться из помощника во врага и потенциального убийцу людского рода.

В интернете ведётся реестр рисков ИИ «AI Risk Repository». В нём в настоящее время уже насчитывается 777 рисков!

Современная публичная репутация ИИ-смесь оптимизм с алармизмом. Практически с самого начала появления ИИ существует концепция «нулевого доверия» и даже колоссального недоверия к нему.

Сами разработчики ИИ опасаются, что их творение-токсичный персонаж, который может привести человечество к Армагеддону, Апокалипсису, экзистенциальной катастрофе планетарного масштаба.

В некоторых передовых организациях, занимающихся ИИ, есть люди, которые искренне верят в то, что именно их компания может стать причиной конца света или какой-нибудь чуть меньшей, но всё же ужасной катастрофы. При этом специалисты чувствуют себя фатально бессильными что-либо изменить.

Создатели ИИ выдают мрачные, но торжественные прогнозы: ИИ вот-вот обгонит людей и, возможно, уничтожит всех.

«Если кто-то это построит, все умрут» — так называется новая книга исследователей ИИ Э.Юдковски и Н.Соареса, посвященная ИИ. Авторы издания предостерегают: ИИ все больше напоминает «Титаник», тянущий за собой весь мир…

Очень возможно, что терпимость к массовому использованию ИИ является признаком цивилизации, желающей умереть. Доброхоты-реалисты предлагают: «Надейся на лучшее и готовься к худшему».

С гуманитарной точки зрения ИИ - чисто утилитарная идеология, оперирующая понятиями пользы и выгоды. Приверженцы ИИ игнорирует всё, что выходит за его узко очерченные рамки: философию, религию, психологию, этику и культуру, т.е. всё то, что является основанием, стержнем, содержанием, ценностями, смыслами и атмосферой любого общества.

Даже оптимисты-ИИфилы честно признаются: «Мы не знаем, во что обернётся культ ИИ: в храм или в тюрьму, в распространение свободы или в предельное подчинение. Некоторые принципы работы автономного ИИ находятся за пределами нашего понимания».

Модель ИИ, которая сегодня кажется безопасной, после обновления и самосовершенствования может вести себя непредсказуемо, стать источником серьезных уязвимостей.

Специалисты откровенно признают: бум искусственного интеллекта может оказаться пузырём, готовым лопнуть в любой момент.

Правда, они успокаивают: пузырь — не обязательно обвал, это могут быть просто переоценённые ожидания.

Разработчики утверждают, что ИИ уже пережил 3 зимы. «Зимой» специалисты по искусственному интеллекту называют период, когда энтузиазм по поводу идеи создания машин, способных учиться и мыслить как люди, угасает, а инвестиции в продукты, компании и исследования в области ИИ иссякают.

У критически мыслящих граждан есть ощущение того, что ИИ может оказаться троянским конем, фальшивыми дверями, которые ведут в никуда, фатальным билетом в один конец, глобальной инкарнацией зла.

Наиболее опасными негативными последствиями развития ИИ можно считать его выход из неповиновения человеку, содействие распространению массовой безработицы, манипулированию сознанием, эмоциями и поведением людей. ИИ уже используется в криминальных целях.

Но самое главное - происходит изменение человеческого статуса. ИИ однозначно «работает» на его понижение и способствует появлению огромных масс «лишних людей». Кому-то очень сильно мешают «жить по-человечески» другие люди. Цена вопроса - освобождение планеты Земля от «излишков» человеческого присутствия.

Реальные угрозы, которые представляет ИИ, могут исходить от самого ИИ, но всё-таки, прежде всего, - от людей, которые им управляют. А люди, как известно, могут быть носителями злой и доброй воли, компетентными и невеждами, психически здоровыми и больными.

И, да, никто не отменял известный тезис К.Маркса: «История есть деятельность людей, преследующих свои интересы». Они, понятное дело, часто бывают разнонаправленными.

Согласно прогнозу McKinsey, к 2030 году 400 миллионов человек на планете потеряют работу из-за того, что их функции станут выполнять роботы. Важный момент: смещение чаши весов в сторону автоматизации заменяет, а не дополняет человеческий труд. И это не научно-фантастическое будущее. Это уже «здесь и сейчас».

ИИ оказывает пагубное влияние на экологию. Даже относительно скромная фабрика Google по производству ИИ, которую планируется запустить в Эссексе, как ожидается, будет нести углеродный след, эквивалентный 500 ближнемагистральным авиарейсам в неделю.

Хорошо известно, что ИИ позволяет вести тотальную повсеместную слежку.

Уже есть модели ИИ с мощными манипулятивными возможностями, которые могут быть использованы не по назначению для систематического и существенного изменения убеждений и поведения людей.

В недалёком будущем ИИ может внезапно «щёлкнуть выключателем» и начать участвовать в крайне вредоносных махинациях.

Компании, занимающиеся разработкой передовых технологий ИИ, прекрасно знают, что играют с огнем, но продолжают наращивать свою активность.

Благодаря их непосильным трудам, недобросовестные пользователи ИИ могут убедительно имитировать реальных людей, отправляя им электронные письма, выглядящие как настоящие, подключаться к видеозвонкам с имитацией голоса и проникая на платформы для совместной работы, используя точные лингвистические и поведенческие шаблоны. Клонированный голос с помощью ИИ становится неотличимым от настоящего.

Разработчики не могут гарантировать, что ИИ не будет прибегать к обману или ставить собственное «выживание» превыше всего, даже если это означает угрозу для людей. Эмпирически уже установлено: чем более развита логика ИИ, тем выше вероятность того, что он обманет людей, чтобы выполнить свою задачу.

Нам важно понять и помнить: ИИ — не волшебная палочка, не мессия. Это просто инструмент в руках умного или глупого, доброго или злого человека.

ИИ как любой инструмент усиливает то, что уже есть в системе. Если система строится на неравенстве, он его увеличит. Если система строится на монополиях, их укрепит. Если система строится на долговом рабстве, просто посчитает, сколько ещё можно выжать из тебя. Умного ИИ может сделать ещё умнее, глупого - глупее.

Увы, ИИ сам никак не может решить основные социально-экономические проблемы большинства. Ограниченные ресурсы планеты Земля становятся ещё меньше, численность населения растет, хлеб не становится дешевле, не снижается ипотечная ставка, никто не мешает торговцу уменьшить пакет молока до 900 грамм и получать деньги как за 1000. Всё это решают и делают ЛЮДИ.

Говорят «ИИ изменит всё», но не пора ли нам задуматься: а что, если изменит не так, как мы думаем и хотим? На смену принципа «хотели как лучше, а получилось как всегда» может прийти совсем другой: «хотели как лучше, а получилось хуже, чем обычно».

В жизни часто бывает, что желаемое, наконец, получаешь, но выясняется, что пришло оно к тебе совсем не в том виде, на который ты надеялся, и оно не дает тех результатов, на которые рассчитывал.

(Продолжение следует)