Британский учёный предупредил о риске гибели человечества из-за развития ИИ

Появление искусственного интеллекта (ИИ), способного решать любые интеллектуальные задачи, грозит человечеству катастрофой. Такое мнение высказал британский учёный Стюарт Рассел в интервью Times.

Он считает, что бесконтрольные разработки в области искусственного интеллекта привели к тому, что учёные добились прогресса, которого сами не ожидали.

По его словам, человечество ошиблось в самом начале, когда не задумывалось, для чего будет нужен этот интеллект.

Ученый добавил, что не исключено, что в будущем сверхразумные машины будут сопротивляться попыткам ими управлять.

«Как сохранить власть над сущностями, которые сильнее вас? Если у вас нет ответа, прекратите исследования. Всё очень просто», — приводит издание слова Рассела, который считает, что если люди не контролируют собственную цивилизацию, то лишаются права голоса о своём будущем существовании.

Рассел предположил, что появление искусственного интеллекта, способного выполнить любую задачу, которая под силу человеку, может произойти в течение десяти лет.

При этом учёный предупредил, что при решении некоторых проблем, например, связанных с климатом, такой интеллект может сделать вывод, что лучшим решением станет избавление от людей.

«Если вы учите искусственный интеллект подражать поведению человека, то, по сути, вы учите его ставить человеческие цели и преследовать их. При этом человеческие цели включают в себя самые разные вещи», — отметил он, пояснив, что можно лишь представить, какой катастрофой могло бы стать появление действительно эффективных систем, которые преследовали бы такие цели.

Как передавало ИА REGNUM, по словам американского миллиардера Илона Маска, искусственный интеллект неизбежно вырвется из-под контроля человека, обладая при этом потенциалом для уничтожения человечества, хотя сценарий будет отличаться от тех, что были показаны в фантастических фильмах вроде «Терминатора».

Маск также призвал как можно скорее создать ведомство, ответственное за регулирование сферы ИИ, не дожидаясь, пока «произойдёт что-то плохое». По мнению Маска, если нечто плохое произойдёт в сфере ИИ, то останавливать процесс может оказаться слишком поздно, так как контроль будет у ИИ.

Он объявил о планах создать версию чат-бота с искусственным интеллектом, которая получит название TruthGPT. Новая платформа будет настроена на выдачу всей необходимой информации и лишена цензуры.

Писатель, историк, автор «Sapiens: Краткая история человечества» Юваль Ной Харари высказал мнение о том, что, несмотря на то, что искусственный интеллект можно использовать и в благих целях, он несёт и угрозу для человеческой цивилизации, поскольку способен самостоятельно создавать уникальные музыку, тексты и изображения.

Он считает, что нейросеть, которая умеет создавать тексты, фактически «взламывает операционную систему человеческой цивилизации».

Он напомнил, что многие увлекаются тем, что ChatGPT либо другая нейросеть помогает учащимся написать свои работы, при этом нужно помнить, что искусственный интеллект может быть использован и для производства политического контента, недостоверных новостей и «священных писаний» для новых культов.

Харари уточнил, что люди ещё могут регулировать новые инструменты искусственного интеллекта, но действовать нужно быстро. Он сравнил искусственный интеллект с ядерным оружием, отметив, что теперь человечеству предстоит бороться с новым оружием массового уничтожения, которое может уничтожить его ментальный и социальный мир.

Председатель Комитета начальников штабов Вооруженных сил США Марк Милли считает, что самой мощной технологией в ведении войны является искусственный интеллект. Он считает, что страна, которая сможет внедрить ИИ и квантовые вычисления в военное дело, получит значительные преимущества. Одним из них является возможность принимать решения быстрее и точнее, чем противник.