"ИИ может уничтожить нас всех к концу десятилетия"

"Те, кто всерьез занимается ИИ, считают, что он может уничтожить нас всех к концу десятилетия, - написал 8 сентября в соцсети X экс-сотрудник Anthropic Джейкоб Коксон. - Никакая другая область человеческой деятельности не несет в себе такой опасности".

Коксон не уточнил, как именно это может случиться. По словам 27-летнего программиста, он уволился из Anthropic, частично финансируемой Google и Amazon, в знак протеста против того, что назвал безответственным стремлением ИИ-компаний разработать все более совершенный саморегулирующийся сверхинтеллект.

Коксон - не чудак-одиночка. Лауреат Нобелевской премии по физике Джеффри Хинтон, один из "крестных отцов ИИ", уже много лет говорит о серьезных последствиях саморегулирующегося сверхинтеллекта. В 2023 году он уволился из Google, чтобы публично заявить об опасностях своих разработок. О подобном заявлял и один из пионеров в области ИИ Йошуа Бенджио, призвавший к жесткому госрегулированию в этой сфере. Однако после возвращения в Белый дом Дональда Трампа произошло прямо противоположное.

Дискуссии о том, насколько возможно уничтожение или порабощение человечества искусственным интеллектом, ведутся уже много лет. Специалисты, критикующие веру в такой сценарий, считают, что ИИ не способен просто взять и "вырваться из интернета" - первоначально он будет полагаться на серверы, электросети, системы связи и физические ресурсы, контролируемые людьми. Но многие эксперты видят риски в косвенных последствий работы уже существующих ИИ. Среди них - кампании по дезинформации беспрецедентного масштаба, манипулирование, тотальное наблюдение и, конечно, потеря рабочих мест.

Подробнее - на сайте DW: https://pepurl.com/p/5MTIH

Лауреаты Филдсовской премии предупредили об опасности ИИ для науки

Текст их открытого письма опубликовал портал Math and AI.

Ученые отметили, что за последние месяцы новости об успехах нейросетей в решении сложных математических задач стали предметом обсуждения и за пределами научного сообщества. При этом они подчеркнули, что быстрое решение задач не оставляет времени на выделение новых методов и создает проблемы с авторством и плагиатом.