Цукерберг пообещал создать ИИ, максимально идентичный человеку, и напугал экспертов

Марк Цукерберг пообещал создать мощную систему ИИ, не уступающую по уровню интеллекта человеку, и сделать ее максимально доступной.

Тем самым глава Meta напугал экспертов и заслужил упреки в безответственности.

Цукерберг заявил, что компания попытается создать систему искусственного интеллекта общего назначения с открытым исходным кодом (AGI), что означает, что она будет доступна разработчикам за пределами компании. Он пообещал, что система будет «настолько доступна, насколько это возможно».

AGI не является строго определенным термином, но обычно под ним подразумевается система ИИ, способная выполнять целый ряд задач на уровне интеллекта, который соответствует или превосходит человеческий.

Эксперты и политики опасаются, что такая система может выйти из-под контроля и стать угрозой для человечества

Цукерберг подтвердил, что Meta рассмотрит возможность создания своих AGI с открытым исходным кодом, то есть свободно доступных разработчикам и общественности для использования и адаптации, как, например, модель ИИ Llama 2, разработанная компанией.

«Эта технология настолько важна, а ее возможности настолько велики, что мы должны открыть исходный код и сделать его настолько широко доступным, насколько это возможно», — заявил Цукерберг.

Дэйм Венди Холл, профессор информатики Саутгемптонского университета и член консультативного органа ООН по ИИ, назвала перспективу появления AGI с открытым исходным кодом «очень пугающей»:

«Мысль о том, что AGI с открытым исходным кодом будет выпущен до того, как мы выясним, как регулировать системы искусственного интеллекта, действительно пугает, — подчеркнула она. — Подобные технологии могут причинить большой вред. Предлагать это — безответственно со стороны компании… Это похоже на предоставление людям шаблона для создания ядерной бомбы».

«Переход к AGI может спасти мир или привести к катастрофе, — отметил Эндрю Рогойски, директор Института ИИ в Университете Суррея. — Эти решения должны приниматься на основе международного консенсуса, а не в зале заседаний совета директоров технологического гиганта».

Калифорнийская компания OpenAI, разработчик ChatGPT, также работает над созданием AGI, который она определяет как «системы искусственного интеллекта, которые, как правило, умнее людей». Не исключено, что AGI может появиться менее чем через десять лет.

Цукерберг не назвал сроки разработки системы AGI, но добавил, что работа над Llama 2 идет полным ходом.