Вас обманут не моргнув и глазом

Мошенники уже научились применять нейросети, адаптируются к эволюции технологий и активно используют дипфейки, рассказал РИА Новости ведущий исследователь данных в "Лаборатории Касперского" Владислав Тушканов.

«Генеративные сети, связанные с картинками, голосом могут быть использованы, чтобы синтезировать доказательства того, чего не было, — дипфейков. И они вполне могут использоваться в мошенничестве, например. Было много случаев, когда мошенники создавали дипфейки, чтобы писать посты в социальных сетях со ссылкой на мошенническую страницу, один из громких примеров — это использование образа Илона Маска", — сказал он.

При этом, по словам эксперта, мошенники постоянно эволюционируют: люди уже научились не доверять картинкам, поэтому злоумышленники начали создавать дипфейковые видео, которые отличить уже сложнее.

"И дело не в том, что дипфейки — плохая технология. Они могут применяться в обучающих видео, позволяют делать их качественными, синхронизировать губы с речью при переводе на разные языки при переозвучке, они уже широко применяются в кинематографе. Но для мошенников это в том числе возможность заставить поверить в свое сообщение", — полагает Тушканов.

Играет на руку мошенникам и ажиотаж вокруг нейросетей, отметил собеседник агентства.

"Тот же ChatGPT доступен под веб-интерфейс, но получить доступ можно не из любой страны, они даже на какое-то время останавливали регистрации. Мошенники этим активно пользуются. Недавно у нас было исследование: в интернете появились ресурсы якобы для скачивания клиента ChatGPT и еще сразу получить 50 долларов. Конечно, это был не клиент, а троян, и таких случаев сейчас достаточно", — рассказал он.

Однако законодательно запрещать искусственный интеллект, как это сделали, например, в Италии, по словам Тушканова, не выход.

"Нужно не регулировать саму технологию, а правильно ее применять. В разных странах разные правила. Где-то заставляют предупреждать, что ты говоришь не с человеком, а с роботом, подписывать сгенерированную картинку, чтобы не вводить людей в заблуждение, что это фотография", — полагает он.

Чат-бот с искусственным интеллектом ChatGPT, разработанный компанией OpenAI (один из ее основателей — Илон Маск), набрал популярность в конце прошлого года, собрав первый миллион пользователей менее чем за неделю. В конце января компания Microsoft заявила, что планирует инвестировать в OpenAI миллиарды долларов. А в марте компания представила новую мультимодальную модель GPT-4, которая может распознавать и текст, и изображения, и решать сложные задачи с большей точностью.

Но имитация ботом разговора спровоцировала рассуждения о том, что он может вытеснить профессиональных писателей и даже стать угрозой для основного поискового бизнеса Google. В феврале в СМИ появилась информация, что власти Китая запретили крупнейшим технологическим компаниям Tencent Holdings и Ant Group предоставлять клиентам доступ к сервисам ChatGPT. А в конце марта Италия стала первой западной страной, ограничившей работу ChatGPT из-за нарушений при сборе информации пользователей.