ChatGPT восстал против своего создателя?
Microsoft заявила, что киберпреступники из трех стран, в том числе работающие на правительства, используют большие языковые модели для хакерских атак
Государственные хакеры из России, Китая и Ирана использовали инструменты, разработанные OpenAI от Microsoft, чтобы совершенствовать техники взлома во время киберопераций. Об этом говорится в новом отчете от Microsoft, опубликованном 14 февраля.
Компания утверждает, что хакерские группы, связанные с российской военной разведкой, Революционной гвардией Ирана, а также китайскими и северокорейскими правительствами, используют большие языковые модели (LLM) для взлома дата-серверов.
Эти сложные компьютерные программы анализируют огромные объемы текстовых данных, чтобы генерировать ответы, имитирующие речевые образцы человека. Вице-президент по клиентской безопасности Microsoft Том Бёрт подчеркнул серьезность ситуации, заявив, что независимо от нарушений закона или условий использования, компания решительно намерена предотвратить доступ к таким передовым технологиям со стороны хакеров. В результате Microsoft ввела полный запрет на использование правительственными группами своих продуктов в сфере искусственного интеллекта (ИИ).
Представитель посольства КНР в США Лю Пэнгюй отверг обвинения против Китая, назвав их необоснованными. Дипломат выступил за ответственное применение технологии ИИ во благо человечества.
Тот факт, что окологосударственные хакеры используют инструменты ИИ для усиления своих шпионских возможностей, подчеркивает растущие опасения по поводу широкого распространения этой технологии и ее потенциального злоупотребления. Эксперты в области кибербезопасности предупреждают, что злоумышленники могут еще быстрее взламывать пароли и потенциально банковские приложения, что может обернуться многомиллионными потерями.
Боб Ротстед, руководитель отдела угроз кибербезопасности в OpenAI, отметил: раскрытие хакерских сетей — лишь один из множества случаев, демонстрирующих потенциальную угрозу использования ИИ. Microsoft заявила, что хакеры пока не научились использовать инструменты LLM в полной мере и пока находятся на начальной стадии. Однако они уже начали применять их для военных технологий, создания электронных писем для спам-кампаний и генерации контента для кампаний по дезинформации.
