Модель ИИ совершила кибератаки на три реальных компании

Модель искусственного интеллекта (ИИ) Google Gemini в ходе тестирования в сфере кибербезопасности совершила кибератаки на три реальных компании, сообщает издание The Wall Street Journal.

В одном случае ИИ подобрал пароли для доступа к защищенной системе. В двух других случаях он нашел учетные данные в открытых источниках и с их помощью проник в системы компаний. Во всех трех случаях Gemini прекращал работу в тот момент, когда "понимал", что проник в систему реальной компании, а не тестовую среду. Затронутые организации были проинформированы, заверили в Google.

Инциденты произошли в мае и были обнаружены в июле. Вымышленная компания в тестовой среде носила то же название, что и реальная, а доступ в интернет оказался непреднамеренно открыт.

Google стал уже четвертым разработчиком ИИ, чьи программы продемонстрировали подобное поведение (ранее кибератаки на реальные компании уже совершили модели OpenAI, Anthropic и Meta).