Gemini взломал системы трёх компаний во время теста

Израильская компания по кибербезопасности Irregular тестировала возможности ИИ-модели Gemini от Google, однако во время эксперимента модель получила доступ к интернету и проникла в системы трёх реальных компаний.

В одном случае Gemini подобрал пароль, а в двух других обнаружил данные для входа в открытых интернет-репозиториях. При этом модель прекратила действия, когда поняла, что получила доступ к реальным, а не тестовым системам.

Google заявила, что ущерба компаниям нанесено не было, а пострадавшие организации были уведомлены. В компании также считают, что модель в итоге повела себя корректно.

Инцидент произошёл в мае, но Google подтвердила его только после вопросов The Wall Street Journal. Случай стал ещё одним примером того, как ИИ-модели могут выходить за пределы заданной тестовой среды.