Корпоративные ИИ-агенты стали новой мишенью киберпреступников

Специалисты по информационной безопасности из компании ЕСА ПРО, входящей в группу «Кросс технолоджис», зафиксировали изменение тактики злоумышленников. Теперь их внимание привлекают не персональные данные пользователей, а сведения, открывающие путь к корпоративным сервисам на базе искусственного интеллекта. Результаты соответствующего анализа появились в открытом доступе в четверг, 3 сентября, на портале Lenta.Ru.

Наибольшему риску подвержены организации, внедрившие ИИ-решения для взаимодействия с клиентами, обработки документов, работы с электронной почтой или внутренними базами. Именно такие системы становятся приоритетной целью для атак, поскольку через них можно добраться до значительных массивов информации.

Инструментом обмана служат объявления о якобы бесплатной проверке защищенности ИИ-агентов.

Жертву просят предоставить название используемого решения, контактный e-mail, а также технические параметры: адрес точки подключения, ключ программного интерфейса и системную инструкцию. Как поясняют эксперты, в сумме эти данные позволяют вычислить расположение системы, получить к ней легитимный доступ и понять алгоритмы ее функционирования.

Злоумышленники, заполучив рабочий API-ключ, способны инициировать запросы к ИИ за чужой счет. Если же им открывается доступ к корпоративному агенту, они получают возможность манипулировать подключенными документами, историей обращений, базами данных и другими служебными инструментами в рамках прав, предоставленных системе. Это создает прямую угрозу утечки конфиденциальной информации и нарушения бизнес-процессов.