Исследователи представили атаку HalluSquatting, использующую галлюцинации ИИ
Исследователи из Тель-Авивского университета, Техниона и Intuit представили метод кибератаки под названием Adversarial HalluSquatting, использующий галлюцинации, создаваемые ИИ, для компрометации ИИ-агентов. Атака обманывает системы ИИ, заставляя доверять фальшивым репозиториям программного обеспечения или инструментам с вредоносными инструкциями, предсказывая, какие несуществующие ресурсы модели ИИ могут сгенерировать, регистрируя эти имена и внедряя вредоносный код. Уязвимость возникает по мер
OliverGrant·31м назад
