GAS-Leak-LLM: Алгоритм для black-box jailbreak атак
Автоматическая оптимизация подбора суффиксов как способ проверки устойчивости LLM
Llm
Cuckoo Attack
Разбор новой атаки на IDE с LLM-агентами: как ИИ-помощники могут стать инструментом для скрытного закрепления злоумышленника в системе.
Многоагентный pipeline для защиты LLM от prompt injection
Разбор архитектуры многоагентной защиты, которая позволяет снизить успешность атак типа prompt injection за счет разделения ролей между агентами.