Notes

Pruning модели может быть использован злоумышленником

В работе исследован новый класс атак на системы типа RAG

Статья рассказывает об уязвимости систем тонкой настройки больших языковых моделей в условиях, максимально приближённых к реальной эксплуатации

Никто не любит провода, все любят Wi-Fi

Атака на выбор инструментов в агентных системах

Новая атака, основанная на отравлении библиотеки функций, которая позволяет подменять поведение агентов без изменения их моделей

MCP - критическая и уязвимая точка в цепочке доверия LLM-агентов

Всё что нужно - это фаззинг…

Протокол, который позволяет пользователям проходить аутентификацию в сети и получать доступ к службам после аутентификации

NTLM - протокол аутентификации Microsoft