jailbreak
-
Статья Антивирус для нейросетей: безопасность LLM, RAG и AI-агентов
Современная нейросеть редко работает изолированно. Обычно вокруг модели строится целая система: Пользователь ↓ Веб-интерфейс или API ↓ Системный prompt ↓ Языковая модель ↓ RAG и база документов ↓ Инструменты и плагины ↓ Файлы, почта, браузер, серверы и базы данных...- zer0coder
- Тема
- ai-агенты jailbreak llm prompt injection rag безопасность нейросетей защита ai кража модели отравление данных
- Ответы: 0
- Раздел: 🧠 Обсуждение нейросетей