Современные достижения в области больших языковых моделей (LLM) 🚀
Недавние успехи в разработке LLM открыли новые возможности для их интеграции в приложения. Однако с ростом возможностей моделей растут и атаки на них. Атака через инъекцию подсказок (prompt injection) признана главной угрозой для LLM-приложений по версии OWASP. В таких атаках злоумышленник внедряет вредоносные инструкции в данные, которые обрабатывает модель. Например, владелец “Ресторана А” может добавить … Читать далее