Мы работаем для Вас!

19.мая.2026

Почему ИИ-боты более уязвимы, чем их базовые LLM-модели?

В прошлой статье я показал, как защищен Open Source проект телеграм-бота. В комментариях меня спросили о иных инструментах и методах проверки в связи с чем, мы вышли к ключевому вопросу: почему, если основная LLM защищена, кастомные боты на ее основе остаются уязвимыми?Базовые LLM проходят отдельное safety-training и RLHF-выравнивание. Но production-бот, построенный поверх модели, добавляет новый attack surface: system prompts, память диалога, RAG, tools, webhook-логику и внешние API. Именно этот orchestration layer часто становится слабым местом. Вот данные:Из анализа 14 904 кастомных GPT: Читать далее
Название: Почему ИИ-боты более уязвимы, чем их базовые LLM-модели?
Ссылка на источник:  https://habr.com/ru/articles/1036854/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1036854