Мы работаем для Вас!

08.апр.2026

Показываю, как я заменил JSON на TOON в LLM-промптах и сэкономил 40% токенов

Привет! Меня зовут Андрей, я фронтенд-разработчик в Cloud.ru. Я работаю с LLM API каждый день. И каждый день отправляю в контекст структурированные данные: списки товаров, логи, пользователей, метрики. Все это — JSON. И все это — деньги.В какой-то момент я посчитал, сколько токенов из моего промпта уходит на фигурные скобки, кавычки и повторяющиеся ключи. Оказалось — много. Слишком много.Потом я попробовал TOON. Вот что из этого вышло. Читать далее
Название: Показываю, как я заменил JSON на TOON в LLM-промптах и сэкономил 40% токенов
Ссылка на источник:  https://habr.com/ru/companies/cloud_ru/articles/1020430/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1020430