Из ленты Habr DevOps — кратко, чтобы не потерять.
Это продолжение первой статьи про Briefka — там я описывал самого бота и базовую архитектуру каскада LLM-провайдеров. За прошедшие 4 месяца бот органически вырос с 59 до 84 пользователей, и именно на этом масштабе бесплатный каскад начал срываться на платного провайдера. Расскажу, почему так вышло и как я вернул расходы к нулю — с цифрами и кодом. Код ниже — реальные фрагменты из боевого Briefka, слегка сокращённые для читаемости: убраны логирование и сбор статистики. Читать далее
Полный текст и контекст у первоисточника: https://habr.com/ru/articles/1044546/?utm_campaign=1044546&utm_source=habrahabr&utm_medium=rss