Обработка автоматического перевода LLM как асинхронного потока событий
1. Введение
Во время разработки функции автоматического перевода многозначных строк я понял, что есть более важные проблемы, чем просто вызов LLM для получения перевода. Это вопрос о том, как обрабатывать вызовы LLM в рамках существующей потока запросов услуг. Обработка на основе LLM