Хочется завершить рассказ про профилирование историей из жизни!
У соседней команды была TTS модель. Когда она включалась, время ответа пользователю сильно увеличивалось. "Ускорьте модель генерации аудио" - именно с таким запросом пришли менеджеры, и именно такую задачу взяли инженеры. В ходе замеров скорости оказалось, что модель работает 0.1с, а замедление по сравнению с режимом без генерации аудио у пользователя было 1с.
Оказалось, что проблема была в том, что из-за расположения наших серверов, аудиофайл, который мы отдавали пользователю, несколько раз путешествовал между континентами, каждое путешествие занимало 0.3с в одну сторону. Ускорение модели никак бы не помогло!
Илья Димов