Допилил бота для транскрибации. Теперь с нормальной суммаризацией
Помните мой бот, который переводит созвоны в текст? С тех пор как последний раз писал, прошло 3 месяца. За это время добавил — AI-суммаризацию, но не через дорогущий GPT, а на маленьких моделях.
Сейчас крутится на openai/gpt-oss-20b. Это небольшая модель, которая жрет копейки по сравнению с большими LLM, но при этом делает резюме вполне адекватно. Железо пока держит, не жалуется.
Как работает: кидаешь 40-минутный созвон - получаешь текст + краткое резюме. Можешь выбрать формат: деловое (задачи, сроки, решения), ультра-краткое (2-3 предложения) или еще 4 варианта на выбор.
Работает с голосовыми Telegram, видео из VK, любыми аудио/видео файлами. Плюс облачные хранилища — кидаешь ссылку на Яндекс Диск, Google Drive, OneDrive или другие облака, и бот сам достанет оттуда файл.
Уже 1500 человек в месяц пользуются. И я в том числе). Бесплатно, потому что модельки маленькие :)
P.S. Если кто шарит в оптимизации инференса маленьких моделей — киньте советы. Всегда интересно выжать больше из железа.
P.P.S. Если есть идеи, что еще добавить, чтобы бот стал полезнее или что то не так работает — пишите в комментах тут или мне в личку. По выходным люблю допиливать фичи.
Правильная реклама
Ботоферма Вконтакте
Ответ на пост «Налоги»1
Заплатил 1500 рублей на убийство украинцев и типа спит спокойно.
(Так лучше? Не по-ботски?)
ВК бот
Привет.
Блять, ВК настолько кривой и уёбищный стал в плане восстановления аккаунта:
Во-первых -- капча: подтвердите, что я не робот. Переведите ползунок, двигаешь ползунок, а написаны два слова, не связанные по смыслу, при чём не только слова должны встать в правильном порядке, но и линии всякие.
Я это к чему, Кирюх: хочу восстановить старую страницу ВК, чтобы просто была, купил сим карту для этого, потому что акк привязан к номеру, который с Южного округа, а тут, эмм, Западный округ, вроде) в общем, нельзя тут номер восстановить. Пытаюсь восстановить, пишет, введите доступный номер. Ввожу 8*****7411
Пишет, что номер занят. Че, блять? Я его только купил! Окей, если он занят, то кем? Ввожу восстановить акк и ввожу этот номер, он ничего не говорит. Тыкаю на вкладку "проблемы с номером телефона", он пишет "введите код из СМС для подтверждения" но код не приходит. Телефон, если чё рабочий, звони́т, принимает смс и прочее.
Примерный диалог с ботом:
Я-- Соедините меня с оператором
Б-- задай мне вопрос, например (...)
Я-- ваш бот не может решить мою проблему
Б-- задай мне вопрос, например (...)
Я-- тому, кто сделал этого бота, предоставлен отдельный котёл
Б-- задай мне вопрос, например (...)
___
Выговорился хоть тебе) я подумал,мб ты сможешь помочь, но тебе это нахуй не надо. Подумал, может, ты за косарь сделаешь плюсом к этому спортивный интерес, ты же в этом разбираешься)
PS я писал корешу,ctrl+c и +v, поэтому, такой формат текста









