ИИ-Помощники, которых создавал для себя в Open Source⁠⁠

Проект писался под мои хотелки - мне нужны были специализированные ии-помощники, которые помнили контекст.

Выложил в Open Source: https://github.com/Zazza/svoi-oss

Из за чего он появился первоначально.

Мы с женой делали текстовую браузерную игру: выборы, тактика, бои. Она пишет тексты, я кодил бэкенд. Контента она наделала целую гору, и мне было удобно спрашивать у локальной нейросети (она крутится прямо на моём домашнем ПК) всякое про лор игры: «покажи бой такого-то персонажа», «какие характеристики у такого-то героя».

Параллельно я постоянно общался с ИИ по своим делам и ловил себя на том, что раз за разом печатаю одно и то же: «у меня такая-то видеокарта», «я работаю с такой-то моделью SD и такими LorA». И в какой-то момент подумал: если ИИ и так всё это обо мне знает, почему я должен повторять?

Уточню: ChatGPT помнит, но нафиг он мне не нужен, GigaChat глуповат и, вообще, первоначально я делал всё локально на видеокарте.

Что я вообще хотел

• чтобы он **помнил** факты обо мне между разговорами;

• чтобы работал с моими документами и ссылками;

• и закрывал бытовые хотелки: «найди салонный фильтр для моей машины» (именно моей, без допроса про марку и год), «найди простую чёрную майку» (без «а какой у вас рост и размер?»), «напомни завтра в 15:00», «какие у меня планы на завтра?».

Память, которая не превращается в помойку

После каждого сообщения помощник сам вытаскивает из разговора факты: "у пользователя Kia Rio 2019 года", «аллергия на арахис». И потом незаметно подмешивает их в следующие разговоры.

Случай: Я разбил нос и попросил фитнес-помощника подстроить тренировку. А он потом неделями спрашивал «как твой нос?» и щадил меня на каждом занятии. Пришлось написать «забудь про носовое кровотечение» — и он отстал. Оказалось, что просто копить факты нельзя: память без управления быстро превращается в свалку, поэтому я научил его забывать по команде и сам «подзабывать» старое.

Игры с ИИ — отдельный кайф

Текстовые игры с ИИ — D&D, выживалка на острове и другие.

Реальный пример: захожу в очередную комнату в D&D, на меня кидается маг с ножиком. Вместо драки я заговорил с ним. Рассказываю сколько опасных противник я победил и что какой-то маг с ножиком, эт оне серьёзно. Предложил сходить вместе в таверну, выпить вина и пообщеал познакомить его с прекрасными деваю - и он отдал ключ от следующей комнаты, потому что «с ним никто так хорошо не разговаривал».

Но с играми вылезла другая проблема: однажды фитнес-тренер посоветовал мне «не брать большие веса после вчерашнего удара топором по голове». Удар топором был в игре, а попал в реальные советы по тренировкам. Пришлось разделить игровую память и основную, чтобы игровые факты не смешивались с настоящей жизнью.

Помощники под задачу

Помощник — это чат с готовой ролью: «травник», «копирайтер», «автомеханик», «кулинар», «фитнес-тренер». Можно сделать своего под что угодно.

Например, жена выращивает травы и делает натуральную косметику. Чтобы сделать контент про растение, запускается цепочка: «травник» вытаскивает суть → «копирайтер» пишет текст → «SMM-стратег» адаптирует под соцсети. На выходе — готовый материал, прошедший через трёх «специалистов».

Объектив: присылаешь фото — он разбирает

Можно прислать фотографию и попросить разобрать: что на ней, прочитать текст с этикетки или меню, опознать растение, найти цену. А самое интересное — фото можно скинуть в тематический чат: «автомеханику» — фото двигателя, «кулинару» — фото блюда, и разбирать будет именно по делу.

Почему Open Source

Я не маркетолог и не умею продавать. Единственное, что реально могу — выложить код и рассказать о нём. Поэтому проект открыт под лицензией AGPL. Работает, как локально с Ollama (бесплатно, всё крутится у вас дома, ничего никуда не уходит), так и через облачные модели (BYOK, api-key).

Ссылки на код:
- основное приложение: https://github.com/Zazza/svoi-oss
- штука для работы с локлаьными файлам на ПК: https://github.com/Zazza/svoi-oss-rag

Кому зайдёт — пользуйтесь. Поняти не имею нужно вообще кому-то или нет ))