34

Ответ на пост «"Яндекс" обучил с нуля большую языковую модель Alice AI Foundation LLM и назвал её полностью суверенной»⁠⁠

Серия Чебурнет

Типичное для данного жанра сообщение: что-то очень круто разработали, но бездарно (или вовсе никак) внедрили. В пику аналоговнетных танков и самолетов, аналогов которым нет не только у врага, но и в собственных войсках.

Собственно, никакущее внедрение отечественных больших языковых моделей, каково бы ни было их происхождение, может видеть каждый, кто пользуется поиском Яндекса. Алиса AI, нацеленная на суммаризацию результатов поиска, годится только для самых базовых вещей (может сделать выжимку по общеизвестным фактам), но именно тогда, когда от нейросети ждешь интеллектуальности, она полностью пасует. Приведу один яркий пример.

Даю задачу определить, кто изображен в виде бюста, отправляю фотографию бюста из экспозиции Лувра. Получаю импортозамещенный ответ о совершенно другом бюсте.

Допустим, что мне следовало сразу уточнить о том, что это бюст из Лувра, следовательно, скорее всего он изображает француза. Я пытаюсь подтолкнуть Алису к размышлениям в сторону правильного ответа.

Прошу заметить, что Алиса не просто стоит на своем правильном ответе, но пытается подогнать действительность под свой неверный ответ — спорит со мной полужирным начертанием, даром, что не капсом. Замечаю ей, что она рассказывает мне не просто про другого человека, но и о другом бюсте.

От такого верчения на сковороде у меня начинает падать нижняя челюсть на стол. Натягивание совы на Яндекс-глобус продолжается с завидным упорством. Прямым текстом указываю, что мы ведем диалог о разных бюстах.

Прошу обратить внимание, что от исходного задания по определению личности, изображенной в виде бюста, мы пришли к тому, что Алиса уже меня стала спрашивать, кого изображает сей бюст. Это, конечно, не могло не вывести меня из себя. Авторы нейросетевых чат-ботов постоянно предлагают общаться с ними, как с живыми людьми (мол, они так могут, и это эффективная форма), ну я и предположил чисто по-человечески.

Алиса запуталась во всем, кроме своего первоначального упорства. Я бросил это гиблое дело, и занялся поиском по-старинке. Нашел этот бюст на сайте экспозиции музея Лувра, и решил посмотреть на реакцию Алисы.

Ура! Ну слава богу, вместе мы справились! Сколько-то там миллиардов параметров, и теперь я у этих миллиардов могу спросить прогноз погоды и в каком году произошел первый раздел княжества Мекленбург (но это не точно).

Вывод таков. Сколько бы ни было миллиардов параметров в нейросети, на каких бы наборах данных ее не обучали, кто и при помощи какого инструментария это не делал бы, наиболее важно, как этот инструмент применяется на практике. Если при применении нейросетевой бабе не выделить контекста, она и свое прошлое предложение не будет помнить, не то что весь предыдущий диалог. Если ее еще и ограничить доступом только к белому списку сайтов (если дать Алисе ссылку на англоязычный сайт, например Реддит, она отвечает, что не может обращаться к сайтам в интернете; хотя потом содержимое ровно с того же сайта анализирует), получается и вовсе какая-то квасная химера.

В этом я вижу полную аналогию и с материальным производством. Так прекрасно у нас разрабатывают все самое лучшее в мире, но оно либо лежит разработанным на полке, либо, в лучшем случае, применяется для имитации бурной деятельности.

В дальнейшем я хочу осветить еще несколько примеров работы суверенных импортозамещенных духоскрепных нейросетей, и сравнить их с примерами работы мерзких гейских вражеских нейросетей, не являющихся импортными аналогами.

Показать полностью 6

«Яндекс» обучил с нуля большую языковую модель Alice AI Foundation LLM и назвал её полностью суверенной⁠⁠

80 млрд параметров, из которых активны 3 млрд, и обучение на 18 трлн токенов — таковы характеристики новой большой языковой модели Alice AI Foundation LLM от «Яндекса». Она обучена с нуля, без сторонних иностранных составляющих, и позиционируется как полностью суверенная. Об этом «Ведомостям» рассказал представитель компании.

фото: Андрей Гордеев / Ведомости

фото: Андрей Гордеев / Ведомости


Веса модели открыты: опубликованы настроенные параметры, которые позволяют разработчикам самостоятельно запускать её и дообучать — лицензия разрешает свободное использование в коммерческих и исследовательских проектах. По словам представителя «Яндекса», Alice AI Foundation получилась более крупной и универсальной, чем прежние разработки, и должна стать основой будущей рассуждающей модели компании и агентных возможностей «Алисы AI».

Критерии суверенной модели закреплены законом: понятия суверенной и национальной моделей появились в законе № 243-ФЗ об искусственном интеллекте, вступившем в силу 1 сентября. Требования к суверенной модели жёстче — она должна базироваться на полностью отечественных составляющих: программном коде, архитектуре и инфраструктуре. Национальной же допускается использовать иностранные компоненты, в том числе решения с открытым исходным кодом. Присваивать статус будет правительство, а постановление ещё разрабатывается в диалоге с отраслью.

Источник публикации "Сделано у нас"

Подписывайтесь на Телеграм «Сделано у нас» тут, а на сообщество на Пикабу можно подписаться здесь

Также у нас теперь есть канал в МАХ

Показать полностью 1
Отличная работа, все прочитано!

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества

Недвижимость и ремонт

Теги

Популярные авторы

Сообщества