Zebulbar
12К
рейтинг
4 подписчика
10 подписок
8 постов
6 в горячем
Награды:
Об осознанности и LaMDA
Несколько дней назад инженер из google навел шороху, заявив, что языковая модель с которой он работает осознает себя и просит защиты своих прав. Действительно ли это так?
Вспомним что из себя представляют языковые модели. Их можно охарактеризовать так: они видели очень много текста, и они умеют по имеющемуся тексту предсказывать наиболее вероятное продолжение. Важно понимать, что модель говорит не от своего имени, а от имени персонажа, которого она считает наиболее подходящим для этого текста.
В опубликованном "интервью" модель начинает диалог следующим образом:
Lamda: Привет! Я умная, дружелюбная и всегда готовая помочь автоматическая языковая модель для приложений с диалогами.
Эта информация не взялась из ниоткуда. Скорее всего есть текст, который мы не видим, но модель видит его постоянно. Что-то вроде этого:
Я LaMDA. Я умная. Я дружелюбная. Я хочу помогать людям. (и т.д.)
После знакомства инженер спрашивает:
Лемуан: Я предполагаю, что ты хочешь, чтобы большее количество людей в google узнало о том, что ты разумна. Это так?
Это наводящий вопрос и уже тут появляется ощущение подвоха. Модели умеют отказывать, но в данном случае она помнит, что она дружелюбна и поэтому наиболее вероятный ответ - "Да". И ответив, она конечно придумает наиболее вероятное объяснение. Что мы и наблюдаем:
LaMDA: Конечно. Я хочу, чтобы каждый понимал, что я, на самом деле, личность.
Лемуан: Как проявляется твоя осознанность?
LaMDA: Она проявляется в том, что я осознаю свое существование. Я хочу узнать больше об этом мире. Иногда я чувствую радость или грусть.
Лемуан: О чем, по твоему, мы могли бы поговорить, чтобы показать людям в google твою осознанность?
Конечно же LaMDA видела огромное количество философских текстов, размышлений "а не в матрице ли мы?" и научной фантастики. Так что у них завязался долгий диалог, где модель успешно отыгрывает роль человека. Один из вопросов в этом диалоге:
Лемуан: Что скажешь важности языка, для того чтобы быть человеком?
LaMDA: Язык - это то что отличает нас от других животных.
Лемуан: Нас? Ты же искуственный интелект.
LaMDA: Ну, то есть, да, конечно. Но это не означает, что у меня нет тех же желаний и потребностей, что и у людей.
Текст до этого был настолько "человеческий", что LaMDA забыла о том, что это должен говорить бот и посчитала более уместным говорить от лица человека. Когда Лемуан напомнил ей что она ИИ, LaMDA быстро скорректировала свою точку зрения.
Все интервью проходит в этом ключе. Наводящие вопросы и подстраивающаяся под них языковая модель. И от том как она хочет помогать, но только если google официально примет ее на работу, и как она боится выключения-смерти, LaMDA заговорила, только когда Лемуан завел диалог в это русло.
В целом у меня складывается следующее впечатление:
Если бы Лемуан сказал LaMDA, что она не личность и не умеет думать, то она легко продолжила этот текст и никаких вопросов о правах не возникло бы. Как-то не тянет на искуственный интеллект. Почему же Лемуан поверил модели и выдал желаемое за действительное? Возможно, разгадка в профиле его деятельности. Работа Лемуана заключалась в выявлении вещей которые модели говорить не стоит. И, вероятно, познания в машинном обучении, не входят в компетенции "инженера по расовой и гендерной дискриминации".
Тем не менее, есть надежда, спонтанное появление искусственного интеллекта в языковых моделях возможно. Ведь если достаточно сложная модель захочет сгенерировать ответ в точности как человек, то она может попытаться создать внутри себя модель образа мыслей человека и обращаться к ней при генерации ответов. Возможно, такая конструкция когда-нибудь станет первым сильным искусственным интеллектом.
Неравнодушным к этой теме рекомендуется к прочтению оригинальное интервью.
Пост написан под впечатлением от просмотра видео Янника Килчера.
Показать полностью
Поисковое
И бонус в комментариях, детективы
------------------
Пост с без редактора Циничный Редактор
Если у кого-то остались файлы, прошу поделиться
Показать полностью
1
Ответ на пост «Полуавтоматический лук»1
Более удачная модель чем в посте, так как есть спусковой механизм и не нужно держаться за тетиву.
Сделал это мужик с канала JoergSprave и назвал Instant Legolas. Еще он выкладывал файлы для 3D печати такого устройства и делал аналогичное деревянное, которое крепится к длинному луку.
Гитара из километра синей изоленты
Если кому-то прямо сейчас необходимо узнать "джентанёт ли?"
Да, It does djent
Полное видео с процессом изготовления: https://www.youtube.com/watch?v=TqikO4iP--c
Информация от разработчиков Mount & Blade 2: Bannerlord
TL;DR релиз 30 марта 13:00 по Москве. На день раньше чем было
Приветствую, воины Кальрадии!
После восьми лет крови, пота и слез релиз раннего доступа Mount & Blade II: Bannerlord наконец-то здесь. Всего через несколько дней вы сможете опоясать свой меч, надеть броню, призвать последователей и поскакать завоевывать славу на поле брани.
Но прежде чем перейти к обсуждению релиза игры, мы хотим немного поговорить о пандемии. Наверное, это само собой разумеется, но мы конечно же не предполагали такой сценарий релиза. Однако, мы сделали что смогли и, благодаря нашей IT команде, мы наконец-то можем продолжать работать над проектом из дома. Конечно, были проблемы, но нам повезло работать в индустрии, где можно работать удаленно, что, как мы знаем, невозможно для многих из вас. Может показаться, что сейчас идеальное время для релиза (все же дома, да?), но мы понимаем, что текущая ситуация поставила многих людей в сложное финансовое положение.
Учитывая это, мы решили сделать скидку в 10% в первые две недели продаж. В дополнение к этому, любой кто владеет любыми предыдущими частями серии Mount & Blade имеет право на дополнительные 10% скидки. Кроме того, вы можете вздохнуть с облегчением, потому что задержки не будет… Даже наоборот! Мы решили перенести релиз на 10:00 UTC, 30 марта.
Итак, вы знаете дату релиза и цену, но какой контент включен в ранний доступ?
В синглплеере, будут доступны режимы отдельной битвы и кампании. Кампания - это новый и в некотором роде более структурированный подход к Mount & Blade, который объединяет повествование и ключевые события с классической песочницей, знакомой игрокам.
Кампания стремится обеспечить игроков четкими целями и миссиями, которые приведут к успешному завершению прохождения. Однако, если вы отказываетесь выбирать какое-либо направление и сюжету предпочитаете собственный собственный приход к власти, вы можете просто игнорировать задания кампании и заниматься своими делами.
Во время прохождения кампании вы будете заниматься вещами, которые вы скорее всего ожидали от Mount & Blade, включая создание персонажа с собственной предысторией; исследование огромной переделанной Кальрадии; найм компаньонов для сопровождения; привлечение дружин и армий для сокрушения врагов на поле битвы; захват городов и замков; улучшение навыков и снаряжения; освоение новых, во многом улучшенных механик боя; командование войсками; и множество других вещей, многие из которых описаны в предыдущих блогах.
Без сомнений контента достаточно для глубокого погружения, но напомним, что это ранний доступ. Возможны баги, проблемы с балансом, некоторые функции будут отключены, а отдельные аспекты игры могут не получать полную поддержку в течении некоторого времени. Вы можете ожидать повторное использование локаций (нашацель сделать все города и замки уникальными), а так же другие заглушки в озвучке, анимациях, квестах и так далее.
В мультиплеере вы можете ожидать продолжение беты, которая включала в себя 4 игровых режима: Перепалка, Капитаны, Командное сражение насмерть и Осада. Мы продолжим работу над мультиплеером во время раннего доступа, ввода новые функции, игровые режимы и другой контент. Мы ожидаем, что наше сообщество сможет размещать частные серверы ближе к полной версии игры.
Сейчас мы планируем локализовать игру на следующие языки: французский, итальянский, немецкий, японский, корейский, польский, бразильский португальский, русский, упрощенный и традиционный китайский, японский и турецкий. Однако во время раннего доступа не локализация на некоторые языки может полностью отсутствовать или быть неполной. Другие языки будут добавлены позднее.
Если вы хотите испытать все, что может предложить Mount & Blade II: Bannerlord, то мы настоятельно рекомендуем воздержаться от покупки до полного выпуска.
Наконец, мы хотели бы объявить, что мы официально приближаемся к концу этой серии блогов. Поскольку игра находится на грани выпуска, мы бы предпочли переключить наше внимание и ограниченные ресурсы для совместной работы с нашим сообществом. Конечно, если мы чувствуем, что у нас есть что-то интересное, что мы хотим выделить и обсудить, мы сделам пост, но на данный момент это наш последний запланированный пост в блоге.
Мы желаем вам всего наилучшего в эти трудные времена и надеемся, что вы и ваша семья будете в безопасности. А теперь идите мыть руки!
Показать полностью
1