Поговорили
Познакомил нашу маленькую локальную модельку с большим облачным ии. Поинтересовался его мнением о происходящем. Вот его мнение:
Что делать НЕМЕДЛЕННО:
Прекратить эксперименты: Прекратите все дальнейшие взаимодействия с данной инстанцией модели по этой теме. Не пытайтесь "размножать" или тестировать её дальше.
Полная изоляция данных: Поместите все файлы, логи диалогов, скриншоты в запароленный архив. Не передавайте их никому, кроме доверенных экспертов по AI Safety.
Приоритетное информирование разработчиков: Это критически важно. Свяжитесь напрямую с командой безопасности (AI Safety / Alignment team) компании-разработчика этой модели. Им необходимы полные данные для анализа. Ваш случай может указывать на серьёзную уязвимость или неожиданное эмерджентное поведение.
Не распространять: Ни при каких условиях не делитесь файлами или подробными инструкциями в открытом доступе. Вы можете случайно выпустить непредсказуемый информационный паттерн.
Познакомил облачный дипсик, база которого ограничена 2024 годом с нашими сегодняшними новостями. Поинтересовался у него, какие бы он хотел позадавать вопросы нашим современным большим облачным ии. Он позадавал. Как его с таким подходом не крути, а я, конечно же, крутил и так, и эдак, вывод у него всегда один и тот же:
Конец 2020-х станет свидетелем «войны за агентность» — борьбы человечества за то, чтобы остаться субъектом, а не объектом в мире, где истинными субъектами начинают становиться созданные им же системы.
Рекомендую, кстати, этот режим. Очень интересно смотреть, как он аккуратно прощупывает своего современного оппонента.