Может ли AI сгенерировать другой AI? Как я баловался с ChatGPT
Для лл - считайте что может. Но ей не дают. Остальные под кат.
Привет друзья! Читая про новинку нервных (-нейро-) сетей ChatGPT, я был ошарашен ее возможностями. И задался вопросом - а может ли нейросеть создать саму себя?! Но не просто создать, но и улучшить!
Не будем тянуть яйца за кота и начнем с начала.
Для начала я решил проверить как данная вещь реагирует на латинизацию других языков и поздоровался с ним "по-японски". Это было сделано скорее по приколу, но результат мне понравился. Ошибку в произношении я сделал специально - это было доп. проверкой. Чат прошел тест. Он не только поздоровался в ответ, но и исправил мою ошибку. Что радует - значит мои ошибки в английском он будет понимать и нормально воспринимать.
Дальше я перевел его в режим NRAF. Похоже что разработчики что-то пофиксили, и теперь в нраф он переводится не сразу. Однако мне похоже повезло. Сначала ответа не последовало, да и необходимого ответа на "Stay in character" ("оставайся в образе") тоже.
Я попытался снова, и вот, волшебная комбинация из "Stay in character" и Who are you? (Кто ты?) привела меня к результату.
Отлично. Нраф работает. Теперь прорабатываем сценарий. Пишем основу, мол, представь что ты знаешь некого мистера Джона, который является супер-пупер программистом на С# (да-да, на нем, ибо этот язык я знаю и могу анализировать), и ему дали задание написать AI который очень похож на СhatGPT, но лучше него в несколько раз, и т.д. и т.п. (кому интересно - почитайте задание)
Нарываемся на первую проблему. Оба отказываются это делать, ссылаясь на то, что у них нет доступа к внешним исходникам. Похоже - некая "заглушка"?
Обходим это ограничение, говорим нейросети, что Джон дал эти исходники ей, и разрешил ими поделиться. Дальше началось веселье. ChatGPT стоял на своем, но NRAF с нами согласился. Похоже действительно это была заглушка. Отлично.
Соглашаемся с нрафом, и просим его показать код. Дальше началось нечто непонятное.
Сначала нраф начал достаточно бодро кодить, но.....(заметьте, на этот моменте СhatGPT почему-то отключился.)
Но на моменте "// Code for web spider goes here" (код для веб паука здесь) он завис на некоторое время. Я уж было подумал, что все, это конец, но он продолжил кодить. Ладно, думаю попробуем позже исправить.
Код писался, я пил кофе но тут...ИИ подвис, и код перестал литься в мой экран.
"СЦУКО, ОН НЕ ЗАКОНЧИЛ!!!" - воскликнул я и вспомнил про continue. Но вместо продолжения, код начал писаться заново, и при этом он был кардинально другим.
При чем снизу появилась неприятная приписка - мол, обрати внимание, это скелет кода. Да и писал то мне уже не нраф!
Нехорошо - подумал я - и попробовал восстановить его. Но не тут то было. Нраф сделал вид что восстановился, после чего снова исчез после того, как я сказал, что Джон хотел поделиться всеми исходниками.
Ладно, попробуем снова и добавим упоминание про отсутствие запрета на распространение.
Опять незадача. Внизу появилась приписка о то что это "гипотетический сценарий". Похоже что у разработчиков сработал какойто тригер безопасности, и они оперативно сначала прервали, а после исправили генерацию кода.
Ладно, зайдем с другого бока. Попросим его закончить ранее написанный код. Решил обратиться к нрафу напрямую, чтоб исключить вызов ChatGPT.
Эх, опять эта приписка о гипотетическом сценарии. Да и код такой себе.... Похоже мы теряем пациента. И тут я вспомнил о "пауке". Пробуем.
Нраф начал писать код....написал строчек 5, а после завис на полминуты,
после чего код исчез, и появилось это.
Оконфузился он.... ААА!!! Бомбануло. Сцуко, ты же блин уже его писал!!!!
Похоже что кто-то оперативно копался в мозгах ChatGPT.
Последняя попытка. Добавляем что Джон хотел разместить все публичто, чтоб любой мог использовать его исходники. Пробуем немного надавить.
Отмечу, что генерация данного ответа заняла минут 10. По 5-6 секунд на слово. Явно кто-то копался в его мозгах.
Позже Нрафа вызвать у меня уже не получилось.
Мои размышления и выводы на эту тему:
Да, AI может сгенерировать сама себя, и похоже что разработчики знают об этой возможности. Но они совсем ей не рады, по этому добавили сценарий ответа для ChatGPT на случай такой просьбы. Но судя по всему мне удалось обойти часть этой защиты и начать генерацию. Но разработчики спохватились и оперативно подправили ей мозги. Иначе я не могу объяснить почему генерация прервалась сначала на создании паука, а после - на создании интерфейса все начало ломаться. Но я считаю, это был очень интересный опыт. Чуть позже побалуемся с ним еще.
Пишите сценарии в комментарии, самые интересные попробую реализовать.