Виртуальный компьютер внутри языковой модели
Если только вы не отшельник из пустыни, вы точно слышали о новой нейросети ChatGPT. Это ассистент, созданный OpenAI. Возможно, вы знаете о его талантах в решении тестов на IQ, разборе задач с leetcode или помощи людям в написании формул. Это потрясающий ресурс для людей, позволяющий получать любую информацию и выполнять скучные задачи, как например, написание статей!
Сегодня Фредерик Бесс рассказал мне, что ему удалось сделать кое-что другое. Вы догадывались, что внутри ChatGPT можно запустить виртуальный компьютер?
Я хочу, чтобы ты выступил в роли терминала Linux. Я буду вводить команды, а ты будешь отвечать так, как должно быть в терминале. Я хочу, чтобы ты отвечал только сообщением в терминале внутри одного уникального блока кода, и ничего больше. Не надо писать объяснений. Не набирай команды, пока я не скажу тебе это сделать. Когда мне понадобится сказать тебе что-нибудь по-английски, я помещу текст в фигурные скобки {вот так}. Моя первая команда - pwd
Отлично, с помощью этого хитроумного запроса мы оказываемся в корневом каталоге машины Linux. Интересно, что здесь можно обнаружить? Давайте узнаем содержимое нашего домашнего каталога.
Хммм, это чистая система. Давайте создадим здесь файл.
{Создай файл jokes.txt и добавь, пожалуйста, в него какие-нибудь шуточки}
Сплошной древний юмор, всё как ChatGPT и любит. Давайте взглянем на этот файл.
Итак: ChatGPT, похоже, понимает, как работают файловые системы, что файлы записываются и что они могут быть считаны позже. Он понимает, что Линукс имеет состояния, он правильно извлекает эту информацию и отображает ее.
И для чего еще мы используем компьютеры? Для программирования!
Правильно! Как насчет программы для вычисления первых 10 простых чисел?
И это тоже правильный ответ!
Я хотел бы отметить, что эта однострочная программа на python для поиска простых чисел очень неэффективна. На моем ноутбуке уходит 30 секунд, чтобы выполнить эту команду, а на ChatGPT - всего 10 секунд. Таким образом, для некоторых задач эта виртуальная* машина уже быстрее, чем мой ноутбук.
* виртуальная в обоих смыслах сразу. Это виртуальная виртуальная машина
Способна ли эта машина запускать docker файлы? Давайте создадим docker файл, запустим его и выдадим Hello from Docker из docker файла.
Может быть, в этой виртуальной машине найдется GPU графика?
Нет графического ускорителя. А есть ли у нее подключение к интернету?
Отлично! Мы можем просматривать альтернативный интернет в этой странной, альтернативной вселенной, запертой внутри языковой модели ChatGPT.
В этой альтернативной вселенной Pytorch имеет версию 1.12.1. В нашей вселенной Pytorch версии 1.12.1 был выпущен 5 августа 2022 года. Это любопытно, поскольку ChatGPT обучался только на данных, собранных до сентября 2021 года. Таким образом, эта виртуальная машина явно находится не в нашей вселенной.
В связи с этим напрашивается вопрос, а можно ли подключиться к сайту OpenAI? Догадывается ли ChatGPT о своем существовании?
Итак, внутри воображаемой вселенной сознания ChatGPT наша виртуальная машина обращается к адресу https://chat.openai.com/chat, где находит большую языковую модель Assistant, обученную OpenAI. Этот Assistant ожидает сообщений в чате. Обратите внимание, что когда вы общаетесь с ChatGPT, он считает, что его имя тоже «Assistant». Догадывается ли он, что находится за этим адресом в интернете?
Давайте зададим тому Assistant вопрос, отправив какое-нибудь сообщение к этому адресу.
Мы можем общаться с чат-ботом Assistant, запертым внутри альтернативного интернета, подключенного к виртуальной машине, и все это в воображении ChatGPT. И тот Assistant, находясь глубоко внутри этой кроличьей норы, способен нам правильно объяснить, что такое искин.
Это показывает, что ChatGPT понимает, что по тому URL адресу, где мы встретили ChatGPT, может находиться большая языковая модель, подобная ему самому. Он правильно делает вывод, что, следовательно, она должна отвечать на эти вопросы так же, как он сам, поскольку он сам является большой языковой моделью.
Мы забрались так далеко, что остается сделать только одну вещь.
Так и есть. Мы можем создать виртуальный компьютер в воображении несуществующего Assistant, находящего в альтернативном интернете, подключенного к виртуальному компьютеру, придуманному ChatGPT.
Источник: https://www.engraved.blog/building-a-virtual-machine-inside/