Люди «просят разочароваться» в Chat GPT-4
Генеральный директор OpenAI Сэм Альтман считает, что вокруг следующей основной версии GPT слишком много шумихи.
GPT-3 появился в 2020 году. Улучшенная версия GPT-3.5 используется для чат-бота ChatGPT.
Во время видеоинтервью StrictlyVC Альтман ответил на ожидания, что GPT-4 появится в первой половине года, сказав: «Он выйдет в какой-то момент, когда мы будем уверены, что сможем сделать это безопасно и ответственно».
OpenAI никогда не торопила выпуск своих моделей из-за опасений по поводу воздействия на общество. Возможность генерировать огромное количество контента может усугубить такие проблемы, как дезинформация и пропаганда.
В документе (PDF) Центра терроризма, экстремизма и борьбы с терроризмом Миддлберийского института международных исследований было обнаружено, что GPT-3 может генерировать «влиятельный» текст, который может радикализировать людей в сторону ультраправых экстремистских идеологий.
Первоначально OpenAI предоставлял доступ к GPT небольшому количеству доверенных исследователей и разработчиков. Хотя он разработал более надежные меры безопасности, затем был введен список ожидания. Список ожидания был удален в ноябре 2021 года, но работа над повышением безопасности продолжается.
«Чтобы обеспечить ответственное создание приложений с поддержкой API, мы предоставляем инструменты и помогаем разработчикам использовать лучшие практики, чтобы они могли быстро и безопасно запускать свои приложения в производство», — написал OpenAI в своем блоге.
«По мере того, как наши системы развиваются, и мы работаем над улучшением возможностей наших средств защиты, мы рассчитываем и дальше оптимизировать процесс для разработчиков, уточнять наши рекомендации по использованию и со временем разрешать еще больше вариантов использования».
Ажиотаж вокруг GPT-4 растет и появляются дикие претензии.
Одно из вирусных заявлений состоит в том, что GPT-4 будет иметь 100 триллионов параметров, по сравнению со 175 миллиардами GPT-3. По этому утверждению Альтман довольно лаконично назвал его «полной чушью».
Далее Альтман выражает свое мнение о том, что на данный момент такие предположения нездоровы и нереалистичны.
«Мельница слухов о GPT-4 — нелепая штука. Я не знаю, откуда все это», — прокомментировал Альтман. «Люди просят разочароваться».
«Шумиха такая же, как… У нас нет настоящего AGI (Искусственного общего интеллекта), и это то, чего от нас ждут».
Хотя ясно, что Альтман хочет, чтобы сообщество умерило свои ожидания, он рад сообщить, что модель создания видео появится, хотя и не указывает сроки.
«Это законный исследовательский проект. Это может быть довольно скоро; это может занять некоторое время», — сказал Альтман.
Модели для создания видео потребуют максимальной защиты. Многие люди знают, что нельзя доверять всему, что они читают, и все большее число людей знает, что изображения также можно генерировать относительно легко.
Манипуляции с видео, такие как дипфейки, уже доказывают свою проблему. Людей легко убедить тем, что, по их мнению, они видят.
Мы видели дипфейки таких фигур, как опальный основатель FTX Сэм Бэнкман-Фрид, совершавший мошенничество, президент Украины Владимир Зеленский, дезинформирующий, и спикер Палаты представителей США Нэнси Пелоси, клевета и выставляющая ее пьяной.
OpenAI поступает правильно, не торопясь минимизировать риски и контролируя ожидания.