Департамент образования Нью-Йорка блокирует нейросеть. ChatGPT запретили ученые и в школах Нью-Йорка ⁠⁠

08.01.2023 Одна из самых престижных в мире конференций по машинному обучению запретила использование ChatGPT и языковых инструментов ИИ для написания научных работ. В тот же день стало известно о запрете использования нейросети в школах Нью-Йорка.

“Статьи, включающие текст, сгенерированный из крупномасштабной языковой модели LLM, как ChatGPT, запрещены, если только созданный текст не представлен как часть экспериментального анализа статьи”, – объявила Международная конференция по машинному обучению ICML.

По мнению ICML, появление общедоступных языковых моделей ИИ, таких как ChatGPT, представляет собой "увлекательную" разработку, которая, однако, сопровождается "непредсказуемыми" последствиями.

Первый вопрос, возникающий в этом случае: кому принадлежит результат работы таких систем? Они учатся на публичных данных, обычно собираемых без согласия, и иногда выдают результат дословно. Кроме того, неясно, следует ли считать текст и изображения, созданные ИИ, "новыми или просто производными от существующих работ". Непонятно и кому приписывать авторство – машине или человеку, который ее контролирует.

ICML заявило, что запрет на сгенерированный ИИ текст будет пересмотрен в следующем году.

Городской департамент образования заблокировал доступ в чат-бот с искусственным интеллектом на своих устройствах и в сетях. Запрет связан с потенциальным "негативным влиянием на обучение учащихся, а также беспокойство относительно безопасности и точности контента".

“Хотя инструмент может предоставлять быстрые и простые ответы на вопросы, он не формирует навыков критического мышления и решения проблем, важных для успеха в учебе и жизни”, – говорит спикер департамента Дженна Лайл.

Однако, все это никак не помешает учащимся воспользоваться нейросетью на личных компьютерах, поэтому системе образования придется адаптироваться к появлению этой технологии. Она фактически делает невозможным проверку умения учащихся писать эссе дома.

ChatGPT – это крайне умная нейросеть с продвинутой языковой моделью, которую разрабатывает OpenAI совместно с Microsoft. Ключевая особенность ее в том, что она умеет генерировать разборчивые ответы на любой вопрос, писать эссе, сценарии к фильмам, решать математические задачи и тому подобное.

Алгоритм также хорошо разбирается в программировании и может найти ошибку в коде или даже написать его с нуля. Это открывает широкие возможности для мошенничества: ученики и студенты могут использовать ИИ для написания сочинений и научных работ вместо того, чтобы лично провести исследование и написать текст.

Представитель OpenAI, разработавшей ChatGPT, сказал, что компания «уже разрабатывает меры по смягчению последствий, которые помогут любому идентифицировать текст, сгенерированный этой системой».

Перевод с английского

ИСТОЧНИК

Правила сообщества