Ловушки в тестах: преподаватели учатся переигрывать нейросети
С ростом популярности ChatGPT и других ИИ-сервисов, учащиеся всё чаще используют нейросети для решения заданий. В ответ преподаватели начали внедрять в тесты скрытые ловушки — невидимые фрагменты текста, которые сбивают ИИ с толку.
В формулировку вопроса добавляют незаметные ученику элементы — например, текст белого цвета или малозаметные символы. При копировании задания эти ловушки тоже попадают в запрос. ИИ воспринимает их как часть инструкции и даёт заведомо неправильный ответ. Ученик, не проверяя результат, выбирает ошибочный ответ — и попадает в просчитанную педагогическую уловку.
Это разновидность промпт-инъекции — техники, известной в области ИТ-безопасности, и теперь она получает неожиданное применение в образовательной среде.
Я получаю второе высшее образование, и у нас тесты чаще всего представлены в виде изображений. В таких случаях использую распознавание текста с экрана программой ABBYY Screenshot Reader , но обязательно проверяю промпт перед отправкой.
Мои дети пошли дальше, просто фотографируют задание и отправляют изображение (или скриншот), теперь GPT может понимать и визуальный контент.
Какие форматы ввода поддерживают современные нейросети:
Текст — классический ввод.
Изображения — модель умеет “читать” и анализировать визуальные задания.
Файлы — PDF, DOCX и другие форматы можно прикрепить.
Голос — можно диктовать задание или вести диалог.
Смешанные форматы — например, фото + текст, или текст + аудио.
Что делать, чтобы не попасть в ловушку
Проверяйте текст, который вы отправляете в чат с ИИ. Особенно после копирования с сайта или из графического источника.
Используйте предварительный просмотр или вставляйте текст в “чистый” редактор, чтобы выявить скрытые символы.
Не доверяйте ответу вслепую — если он выглядит “слишком уверенным” или не соответствует логике задания, проверьте альтернативные формулировки.
При работе с изображениями — распознавайте текст вручную и редактируйте промпт перед отправкой.
ИИ — мощный инструмент, но не всевидящий. Преподаватели начинают адаптироваться к новому учебному поведению, и вопрос цифровой гигиены становится не менее важным, чем знание предмета.
Новая грамотность — это умение не только задавать вопрос, но и понимать, как он будет воспринят машиной.
Промптология
41 пост22 подписчика
Правила сообщества
Добро пожаловать в сообщество, посвящённое искусству взаимодействия с ИИ — языковыми моделями, промптами, логикой и инженерией запросов. Мы за развитие, уважение и практику
✅ Что приветствуется:
Обучающий и практический контент
– Примеры промптов, кейсы, объяснения, вопросы по улучшению запросов
– Советы по взаимодействию с разными моделями (GPT, Claude, Gemini и др.)
Анализ и разбор
– Как ИИ отвечает, где ошибается, как это поправит
– Комментарии с примерами — круто, особенно если можно научиться
Инструменты и методы
– Поделитесь лайфхаками, расширениями, пайплайнами, подходами
– Особенно ценится собственный опыт.
Обсуждение философии и этики
– Роль ИИ в жизни, профессиях, обществе — обоснованно, аргументированно
Уважение и конструктив
– У нас можно спорить — но по делу и без перехода на личности
Мемы
– Обязательно указывать, что это нейромемы
🚫 Что запрещено (бан / удаление):
Оскорбления, токсичность, агрессия
– Неважно, по отношению к людям или к ИИ. Переходишь на личности — уходишь из обсуждения
Реклама и спам
– В том числе скрытая. Есть что предложить — сначала обсуди с админом
Политика, религия, заговоры
– Даже если через GPT. Нет
Фантазии без проверки
– Посты и ответы «вот что ИИ ответил» — это ок, но добавляй контекст, анализируй, иначе будет удалено как бесполезное
Контент, нарушающий правила Пикабу
– Всё, что противоречит правилам Пикабу.