Promptology

С ростом популярности ChatGPT и других ИИ-сервисов, учащиеся всё чаще используют нейросети для решения заданий. В ответ преподаватели начали внедрять в тесты скрытые ловушки — невидимые фрагменты текста, которые сбивают ИИ с толку.

В формулировку вопроса добавляют незаметные ученику элементы — например, текст белого цвета или малозаметные символы. При копировании задания эти ловушки тоже попадают в запрос. ИИ воспринимает их как часть инструкции и даёт заведомо неправильный ответ. Ученик, не проверяя результат, выбирает ошибочный ответ — и попадает в просчитанную педагогическую уловку.

Это разновидность промпт-инъекции — техники, известной в области ИТ-безопасности, и теперь она получает неожиданное применение в образовательной среде.

Я получаю второе высшее образование, и у нас тесты чаще всего представлены в виде изображений. В таких случаях использую распознавание текста с экрана программой ABBYY Screenshot Reader , но обязательно проверяю промпт перед отправкой.

Мои дети пошли дальше, просто фотографируют задание и отправляют изображение (или скриншот), теперь GPT может понимать и визуальный контент.

Какие форматы ввода поддерживают современные нейросети:

1. Текст — классический ввод.

2. Изображения — модель умеет “читать” и анализировать визуальные задания.

3. Файлы — PDF, DOCX и другие форматы можно прикрепить.

4. Голос — можно диктовать задание или вести диалог.

5. Смешанные форматы — например, фото + текст, или текст + аудио.

Что делать, чтобы не попасть в ловушку

• Проверяйте текст, который вы отправляете в чат с ИИ. Особенно после копирования с сайта или из графического источника.

• Используйте предварительный просмотр или вставляйте текст в “чистый” редактор, чтобы выявить скрытые символы.

• Не доверяйте ответу вслепую — если он выглядит “слишком уверенным” или не соответствует логике задания, проверьте альтернативные формулировки.

• При работе с изображениями — распознавайте текст вручную и редактируйте промпт перед отправкой.

ИИ — мощный инструмент, но не всевидящий. Преподаватели начинают адаптироваться к новому учебному поведению, и вопрос цифровой гигиены становится не менее важным, чем знание предмета.
Новая грамотность — это умение не только задавать вопрос, но и понимать, как он будет воспринят машиной.

В США предъявили обвинения бывшему главе стартапа Nate Альберту Санигеру. Стартап обещал настоящую революцию в онлайн-шопинге: приложение, которое якобы само оформляет заказы на любых сайтах с помощью собственного искусственного интеллекта. Один клик — и приложение само оформляет заказ: выбирает нужный размер, вводит данные доставки и оплачивает покупку.

Инвесторы поверили в красивую историю об инновациях и вложили в проект более $40 млн. Только вот оказалось, что никакой полноценной автоматизации не существовало. На самом деле за «одним кликом» стояли сотни удалённых сотрудников, нанятых через подрядчиков. Именно они вручную оформляли заказы, имитируя работу нейросети. ИИ в системе хоть и был, но выполнял вспомогательные задачи и не мог заменить человека.

Руководитель проекта знал об этом и скрывал информацию даже от собственных сотрудников, объясняя закрытый доступ к реальной статистике «коммерческой тайной». Внешне всё выглядело как технологический прорыв, а внутри — как тщательно спрятанная ручная работа.

Теперь руководитель компании под следствием за мошенничество. Инвесторам обещали нейросети и технологии будущего, а в итоге продали обычный ручной труд, где ИИ лишь немного дополнял работу людей.