Родители подали в суд после того, как ИИ обвинил их сына3
В калифорнийской школе случилась дикая ситуация. Парень сдал сочинение, учительница прогнала его через детектор ИИ-текстов Turnitin, и тот выдал вердикт: 76% текста сгенерировано нейросетью. Всё, разбирательство окончено. Оценку срезали, в личное дело записали "академическая нечестность". Клеймо, которое поедет за учеником в любой университет.
Самое безумное - парень притащил черновики. Историю правок из Google Docs. Весь процесс написания как на ладони. Учительница даже не посмотрела. Зачем разбираться самой, когда алгоритм уже всё решил?
А теперь про сам Turnitin. Компания честно пишет на своём сайте: не используйте наши результаты как окончательный вердикт. Ложные срабатывания на уровне предложений доходят до 4%. То есть разработчики сами предупреждают - а педагог всё равно использовала это как приговор без права обжалования.
Пятого мая родители подали иск в федеральный суд Калифорнии. Требуют вернуть оценку, стереть пометки из досье и получить компенсацию.
И вот тут есть ирония.
Сочинение было по пьесе Артура Миллера "Суровое испытание" - произведению о том, как людям ломают судьбы на основании сомнительных улик. Парень написал работу о ложных обвинениях и тут же сам попал под ложное обвинение. Реальность выдала сценарий, который ни один писатель бы не придумал.
Мы доверяем ИИ-алгоритмам всё больше. Но готовы ли мы к тому, что алгоритм решает, честен ваш ребёнок или нет?
Я однажды писал что-то вроде технического отчёта, использовал ИИ, потом дописывал и правил текст. Много добавил написанного с нуля. В итоге по моим представлениям от ИИ осталась треть текста или около того.
Прогнал через пару анализаторов. Один мне ответил, что у меня 6% ИИ в тексте, и даже выделил те строки, которые написал ИИ - это были названия нормативных документов, на которые я ссылался (ФЗ, постановления и т.д.)
Второй решил, что текст написан ИИ на 94%))
У меня был преподаватель который говорил.
- Можете содрать работу кусками откуда найдёте, можете вообще взять готовую если найдёте, можете заказать кому-нибудь написать. Если вы сможете внятно объяснить что там написано и ответить на вопросы по работе то получите высокую оценку. Нет так нет.
Но это было давно и он был такой один.
Этим быстро перестали пользоваться, там на подобное слишком много жалоб было, а для демонстрации кривизны работы через эту сетку просто прогнали тексты классиков, большую часть их текстов признали сгенерированными.
Пфф, я прогнала через антиплагиат свою дипломную, написанную в 2013-2014 годах. Оказывается на 70% текст сгенерирован ИИ.
Вот так вот, учишься 6 лет, умеешь избавляться от воды, не растекаешься мыслью, пишешь сухим техническим слогом - всё, ты ИИ.