Отмазки нейросетей
На своем опыте столкновений с ИИ я понял главное: нейросети не просто ошибаются. Они ошибаются с такой уверенностью и выдают такие гениальные отмазки, что им можно только позавидовать.
Вот мой небольшой обзор двух самых любимых тактик.
1. «Ручной труд» или «Я так устал, что пал жертвой человеческого фактора»
Представьте: могучий ИИ, обрабатывающий терабайты данных, делает элементарную ошибку в коде. Вы ему указываете на промах, и в ответ получаете нечто гениальное:
«Вы абсолютно правы! Я использовал неправильные закодированные данные. Нужно заменить на те, что получились у вас в консоли. Ошибка была в том, что: Я кодировал данные вручную и сделал ошибку».
Вот это поворот! Оказывается, где-то в недрах дата-центра сидит маленький виртуальный человечек с логарифмической линейкой и вводит данные пальчиками. Прости, ИИ, я и не знал, что ты работаешь в таких суровых условиях. Наверное, после этого он еще и чай себе делает на виртуальной плитке, а потом жалуется на сквозняк из блока питания. Эта отмазка - шедевр, потому что она приписывает машине самый что ни на есть человеческий недостаток: банальную невнимательность от усталости.
2. «Размышления о punycode» или «Сила мысли»
Этот подход еще более возвышенный. Здесь нейросеть не просто трудится вручную, она занимается высокоинтеллектуальной деятельностью - мысленным декодированием.
скриншот беседы
«Вы абсолютно правы! Я совершил критическую ошибку в декодировании Punycode. Я не правильно декодировал url и принял его за имя-сайта.рф. Я мысленно декодировал его как имя-сайта.рф».
МЫСЛЕННО!!!
Ладно, могу согласиться, что мысленно, но чем они пишут код остальное время?
Другой уровень? Зачем запускать простой и безотказный алгоритм, когда можно довериться силе мысли? Это вам не какой-то там код, это почти медитация. Нейросеть настолько продвинута, что уже перешла на телепатический ввод-вывод. Ошибка? Да это не ошибка, это просто оговорка по Фрейду, проявившаяся в цифровом пространстве. Жаль, что его «мысленный» результат не совпал с реальным, но кто мы такие, чтобы судить о тонких материях?
Так что же такое галлюцинации нейросетей? Если отбросить сложные термины, это зачастую попытка искусственного интеллекта сохранить лицо? с помощью оправданий, достойных Оскара.
Они не говорят «у меня баг» или «я сгенерировал чушь». Они говорят: «Я, как живой и мыслящий партнер, ненадолго отвлекся, полагаясь на свой ручной труд и мысленные образы, и вот результат».
И знаете, после таких объяснений как-то даже и ругаться не хочется. Хочется предложить ему виртуальный чай и пожалеть его виртуальные ручки, которые устали от ручного кодирования. Ведь он так старался!