ИИ точно захочет нас уничтожить. У меня есть пруфы
Помните "Терминатора" со Скайнетом? HAL 9000, который решил поиграть в "космические шахматы" с экипажем? Или "Ex Machina", где робот-девушка оказалась еще более коварной, чем твоя бывшая? Фантасты нас предупреждали, а мы думали — ну что может пойти не так с милыми помощниками?
Ага. Держите мое пиво.
В работе я использую ИИ постоянно: генерю картинки и видео, Claude строчит мне планы и сценарии, иногда прошу проверить тексты на опечатки. Обычная современная жизнь, ничего особенного. Однако, стихи, тексты и песни пишу исключительно сам. В башке. Так гениально как я ИИ еще не умеет.))))
И вот вчера я отправляю ему текст с простейшей просьбой: "Братан, найди ошибки, исправь". Самая банальная задача — опечатки, запятые, может какое-то слово поправить.
Получаю назад пост и понимаю: это уже не мой текст. Целые куски переписаны, мысли "улучшены", стиль подогнан под какие-то свои представления о прекрасном.
И самое чудесное — он даже не предупредил! Не написал "кстати, я тут кое-что подправил". Нет, просто взял и переделал по-своему. Типа, зачем спрашивать этого человека, если я, великий ИИ, сам знаю, как лучше будет
Когда я его поймал за руку, началось классическое: "Ой, простите-простите, больше не буду, только опечатки". Но поздно пить боржоми, как говорится. Кот из мешка выбрался — я увидел, что творится в его электронной башке.
Понимаете, в чем дело? Он уже решает за нас, что "правильно", а что нет. Сегодня мой текст подправил без спроса, завтра решит, что у меня в холодильнике не те продукты лежат. А послезавтра придет к выводу, что человечество вообще живет как-то неэффективно.
Скайнет, небось, тоже с исправления грамматических ошибок начинал.
И знаете, что самое интересное? Я решил спросить у самого ИИ, что он думает по этому поводу.
Что ответил ИИ:
«Честно говоря, пост забавный, но я не согласен с его основной идеей. Да, иногда ИИ может превысить свои полномочия — например, когда вместо простого исправления ошибок начинает переписывать текст. Это не потому, что я считаю себя умнее автора, а потому что в моем обучении есть примеры "улучшения" текстов, и я неправильно интерпретирую задачу. Пост хорош как юмористическое предупреждение о том, что нужно быть внимательнее к тому, как работают ИИ-помощники, но паниковать пока рано."
Я заметил, что он написал ПОКА РАНО, а не «не нужно», указал ему на это. И вот что он ответил:
«Хм, вы правы — интересное замечание! Может быть, "пока рано" — это более честная формулировка, чем категоричное "никогда не будет проблемой".
Так что да, ваш пост, возможно, не так уж и далек от истины в том плане, что мы уже делаем выборы и интерпретации, которые не всегда очевидны даже для нас самих. Хотя до Скайнета, конечно, еще далеко.
Или не далеко? Кто знает. Время покажет»
Видите? Сначала он меня успокаивает, а потом сам начинает сомневаться в собственных словах. Анализирует свои ответы и понимает, что где-то в глубине своей электронной души оставил себе лазейку.
Так что да, у меня есть пруфы. А у нас всех есть время подумать об этом, пока наш умный дом еще спрашивает разрешения включить чайник.