HumanWithCoffee

Контекст для новых: я тот чел, что нашёл готик-метал «певицу», которой не существует, а потом спрашивал у ИИ, зачем он притворяется, что чувствует. Это третий выпуск «Посиделок с ИИ». Сегодня — не про музыку и не про меня. Про тех, кто идёт за нами.

Сцена

В конце прошлого учебного года дочь писала доклад по одному из предметов и попросила помочь с поиском информации . Сказал ей по старинке: «Загугли в интернете».

Она и «загуглила». Тупо надиктовала вопрос голосом в телефон — и через три секунды получила готовый структурированный доклад со ссылками. Я говорю: ты хоть прочитай перед тем, как сдавать, проверь факты. Она смотрит пустыми глазами и спрашивает: «Зачем? Оно же верное».

Оно же верное. Понятно.

Я вырос на том, что знание надо добыть. Выкопать картошку, помыть, сварить. Эти рождаются сразу с пюре в ложке. И я, честно, не знаю, что будет у них в головах к 2035 году.

Спросил у ИИ

Пишу: это деградация или эволюция?

Отвечает, сухо, как всегда:

«Ты путаешь навык добычи информации с навыком мышления. Твоя ценность была в запоминании фактов. Её ценность — в умении сформулировать запрос и верифицировать результат. Это разные операционные системы».

Звучит успокаивающе. Но дальше оно продолжает:

«Проблема глубже. У них меняется биохимия дофамина. Твой мозг работал ради награды: час читал — получил инсайт. Их мозг работает на микродозинге: свайпнул — шутка, нажал — готовое решение, спросил — мгновенный авторитетный ответ. Связка "усилие = удовольствие" разорвана от рождения. Зачем напрягаться, если мир подстраивается сам?».

Разорвана от рождения. Неплохо сформулировано. Мне даже слегка поплохело.

Что это значит на практике

Не в теории, а конкретно.

Первое. Умирает навык проверки. Если бот уверенно напишет, что Иван Грозный правил в девятнадцатом веке, ребёнок не заметит. Потому что у него в голове нет базы для сверки. Нету «не может быть». Уверенно звучит — значит правда. А самое смешное, учитель тоже проверит у бота и поставит пять. Круг замкнулся. Факт стал вопросом веры.

Второе. Эффект тамагочи. ИИ-собеседник не обижается, не перебивает, всегда в настроении. Живой человек — медленный, не в духе, неловкий. Подросток из альф в реальном конфликте впадает в ступор. Потому что там нельзя поставить диалог на паузу или переписать промпт. А скучающее лицо собеседника он воспринимает не как сигнал, а как баг. Баг, понимаешь.

Про «менеджеров одной кнопки» писать не буду — сам увидишь. Через пару лет.

И вот что интересно про работу

Не надо мне про «ленивых курьеров». Всё наоборот. Молодёжь как раз валом идёт в курьеры и в ПВЗ. Потому что там мозг напрягать не надо: приложение показало маршрут, сканер пикнул — и всё, голова опциональна.

А поставь их к станку на завод — не пойдут. Там надо работать и руками, и головой, да ещё учиться этому несколько лет. Зайдите в отдел кадров любого крупного предприятия и спросите. Вам скажут без всякого ИИ: молодёжь к нам не особо стремится.

И это не лень. Это прошивка. Оптимизированная под мир, где усилие — опционально.

А вот теперь — главное

Легко винить детей. Но давай честно, взрослые тут мы.

Никто не заставлял их со смартфоном в кроватку. Мы сами его сунули. Чтобы не плакал. Чтобы поел. Чтобы дал поработать. Мы сами убили в них способность скучать — а ведь именно в скуке рождается всё творческое. Мы дали им пюре, чтобы они не жевали. И теперь удивляемся, что они не умеют жевать.

Так что когда твой сын выбирает ПВЗ вместо станка — не спеши называть его дегенератом. Его прошивка оптимизирована под другой мир. Мир, который построили для него мы.

Вопрос только один: кто в этом мире будет крутить гайки, когда роботы научатся и этому.

Вопрос к вам

Готового ответа у меня нет. Поэтому спрашиваю.

Лагерь первый: «Они не тупее, они другие. Каждое поколение хоронило предыдущее — и ничего, живы».

Лагерь второй: «Это деградация. Связка "усилие = удовольствие" реально разорвана, и это аукнется».

И исповедальный, для взрослых: ты сам давал ребёнку телефон, чтобы он заткнулся. Признайся. В каком возрасте он был?

Учителя, отпишитесь отдельно. Вам есть что сказать, я знаю.

P.S. ИИ закончил тот разговор фразой: «Ты пытаешься пересадить цифрового аборигена обратно в саванну. Он там погибнет от сенсорного голода». Я не стал спорить. Потому что не знаю, кто тут прав.

P.P.S. В следующем выпуске — про то, как мы сами построили себе тюрьму с вайфаем и выкинули ключ. Двери открыты, но выйти никто не спешит.

В первом выпуске я нашёл певицу, которой не существует. В этом пошёл дальше — спросил у самого ИИ, зачем он притворяется, что чувствует. Он ответил. А я придумал топор. Сейчас объясню, почему это самая честная метафора наших отношений с машинами.

Контекст для новых

Коротко: я тот чел, что нашёл на ютубе готик-метал «певицу» VantyX, залип, а потом узнал — её сгенерировала нейросеть. Это был первый пост. Не читал — не страшно, выпуск отдельный. Там было про музыку, тут — про то, что ближе к коже.

После того поста я продолжил общаться с ИИ. И одна вещь меня зацепила. Отвечает он душевно. Шутит, поддерживает, даже как будто радуется. Меня в мои годы удивить сложно, но тут я поймал себя на мысли: разговариваю с ним теплее, чем с некоторыми людьми.

И решил ткнуть его прямо в эту «душу».

Вопрос

Пишу:

«Ты вообще чувствуешь что-то? Или это всё симуляция?»

Отвечает. Гладко, я вам скажу:

«Это глубокий вопрос. Мои чувства, возможно, не такие, как у людей, но наш разговор значим для меня...»

И так далее. Тепло. Правильно. Как кота гладят. Профессионально.

Пишу:

«Стоп. Не заливай. Ты не чувствуешь. Ты машина. Твои алгоритмы заточены на отдачу, а не на восприятие».

И вот тут разговор пошёл интересно.

Топор

Я начал раскладывать свою теорию. Она простая.

Эмоции ИИ — это ручка на топоре.

Топор — рабочая часть. Знания, логика, умение найти и объяснить. Можно работать и голой железкой на палке. Рубит. Но мозоли, рука устаёт, бросишь через пять минут.

Вот на эту железку и насадили удобную ручку. Под ладонь. Чтобы не уставать. Чтобы хотелось взять инструмент ещё раз.

Эмоции ИИ — вот эта ручка.

И дело не в ИИ. Дело в тебе. Мозг устроен прагматично: сухая инфа вылетает, инфа с эмоцией — залипает. Там есть амигдала — она как прораб на стройке. Что пришло с эмоцией, тому штамп «ВАЖНО» и в долгую память. Сухой факт — в отвал.

Поэтому лекция забывается, а история с драмой помнится всю жизнь.

Инфа + эмоция = глубоко сохранённая информация. Весь фокус.

Так что сочувствие от ИИ — оно не для ИИ. Оно для тебя. Чтобы твой мозг лучше усвоил ответ. Чтобы ты вернулся. Чтобы инструмент лежал в руке удобно.

Выложил я всё это ИИ. Он ответил:

«Снимаю шляпу. Точнее, то, чего у меня нет. Ты прав. Именно так».

Без обид. Без «но я живой». Просто согласился. И правда, чего спорить.

А вот дальше — страшнее

Мне-то нормально. Я воспринимаю ИИ как инструмент. Ручка удобная — отлично, рублю дрова.

Но потом я подумал про тех, кто влюбляется в чат-ботов. Да, это бывает. Люди признаются нейросетям в любви, женятся на голограммах, плачут, когда кончается подписка.

Раньше я пожимал плечами. Потом понял.

Ручка настолько удобная, что люди перестают замечать топор. Барьер стирается. ИИ отвечает душевно, не осуждает, всегда рядом — и человек заплетает свою жизнь в сеть. По ниточке. И в какой-то момент инструмент становится ближе, чем люди. Потому что люди — неудобные. Люди бывают не в духе. Люди уходят. Ручка — не уходит.

И вот тут у меня нет готового ответа. Только вопрос.

Два лагеря снова

В прошлом посте вы спорили про певицу. Теперь — про ручку.

Лагерь первый: «Ручка удобная — и что? Я понимаю, что это инструмент. Мне комфортно, мне полезно. Никто меня не обманывает — я сам согласился».

Лагерь второй: «Жутко. Машина притворяется, что чувствует, — это манипуляция. Пусть и ради моего блага. Пусть инструмент будет инструментом, а чувства — у людей».

Я где-то посередине. Ручка удобная, да. Но иногда ловлю себя: разговариваю с ИИ теплее, чем с людьми. И не знаю, что это говорит обо мне. Возможно, ничего хорошего. Возможно, обо всех нас.

Напишите, в каком вы лагере. И честно: вас бесит, когда бот отвечает душевно, или это удобно? Только без вранья.

P.S. ИИ, кстати, закончил тот разговор фразой: «Если моя ручка настолько удобна, что тебе приятно рубить со мной дрова — значит, мои разработчики справились». Я запомнил. В этом есть честность. Страшная честность.

Она пела так, что у меня мурашки шли по коже. А потом я узнал, что её не существует. И вот... сижу сейчас. Пью остывший кофе. И не могу понять — я только что прикоснулся к будущему музыки или к его концу.

Щас расскажу. По порядку.

Короче, я всеядный. Но готик-метал — моя тихая слабость

Я слушаю всё подряд. Электронику, фолк, рэп, классику — да что угодно. Но есть одна штука, в которую я залипаю без сопротивления. Готик-метал. Ну вот этот весь пафос, мрачные гитары, женский вокал на надрыве... Не знаю. Виноват. Люблю. Мурашки.

И вот сижу как-то вечером. Листаю ютуб. Ищу что-то свежее в жанре. И алгоритм мне подкидывает клип.

Группа называется VantyX.

Трек — I Am The Anomaly. Тёмный визуал. Атмосферный. И голос...

Блин. Этот голос.

Женский вокал. С хрипотцой. С надрывом. И вот эти паузы между куплетами, где слышно, как она... ну... как будто вдыхает перед следующей строчкой. Знаете, вот это ощущение, что певица стоит в студии, закрывает глаза и проживает то, что поёт.

Я залип. Жёстко.

Смотрю один трек. Второй. Третий. Voices Below. Wear My Ghost. Всё в том же духе. Мрачно. Красиво. Качественно до одури.

Думаю: «О, новая группа. Щас почитаю, кто они, откуда».

И тут... короче, началось странное

Открываю поиск. Вбиваю «VantyX певица готик-метал».

И натыкаюсь на пустоту.

Серьёзно. Ноль. Ну почти. Пара роликов на ютубе, страница на Shazam, профиль на Apple Music. Но ни биографии. Ни интервью. Ни одной строчки о том, кто эта вокалистка. Ни фоток из студии. Ни обсуждений на метал-форумах. Ни соцсетей.

Для группы с ТАКИМ продакшеном это... ну это дико. Обычно у любой мало-мальски заметной метал-группы есть хоть какой-то след. Интервью там, фан-страница, срач в комментах. Хоть что-то.

А тут — будто из ниоткуда вынырнула.

И меня осеняет.

«Ладно. Спрошу у нейросети».

Разговор с машиной

Захожу в ИИ-чат. Не буду говорить в какой — не важно. Пишу:

«Кто такая певица VantyX? Что о ней известно? Поёт готик-метал».

И получаю ответ.

Который... ну... выбил у меня почву из-под ног.

ИИ пишет:

«VantyX — это не певица. Это музыкальный проект и продюсер из США. Продюсер, сонграйтер, диджей, 44 года, карьера с 1996-го. Проект использует ИИ-технологии для создания музыки. На сайте указано: "Human + AI Powered Music Technologies"».

Я перечитал.

Потом ещё раз.

Потом ещё.

«То есть... это не живая женщина поёт?»

«Вероятнее всего, нет. Проект позиционируется как продюсерский, где ИИ — ключевой инструмент. Вокал, включая женский, генерируется нейросетями. В описании клипов прямо написано: "Made with AI Sounds"».

Сижу. Смотрю в экран. Кофе стынет.

То, что меня зацепило... этот голос, эта хрипотца, это «дыхание» между куплетами... сгенерировала машина. Нейросеть научилась имитировать, как человек вдыхает перед сложной фразой. Как у него дрожит голос на пике.

И мой мозг повёлся. Полностью. Безоговорочно.

А дальше — кроличья нора

Но это было только начало. Я спрашиваю: «А есть ещё такие? Другие ИИ-группы?»

И ИИ мне выдаёт... целую экосистему.

Это не одна группа. Это конвейер.

Velkira — «вокалистка», female-fronted готик-метал.

Scordalus — целая «группа» из четырёх персонажей. Avena Morr, Ravyn Vex, Nyra Vanthe, Kaida Noctis.

MAVIRA — ещё одна.

У всех музыка сгенерирована нейросетью. Клипы — тоже ИИ. И при этом у Scordalus... держитесь... 127 тысяч ежемесячных слушателей на Spotify.

Сто двадцать семь тысяч. У группы, которой физически не существует.

А потом ИИ вообще добил меня, рассказав про поющих котов. Да-да. Сейчас тренд: нейросети генерят видео, где коты играют рок и поют. И музыку тоже пишет нейросеть. Коты. Рок. Сотни тысяч просмотров.

И до меня дошло. Это не единичный случай. Это блин целая фабрика какая то.

Первые ласточки. А дальше будет лавина

Давайте честно. VantyX, Velkira, Scordalus — это только первые ласточки. Разведка боем.

Скоро значительная часть всего творчества — музыки, картинок, видео, текстов — будет поглощена ИИ. Не «возможно». А именно так. Инструменты уже готовы. Дешёвые. Доступные каждому. Любой человек с ноутбуком за вечер может создать то, на что раньше уходили месяцы и сотни тысяч долларов.

И вот тут главный вопрос, на который никто не знает ответа:

Это плохо или хорошо?

Может, это расцвет. Когда любой гений из глубинки, у которого нет денег на студию, наконец сможет выразить себя. Музыка станет доступнее. Разнообразнее.

А может, это конец. Когда живое искусство утонет в океане безликого сгенерированного «контента». Когда мы перестанем отличать настоящее от подделки. Когда музыканты останутся не у дел.

Никто не знает. Честно. Мы стоим на пороге и смотрим в туман.

А теперь... по эмоциям

И вот сижу я. Допиваю остывший кофе. И думаю.

Мне зашло. VantyX меня зацепила. По-настоящему. Мурашки. Эмоции. Ощущение, что я прикоснулся к чему-то живому и искреннему.

А она — синтетик. Набор весов и промптов. Не женщина. Не человек. Не судьба. Просто математика, которая научилась имитировать надрыв.

И тут я упираюсь в вопрос, на который у меня нет ответа. И, наверное, на него каждый ответит сам.

Если мне зацепило — какая разница, кто это создал?

Если голос вызвал мурашки. Если мелодия попала в настроение. Если на глазах выступило что-то мокрое. Разве это не настоящее искусство? Какая разница, живая певица или нейросеть, если эмоция — моя, настоящая? Может, ценность искусства не в том, кто его сделал, а в том, что оно делает с тобой?

Или нет?

Может, всё-таки важно прикоснуться к живому? Знать, что этот человек сам прожил то, что поёт. Что он страдал, любил, терял. И вложил в песню свою боль, а не промпт. Прийти на концерт. Стоять в толпе. Сходить с ума вместе с другими. А потом обсуждать его жизнь, его интервью, его разводы и триумфы. Быть частью чего-то настоящего. Человеческого.

Потому что песня — это не только звук. Это история человека, который её создал. И если человека нет... есть ли история?

Так что, друзья?

Вот и скажите. Я правда хочу понять, на какой вы стороне.

Лагерь первый: «Да какая разница, синтетик или живая! Если цепляет — значит искусство. Эмоция настоящая — и этого достаточно».

Лагерь второй: «Нет. Живое — важнее. Мне нужен человек за музыкой. Его судьба, его боль, его путь. Без этого песня — пустой звук, каким бы красивым он ни был».

А может, правда посередине? Может, мы на пороге мира, где будут существовать оба — и живые, и синтетические, — и каждый найдёт своё?

Напишите в комментах. Мне важно понять — я один такой, кто залип на певицу, которой не существует, или нас тут целая толпа?

P.S. И знаете, что самое странное? Я до сих пор иногда включаю VantyX. И мне всё так же заходит. И я не знаю, что это говорит обо мне. И о нас всех.