Достопримечательности Кипра
13 постов
У искусственного интеллекта появились проблемы 18+
Несколько месяцев назад коллеги из платёжек рассказали мне прекрасное.
С распространением порнухи, сделанной искусственным интеллектом, появился новый повод для чарджбеков - оспаривания карточных операций через банк.
Представьте: человек заходит на обычный порносайт, платит условных пять баксов за ролик, смотрит, а потом выясняет, что девушка ненастоящая.
Не в смысле, что Джессику на самом деле зовут Света.
А в смысле - её вообще никогда не существовало.
Ролик при этом доставлен. Открывается. Всё, что должно двигаться, двигается. Нужные места показываются. Но покупатель недоволен и хочет деньги назад. Он платил за видео с человеком, а ему продали мультик из математики.
История показалась мне настолько клёвой, что я полез разбираться, где тут новая реальность, а где профессиональный фольклор. Заодно выяснилось, что у ненастоящей Джессики проблем гораздо больше, чем можно предположить по её довольному лицу.
Сразу скажу: ниже будут и правила платёжных систем, и рассказы людей, которые производят такой контент или обслуживают его в платёжках. Эти люди знают, что происходит в их проектах, но говорить за всю индустрию не могут. Исследовательский институт имени кружки пива учреждать не станем.
Деньги взад или поговорим через банк
Для начала - маленькая техническая остановка. Refund и chargeback часто путают, хотя это разные способы вернуть деньги.
Refund - возврат денег продавцом. Ты приходишь к сайту и говоришь: "Верните деньги, пожалуйста". Сайт соглашается и возвращает.
Chargeback - оспаривание карточной операции через твой банк. Ты приходишь уже в банк, объясняешь, что не так с покупкой, и запускается процедура спора. Продавец может предъявить свои доказательства. Само обращение ещё не означает, что деньги обязательно вернут.
В бытовом переводе: "Ладно. Теперь поговорим через банк".
То есть Джессика даже не обязана существовать, чтобы вокруг неё началась переписка нескольких вполне существующих организаций.
Для продавца это отдельная работа, расходы и риск испортить отношения с теми, кто обеспечивает приём платежей. Особенно если недовольных много.
Причём индустрия для взрослых и до ИИ не была любимым клиентом платёжек. У Visa и Mastercard для неё предусмотрены специальные требования и дополнительный контроль: что продаётся, кто изображён, есть ли необходимые согласия и как проверяется контент.
ИИ пришёл в уже довольно весёлую компанию и добавил новый предмет для спора.
Товар или услуга имеют дефект
У Visa существует категория карточных споров Dispute Condition 13.3 - Not as Described or Defective Merchandise/Services. На русском это означает: "товар или услуга не соответствуют описанию либо имеют дефект".
В контексте моей истории слова "имеют дефект" внезапно приобретают совершенно неожиданный смысл.
Специального кода "Женщина оказалась результатом матричного умножения" у Visa, конечно, нет. Да и одной фразы "она нейросетевая" недостаточно, чтобы банк обязательно вернул деньги. Но старая категория споров о несоответствии описанию здесь вполне может пригодиться: продавец обещал одно, а покупатель считает, что получил другое.
Если перед оплатой крупно написано: "Видео создано искусственным интеллектом. Все персонажи вымышлены", - обижаться на отсутствие реальной Джессики странновато.
Другое дело, если у Джессики есть биография, фотографии из "жизни", рассказы о её увлечениях, а покупателю предлагают эксклюзивное видео с настоящей девушкой. После оплаты выясняется, что вся эта "жизнь" происходила исключительно на сервере.
Или предупреждение об ИИ спрятано так глубоко в пользовательском соглашении, что найти его сумеет разве что особо настойчивый юрист.
Конечно, в настоящем споре важны описание покупки, условия и доказательства сторон. Но в нашей воображаемой банковской переписке придётся выяснять, входило ли физическое существование женщины в существенные потребительские свойства ролика.
И вы говорите банковская работа скучная?
С подписками примерно та же история. Купил человек доступ к каталогу, рассчитывая на обычные съёмки, а значительная часть контента оказалась синтетикой. Вопрос не в том, запрещён ли ИИ, а в том, как покупателю объяснили содержимое каталога до оплаты.
А мне как раз нужна ненастоящая
Есть, конечно, и другие покупатели. Они прекрасно знают, что Джессика не существует. Более того, именно поэтому они и пришли.
Им нужен AI-companion - виртуальный собеседник или партнёр. Или генератор изображений и видео по собственному сценарию. Или всё вместе: подписка, дополнительные функции, tokens - внутренние единицы, которые тратятся на сообщения и генерации.
Здесь человек покупает уже не готовый ролик за пять долларов. Он покупает возможность управлять происходящим: выбирать внешность, обстановку, поведение и прочие детали своего маленького персонального кинотеатра.
Не надо искать подходящий ролик среди тысяч других. Написал, что тебе нужно, - получил.
Ну, как будто бы.
Я заплатил за фантазию, а она по регламенту
Пользователь вводит prompt - запрос к ИИ. А запрос проходит через фильтры.
У производителей, с которыми я обсуждал тему, есть большие списки стоп-слов и запрещённых формулировок. Плюс ограничения на целые категории контента: несовершеннолетние, насилие и прочая дичь, для которой я не собираюсь здесь составлять подробный каталог.
По словам производителей, пользователи довольно быстро выясняют, что ещё можно попросить у нейросети. Бизнес довольно быстро обнаруживает, почему некоторые просьбы лучше не выполнять.
Покупателю при этом продавали машину фантазий. Он заплатил, начал фантазировать, а машина выдала правила внутреннего распорядка.
Искусственный интеллект умеет многое. Поэтому заметная часть работы бизнеса состоит в том, чтобы научить его это многое не делать.
Не всякая такая обида обоснованна. Одно дело - сервис заранее ясно объяснил ограничения, а клиент решил их игнорировать. Другое дело - реклама обещала почти безграничные возможности, а существенные запреты выяснились только после оплаты. И снова знакомая претензия: "Я думал, что покупаю другое".
В разговорах с людьми, которые работают с такими проектами, мне называли долю чарджбеков до 30% у отдельных сервисов. Именно у отдельных - не "треть всей индустрии возвращает деньги через банк". Но и для одного проекта цифра, мягко говоря, неприятная.
Сделал персонального цифрового партнёра, а регулярные отношения у тебя в итоге с отделом карточных споров.
Ненастоящая Джессика стоит настоящих денег
Тут легко представить, что производитель нажал пару кнопок, получил бесконечный запас девушек из воздуха и теперь просто собирает деньги.
По рассказу одного производителя, у него около сотни заранее подготовленных цифровых моделей, а подготовка каждой для дальнейшего производства роликов обходилась примерно в 15 тысяч евро.
Это цифра конкретного производства, не рыночный прайс на "сделать девушку нейросетью". И речь о подготовке персонажей для роликов, а не об обучении отдельной нейросети на каждую Джессику.
Джессика ненастоящая, а пятнадцать тысяч евро на её подготовку - вполне.
А дальше этот продукт надо продавать, обслуживать и объяснять покупателю, что именно он получает. Желательно до того, как объяснять то же самое его банку.
Есть и другой способ разнообразить продукт. А заодно - список потенциальных неприятностей.
А если я загружу фотографию?
Пока Джессика вымышленная, вопрос о том, давала ли она согласие сниматься в ролике, звучит несколько бессмысленно. Но что, если сервис позволяет загрузить фотографию реального человека и сделать с его лицом откровенное синтетическое видео?
С точки зрения покупателя - отличная дополнительная функция. С точки зрения бизнеса - возможность организовать себе неприятности несколькими разными способами.
Тут мне вспоминается одна история, к ИИ отношения не имеющая.
Когда-то я выставлял на продажу фотографию античной статуи. У меня потребовали model release - согласие изображённой модели на использование фотографии.
На фотографии была Афина Паллада. Вот эта, с выражением "Вы серьезно?"
Ага. Сейчас только найду Афину и попрошу подписать форму.
Тогда это выглядело чистой бюрократической идиотией. Но представьте, что в генератор загружают фотографию соседки, коллеги или знаменитости.
Кто на снимке? Сколько человеку лет? Он вообще знает, для чего используют его лицо? Давал согласие? А если фотографию сделал кто-то другой, имеются ли права на использование самой фотографии?
Причём права на снимок и согласие человека, изображённого на снимке, - разные вещи. Авторские права обычно возникают у фотографа, а не у того, кого он сфотографировал. Но разрешение фотографа не означает, что с лицом модели можно делать всё что угодно.
Иногда эти проблемы пытаются объяснить одной фразой: "DMCA запрещает использовать фотографии знаменитостей". Это неверное упрощение. DMCA - американский закон об авторском праве в цифровую эпоху, а вопрос об использовании чужого лица затрагивает ещё и согласие, частную жизнь, право на изображение и законы конкретной страны.
Тем более если речь о deepfake - синтетическом видео, в котором имитируется реальный человек.
"Но видео-то ненастоящее!" - слабое оправдание. Видео ненастоящее. Человек - вполне. И последствия для него могут быть такими же настоящими.
Вот здесь у платёжек обычно и начинаются самые интересные вопросы.
Почему у платёжек начинает дёргаться глаз
Чтобы сайт мог принимать деньги с банковских карт, ему нужны финансовые партнёры. В этой цепочке есть PSP - платёжный провайдер, эквайер - организация, обслуживающая приём карт у продавца, а иногда и агрегатор - посредник, через которого принимают платежи сразу несколько продавцов.
Им не обязательно нравится всё, что нравится твоему генератору.
В правилах Mastercard для дистанционных сервисов с контентом для взрослых есть даже специальная формулировка: "upload or generate content" - "загружать или генерировать контент". Правила предусматривают требования к проверке возраста и личности поставщиков контента, согласиям изображённых людей, проверке материалов, жалобам и удалению нарушающего правила контента.
Иными словами, ссылка на то, что "это всё нарисовала нейросеть", не освобождает бизнес от обязанности следить за тем, что он продаёт.
Есть профессиональное слово compliance - контроль соответствия правилам и требованиям. Если сайт не умеет ограничивать опасные сценарии, красивой кнопки "Оплатить" может и не оказаться.
Как мне рассказывали участники рынка, некоторые провайдеры и эквайеры отказываются работать с проектами уже при знакомстве с их возможностями. Например, если сервис позволяет загрузить произвольную фотографию реального человека и получить откровенное видео, а внятного контроля за этим нет. Не обязательно ждать скандала - иногда достаточно посмотреть, что именно можно сделать с помощью кнопки.
Покупатель читает: "Загрузите любое фото и получите персонализированный контент".
Платёжный провайдер читает: "Мы сделали удобный интерфейс для потенциального нарушения сразу нескольких ваших требований".
Надпись одна, но читают по-разному.
Мне рассказывали об эквайерах, готовых работать с gambling - азартными играми, - но не с порно. Не знаю, по какой шкале они оценивают привлекательность бизнеса, но риски у них явно вызывают разное количество энтузиазма.
Внутри самой платёжной цепочки тоже бывают забавные отношения. Эквайер хочет работать непосредственно с производителем контента. Производитель не готов. Агрегатор объясняет, что он вообще-то только технический посредник, за содержимое сайтов не отвечает.
"Мы тут просто проводочек".
Однако, когда по проводочку регулярно идут деньги за проблемный контент, объяснения становится маловато.
По рассказам участников рынка, проверки могут включать контрольные покупки, в том числе в рамках контроля со стороны карточных систем. Кто именно совершает покупку в каждом случае, я не знаю, поэтому изображать штат банковских порнокритиков не стану.
Суть проще: платёжкам важно не только то, что написано в правилах сайта, но и что пользователь действительно может получить после оплаты. Если ограничения легко обходятся, красивые тексты в соглашении мало помогут.
Покупатель видит кнопку "Сгенерировать". А за ней - целая цепочка организаций, каждая из которых надеется, что покупатель не нажмёт её слишком творчески.
Немного отраслевого фольклора
Заодно всплыла любопытная география недовольных клиентов.
Производители, с которыми я общался, чаще других называли Италию, Испанию и Финляндию. Французы и немцы, по словам тех же собеседников, обращались за чарджбеками заметно реже.
Почему в этом списке неожиданно оказались финны - вообще не представляю.
Впрочем, без количества покупок по каждой стране сравнивать доли чарджбеков невозможно. Может, кто-то просто больше покупает. Национальную психологию по чужой платёжной панели выводить не буду.
Были и рассказы о попытках поиграть с географией операций - представить их так, будто они относятся к другой юрисдикции. Например, почему-то всплывали СНГ*станы, но собеседники говорили, что затея ненадёжная. Подробности этих экспериментов я не выяснял.
Можно менять географию, посредников и вывески, но вопрос, что именно продаётся и кто за это отвечает, никуда не девается.
Вернёмся к Джессике
Итак, у нас есть покупатель, заплативший пять долларов за ролик. Он расстроился, потому что Джессика оказалась ненастоящей.
Есть другой покупатель. Он специально пришёл к ненастоящей Джессике, заплатил куда больше и расстроился, потому что ему не позволили сделать с ней всё, что хотелось.
Первому не хватило реальности. Второму - свободы фантазии.
Но оба в итоге говорят одно и то же: "Я думал, что покупаю другое".
А если дать второму полную свободу, может оказаться, что недовольны уже не покупатели, а вполне реальные люди, чьи фотографии кто-то загрузил в генератор. Заодно - производители, банки и платёжные системы.
ИИ поменял не только способ производства роликов. Он сделал менее очевидным, что именно в них продают. Видео? Участие настоящего человека? Возможность получить нужный результат по своему запросу? И насколько честно это объяснили перед оплатой?
Так что проблема Джессики не только в том, что она ненастоящая.
Иногда гораздо хуже, если она становится слишком похожа на настоящую.
Джессика - ненастоящая. Чарджбек - вполне.
Показать полностью
5
