Век изъятия (3)⁠⁠

Продолжаем знакомиться с книгой Тима Ву.
Все части выложены в серии.

Как Большие данные, ИИ и всякие другие модные слова помогают платформам

Коротко для ЛЛ: Платформы широко используют новые технологии для удержания клиента и приумножения доходов. Они вкладывают огромные средства в большие языковые модели из страха, что те подорвут их могущество, оказавшись в чужих руках.

Заполучив клиентуру, владелец платформы заботится о её сохранении. Чтобы она не разбежалась, когда её начнут доить, возводятся психологические барьеры для удержания в своей орбите. Ставка делается на человеческую лень, для чего вливаются миллиарды в индустрию развлечений. Остались в прошлом времена, когда производитель ликёров мог обанкротиться, купив музыкальную компанию. Сегодня Амазон покупает MGM Studios, Гугль транслирует дорогущие стримы с американским футболом, а Эппл производит телешоу. И остаются в плюсах! Не то, что Майкрософт в девяностых.

На самом деле здесь битва ведётся за умы, за лояльность и внимание. Собираем клиентуру, а доить будем потом. И пока она есть – платформа не понесёт убытков. Пока она есть – её будут продолжать вовлекать через лайки и провокационный контент и умасливать допаминчиком от редких жемчужин в горах мусора. Обитание на платформе делается настолько комфортабельным, что переход куда-то ещё чувствуется слишком обременительным мероприятием. Платформа охватывает всё больший объём досуга, обволакивая пользователя новыми слоями вовлечения. Когда Маск купил Твиттер, он вознамерился создать everything app – приложение, охватывающее всё подряд. В эту парадигму ложится релиз ИИ-приблуды под названием Grok. Девиз всех их: простота выигрывает.

Обратить внимание пользователя в деньги позволяют его же данные. Кто имеет данные – тот может найти закономерности. Кто знает закономерности – тот может предсказать будущее. Кто может предсказать будущее – тот найдёт способ на этом заработать. Однако в отличие от метеоданных, данные пользователей не находятся в свободном доступе, и прогнозы, на них основанные, чаще всего держатся в секрете.

За примером далеко ходить не надо. Зная привычки пользователя, можно гораздо эффективнее распорядиться рекламой. Можно фрагментировать и классифицировать базу и давать разным её сегментам разные предложения. Не надо быть совершенным – достаточно быть более эффективным, чем конкуренты, чтобы привлечь на платформу больше рекламодателей.

Но реклама – это ещё цветочки. В наше время появились гораздо более зловещие предсказания и опасения касательно власти Биг Дата. Ведь данные дают возможность повлиять на клиента. Шошана Зубофф писала о надзорном капитализме и особом виде влияния, которое имеют платформы. Она определяет его как «владение средствами модификации поведения». Пройдёт немного времени, и тот же Гугль может стать тоталитарной властью, влияющей на умы посредством скрытого изменения того, что мы видим и на что реагируем. Да, так уже было. Альберт Шпеер писал, что в Третьем рейхе посредством радио и громкоговорителей 80 миллионов человек оказались лишены независимого мышления. Сегодняшние платформы тоже обладают сравнимым могуществом в плане влияния на публику. Кто знает, может Илон Маск купил социальную сеть именно для этого.

Заговорив о Больших Данных, нельзя обойти вниманием Искусственный Интеллект. История его развития пронизана двумя подходами. Согласно первому, символическому подходу, впервые сформулированному в Дартмуте в 1956 году, ИИ должен базироваться на правилах. В принципе, логично и даже интуитивно.

Альтернативная история берёт начало в 1940 году, когда молодой вундеркинд Уолтер Питтс, сбежавший из дома, чтобы учиться в университете, стал работать над первой математической моделью нейрона под руководством нейропсихолога Уоррена Мак-Каллока, который и приютил парня у себя в семье. В 1958 году Фрэнк Розенблатт, который пошёл по их следам, опубликовал программную статью с первым описанием перцептрона. Идея была в том, чтобы позволить многослойной нейронной сети самой обучаться на данных, вместо того, чтобы мучительно создавать правила для интеллекта.

Несмотря на первоначальный оптимизм, дела у Розенблатта шли не так хорошо, как ожидалось. Он подвергся нападкам коллег из MIT, которые верили в торжество разума с его правилами. Марвен Минский и его товарищи оказались настолько влиятельными, что нейронки удалось задвинуть на периферию исследований. Однако символический подход за все эти годы обнаружил за собой недостатки, которые трудно было компенсировать. С его помощью можно было научить автомат хорошо играть в шахматы, что и было сделано: экспертная система Deep Blue победила в 1997 году самого Каспарова. Но справиться с задачей обобщения искусственный интеллект такого типа, увы, не мог. К концу восьмидесятых символический ИИ выдохся.

Новое тысячелетие ознаменовалось триумфальным воскрешением нейронных сетей силами маргиналов из Коннектикута под руководством Джеффри Хинтона, который в 2006 году представил свою модель глубокого обучения. Его восьмиуровневания AlexNet начисто побила всех конкурентов на конкурсе по распознаванию образов в Принстоне. В академической среде и на этот раз не обошлось без нападок на продолжателей дела Розенблатта. Они писали:

Хинтон сделал лучшую лестницу, но лучшая лестница необязательно достанет до Луны.

Однако крупные платформы, очевидно, считали иначе. Гугль купил компанию Хинтона в 2013 году за 44 миллиона и стал заказывать учёному исследования. Через пару лет Маск и Альтман основали OpenAI. Настало время больших языковых моделей и чатботов. И вот здесь мы возвращаемся к теме важности Больших Данных. Для ИИ их объём и качество является несомненным преимуществом. Ещё одним необходимым ресурсом является вычислительная мощность. Третий ингредиент – человеческий талант. За всё это цифровые гиганты ведут борьбу. Вопрос на миллион: как повлияет ИИ на монополию платформ?

Дебют чатботов в начале двадцатых запустил пару вопросов, которые сегодня уже кажутся немного нелепыми: можно ли побудить бота сказать нечто оскорбительное (можно, но с каждым годом всё труднее), а также представляет ли ИИ угрозу нашей цивилизации (как по мне – вряд ли). Однако эти дискуссии задвинули на задний план важные вопросы о распределении экономической и политической власти. Не лишат ли чатботы куска хлеба слишком многих людей, например. По поводу персональных компьютеров в своё время тоже существовали подобные опасения, но они по большей части лишь помогли рабочим, но не заместили их (ну, здесь я бы поспорил: компьютеры, быть может, помогли, но контроллеры вполне себе заместили).

Здесь играют роль структура промышленности и баланс экономической власти. В условиях сильного рабочего движения и засилье машин может стать благом для трудящегося. Если же трудяга не имеет голоса – его будут ещё более эффективно эксплуатировать. На данный момент создаётся впечатление, что буквально каждая платформа стремится обзавестись своей языковой моделью. Они осознают угрозу ИИ как технологии, которая может подорвать их могущество, а также стремятся использовать его для укрепления своего положения на рынке.

Автор обращает внимание на то, что, полагаясь на электронные мозги, мы можем со временем атрофировать свои собственные. Зато интеллигентный помощник может быть использован для укрепления эмоциональных связей с целью ещё более сильной привязки клиента к платформе. Начинания в этой области уже есть, и в качестве примера он приводит российско-американский стартап Replika.