vernidub

Бомбануло у одного из известнейших исследователей в области машинного обучения, Майкла Джордана из университета Беркли. Он один из самых влиятельных computer scientist и участник и лидер самых важных сообществ в области ИИ. Джордан - тот кто развил область обучения без учителя (unsupervised learning) и ввёл LDA в обиход. Это прям интересно, когда такая глыба неожиданно выступает с такой жесткой критикой.

Вольное изложение его мыслей. Делал для курса по дата-этике в нашей магистратуре:

- Он критикует книги, рассуждающие про то, что мы будем делать с появлением общего ИИ, журналистов, поддерживающих эти темы. Разговоры про супер-интеллект и ИИ, мол, забавны, но они очень отвлекают от реальной проблемы. И не только широкую публику, но и самих учёных!

- Главная цель - развивать "вертикальные" системы машинного обучения и внедрять их по всему миру. Мы заняты сейчас не этим. Джордан называет их "Искуственная инфраструктура" вместо "Искусственный интеллект"

- Трёп про "компьютер, который станет разумным как человек" увлекает, но это идея шестидесятых. Сейчас мы разрабатываем вовсе не такие системы, мы невероятно далеки от них. Мы сейчас делаем дополнения человеческим возможностям и это и есть задача на ближайшие годы

- "Реальный ИИ" должен заниматься распознаванием низкоуровневых паттернов в нашей жизни, он делает это лучше человека. В финансах, производстве, здравоохранении. Именно это и есть цель и задача учёных.

- В интеллектуальной среде стало беспонтово быть "инженером" чего-то, например термин "социальный инжиниринг" несёт негативный оттенок. А вот как раз инжинирингом нам-то и надо заниматься. А все назвались "учёными". А ведь всё что реально улучшило жизнь людей в последние сто лет было именно инжинирингом.

- Цель создания систем AI/ML не просто в обработке данных, но в создании новых цепочек, соединении новых покупателей и продавцов, в создании совершенно новых рынков

- Всё что сейчас называют AI им не является, не способно к высокуровневой постановке целей и мышлению. Почти всегда AI называют машинное обучение, которому десятки лет.

- Прикольные "ИИ" создающие музыку, тексты, генерящие речь - просто дополнение к способностям человека, не шаг к реальному ИИ. Это хайп, который отвлекает от полезных целей.

- Имитирующий человека ИИ это заблуждение. Мы должны не пытаться сделать замену мясному мешку за рулём машины, а сделать системы вроде роботизированной диспетчерской башни в аэропорту, но для автотрафика

- В конце концов у нас есть шанс сделать разработку и инжиниринг - человекоцентричными, пытаясь поставить идеи счастья человека. Сейчас эта идея вовсе не в центре разработки технологий. И у неё нет названия, говорит Джордан.

Лично мне очень понравились его мысли, а в особенности идея про человекоцентричность. Эта идея лежит на грани технологий и этики, раскрывается мало и часто сваливается либо в левую чушь, либо в алармизм.

Лавры Buzzfeed, специалистов по треш-заголовкам, не дают покоя и более крутым спокойным медиа. Один из техноблогеров заметил, что одно из самых авторитетных в США изданий New York Times экспериментирует с заголовками статей. Он вытащил все виды заголовков и данные по их тестированию через открытые API этого СМИ и пришёл к интересным выводам.

- Всех посетителей сайта в момент визита на сайт разбивают на группы (иногда до 7) и дают им разные заголовки статей с одним и тем же содержимым. Затем смотрят, на что реагируют лучше и дальше уже на всю аудиторию выкатывают самый эффективный заголовок.

- Оказалось, статьи попадают в "самые читаемые" после такого A/B тестирования с вероятностью на 80% больше, чем без тестирования заголовков.

- Где-то это подбор правильного слова, но чаще - сравнение разных по эмоциональной зарядке заголовков

- 62% аудитории NYT это платные подписки и им нет смысла гнаться за кликбейтом. Однако всё равно чаще всего "побеждают" и выбираются редакцией существенно более драматические заголовки, преувеличивающие драматизм статьи.

- В среднем проверка эффекта идёт за 6 часов жизни статьи на сайте.

- Часто NYT начинает подтюнивать уже вышедшие в топ статьи, чтобы сделать их ещё убойнее. Самый яркий пример - как заголовок про Меган Маркл из "Её жизнь не была сказкой, она потеряла свободу и идентичность" превратился в "Жизнь в королевской семье почти довела меня до самоубийства".

Затем он делал ещё один рисёч, где изучал что выводится на главный экран. Главный вывод в нём: - 90% статей живёт на главной странице 9 часов, 10% убивают меньше чем за час

- 40% статей это новости, а вот остальные 60% - это развлекающая херня - мнения и рецепты "как готовить скрэмбл" и "что носить в прохладную погоду", которые живут на главной рекордное время. Его вывод - деловое издание не может удерживать внимание только деловыми новостяии.

Моё резюме же - ничего хорошего в таком взломе человеческого любопытства нет. Когда генерация кликбейтных заголовков и скорость их проверки дойдет до максимума, контент статьи станет совсем вторичен.

Место - Фурманов переулок 6, в нем музей-Квартира Васнецова, дом 1904 года. Прости, Васнецов, мы все проебали. Вот неужели ни у кого, кто это реализовывал, не возникло мысли по пути, что они делают что-то не то?