Недавние глюки в Фб и Инстаграме, подробно описанные, например, тут, подняли интересный вопрос - зачем искусственный интеллект следит за фоточками пользователей и раздает им очевидные тэги: "один мужчина, кот, еда", "несколько человек в помещении, улыбаются", и так далее. И самое главное: почему эти тэги не видны для обычных пользователей и вылезают на всеобщее обозрение только во внештатных ситуациях, одна из которых как раз и произошла на днях?
Многие совершенно правильно предположили, что одной из причин такого поведения является стремление более точно подгонять рекламу под конкретного пользователя: например, если система видит, что у тебя много фоток с машинами, она будет фигарить тебе рекламу авто, а если снимаешь еду - то координаты ближайших кафешек. Просто и честно.
Но мое мнение, как человека, когда-то причастного к этой теме, таково - есть и более важная причина: безопасность, а точнее то, как это понимается в социальных медиа. Пока я работал на ФБ, довольно часто жалобы, которые к нам залетали, не имели человеческого источника, а под тикетом, который следовало обработать, была только короткая надпись: "Данная жалоба была автоматически сгенерирована". Это означало, что алгоритм ИИ самостоятельно распознал на картинке какие-то запрещенные элементы и отправил ссылку на нее модераторам.
Запрещенные элементы, которые легко поддавались идентификации, включали в себя, скажем, порезы на руках (возможное самоубийство), россыпь таблеток (самоубийство или торговля наркотиками), голое тело (порнография или предложение сексуальных услуг), и так далее. Работать с такими жалобами было, как правило, проще: в отличие от живых пользователей, ИИ имел достаточно короткий список критериев для жалоб, и если уж ты получал такой тикет, то мог быть уверен - алгоритм триггернулся на что-то, похожее на нарушение.
Время от времени, конечно, алгоритм сходил с ума и начинал отправлять жалобы на все подряд, но такое бывало редко. Хотя модераторы вспоминают эти случаи с теплотой: фактически, ты очень быстро обрабатываешь кучу заведомо ложных тикетов, что обеспечивает одновременно высокую точность и скорость - все в выигрыше!
Таким образом, в ходе давешних неполадок все лишний раз могли убедиться - Большой Брат продолжает бдить, и с каждым годом его прищур становится все сильнее. Любая ваша фотография просмотрена еще на этапе загрузки, проанализирована и имеет свое описание. Машинный интеллект постоянно учится. Еще немного - и он начнет принимать решения по картинкам самостоятельно, а модераторам останется только анализ текстовых сообщений.
Веселые будут времена.