Сканирование на стороне клиента (CSS) включает в себя анализ данных на мобильном устройстве или компьютере до применения шифрования для безопасного сетевого транзита или удаленного хранения. CSS теоретически обеспечивает способ поиска незаконного контента, а также позволяет защищать данные вне устройства. Так, в августе Apple предложила систему CSS, с помощью которой она будет анализировать фотографии, предназначенные для резервного копирования iCloud на устройствах клиентов, чтобы искать материалы сексуального насилия над детьми (CSAM).
В документе «Ошибки в наших карманах: риски клиентского сканирования» рассматриваются проблемы, возникшие сразу после объявления Apple о сканировании CSAM, с подробным анализом самой технологии.
В создании документа приняли участие Хэл Абельсон, Росс Андерсон, Стивен М. Белловин, Джош Бенало, Мэтт Блейз, Джон Каллас, Уитфилд Диффи, Сьюзен Ландау, Питер Г. Нойманн, Рональд Л. Ривест, Джеффри. И. Шиллер, Брюс Шнайер, Ванесса Тиг и Кармел Тронкосо. Эксперты утверждают, что CSS представляет собой инструмент массового наблюдения, который угрожает свободе слова, демократии, безопасности и конфиденциальности.
«В этом отчете мы утверждаем, что CSS не гарантирует эффективного предотвращения преступности и не предотвращает слежку», — говорится в документе.
В настоящее время CSS полагается на один из двух методов сканирования изображений: перцепционное хеширование, при котором алгоритм генерирует хэш (числовой идентификатор), который функционирует как фингерпринтинг; либо машинное обучение, при котором модель обучается распознавать целевой контент, даже изображения, которые она раньше не видела.
В документе указывается, что оба метода допускают ложные срабатывания, могут полагаться на проприетарные технологии, которые ограничивают сам аудит, а также могут подвергаться злоупотреблениям.
Apple попыталась учесть возможность того, что репрессивные режимы могут попытаться адаптировать ее систему для сканирования политически неприемлемого контента. Компания утверждает, что будет сканировать только хэши контента, присутствующие в списках, поддерживаемых несколькими организациями по защите детей. Однако эксперты говорят, что все зависит от желания и способности Apple проводить в жизнь свою политику, которая может столкнуться с давлением правительств. Так, правительство Великобритании уже хочет заполучить возможность проверять зашифрованные сообщения пользователей Apple, даже если используется сквозное шифрование. Пока же сама компания из-за критики отложила на неопределенное время планы по внедрению CSS.
«В прошлом Apple уступала такому давлению, например, перемещая данные iCloud своих китайских пользователей в три центра обработки данных, находящиеся под контролем китайской государственной компании, и удаляя приложение для голосования “Навальный” из своего российского приложения», — напоминают авторы документа.
Далее рассматриваются все потенциальные проблемы с системами CSS. Сюда входит возможность злоупотреблений со стороны авторизованных и неавторизованных сторон, а также близких пользователя и его недоброжелателей, получивших доступ к устройству.
В документе говорится, что CSS влечет за собой риски для конфиденциальности в виде «обновлений», которые расширяют круг возможностей сканирования и злонамеренного использования.
Авторы приходят к выводу, что CSS не может быть надежным или безопасным из-за того, как она спроектирована: «Предложение об упреждающем сканировании всех пользовательских устройств на предмет целевого контента гораздо более коварно, чем предыдущие предложения по условному депонированию ключей и исключительному доступу». По словам экспертов, корпорации движутся в сторону массового сканирования всех устройств без разбора, что грозит основным свободам пользователей.
