1217

В интернет утекли сотни записей общения пользователей с Алисой

Как так вышло:

Яндекс отправляет общение с голосовым помощником Алиса рандомным пользователям своего сервиса "Толока"


Зачем:

Каждая компания, которая делает своего голосового помощника, нуждается в проверке корректности распознавания команд, которые дают пользователи. Такой процесс называется транскрипция. Иностранные компании, чтобы сделать такую штуку, нанимают подрядчиков, который обещает хранить тайну всего о том, что пользователи наговорят. Но в случае с Толокой пользователи ничего никому не обещают и поэтому такие записи легко попадают в интернет.


Что в этом плохого:

Во-первых, сам Яндекс научился определять пользователя по голосу, а значит они знают, кто это говорил.

Во-вторых, сейчас активно развитиваеося технология биометрической идентификации пользователей, в том числе, по голосу. А это значит, что определить конкретного человека может не только Яндекс. Следовательно, нарушается неприкосновенность частность жизни.


Какой масштаб:

В нашем распоряжении несколько сотен записей обращения пользователей к Алисе.


Как в других странах:

Например, пользователи в США подавали в суд на Apple за подобные выкрутасы голосового помощника Siri.


Более подробно об утечке из Яндекс можно узнать из видео. В самом конце опубликованы примеры записей общения пользователей с умной колонкой Алиса. Очень рекомендуем к ознакомлению


https://youtu.be/Wi3ZoIbt5kY


Источник: https://t.me/internet_soprotivlenie

UPD уточнение: #comment_203461986

Правила сообщества

Обязательно к прочтению для авторов:

1. Если вы добавляете пост, утверждающий об утечке данных или наличии дыр в системе, предоставьте ссылку на источники или технически подкованное расследование. Посты из разряда "Какой-то банк слил данные, потому что мне звонили мошенники" будут выноситься в общую ленту.
2. Все вопросы "Как обезопасить сервер\приложение\устройство" - в лигу "Компьютер это просто".

Обязательно к прочтению для всех:

Добавление ссылки разрешено если она не содержит описание коммерческих (платных) продуктов и/или идентификаторов для отслеживания перехода и для доступа не нужен пароль или оплата в т.ч. интернет-ресурсы, каналы (от 3-х тематических видео), блоги, группы, сообщества, СМИ и т.д.


Запрещены политические holy wars.

По решению модератора или администратора сообщества пользователь будет забанен за:

1. Флуд и оскорбление пользователя, в т.ч. провокация спора, флуда, холивара (высказывание без аргументации о конкретной применимости конкретного решения в конкретной ситуации), требование уже данного ответа, распространение сведений порочащих честь и репутацию, принижающих квалификацию оппонента, переходы на личности.

2. Публикацию поста/комментария не соответствующего тематике сообщества, в том числе обсуждение администраторов и модераторов сообщества, для этого есть специальное сообщество.

3. За обвинение в киберпреступной деятельности.

4. За нарушение прочих Правил Пикабу.

Вы смотрите срез комментариев. Показать все
138
Автор поста оценил этот комментарий

А кто-то сомневался, что так будет?)


Хотя поди многие не понимают как работают технологии, даже не задумываются об этом, для них может это и новость. Я от всяких голосовых помощников держусь подальше. Поставил бы себе только в одном случае: если б он без инета работал бы.

раскрыть ветку (56)
78
Автор поста оценил этот комментарий

Все разговоры в сотовых сетях давно опередили эти новости = ) у Яндекса данные просто общедоступны и по другому структурированы.

Тот же Гугл постоянно "слушает" окружающее пространство.

раскрыть ветку (25)
59
Автор поста оценил этот комментарий

так это принцип работы голосовых помощников. Как иначе они поймут, что ты их вызываешь? Они слушают, обрабатывают и ищут ключевое слово. Находят - реагируют. Не находят - не реагируют официально. Но что при этом делается с уже услышанным материалом - вопрос.

раскрыть ветку (12)
26
Автор поста оценил этот комментарий
Если ты используешь андроид/айос, то твой смартфон слушает тебя 24/7. И собирает на тебя инфу. Пользователь дает на это согласие при первом запуске телефона/создании учетки(на сколько я понял) . На пикабу был пост с инфой, как запросить у гугла всю инфу, которую он на тебя собрал. Я запрашивал. Прислали архивы за 10 лет. Все мои фотки со всех старых телефонов(хотя я из не выгружал в облако) записи фраз, которые говорил после "окей, гугл) просто какие-то фрагменты речи. Геолокации всякие(где и сколько времени был) Все лайки. Все запросы. На какую рекламу кликал.
Коменты на ютубе. Ролики, которые загружал на ютуб (хотя давно удалил) . Лично я не вижу повода для паники перед голосовыми помошниками. Поздно параноить. Единственный выход - уехать жить в тайгу с медведями. Подальше от всего.
раскрыть ветку (10)
13
DELETED
Автор поста оценил этот комментарий
Или зайти в раздел конфиденциальности и настроить параметры. Хотя, в тайгу конечно пижже.
раскрыть ветку (5)
15
Автор поста оценил этот комментарий

Вы реально считаете что от того что снимите пару   галочек вас перестанут слушать ?

раскрыть ветку (1)
Автор поста оценил этот комментарий
Я даже думаю еще внимательнее станут слушать. Раз снял галочки - значит есть что скрывать, раз есть что скрывать, то более пристальное внимание.
0
DELETED
Автор поста оценил этот комментарий

Более пиздатый вариант это отвязывать телефон от гугла, поставить micro g  вместо гугло сервисов, вместо гуглоплея aurora store, полирнуть это newpipe(альтернативный клиент тытрубы) или вообще на lbry перекатится(довольно прикольный сервис-альтернатива тытрубе), а вместо ютубовской вебморды все смотреть через invidious, гуглопочту как сменить думаю рассказывать не надо, гугло переводчик заменяется libretranslate или чем подобным и т.д. Образ использовать от максимально свободной прошивки.


Вуаля вы отвязаны от гугла, и он вас точно не слушает, и вы не в тайге.

раскрыть ветку (1)
1
DELETED
Автор поста оценил этот комментарий

И внезапно оказывается, что вы и есть тот самый неуловимый Джо :-D

Автор поста оценил этот комментарий

ну google, например, игнорирует эти настройки в части геолокации, как минимум

https://tjournal.ru/tech/389366-smi-google-otslezhival-geolo...

2
Автор поста оценил этот комментарий

На андроиде это все отключается. И в свойствах учетки твоей и в разрешении для системных приложений (единственный минус - иногда всплывают сообщения, мол включи все обратно, мне надо, а то мол не гарантирую работу без ошибок).

На айфоне ничего такого не видел. Просто сири отключил и все.

0
Автор поста оценил этот комментарий

при этом забавный факт - выключенный телефон может быть включенным, просто не горит экран, не работают сети, не отзывается на нажатия. а микрофон вполне может писать.

5
DELETED
Автор поста оценил этот комментарий

Но что при этом делается с уже услышанным материалом - вопрос.
Ответ на который можно получить из прослушки траффика.

7
Автор поста оценил этот комментарий
Он меня задолбал этот ассистент и я его отключила) но они кстати умнеют, при всей моей нелюбови к роботам, с одним я на какой-то минуте телефонного диалога только поняла, что это тупой бот..но он был не тупой...а может и не бот)))) да не,это точно робот был, только не сразу облажался
раскрыть ветку (6)
6
Автор поста оценил этот комментарий
А может это дворник был...
раскрыть ветку (2)
0
Автор поста оценил этот комментарий

это он в шуме ветра рептилоидов услышал

раскрыть ветку (1)
0
Автор поста оценил этот комментарий
Иллюстрация к комментарию
5
Автор поста оценил этот комментарий

Как-то раз решил таймлапс на телфон записать, открыл окно, поставил на подоконник. А на улице сильный ветер был. Так за полчаса "умный" ассистент три раза в шуме ветра услышал "окей гугл", чем сорвал запись. А отключить сходу не удалось=/

0
Автор поста оценил этот комментарий
Бота то можно отключить, он ещё и срабатывает как попало. Но телефон всё равно слушает окружающее пространство, и предоставляет рекламу на этой основе. Уже не раз это видел
раскрыть ветку (1)
0
Автор поста оценил этот комментарий
Подтверждаю на собственном опыте. Поговорив о чем-то с отложенным мобильным телефоном уже не удивляюсь, увидя рекламу о предмете разговора.
16
Автор поста оценил этот комментарий
Яндекс тоже. Сегодня сидел в кафе с подругой, она занимается детской одеждой. Обсуждали принты на майки, платья, и все такое. Телефон был рядом. Приехал домой, лежу в постельке, смотрю Пикабу, и директ кидает мне майки с дизайнерскими принтами. Чтобы вы понимали - меня ни майки, ни принты обычно нахер не интересуют, так что никаких запросов я точно не делал. Такие дела)
раскрыть ветку (4)
17
Автор поста оценил этот комментарий

Неоднократно такие "совпадения" встречал.

Лично меня не так напрягает, что телефон за мной следит, как то, что он это крайне всрато делает.

4
Автор поста оценил этот комментарий
я читала, что такое может быть ещё от того, что ваши телефоны, например используют геоданные.

ваш телефон находился рядом с телефоном подруги продолжительное время. в её интересы входят и майки и принты. алгоритм на основе таких данных делает вывод, что вы тоже можете заинтересоваться, раз общаетесь, и начинает подкидывать такую же рекламу, как и подруге. возможно, ей тоже стала выпадать реклама, подходящая под ваши интересы, но она этого не заметила, потому что вы это не обсуждали

в общем, телефоны за нами следят, но это не обязательно именно подслушивание с распознаванием ключевых слов
раскрыть ветку (2)
2
Автор поста оценил этот комментарий
Плюс в копилку того, что таки слушает, после того как во время разговора с в скайпе рабочем коллега упомянул какое то приложение от майкросрфта. (Если не ошибаюсь, что то связанное с оффисом и удаленной работой) Мол хрень полная, тупит страшно все, но их заставляют работать на этом. Я переспросила, посочувствовала и сказала, что слава богу мы прост по впн подключаемся и усе. Через пару дней мне лезла реклама в мордокниге, не успевала закрывать.
1
Автор поста оценил этот комментарий
Была ещё интересная ситуация, когда с компа в Гугл мите коллеги обсуждали как у одного из них градусник дома разбился. Я молча слушал через наушники, сам ничего не говорил. А потом директ в телефоне мне рекомендовал группу быстрого реагирования по устранению ртути)
14
Автор поста оценил этот комментарий

Кстати, что там насчёт "закона Яровой"? Кто-то что-то обещает хранить в тайне и пользователи имеют выбор на хранение данных (кроме варианта "не пользоваться", как и с Яндекс-сервисами)? Кого привлекать в случае попадания в данных в сеть: оператора связи, агрегатора хранения данных, "неизвестного подрядчика", правительство, никого и т.п.?


По тексту поста не понял суть утечки. Переходить по ссылкам нет желания.

Заголовок прямо сообщает, что данные попали в сеть. Для меня это значит, что все или группа пользователей сети Интернет имеет доступ к этим данным в реальном времени, т.е. закрытие доступа/уязвимости со стороны Яндекса никак не может повлиять на уже имеющие данные.

В самой статье какое-то смутное описание бага, когда пользователи получают записи. Причём не указано, случайные пользователи получают свои записи или случайные пользователи получают случайные записи, или случайные пользователи вовсе не случайно что-то делают и получают записи.

Пункт "Что в этом плохого" тоже не описывает последствия "утечки", а особенности хранения и обработки данных. Разве там предполагается, что "случайные пользователи" каким-то образом смогут использовать полученные сообщения? Нет. Там пишется, что Яндекс сможет отличить Машу от Миши по голосу. Вторым пунктом предполагается, что можно будет вычислить пользователей. Это и без голоса можно сделать, а про базу "голосов" пользователей с их персональным данными не слышал. Даже при наличии такой базы затруднительно будет по голосу найти человека, т.к. придётся составлять какой-то список критериев (меток) для групп голосов после анализа каждого, а для поиска проанализировать имеющийся голос и сравнить с имеющимися данными. Это не тоже самое, что сейчас сравнивается образец голоса с голосом обратившегося человека. Здесь выборка всего из одного человека.

раскрыть ветку (9)
6
Автор поста оценил этот комментарий
Это не баг.
При выполнении этих заданий выходит страница с аудио.
Возле каждого аудио есть "три точки", а там пункт скачать аудио. Вроде так было. Или просто правый клик, но суть в том, что это в функционале задания прописано.

Интерфейс задания не предоставляет информацию об источнике аудио, то есть идентифицировать проблематично. Только если говорящий с Алисой сообщит свой идентификатор.

Кто то заморочился и скачал аудио)))

Я скачивал аудио, что бы замедлить и разобрать его. Наверно надо было ради хайпа такой вот пост создать)
Автор поста оценил этот комментарий

Сам факт попадания этих записей к любому человеку через толоку это нормально? В чем суть между пользователем Толоки и любым рандомным человеком в интернете


И эти люди качают и записывают свои задания

раскрыть ветку (7)
7
Автор поста оценил этот комментарий
Есть вероятность того, что пользователи дали согласие на участие в программе улучшения качества работы Алисы.

А значит всё законно и обосновано.
раскрыть ветку (4)
1
Автор поста оценил этот комментарий

Именно

Иллюстрация к комментарию
ещё комментарии
2
Автор поста оценил этот комментарий

но их невозможно идентифицировать, думаю нюанс в этом)

0
DELETED
Автор поста оценил этот комментарий

Вообще можно смотреть статистику запросов к посковикам. Чем голосовые отличаются, кроме как того, что они голосовые?

2
DELETED
Автор поста оценил этот комментарий

Если ты спрашиваешь у ассистентов как захватить Польшу или устроить блиц-криг против СССР, тогда может и стоит опасаться всего этого.

В реалиях же, как говорят, Алиса может идентифицировать пользователя по голосу - на самом же деле является полнейшей хуетой т.к. эта фича работает через жопу. У меня стоит Яндекс.Станция и при обращении 3-х разных людей, она может обращаться к ним абсолютно рандомно, т.е. первого назвать именем третьего и т.д. Да и записывает она, по утверждениям самого же Яндекса, она только момент обращения к ней.

У меня, наверное, самый полезный пул запросов для спецслужб, потому что использую я только 2 команды: "Алиса, свет", "Алиса, телевизор" :D

раскрыть ветку (7)
Автор поста оценил этот комментарий

Вот я тож хочу "умный дом" дома устроить.. Но не хочу чтоб голосовой помощник мою речь передавал в инет.. Работало бы это все без инета прям совсем. Чтоб даже возможности к инету подключиться не было, вот было бы круто.

раскрыть ветку (6)
2
DELETED
Автор поста оценил этот комментарий

С помощью этих запросов и команд он "обучается", за 5 лет пользования Алисой у меня не было такого, чтобы мне вылезла контекстная реклама по поводу обсуждения чего-то в комнате и т.д., т.е. если даже она и собирает эту статистику, то куда то в свои трущобы, и мне скрывать нечего, поэтому вообще похуй, что она там насобирает.
В крайнем случае, ты можешь поставить станцию у себя дома, вырубить ей микрофон и управлять через запуск приложения на телефоне, чтобы микрофон был ему доступен во время использования приложения.
Но мне все равно не понятно, что люди пытаются скрыть от ФСБшников заклеивая веб-камеры и отрубая войс-ассистентов, все и так знают, что они там втихаря сидят фасолину теребонькают

раскрыть ветку (5)
1
Автор поста оценил этот комментарий

К камере доступ может получить любой вася пупкин при соответствующих навыках или без навыков, если производитель железа или софта где-то допустил ошибку. Это даже гуглится легко. Вот так раз потеребонькаешь и станешь звездой инета, так как кто-то не вовремя получит доступ к камере и запишет) Да даже просто по своей глупости можно взять и забыть отключить камеру или звонок после разговора. А про голосовой помощник.. А может я что-то про власть плохое говорю, а у нас есть закон, который запрещает власть оскорблять. Или еще что потупее в этом же роде примут. не хотелось бы загреметь куда-нить просто так.  А то вон не адвно провели же спец операцию заграничные полицейские, когда 1500 тысячи человек арестовали и еще больше на подходе. Просто те пользовались "защищенным" мессенджером, а их читали. Вот так окажется потом, что Алиса (Сири  тп), такой же троянский конь.. :-)  Вроде и нечего скрывать, но береженого бог бережет. Меня на улице полицейские как-то ночью остановили в парке считай наехав на меня на автомобиле (шел я не по дороге, а по парковому тротуару!) и нарушая все мои права обыскали меня. Звонок в службу доверия ничего не дал. А на мое заявление дальнейшее, с вопросом что это вообще было, сказали что мы не мы, полицейских там не было, ничего не знаем. В общем опасаюсь я попасть под палочную систему даже не имея греха.

раскрыть ветку (4)
0
DELETED
Автор поста оценил этот комментарий

У меня даже камеры нет, поэтому я об этом не особо то и беспокоюсь.

Про власть мне нечего говорить, мне похуй на тех кто там сидит, равно как и им, очевидно, похуй на меня.

А насчет остановки и обыска сотрудниками полиции, хз, у меня никогда с ними не было проблем, кроме тех случаев, когда товарищи с которыми я находился в момент остановки не начинали включать самого умного и поиграть в игру у кого писька длинее. Мне нечего прятать и нечего скрывать, розовый дилдо я в рюкзаке не ношу, поэтому даже если полицейский просит у меня показать содержимое рюкзака - я просто показываю и прошу не трогать руками. Удивительно, но вежливое общение работает в разы лучше и экономит намного больше времени, чем качание прав и распальцовка. Даже если в юридическом плане у тебя окажется писька длиннее - время и нервы ты уже не вернешь)

раскрыть ветку (3)
2
Автор поста оценил этот комментарий

Есть у меня такой же друг, как вы. В тот раз с полицией, он кстати рядом был) Всегда у нас с ним споры по этому поводу: он считает, что даже если твои права нарушаются, то можно закрыть на это глаза, зато скорей всего ничего плохого не случится и освободишься быстрее. А я считаю, что работать стоит не выходя за рамки закона. Хотят обыскать? Пожалуйста. Только пусть представятся, объяснят причину, составят протокол, пригласят двух понятых...

вежливое общение работает

Я, кстати, тоже вежливо общаюсь :-) Только вот в тот раз полицейские стали быковать сильно, что было прям очень не приятно.


В магазине хочешь возврат сделать, а там в нарушение закона требуют паспорт? Друг у меня его дает зачем-то. Я - нет. Имхо, сильное гражданское общество и строится на таких мелочах, когда каждый свои права защищает. А то сегодня на одну мелочь внимание не обращаешь, завтра на вторую.. Потом вообще на что-то более крупное замахнутся.. Так оглянуться не успеешь и окажешься в кандалах или в стране, где на законы вообще всем плевать и все строится на понятиях. Имхо :-)

раскрыть ветку (2)
1
DELETED
Автор поста оценил этот комментарий

Только вот осмотр содержимого моих карманов и пр. - не является досмотром. Можно конечно стоять и долго спорить с сотрудником полиции, ссылаться на свою скромность и прочее, но зачем? Очень странная привычка довести все до крайности, а потом жаловаться, что сотрудники полиции обращались с тобой ненадлежащим образом.

Протокол и понятые вызываются в случае если тебя досматривают сотрудники полиции.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий
Только вот осмотр содержимого моих карманов и пр. - не является досмотром

Именно что является. Осмотр - это сугубо добровольное действие человека, от которого он может отказаться. Пример - проход через рамку на вокзале. Не хочешь прохоидть - не проходи, но на возкал не попадешь. А когда просят показать содержимое сумки, карманов и тп без права отказаться - это уже досмотр. Читай закон о полиции.


Скинуть ссылку, как к мужику домой полиция из-за жалобы соседей пришла и сказала, что если будет выпендриваться, то ему наркотики подкинут?

2
Автор поста оценил этот комментарий

Siri в iOS 15 будет работать без интернета

раскрыть ветку (1)
DELETED
Автор поста оценил этот комментарий
Только на A12 и выше. Ну и это не значит, что устройство не будет потом сливать все аудиозаписи при подключении к интернету. Учитывая то, что эти ублюдки творят с приватностью в macOS в последнее время, вместе с ios16 должен будет поставляться анальный зонд и личный товарищ майор от компании Apple
2
DELETED
Автор поста оценил этот комментарий

а что с ним без интернета делать? фм радио обсуждать?

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

все что надо в инете найти - я и без них справлюсь. Они без инета нужны для организации умного дома.

0
DELETED
Автор поста оценил этот комментарий

В ios 15 ваши чаяния сбудутся. Но приватности это не добавить.

Вообще кстати не понимаю, на какую приватность рассчитывают пользователи любых российских копаний, в том числе Яндекс, Сбербанк или mail.

Хотите приватности - милости просим юзать сервисы компаний из правовых государств. Там по крайней мере сраные сотрудники Роскомнадзора (получили доступ к данным сотовых операторов, а это звонки, смс, расположение) или местного мвд/фсб не будут вас под колпаком держать. Да, данные они предоставят, но на внятный запрос.

В сравнении с теми же банками - верх конфиденциальности.

В наших компаниях уже тупо на запрос по мылу данные предоставляют. Даже без основания.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

То-то телеграмм в Германии занервничал)

0
Автор поста оценил этот комментарий

У меня смартфон отказывается брать инфу с фитнес браслета если он не подключён к интернету, уже до такой степени докатились...

раскрыть ветку (2)
0
Автор поста оценил этот комментарий

ого жесть какая. А если не секрет, что за браслет и смарт? Айфон и эпл воч?

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Сяоми

0
Автор поста оценил этот комментарий

Когда-то люди жили в эпоху отсутствия приватности - все знали все обо всех, испорченная репутация навсегда
Потом наступила индустриальная эпоха, стало можно уехать в другой город и стать анонимусом, жить с нуля
Сейчас с развитием соц.сетей и технологий распознавания - снова наступает конец приватности. Если вы подрочили и это видео утекло в сеть, то фактически это на всю вашу жизнь с вами

0
Автор поста оценил этот комментарий
Ок, товарищ умник. В чем вы уже на данный момент не сомневаетесь ещё?

Естественно речь о том, чего ещё не произошло.
раскрыть ветку (1)
0
Автор поста оценил этот комментарий

ну а вы не пробовали лицензионное соглашение читать? Там все написано. Места для сомнений быть не может. Еще можете от гугла прочитать. Его я тоже читал.


А на счет вашего вопроса: я вот не сомневаюсь в том, что завтра буду проходить 2 ТО на своем авто. У вас какой-то очень обширный вопрос, даже не знаю как ответить иначе)

Вы смотрите срез комментариев. Чтобы написать комментарий, перейдите к общему списку

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества