APEXANDER

Представьте, что вас увольняет не человек, а алгоритм. А ваша «вовлечённость» на уроке определяется не учителем, а веб-камерой.

ЕС первым в мире ввёл закон, который всё это запрещает. Теперь ИИ не может:

– предсказывать, кто станет преступником

– читать эмоции сотрудников

– выставлять рейтинг «надежности» граждан

За нарушение — штраф до €35 млн.

С 2 февраля 2025 г. в Евросоюзе заработали первые в мире пункты закона об искусственном интеллекте (AI Act) (см. статью 5) Они касаются семи «неприемлемых практик» — то есть того, что теперь прямо нельзя делать с помощью ИИ.

Что именно теперь нельзя — и почему это важно

Манипуляция мнением. Представьте новостное приложение, которое показывает вам только одну точку зрения, но вы не знаете, что выбор сделан ИИ. Оно как будто «подталкивает» вас — мягко, незаметно, но целенаправленно. Например, новостное приложение показывает только те статьи, которые формируют нужное мнение, и не говорит, что это делает ИИ.

Давление на слабых. Если ИИ специально нацелен на детей или пожилых — например, «умная» игрушка уговаривает ребёнка раскрыть адрес ради «подарка» — это теперь вне закона. Пример: «умная» кукла убеждает шестилетнего ребёнка раскрыть домашний адрес ради «подарка».

Оценка граждан по поведению. Как в Китае: чем «послушнее» ты ведёшь себя, тем больше прав. Но в ЕС это теперь вне закона — никакой оценки «благонадёжности» по штрафам, кредитам и лайкам.

Угадайка по лицу. Системам запрещено определять по внешности, кто ты: религия, ориентация, этническая группа — всё это вне доступа для ИИ.

Сбор лиц без спроса. Стартапы вроде Clearview AI скачивали миллиарды фото из соцсетей, чтобы потом продавать «поиск по лицу» полиции. В ЕС это теперь под запретом.

Предсказания преступлений. Алгоритм, который решает: «ты похож на нарушителя», — теперь нелегален. Это не фантастика — такие системы уже применялись в США и усиливали предвзятость полиции.

Слежка за настроением. Камеры в школах и офисах, которые анализируют «вовлечённость» или «лояльность», больше нельзя использовать. Улыбка по приказу — отменяется.

Самые интересные случаи из мира ИИ

Clearview AI (США): стартап собрал более 3 миллиардов фото людей из соцсетей без их согласия и продал доступ к базе данных полиции. За это компанию неоднократно штрафовали — в частности, французская CNIL наложила штраф в размере €20 млн в октябре 2022 года за незаконную обработку биометрических данных граждан Франции без их согласия.

Распознавание лиц в Великобритании: полиция Южного Уэльса и Лондонская метрополитен-полиция использовали технологии распознавания лиц в общественных местах. В 2020 году суд признал такие действия незаконными, нарушающими права человека.

Социальный рейтинг в Китае: власти Китая развивают систему оценки граждан по данным о штрафах, социальных связях и покупках. Людей с низким рейтингом могут ограничить в покупке билетов, получении кредитов и даже трудоустройстве. Этот пример активно обсуждался в ЕС как аргумент в пользу запрета подобных систем.

Uber (Европа): в 2021 году водители Uber в Великобритании выиграли дело, доказав, что алгоритмы увольняли их автоматически на основе данных без права на апелляцию. Суд постановил, что это нарушает права работников и стандарты прозрачности ИИ.

🤖 ИИ — это не добро и не зло. Это просто зеркало, которое показывает, как устроено наше общество. Если дать ему власть — он будет воспроизводить всё: и прогресс, и предвзятость, и контроль. Поэтому правила — не про ограничение технологий, а про защиту людей. Чтобы машины работали на нас, а не наоборот. Будущее наступило.

Источник интересных фактов.