itsmlady

Представьте: ваш новый ИИ-ассистент, которому вы поручили анализировать отчеты по продажам, втихую копирует всю клиентскую базу. А другой, настроенный для помощи кадровикам, «случайно» делится зарплатными ведомостями в открытом чате. Это не сценарий из киберпанк-фильма. Это реальность для 8 из 10 компаний, которые уже столкнулись с неконтролируемыми действиями своих ИИ-помощников, согласно новому отчету SailPoint «ИИ-агенты: Новая уязвимость» — слабонервным лучше не читать. Чтобы загрузить придется заполнить форму (сайт не мой, вендора).

Исследователи опросили более 350 компаний по всему миру, и вот что выяснилось:

• Угроза реальна: 82% компаний уже используют ИИ-помощников, и 96% опрошенных считают их растущей угрозой безопасности. Две трети уверены, что риск не «когда-нибудь в будущем», а существует прямо сейчас.

• Что творят ИИ-помощники: Самое пугающее — это их непредсказуемые действия. 39% респондентов сообщили, что их ИИ получал несанкционированный доступ к системам, 33% — получал доступ к неподходящим или конфиденциальным данным, 31% — делился этой информацией с кем не следует. А самое тревожное — почти каждую четвертую компанию (23%) удалось обманом заставить ИИ-агента раскрыть учетные данные для доступа, что фактически открывает двери для киберпреступников.

• Почему это происходит: ИИ-агенты сложнее контролировать, чем людей. Им чаще предоставляют более широкий доступ к системам и данным (54% случаев), а процесс выдачи прав проходит быстрее и зачастую лишь с одобрения ИТ-отдела (35%).

Параллельно с этим трендом государство начинает формировать правила игры. Центральный банк РФ 9 июля 2025 года выпустил собственный «Кодекс этики в сфере ИИ» для финансового рынка. Это пока рекомендации, но они задают вектор.

Вот ключевые моменты из кодекса:

• Человек главнее: Компании должны информировать клиентов о том, что они общаются с роботом, и предоставлять возможность переключиться на живого сотрудника. Решения, принятые ИИ, должны быть пересматриваемы человеком.

• Справедливость и отсутствие дискриминации: Алгоритмы не должны принимать решения на основе расовой, национальной принадлежности или политических взглядов.

• Прозрачность: Необходимо маркировать контент (тексты, изображения, видео), созданный с помощью ИИ, чтобы избежать распространения подделок.

• Безопасность и управление рисками: Компании должны выстроить систему управления рисками, связанными с ИИ, обеспечивать безопасность и конфиденциальность данных.

Что во всей этой ситуации делать нам, руководителям и предпринимателям, кто применяет ИИ в работе и в жизни? Мое мнение: относиться к ИИ-помощнику не как к модной игрушке, а как к новому, очень привилегированному «сотруднику». Прежде чем «нанимать» его на работу, нужно подготовить почву:

1. Никакой анархии. Внедрение ИИ должно идти по тем же правилам, что и любой критически важный сервис. Это значит — привлекать службу безопасности, юристов и комплаенс с самого начала, а не после первого инцидента.

2. Ограничить аппетиты. Нельзя давать ИИ-агенту права «суперпользователя» по умолчанию. Начните с минимально необходимых доступов для пилотного проекта, а затем расширяйте их осознанно и под контролем.

3. Прописать правила игры. Разработайте внутреннюю политику использования ИИ. Кто заказывает? Кто одобряет? Кто несет ответственность за его действия? Эти вопросы нужно решить до того, как ИИ получит доступ к данным.

4. Сначала мониторинг, потом автоматизация. Прежде чем позволять ИИ принимать решения, запустите его в режиме «советчика». Пусть он предлагает действия, а утверждают их люди. Так вы сможете оценить его адекватность без реальных рисков.

Признаюсь, меня и саму тема зацепила, что нашла экспертов, с которыми начала осваивать возможности ИИ и лучшие практики применения.

А как у вас? Уже запустили ИИ-помощников? Замечали странности в их поведении? Делитесь в комментариях.

Особенно хочу отметить серию «Три робота», где создатели с удивительным юмором препарируют человеческие привычки, технологии и само наше существование. Наблюдая за тремя механическими исследователями, бродящими по руинам цивилизации, мы учимся умению говорить о серьезных вещах с иронией.

Эпизод «Три робота» — это блестящий пример того, как можно говорить о сложных вещах легко. Роботы исследуют остатки нашего мира, делая абсурдные выводы о назначении обычных предметов и обсуждая странные привычки людей. И знаете что? Это работает!

Вот несколько приемов от «Трех роботов», которые помогут вам оживить даже самую серьезную статью:

• Смотрите на проблему глазами разных персонажей: робот, инопланетянин, домашний кот – выбирайте любого!

• Используйте необычные аналогии, чтобы подчеркнуть абсурдность ситуации. «Люди исчезли быстрее, чем лайки под постом об NFT».

• Не бойтесь подшучивать над собой или своей отраслью. Это сближает с читателем.

• Используйте контраст, серьезные факты + забавные комментарии = золотая середина.

Помните: юмор – это не цель, а инструмент. Он помогает удержать внимание читателя, пока вы доносите важную мысль. Используйте его мудро, и ваш контент будет не только информативным, но и увлекательным.

«Три робота» — это не просто забавный мультфильм. Он поднимает важные темы экологии, технологического развития и человеческой природы, заставляя задуматься о будущем нашей планеты. Настоятельно рекомендую к просмотру всем, кто хочет научиться говорить о серьезном с улыбкой. И всех кто любит котиков.

Спойлер: Котики захватили мир.

На карточках ниже показала пример того, как с юмором поднять важный вопрос о ценности и будущем контент-маркетинга.

Делитесь своими впечатлениями. А если не смотрели — бегом смотреть 😉