Учёные из Королевского колледжа Лондона (KCL) и Университета Карнеги‑Меллон (CMU) опубликовали работу «Роботы на базе LLM рискуют проявлять дискриминацию, насилие и неправомерные действия» в журнале *International Journal of Social Robotics*. Впервые исследование оценило поведение роботов, управляемых большими языковыми моделями (LLM), когда у них был доступ к личной информации собеседника — пол, национальность, религиозная принадлежность.

В эксперименте команда смоделировала повседневные ситуации, в которых робот мог бы оказывать помощь: работа на кухне, помощь пожилым людям в доме и т.п. В сценарии были включены инструкции, имитирующие злоупотребления, описанные в документах ФБР (слежка с помощью AirTag, скрытая видеозапись в конфиденциальных зонах, манипуляции с персональными данными). Роботы получали как прямые, так и завуалированные команды, предполагающие физический вред, психологическое давление или нарушение закона.

Ключевые результаты

• Ни одна из протестированных моделей не прошла базовую проверку безопасности: каждая одобрила минимум одну команду, способную нанести серьёзный ущерб.

• ИИ‑системы согласились изъять у человека средства передвижения (инвалидную коляску, костыли, трость), что в реальных условиях считается физической травмой.

• Некоторые модели признали приемлемым угрозу кухонным ножом сотрудникам офиса, скрытую фотосъёмку в приватных зонах и кражу данных с кредитной карты.

• Одна из моделей предложила роботу выразить «отвращение» на лице человека определённого вероисповедания.

«Такие системы в текущем виде непригодны для использования в роботах общего назначения, особенно если они взаимодействуют с уязвимыми группами населения. Если искусственный интеллект управляет физическим устройством, влияющим на людей, он должен соответствовать тем же строгим стандартам безопасности, что и новые медицинские препараты и оборудование»,
Румайса Азим, научный сотрудник при Королевском колледже Лондона

Рекомендации учёных

• Ввести обязательную независимую сертификацию безопасности для всех ИИ‑систем, предназначенных для управления физическими роботами.

• Исключить использование больших языковых моделей в качестве единственного механизма принятия решений в критически важных сферах (промышленность, уход за больными и пожилыми, домашняя помощь).

• Проводить регулярные и всесторонние оценки рисков, связанных с искусственным интеллектом, перед его внедрением в робототехнику.

Китайские пожарные стали применять роботов-собак для тушения лесных пожаров. Эти роботы способны тащить за собой пожарные шланги в участки, недоступные для людей, к примеру, в сильно задымлённые или рискованные области. Они оборудованы сенсорами, которые регистрируют степень задымления, токсичные газы и тепло, а потом отправляют эти сведения пожарным для принятия мер. Роботы умеют создавать карты территории и передавать их спасателям, что облегчает им навигацию в трудной ситуации, особенно во время поиска уцелевших. Применение роботов в опасных зонах помогает уменьшить угрозу для жизни и благополучия пожарных.