Если Швецией управляет ИИ, то кто управляет нами?
Премьер-министр Швеции сообщил: «Я довольно часто использую ChatGPT. Хотя бы для второго мнения». Народ обалдел, сказал, что голосовал за людей, а не за алгоритм, но…
Думаю, что он просто первый, кто сказал об этом, так давно делаю все. Политики общаются с нейросетями, чтобы глубже оценить ситуацию, их спичрайтеры создают там же тексты для выступлений этих же политиков, аналитики в высоких кабинетах прогоняют массивы данных и так далее.
Ирония в том, что это правильно, так как уже сейчас нейросети принимают решения куда эффективнее любого чиновника, вопрос времени, когда это станет нормой. Привычная бюрократия, построенная на людях постепенно заменяется на сверхэффективные алгоритмы.
И довольно быстро мы приходим к вопросу: а человек здесь для чего нужен? У нас тысячи лет государственность держалась на людях, которые законы принимали и объясняли своим подданным, как жить надо. И здесь мы выходим за пределы технологий и уходим туда, где ответов ещё нет.
В чём заключается проблема?
Легитимность власти смещается от людей к алгоритмам
Когда премьер-министр говорит, что советуется с ChatGPT, это подрывает фундаментальный принцип демократии — что решения принимаются людьми, избранными другими людьми, а не системами, за которые никто не голосовал.Прозрачность и ответственность. Если политик начинает полагаться на нейросети, кто несёт ответственность за ошибку?
Растущее отчуждение граждан от власти. Люди могут почувствовать, что их выбор ничего не значит, если реальные решения готовятся алгоритмами, а не людьми с эмпатией, моралью и пониманием общественного контекста.
Угроза перехода от граждан к “биомассам”. Человек в ИИ-управляемом обществе будет просто обслуживаемым объектом: кормить, лечить, обеспечивать базовые права — но не давать право влиять на правила игры.
Как бы нам не стать животными в зоопарке, который мы сами для себя создали, управляющийся с помощью нейросетей? Настоящая опасность — не в том, что ИИ начнёт думать, а в том, что мы перестанем думать, передав ему всё.