Совсем недавно Илон Маск говорил что ИИ это очень опасно, гораздо опаснее ядерной бомбы и т.д. И это действительно так. Он говорил что риск того что все пойдет по худшему сценарию составляет 50%. Сейчас он уже говорит про 20%.
Это интересно и хотелось бы узнать подробности, но размышляя на эту тему мы видим, что как ни странно, многое будет зависить от политической ситуации. От того как распределятся силы на новом этапе, после текущих напряжений, эскалаций и войн.
Помимо технологической революции мир находится на пороге новой структуры мировой политики в глобальном масштабе. До сих пор мы жили в рамках мира пост 2 мировой войны. Но все меняется. ИИ будет в каждой стране развиваться по разному, и возможности контроля населения с помощью ИИ, это то что может принести большое преимущество всем но и огромный вред.
Настоящий цифровой концлагерь и выход из под контроля как самого ИИ так и его "операторов" это то, что скорее всего и произойдет. Я боюсь того, что люди не воспринимают адекватно теорию и опасения. Людям нужно увидеть и столкнуться с проблемой физически, как это было например с ядерной бомбой, чтобы начать относиться к пробелме всерьез.
Пока еще человечество не знает что такое ИИ по настоящему. Единицы говорят об угрозе, но другие уже разрабытвают оружие и системы контроля. Но есть ли среди них те кто продумывает риски? Есть ли план на развитие худшего сценария?
Если даже публичные компании открыто игнорируют эти вещи. Вопрос в том насколько тяжелым будет переход к осознанности. К пониманию того что это такое. Если удасться не дойти до крупных эксцессов и сохранить баланс сил в новой ситуации мы сохраним цивилизацию и это будет большой успех.
