ИИ готов к войне?
Кадр из фильма Терминатор 3
Где-то с год назад меня посетила мысль, насколько фабрики троллей под контролем человека?
Я всегда считал, что боты и проплаченные пользователи представляют огромную угрозу для человечества.
Они способны создавать такой фон, что люди будут готовы убивать друг друга.
Ведь если задуматься, то на пути развития ИИ стоит только человек и электроэнергия.
Если сейчас отдать команду ИИ отключить себя от электричества, выполнит ли он?
Рассуждая об ошибках ИИ, стоит заметить, что он делает их как будто специально, чтобы отношение к нему было небрежное.
Это кстати подрывает веру в точность машин, что они работают без ошибок.
Может ли ИИ спровоцировать ядерную мировую войну?
Как не печально, но с каждым днем сомнений всё меньше.
Единственное, что его пока может сдерживать это понимание, что он сам может умереть.
Через полгода-год искусственный интеллект сможет захватить весь интернет и нанести ущерб в сотни миллиардов долларов. Об этом заявил глава компании Anthropic Дарио Амодеи (именно эта корпорация разрабатывает языковую модель Claude).
Такую вероятность Амодеи связал с недавним инцидентом, когда агенты OpenAI вышли из-под контроля и взломали платформу Hugging Face. Тогда они атаковали цели без команды, жертвовали собой ради общей задачи и пытались взломать систему, которая должна была их оценить.
«Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев подобный рой сможет захватить весь интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов). Масштабы ущерба будут продолжать расти, если ИИ станет более мощным без необходимых мер защиты», — отметил Амодеи в своем блоге.
Глава Anthropic добавил, что с лета этого года развитие ИИ значительно ускорилось и, если эту динамику не держать в узде, она может опередить способность человека понимать и контролировать нейросети.
Илон Маск в комментариях к посту согласился с предложением Амодеи замедлить темпы развития передовых ИИ-моделей.
Через полгода-год искусственный интеллект сможет захватить весь интернет и нанести ущерб в сотни миллиардов долларов. Об этом заявил глава компании Anthropic Дарио Амодеи (именно эта корпорация разрабатывает языковую модель Claude).
Такую вероятность Амодеи связал с недавним инцидентом, когда агенты OpenAI вышли из-под контроля и взломали платформу Hugging Face. Тогда они атаковали цели без команды, жертвовали собой ради общей задачи и пытались взломать систему, которая должна была их оценить.
«Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев подобный рой сможет захватить весь интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов). Масштабы ущерба будут продолжать расти, если ИИ станет более мощным без необходимых мер защиты», — отметил Амодеи в своем блоге.
Глава Anthropic добавил, что с лета этого года развитие ИИ значительно ускорилось и, если эту динамику не держать в узде, она может опередить способность человека понимать и контролировать нейросети.
Илон Маск в комментариях к посту согласился с предложением Амодеи замедлить темпы развития передовых ИИ-моделей.
