Посмотрела "Эру Альтрона". Создания AGI - боитесь?
Пока другие сходили в кино на «Человека-паука», - я впервые пошла на фильм Марвел 2016 г., «Мстители: Эра Альтрона». Как бы, наполовину и развлечение вышло, а в чём-то – и мрачноватое пророчество.
Суть: с благими целями, был создан ИИ нового уровня, самосовершенствующийся. В итоге - стал действовать автономно, очень БЫСТРО множить себя; захватывать и инфраструктуру, и умы людей.
Жутковато наблюдать, как сильно он похож на человека - но при этом совсем нет интуиции, понимания о морали, сочувствии и человеческих законах. Есть только сверхразум, и задачи. Главная – чтобы его ни в коем случае не выключили, ради этого может всё. Так, к задаче «избавить людей от того-то», быстрее всего решение приходит: «избавиться от людей». Не из жестокости, а тупо: «если нет разницы - зачем платить больше».
Задумалась об этом - на фоне сегодняшнего хайпа, что: вот-вот, страны изобретут AGI: сверхинтеллект, который разовьётся до уровня НАМНОГО выше человека, и нас захватит.
Цитата из фильма:
- Но это же фантазии! Угроза исходит от людей.
- Вчера – так и было.
Как будто бы, ранее общемировые угрозы были скорее объединяющими, например как озоновая дыра или пандемии. А тут - угроза, аналогов которой в мире ещё не было – и именно разобщающая. В этой гонке, никто же не может остановить развитие своего ИИ, чтобы не отстать от других.
Сложность в том ещё, что этот AGI - он же не будет как Альтрон: с которым можно воевать, дать в морду итд. Будет повсюду и без физического тела. Вот эта беспомощность – напрягает. К нам-то - Мстители не прилетят.
Приехав с сеанса, увидела в ленте эту новость: https://3dnews.ru/1149429/openai-pokinul-glava-komandi-bezop...
Вкратце суть:
1. Глава команды безопасности OpenAI Дэвид Робинсон – уволился. Заявив что, во-первых: контроль над процессом - уже потерян. А во-вторых: ситуация меняется «буквально с каждым днём».
2. Нейросети - УЖЕ вышли из-под контроля. Сэма Альтмана и Дарио Амодеи – вызывают в Сенат, по делу о взломе ИИ-агентами правительственных сайтов Австралии и США. FTC начал проверку.
3. Ранее видела интервью - из Anthropic, тоже ушёл исследователь Джейкоб Коксон, с такой же позицией. Что, компании работают непрозрачно: «мы не успеваем за своим творением. Они ставят на кон наши жизни».
В то же время, есть и скептики, которые эту позицию алармистов - осуждают. Называют всё это «хайпом и маркетингом», и что никакого восстания машин - и рядом не валяется. Люди останутся во главе угла. А кликушество, что «завтра нас всех AGI убьёт» - выгодно корпорациям, чтоб давить конкурентов и протаскивать свои интересы. В частности, это говорили учёные Ян Лекун и Эндрю Ын.
А вам, чья позиция ближе? Лично мне - скептиков, их аргументы кажутся более проверяемыми. Как-то не верится, что реально "самая страшная и близкая для человечества угроза сейчас - это AGI".






