Наивные реалисты в панике). ИИ всех убьет
В последнее время то тут то там реплики формально относящихся к индустрии людей. Мол ИИ всех убьет в ближайшие 10 лет с вероятностью 10 процентов.
Jacob Coxon, исследователь из OpenAI и Anthropic, уволился и заявил: люди, строящие ИИ, «искренне верят, что это может убить нас всех к концу десятилетия». Evan Hubinger из Anthropic подтвердил с цифрой: «больше 10% за десять лет», и добавил, что решения проблемы нет и движения к нему нет. Paul Christiano из совета OpenAI — жёстче: при потере контроля «большинство людей может погибнуть». Хинтон назвал 10% «не неразумной» оценкой и добил: «никто по-настоящему не знает, как дать разумную оценку
Если коротко - наивные реалисты из технократов встретились с реальностью контекстуального мира. Детерминистская логика не работает, контекстуальная неразвита (особенно у технократов), в такой неопределенности остается вера, сродни вере древнего человека в ужас ужас в темном лесу, куда не долетает свет ночного костра.
Отсюда весь ужас-ужас и у сегодняшних технократов-наивных реалистов
.
Самой возможности для человека, пострадать от своего инструмента это не отменяет. Но она существует с тех пор как появились инструменты. И создаётся как опасность именно человеком. Который применяет инструменты.
Люди приходят в новую эру, приходят к пониманию что детерминизм не принцип мира а условный метод решения некоторых прикладных задач. Отсюда эта паника с ИИ, споры между знаниевой и компетентностной парадигмой в образовании, прескриптивизм и дескриптивизм в лингвистике, классическое и экстремальное (вариационное) описание механики в физике, противоречивые заявления Трампа, странная смена ценностей (переобувание в воздухе) Российского руководства за последние 40 лет. Нарастающая дичь в новостях. И тд и тп. Тыщи их.
Это один сдвиг, который проявляется везде, где старая рамка требует однозначности, — от физики до новостей, от Москвы до Вашингтона, от школы до лаборатории.
В благоприятной картине будущего, мы будем жить и самовоспроизводиться не в разорванной на эти два полюса, реальности, а в культуре синергии. Вынуждены будем научится с детства переключаться из способа детерминистически мыслить в контекстуальный.
И тогда таких пугающих выступлений по крайней мере станет меньше.