Ответ на пост «Почему искусственный сверхинтеллект может стать последним изобретением человечества»⁠⁠3

Представьте сверхинтеллектуальную систему, получившую задачу искоренить рак. Без надлежащих ограничений она может решить, что самый эффективный способ — уничтожить всю биологическую жизнь, чтобы раз и навсегда покончить с возможностью возникновения рака.

Что это за всратый сверхинтеллект, который не может понять такой элементарный нюанс?

Это, пожалуй, один из самых тупых аргументов.

Почему-то некоторые люди думают, что их интеллектуальная деятельность - это главное эволюционное преимущество на планете. По факту же Человечество как вид не лидирует ни по числу особей, ни по размеру, ни по продолжительности жизни... Разве что в придумывании сложных правил и условий по которым мы вершина эволюции - это да, тут мы признанные мастера. Да и то признанные собой и своей мамой.

Это к чему я всё. К тому, что для многих особей нашей технологической цивилизации реальной проблемой является победить муравьёв на грядке, а для кого-то и клопов в своём клоповнике.

У нас огромный потенциал к одичанию. Мы можем жрать то, что растёт на деревьях, и как вид можем стать не меньшей занозой в железной роботизированной заднице, нежели когда-то для нас были мыши и тараканы. Мы - часть экосистемы нашей планеты, а силиконовые датацентры с нейросетями ещё долго будут формировать свою хрупкую "экологию", пока она тоже не станет более-менее устойчивой и замкнутой.

Очевидно же, что с развитием всех этих интеллектов нам суждено переплестись экосистемами. Люди при всех своих технических достижениях не могут избавиться от миллиардлетнего наследия своей биологичности, не могут перестать нуждаться в глобальной экосистеме, в природе, во всей остальной жизни на планете. То же самое будет и с ИИ.

Нам от тщеславия померещилось, что вот эта вот вся рутинная и не очень рассудочная и интеллектуальная деятельность - это наш "конёк". Нифига. Наш конёк - это всего лишь экологическая ниша, и она вполне может подвинуться, уменьшиться объёмом, или напротив, увеличиться в какую-то сторону.

Беда всех этих трясущихся в страхе перед ИИ футуристов в том, что они не способны думать полутонами. У них всё черно-белое, всё контрастное - или пан или пропал. Да и трудно себя представить, к примеру, биомассой, формирующей информационную питательную среду в компостной куче интернета, чтобы на этой куче бодрее росли питательные стручки - составные части или пища растущего сверхинтеллекта.

Какое ему дело (этому сверхразуму) до нас, довольно местами полезной биокультуры в плане переработки какой-то там информации. Мы же плодим срачи в интернетах, мы в тиктоке дичь какую-то снимаем, мы на дваче упячку жмякаем... Велика ли ценность такой деятельности? А если сравнить с социокультурным значением и эстетической ценностью первых художеств на стенах доисторических пещер?

Сверхинтеллект также эффективно будет уничтожать Человечество, как Человечество уничтожает Собачество. Буквально. В очень глубоком и широком наборе смыслов. Просто задумайтесь об этом. Я серьёзно. Это основная мысль моего высера.

(охренеть, есть оказывается тег "Бездомные животные", и есть тег "Бездомные люди", угадайте каких постов больше, ну да не ссуть)