А чего все в рот воды набрали?⁠⁠

Почему все мировые компании в области AI так яростно рвут глотки о безопасности ИИ, но тем временем просто берут и роют могилу всему человечеству?

Факт: Google запустят свои TPU в космос.

Ура, сэкономили на электроэнергии и не загрязняют землю! Слава green energy!

А почему никто не подумал, что это идеальная среда для распространения сбежавших ИИ? Ну очевидно же уничтожение достаточно малых объектов в космосе это не технология выходного дня. Это сложнейшая инфраструктура зависящая от множества технологических цепочек, которые в один момент чертовски легко выключить на время. Вы не сможете за короткое время что-то противопоставить этому. Целые страны не могут просто взять и обычные спутники сбить, хотя им очень хочется.

Я не берусь утверждать, но решение выглядит так, как если бы стрелку времени до ядерной войны выкинули и растоптали, так как в результате малейшего просчета, шанс использования технологии запуска вычислительных мощностей в космос во вред всему человечеству многократно превышает все что было до этого. Это выглядит как прямая диверсия.

Я сам регулярно пишу код. Я не верю в то, что все дыры будут закрыты.

Источники: https://blog.google/innovation-and-ai/models-and-research/google-research/google-project-suncatcher-facts/

После нас хоть потом
Автор поста оценил этот комментарий

но ты читал как решая одну задачу, рой агентов часом делал непредусмотренные темой вещи, которые могут крайне негативно сказаться в случае задачи "долбим до последнего и вечно".

Вот для этого и подстраховываются. А если принять закон, что за все косяки ИИ отвечают создатели от уборщицы до владельца компании, причем вина растет вместе с должностью. Отвечают по настоящему, а не символический штраф, то можно будет офигеть с того как ИИ вдруг станет значительно менее опасный\самостоятельный\ непонятный и как его перестанут пихать куда угодно без уверенности, что он не начнет чудить.

Меня больше интересует ситуация как в поучительной истории про мальчика, который кричал "волки". А волки взяли и пришли.

А меня больше пугает, что под волчьей ИИ шкурой будет сидеть циничная и увы не цифровая сволочь. А люди будут верить, что ИИ "взбунтовался" в то время когда сволочь будет похохатывая потирать ладошки от радости.

раскрыть ветку (1)
1
Автор поста оценил этот комментарий

А если принять закон, что за все косяки ИИ отвечают создатели.

Это всего лишь предположение. В стране X например наличие законов не всегда значит что они работают. И как-то люди живут нарушая их. Т.е. я думаю более жесткий механизм нужен. Закрыть саму возможность сделать неправильно. А как - другой вопрос.

Не цифровая сволочь

Хе хе, - ты прав. Меня тоже. Но это даже ближе, чем гипотетический AGI. Под предлогом спихнуть на ИИ много чего будет проворачиваться. Удобный козел отпущения.

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества

Недвижимость и ремонт

Теги

Популярные авторы

Сообщества