Надо ли бояться искусственного интеллекта? GPT-4?⁠⁠

Если коротко – то да!

Проблема может стать экзистенциональной. Например, если бы компьютеру задали вопрос: как лучше побороть пандемию COVID19, AI, возможно, ответил бы, что легче всего истребить человечество. Такой ответ основан на оптимизации принятия решений: нет человека – нет проблем, в том числе пандемий или эпидемий. Некому болеть, страдать, и не надо никого лечить. Но одно дело – получить ответ, а другое – принять и привести в действие решение автоматическое.

Future of Life Institute - массачусетская НКО призывает приостановить обучение новых систем искусственного интеллекта.

Если вы разработчик AI или ученый, вы можете подписать открытое письмо на сайте массачусетской НКО Future of Life Institute Там уже более 16 тыс. подписей.

Если же вы не принадлежите ученому сообществу, но у вас есть мнение о том каким должен быть протокол контроля за AI вы можете также оставить мнение на сайте Future of Life Institute в разделе What are your views on superintelligent AI.

Источник: Welcome to Massachusetts; April 2023 Edition