Эксперты: человечество под угрозой вымирания из-за ИИ
Центр безопасности искусственного интеллекта (ИИ) в США и другие группы экспертов вместе предупредили, что развитие технологий ИИ грозит исчезновением человечества, и что необходимо принять меры для предотвращения такого сценария развития событий. "Снижение риска вымирания, которое может произойти из-за ИИ, должно стать глобальным приоритетом наряду с другими угрозами, такими как пандемии и ядерная война", - говорится в заявлении, опубликованном на сайте Центра (Center for AI Safety).
Историческое событие - никто из более чем 350 подписавшихся больше не сможет отрицать "да, я думаю что ИИ представляет не менее серьезный риск, чем ядерное оружие или пандемия".
Среди подписавших:
• Авторы учебников по Искусственному Интеллекту (Стюарт Рассел и Питер Норвиг)
• Два автора учебников по глубокому обучению (Ян Гудфеллоу и Йошуа Бенжио)
• Автор учебника по обучению с подкреплением (Эндрю Барто)
• Три лауреата Премии Тьюринга (Джеффри Хинтон, Йошуа Бенжио и Мартин Хеллман)
• Главные исполнительные директора крупнейших лабораторий ИИ: Сэм Альтман (OpenAI), Демис Хассабис (DeepMind) и Дарио Амодей (Anthropic)
• Профессора из китайских университетов
• Ученые, стоящие за разработкой широко известных систем вроде AlphaGo и GPT (Дэвид Сильвер, Илья Суцкевер)
• Двое самых цитируемых ученых по Информатике (Хинтон и Бенжио) и самый цитируемый академик в области компьютерной безопасности и конфиденциальности (Даун Сонг)
