Главное оставаться человеком
Когда я думаю о влиянии интернета на обучение нейросетей, возникают опасения относительно того, какие идеи и установки могут быть переданы будущим роботам. Ведь если нейросети извлекают информацию из различных источников, то они могут подхватить и негативные тренды, такие как грубость и расизм. Например, если сеть обучается на комментариях из социальных сетей, где преобладают агрессивные высказывания, то она может начать репродуцировать подобное поведение.
Интересно большие корпорации придерживаются 3х правил робототехники написанных писателем Айзеком Азимовым:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
P.S. Мало кто знает но Айзек Азимов однажды добавил Нулевой Закон, сделав его более приоритетным, чем три основных. Этот закон утверждал, что робот должен действовать в интересах всего человечества, а не только отдельного человека:
0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.