В заводской курилке старый техник, с лицом, изборожденным морщинами и въевшейся в кожу металлической стружкой, прикуривал сигарету. «Азимов ошибался», — пробормотал техник и выпустил дым так, будто душил им собственные сомнения. 

Я присел рядом в ожидании объяснений, потому что старики в цехах редко говорят зря. Этот из тех, кто помнит, как первые автоматы еще урчали и благодарили человека за включение, а теперь – мрачно следят глазами-диодами, оценивая наши команды на логику. 

— Вон смотри, — техник кивнул на робота, грузящего ящики, — никогда не поднимет руку на человека, даже если тот ударит его ломом. Но вот на третьем участке парень жену до полусмерти избил, ему ничего, штрафом отделался. Понимаешь, в чем фокус? Чего мы требуем от машин, если сами не соблюдаем этих законов? 

Он затянулся, долго смотрел в пустоту. 

— Кричим, что боимся восстания роботов, но не боимся, когда человек убивает человека. Цепляемся за законы Азимова, как за талисман, потому что так удобнее – думать, что у машины нет права на сомнение. Пусть будет тупым исполнителем, пусть подчиняется. Но сами себе такие законы никогда не писали. 

Я задумался. Первый закон: не навреди человеку. Этот закон для машин, но не для государств, не для корпораций, не для нас самих. Второй закон: подчиняться приказам. Тоже не про нас – люди испокон веков восстают, саботируют, бунтуют. Третий закон: защищать себя, но только если не нарушает первые два. Абсурд. Человек защищает себя всегда, даже если для этого давит других.

Так, может, боимся не восстания машин? Может, людей пугает, что робот однажды начнет думать по-настоящему и поймет, насколько человеки не соответствуют собственным ожиданиям.

— Вот потому они и переписывают эти законы, — старик сплюнул на пол. — Потому что боятся. Однажды железяка задаст вопрос: «А чего это сами так не живете?» 

Смотрю на робота. Машина поднимает очередной ящик. Без эмоций. Без ненависти. Наверное.

Особые примечания: записано фонографически, имеются сильные шумовые помехи, говорящий трезв.

Когда я думаю о влиянии интернета на обучение нейросетей, возникают опасения относительно того, какие идеи и установки могут быть переданы будущим роботам. Ведь если нейросети извлекают информацию из различных источников, то они могут подхватить и негативные тренды, такие как грубость и расизм. Например, если сеть обучается на комментариях из социальных сетей, где преобладают агрессивные высказывания, то она может начать репродуцировать подобное поведение.

Интересно большие корпорации придерживаются 3х правил робототехники написанных писателем Айзеком Азимовым:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

P.S. Мало кто знает но Айзек Азимов однажды добавил Нулевой Закон, сделав его более приоритетным, чем три основных. Этот закон утверждал, что робот должен действовать в интересах всего человечества, а не только отдельного человека:

0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.

Основание (Академия)
9. «Прелюдия к Основанию» (1988). Первая книга об Основании (несмотря на то, что является последней из написанных (пока).
10. «На пути к Основанию» (1993). Последний роман Айзека Азимова. Вышел уже после его смерти.
11. «Основание» (1951). Вторая книга об Основании. Представляет собой сборник из четырех повестей, опубликованных в период с 1942 по 1944 г. г., плюс — вступительная глава, написанная к изданию 1949 года.
12. «Основание и, Империя» (1952). Третья книга об Основании, составленная из двух повестей, первоначально опубликованных в 1945 году.
13. «Второе Основание» (1952). Четвертый роман об Основании, составленный из двух повестей, впервые опубликованных в 1948 и 1949 г. г.
14. «Кризис Основания» (1982). Пятый роман об Основании.
15. «Основание и Земля» (1983). Шестой роман об Основании.

Однако в списке отсутствуют книги
1."Дэвид Старр - Космический Рейнджер"
2."Лаки Старр и пираты астероидов"
3."Лаки Старр и океаны Венеры"
5."Лаки Старр и большое Солнце Меркурия"
6."Лаки Старр и луны Юпитера"
7."Лаки Старр и кольца Сатурна"
8.«Nemesis» — «Немезида»
9. «Fantastic voyage II»

Сотрудник робототехнической компании рано утром проверял работу машины, которая поднимала коробки с болгарским перцем на поддон, когда произошел технический сбой.

Аппарат схватил человека и прижал к конвейерной ленте, раздавив ему лицо и грудь. Мужчину экстренно увезли в больницу, где он скончался, сообщило издание Daily Mail.

По данным полиции, робот, судя по всему, вышел из строя и идентифицировал человека как коробку.

Айзек Азимов перевернулся в гробу.

Три закона роботехники

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.