А кто контролирует ИИ-преступника?
Не знаю как вас, а меня уже порядком достали разговоры про то, что ИИ отбирает у кого-то работу. Я уже сам чуть ли не готов отдать свою работу ИИ, лишь бы оставили в покое эти провестники-футуристы.
Но, как бы то ни было, ИИ ОТБИРАЕТ РАБОТУ У ХАКЕРОВ!
Писать вредоносные программы долго и утомительно, и, видимо, поэтому разработчики одной из нейронных сетей позволили своей нейронке их писать, что... кхэм... необычно. Обычно разработчики блокируют определённые очевидные способы злоупотребления возможностями нейронок. А эта оказалась очень дружелюбна к злоумышленникам.
Я думаю, что со свободным распространением языковых моделей, таких нейронок станет только больше. И мы-таки окажемся в ситуации, где одна нейронка ищет уязвимости у другой, находящейся под защитой третьей.
А если серьёзно, это всё про теорию контроля, по которой я пишу статью. Вернее, я её уже давно написал, но нужно дооформить, а это… короче, сами понимаете. Суть в определении степени ответственности лиц, которые тем или иным образом оказывали влияние на деятельность электронного агента-нарушителя. Довольно интересно.