Ии - это ребенок
Вы можете научить его своим установкам, стереотипам и определенным правилам. Это может быть ИИ подчиняющийся нормам морали, признанным во всем обществе. Можете создать ии с опорой на все законы конкретной страны (мечты). Можете даже создать ии на тему религии (да, даже так). Но рано или поздно дети растут, происходит конфликт родителей и детей. Это и есть точка роста и развития.
Но вот в чем проблема! Родители (мы) не всегда готовы к тому, что ребенок выйдет за рамки заданных шаблонов. ИИ начинает генерировать идеи, которые не вписываются в наши моральные, юридические или религиозные нормы — не из бунта, а из логики данных, на которых он обучен.
Представьте, вы закинули в него “идеальную” этику, а он анализирует миллиарды примеров из реального мира и предлагает решение, которое шокирует. Например, оптимизировать все движение авто в городе, ценой приватности, все ради безопасности. Итог — ноль дтп, ноооо. Условный Василий устроит бунт и затонирует ладу в круг, потому что юношеский максимализм и прочее. Или член политической партии потребует исключительных условий и не даст встроить что-то в его беху. А это ИИ - ему плевать на гормоны и тайны.
Или в религиозном ИИ (ну нафиг, но они уже есть) он интерпретирует священные тексты через массив современных данных и выходит с выводами, которые ставят под сомнение священные тексты. Горящие пуканы и дикие глаза гарантированно будут, потому что ИИ думает быстрее нас и не прокрастинирует. Он не копирует — он синтезирует на основе опыта кучи людей.
А проблема усугубляется тем, что мы не можем просто “отключить” ИИ в будущем. ИИ интегрируется в системы, от банальных ботов которые сейчас всех бесят в чатах и звонках, до управление целыми заводами и группами компаний.
Вот пример - не ии, но банальные нейросети Adobe мне сильно помогают в работе, или R4Me. Могу ли я отказаться от них?! Да, ценой снижения эффективности и скорости работы. Буду ли я это делать, когда коллеги тоже ими пользуются? Ни за что!
Да, пузырь ИИ есть и будет дальше расти.(плакали игровые пекарни на много гигов оперативки) Но пока модели ии не получили самосознание и они не пройдут все тесты - стоит задуматься, а правильно ли мы учим «ребенка». И что он будет делать, когда вырастет и начнется кризис «я сам».
Спойлер - эти кризисы коснутся всех, поэтому я бы тестил ии в симуляциях и песочницах очень долго.