Опасен ли ИИ?
Мы решили задать этот вопрос ChatGPT, верить ли ему (или ей) - это решать вам.
А тем временем на саммите по безопасности искусственного интеллекта подписали декларацию о его опасности.
В Великобритании прошел организованный правительством страны the AI safety summit. В первый же день его работы Великобритания, США, ЕС и Китай и другие страны подписали Блетчлийскую декларацию (Bletchley declaration), в которой согласились с тем, что искусственный интеллект представляет потенциально и огромные возможности, и катастрофическую опасность для человечества.
Декларация закладывает основу для международного сотрудничества в будущем: через полгода планируется провести саммит по безопасности в Южной Корее, а через год — во Франции.
Декларация начинается со слов “Искусственный интеллект (ИИ) открывает огромные глобальные возможности: он способен изменить и повысить благосостояние, мир и процветание людей», однако в ней также говорится, что «существует потенциал для нанесения серьезного, даже катастрофического вреда, как преднамеренного, так и непреднамеренного, обусловленного наиболее значительными возможностями этих моделей ИИ».
Ранее на этой неделе в США администрация Байдена выпустила указ по ИИ, требующий от американских ИИ-компаний, таких как OpenAI и Google, предоставлять правительству результаты испытаний на безопасность перед выпуском своих ИИ-моделей. В ЕС уже давно идет процесс принятия законов об искусственном интеллекте, целью работы является разработка ряда принципов регулирования, а также введение правил для конкретных технологий, таких как распознавание лиц в реальном времени.
Китай также разрабатывает собственное очень детальное AI-законодательство, стараясь контролировать бурно развивающуюся индустрию.