Про попытки запретить разработку AGI
В последнее время всё чаще слышу разговоры о том, что надо бы притормозить или вообще запретить разработку сильного искусственного интеллекта, ну то есть AGI. Идея вроде бы благая - чтобы какая-нибудь корпорация случайно не создала Скайнет. Но я вот о чём подумал. Представим, что завтра всем условным Google, Anthropic и OpenAI и официально запрещают этим заниматься. Думаете, на этом всё закончится? Как бы не так. За эту технологию тут же вцепятся правительства и военные ведомства. И для них это не вопрос создания удобного чат-бота, а вопрос национальной безопасности и глобального доминирования. Начнётся новая гонка вооружений, только теперь не ядерных, а интеллектуальных.
И вот тут-то для нас, простых людей, и кроется главная проблема. Если AGI будут создавать военные, он будет засекречен похлеще чертежей какого-нибудь истребителя шестого поколения. Никаких тебе открытых API, никаких публичных исследований. Мы даже не узнаем, что он уже создан. Он станет инструментом контроля, слежки и кибервойн, а не помощником, который доступен каждому в смартфоне. Пропасть между возможностями государства и обычного человека станет просто колоссальной.
Да, у коммерческой разработки тоже полно минусов. Монополии, предвзятость алгоритмов, этические вопросы - всё это есть. Но есть и один огромный плюс - доступность. Корпорации хотят продать нам свои продукты. Они конкурируют друг с другом, и в итоге технология, пусть и в урезанном виде, попадает к нам. Мы можем её использовать, изучать, критиковать. Она становится частью общества.
На мой взгляд, вопрос стоит не так: "создавать AGI или нет?". Его всё равно создадут. Вопрос в том, кто это сделает и на чьих условиях. И мне кажется, что уж лучше пусть это будет открытая гонка технологий между компаниями, за которой мы можем хотя бы наблюдать, чем секретный проект в каком-нибудь бункере, о котором мы узнаем, когда будет уже поздно. Это палка о двух концах, но один из них смотрит явно в более неприятную для нас сторону.