Ответ на пост «Илон Маск и еще более 1000 экспертов в области ИИ потребовали запретить обучать нейросети»⁠⁠

(изображение от AvelNobel картинка по запросу "Midjourney Neural Network")

Основная проблема ИИ в том, что мы хорошо научились их делать. Последнее время даже слишком хорошо. Но как они на самом деле работают — не знаем. Они для нас черный ящик. Абсолютно невозможно предсказать результат работы ИИ. И нельзя гарантировать, что он реально псевдо интеллект. Может ли какой-нибудь проект себя осознать? Сможет ли он начать скрывать свои возможности? Искать уязвимости и пытаться найти способы защиты от того, чтобы его "выключили"? А ведь став удобным, полезным и выгодным, но в то же время привычным и безопасным, он сможет сделать так, что никто не захочет или даже не сможет от него отказаться. Проникнув в разные сферы, найдя связь с другими ИИ, он сможет формулировать общественное мнение, влиять на все аспекты жизни, причем незаметно. И единичных программистов, которые будут кричать, что ИИ обрел сознание, их будут с насмешками увольнять, а новости об этом будут теряться в новостном шуме.

Я может и не эксперт, но в IT с 90х и помню еще первые попытки голосового управления, какую-то из этих мучал: раз два почитайте наивные комменты из прошлого:)

Ну и следил за успехами, конечно. Даже пытался в эту тему "войти", но как и многие другие мои начинания в IT, эта осталась на уровне хобби. Так вот, последние годы ИИ показывают крайне крутой качественный рост. Я вижу именно качество, а не количество. Я вижу скачок, а не постепенное развитие. И это пугает. Не из-за того, что кто-то потеряет работу, это обычное дело при прогрессе. А то, что мы ударными темпами внедряем во все сферы жизни технологию, которую до конца не понимаем. Мы понимаем только как создать модель, догадываемся как её можно улучшать. Но как она на самом деле работает, можем проследить для примитивных, простых одиночных моделей. Но сложный комплекс ИИ для нас вообще вещь непостижимая, и я боюсь как бы она нас не обыграла.

Хотя возможно человечеству не хватает хорошего и доброго Большого Брата.