Опасности ИИ
Мое знакомство с ИИ началось в университете, во времена, когда перспективность направления была ограничена решением задач вроде распознавания цифр и символов, которые тоже не хотели решаться хорошо. Далее столкнулся с нейросетями, способными помогать врачам онкологам в борьбе с меланомой, что очень благая цель, так как 99% успеха там зависит от ранней диагностики. Было это лет 7 тому назад. И уже тогда нейронки были умнее многих врачей, хотя до экспертов не дотягивали (сейчас уже могут). Системы авто дополнения текста, же до последнего времени и вовсе не звучали чем-то далеко ушедшим от Т9.
Но с построением огромных моделей, вроде ChatGPT, генераторных нейросетей вроде midjourney, отношения к данной области применения технологии кардинально изменились. Сразу скажу, текущий их уровень непригоден к замене человека и опасения профессионалов о потери работы весьма преждевременны. Просто в их роботе появиться странный но эффективный инструмент, а искусство их работы изменилось с попытки сделать самому на попытку найти "заклинания-обьяснение" для этого инструмента. Раньше можно было представить что-то подобное, например пытаясь скинуть свою работу условному "фрилансеру индусу", к которому тоже нужно было найти хороший ключ. Или можно сравнить с экскаватором, после его появления, владельцы бизнеса или менеджмент не перешёл от управления копателями к работе на экскаваторе. Стало ли меньше копателей - да, кто-то перешёл в экскаваторщики, кто-то в ремонтника экскаватора, кто-то в его разработчика и т.п. Кроме того, масштабы строительства многократно выросли. С этого я ПОКА делаю вывод, до профессиональные нейросети - всего лишь новый вид средств производства, владения которыми открывает новые возможности капиталистам и ставит задачу адаптации для специалистов, но не убирает их необходимость.
А теперь о действительно рисковых концепций нейросетей. Первое, что приходит на ум - создания нейросетей с симуляцией системы мотивации, чувств на подобие человека. Когда такая нейросеть будет работать хорошо, хотя бы на уровне простого человека - могут начаться первые проблемы у человечества, как как объединение таких сетей с профессиональными сетями - начнет реально заменять людей профессионалов, далее менеджеров, топ менеджеров, управляющих странами... К счастью такие системы воспроизвести сложновато, учитывая что знаем мы маловато. Но эволюционные модели селекции на супер серверах всего мира, могут позволить достичь уровня миллионов лет эволюции гораздо быстрее.
Но есть ещё одна угроза, вредоносный идиот, пользователь большой нейросети, который пропустит её например в интернет, предоставив, например, АПИ браузера. И тут уже только от способностей нейросети и стараний разработчиков её обезопасить, зависит время и степень проблемы для человечества. И сейчас таких идиотов сотни тысяч, и я тоже подумывал о таком эксперименте, но передумал. Также, не стоит отметать возможность, что человек наделённый властью, полностью довериться нейросети, что тоже очень стрёмно.
Так в жпе мы или нет? Сейчас вроде нет, в будущем скорее всего будем, вопрос когда это случиться и сможет ли человек выйти с этой ситуации, в текущем виде, в виде киборга или в виде робота пост человека или же земля опустеет от развитой или вовсе жизни на неизвестный строк.
И в дополнение, так далеко мы или нет - если поработать длительно с текущими сетями, можно понять, что к решению их проблем нужен далеко не один качественный скачек, и будем верить что после спадания хайпа большая разработка затормозит и даст человечеству время на адаптацию, личную и общественную.