Ответ на пост «Размышления по поводу ИИ»⁠⁠1

Если посмотреть на реально существующие примеры, то коллективный разум может быть тупее чем многие его составляющие.

Согласен. От организации и процессов всё тоже очень сильно зависит.

Если собрать и правильно мотивировать специалистов, то думаю в целом получится более эрудированный коллективнй разум.

И да, такой "разум" не застрахован от диссоциативных когнитивных расстройств. Могут возникнуть межличностные конфликты, саботаж, вредительство, а могут и не возникнуть. Но мысленный эксперимент не про этом. Генеративную модель тоже можно обучать на твитах и тиктоках, тогда она тупеет и несёт всякую дичь. Если её обучать на Дваче, то получите "Упячку".

В твоём доме советов коллективно будет приниматься не самое оптимальное или истинное решение, а самое популярное в доме.

Это смотря как организовать процесс и мотивацию. Конструктивная созидательная деятельность сообществ вполне возможна. Но и да, тут могут возникнуть и неожиданности. Например, регистрировались случаи когда гуманитарные сообщества собирали пожертвования на хорошее дело, а потом выяснялось, что у некоторой части этого сообщества в карманах оседало "лишнее", или даже вовсе не лишнее.

Вроде бы каждый участник плюс-минус для пользы туда пришёл и какую-то пользу даже делает, но порой компромиссы с совестью позволяют понизить КПД сообщества в пользу отдельных его членов.

нечеловеческая логика абсолютно и человеку со стороны не понятно откуда она вообще берётся

А вы как хотели? Это называется эмерджентность. Я ж о чем и говорил. У совокупности большого количества простых элементов системы появляются эмерджентные свойства, не характерные отдельным элементам и обусловленные их совокупной сложностью.

ИИ в его нынешнем виде это не интеллект, это ещё один инструмент, который не работает без оператора.

Чтобы так говорить, нужно договориться сперва о терминологии, а у нас проблема с определением "интеллекта". Вы даже для себя его не определяете, а как-то внутренне туманно понимаете. Не факт что это понимание идентично моему. Даже скорее всего совсем не идентично.

Произвольный джун, кстати, тоже не способен решать производственные задачи самостоятельно, иначе он был бы миддлом. Но вы же не лишаете его права считать себя обладателем интеллекта?

Эмоции не возникнут сами по себе, это вполне конкретные биохимические механизмы, исполняющие конкретные функции.

Это снова вопрос терминологии. Мы не договорились о значении слова эмоции, и есть лишь негласная гипотеза, что для нас с вами оно значит примерно одно и то же. Но тут кроется риторическая ошибка.

Вы лично, в частности, считаете, что эмоции - это непременно биохимия. Но это не значит, что это единственно верная интерпретация этого понятия. Просто вы для себя определили это слово так.

Дайте гуманитарию любовный роман в мягкой обложке и спросите есть ли в книге эмоции. Эмоции ли испытывает (вымышленный) герой в этой книге? Вроде бы да, но где там биохимия? Это остаётся за пределами детализации модели. Можно упороться, и спорить, что в книге у героя не эмоции, а "выдуманные эмоции", или ещё как-то докопаться до терминологии. Но суть-то не в этом. Сперва надо договоритьс яо единой терминологии, а потом вести спор. А так каждый о своём говорит и каждый по-своему прав, но, в целом, к согласию формально прийти не получается.

Так и в случае с ИИ. Не вижу никакой проблемы в том, чтобы ИИ сгенерировал эмоциональный ответ. В конце концов он "сожрал" много эмоций в человеческих текстах когда учился.

Называть ли этот эмоциональный ответ эмоциями, повторюсь, - это вопрос терминологический. Смотря как мы его (этот ответ) интерпретируем. Если формируется цепочка: ситуация->эмоция->мотивация->действие, то оно работает так же как у людей в некотором приближении. Да, без биохимии, но когда мы не знали о биохимии, эмоций мы не были лишены. Кажется это не важно в сути данного спора.

этот аналог нужно создать. Не видимость, а сложнейшую систему мотивации, которая постоянно определённым образом меняет работу всего ИИ в зависимости от ситуации

Вот тут я уже докопаюсь до ваших слов:

меняет работу всего ИИ

А всего ли ЕИ работу меняет эмоция человеческая? С чего вы это взяли?

По факту "в зависимости от ситуации" нейросеть генерирует тот или иной текст, который интерпретируется для формирования некоторого действия. Где тут разница? Ну да, в глубинах реализации, но абстрактно разницы нет!

Так можно, простите, упороться, и в споре доказывать, что пока у ИИ не будет биологического носителя, нервных клеток, кровеносной системы, биохимии, то это никакой не "Интеллект". Но это же вопрос терминологии и смысла такое утверждение не имеет в рассматриваемом контексте. оно н конструктивное.

Мы сейчас пытаемся в разных местах использовать ИИ генеративные модели для решения когнитивных задач так, как использовали бы реальных людей. Мы видим те же ошибки, что могли бы совершить живые люди, и аргументируем этими ошибками и отличиями внутреннего устройства генеративной модели от биологических систем тезис, что это слово (интеллект) неприменимо к генеративным моделям.

Ну не применимо, и ладно! Давайте придумаем другое слово, другой термин, который будет включать в себя то, что важно для предметной области, и не включать биохимию и детали реализации. Если оно каркает как утка, летает и плавает как утка, то будем считать это "Уткой", пусть и в кавычках. Нам не докопаться до слова надо, а решать реальные утиные задачи. И именно об этом речь.

Причем в ИИ нет смысла закладывать прям человеческие эмоции, потому как у ИИ нет задачи выживать и размножаться в африканских саваннах, у него свои задачи и свои условия.

А никто и не закладывал их специально. Так получилось. Да и людям порой проще общаться с некоторой системой как с человеком для решения каких-то задач.

Зачем изобретать новые интерфейсы там, где есть давно сотнями лет сложившиеся старые? Например "секретарь". Можно попросить "ИИ" (я взял в кавычки. чтобы не докапывались до слова и читали суть) включить свет, или подготовить отчет по проделанной работе, или расписать какую-нибудь "натальную карту". Точно так же кто-то кого-то живого мог бы попросить об этом же. Современные генеративные модели позволяют машинам реализовывать наконец такие интерфейсы и это здорово. Ещё лет 5 назад такое было невозможно в нынешнем охвате.

Именно что "свои задачи и свои условия". Некоторым нужны эмоции (или их имитация - не важно) в этих интерфейсах. Так некоторым людям спокойнее и комфортнее. Посмотрите на Яндекс Алису и как пожилые люди и мелкие дети с ней общаются.