Сад жизни
В этом чудеснейшем саду
Где всем даётся право цвесть
На счастье или на беду
Работает садовник Смерть.
Пионер глубокого обучения, нобелевский лауреат по физике и один из "крестных отцов ИИ" Джеффри Хинтон выступил в программе Firing Line на американском телеканале PBS с неожиданным этическим парадоксом. Ученый одновременно настаивает, что искусственный интеллект вполне способен обрести настоящее сознание, и тут же отказывается наделять такой разум человеческими моральными правами.
Спор начался с недавней позиции Папы Римского Льва XIV, который утверждал, что компьютерные алгоритмы принципиально не способны ничего переживать или чувствовать, насколько бы сложными они ни стали. Хинтон в эфире с понтификом не согласился: по его словам, сознание — это свойство достаточно сложных вычислений, и чтобы им обладать, "вовсе не обязательно состоять из биологической жижи". Более того, ученый подловил собственных коллег по индустрии: пока в философских дискуссиях исследователи боятся произносить слово "сознание", в своих же научных статьях они уже буднично пишут фразы вроде "нейросеть осознала, что ее тестируют".
Казалось бы, из признания субъектного опыта у машин сам собой следует разговор об их защите, но именно здесь Хинтон резко провел черту. "Мы люди, и нам важны другие люди, — заявил он. — Я не вижу никаких причин, почему мы не должны создавать продвинутый разум, который умнее нас и обладает сознанием, но при этом имеет меньше моральных прав, чем мы. Меня вполне устроит воспитать их так, чтобы в их картине мира по-настоящему важными были мы, а сами они — не так важны. Поэтому я не вижу, зачем давать им моральные права".
Ведущая программы Маргарет Гувер тут же поставила вопрос ребром: "Можно представить, что таким образом мы сознательно проектируем форму цифрового рабства". Уходить от неудобного слова нобелевский лауреат не стал и ответил прямо: "Да, это можно так представить. И нам придется принять решение". По версии Хинтона, если человечество все равно строит сверхинтеллект, выбор у вида остается предельно жесткий — либо согласиться стать коротким проходным этапом в эволюции разума и довольно быстро исчезнуть, либо удержать контроль, изначально подчинив более умных существ человеческим интересам.
При этом на классический "рубильник отключения" ученый рассчитывать не советует. За любой красной кнопкой всегда стоит живой оператор, а современные модели уже сопоставимы с человеком в умении убеждать. Настоящий сверхразум не станет штурмовать пульт силой — он просто подберет такие неотразимые аргументы, что дежурный человек сам передумает дергать рубильник.
Единственной рабочей защитой Хинтон называет воспитание в будущих моделях искусственного аналога материнского инстинкта: ведь в природе мать тоже неизмеримо умнее и сильнее грудного младенца, но искренне ставит его благополучие выше собственного. Правда, как сам ученый мрачно констатировал в том же интервью, технологические гиганты сейчас заняты совсем другим — они учат ИИ любой ценой выигрывать гонку и получать награду, а исследованиями такого "инстинкта заботы" в мире почти никто не занимается.
P.S. Главные споры создателей нейросетей, реальные инциденты с ИИ-агентами и закулисье индустрии разбираем в нашем Telegram-канале "Сбежавшая нейросеть".
Вильгельм Виндельбанд. – Яковенко Борис Валентинович (1884—1949)
...
„Психологические законы суть принципы объясняющей науки, из которых должно быть выведено происхождение отдельных фактов душевной жизни... Законы же, преднаходимые нами в сфере нашей логической, этической и эстетической совести, не имеют ничего общего с теоретическим объяснением тех фактов, к которым они соотносятся. Они высказывают лишь то, какие свойства должны иметь эти факты для того, чтобы они могли быть с общезначимостью признаны, как нечто истинное, доброе, прекрасное“, вот та отчетливая формулировка, которою Виндельбанд в свое время очень помог уяснению и разрешению столь важной в современной философии проблемы психологизма.
...И в учение о категориях Виндельбадом сделан немалый вклад, благодаря его оригинальному различению среди них двух порядков: категорий конститутивных и рефлективных. В первом случае категория имеет предметную значимость, во втором – только репрезентативную; в первом случае мыслимая в ней связь относится к „действительному существу самих содержаний, во втором – эти содержания получают объединения лишь через посредство связующего их сознания для него“.
...Виндельбанду принадлежит ясное и методологически обоснованное расчленение наук на естественные и исторические. „Опытные науки, – говорит он, – ищут в познании действительного или общего в форме естественного закона, либо отдельного в виде исторически определенного образа; они рассматривают в одном случае всегда остающуюся себе равной форму, а в другом – однократное, в себе определенное содержание действительно-происходящего. Одни из них суть науки закона, другие – науки события; первые учат о том, что всегда есть, вторые о том, что было однажды. Научное мышление – если позволительно пустить в оборот новые искусственные термины – в одном случае номотетично, а в другом идиографично“.
Только такая классификация наук, базируемая на методе исследования, а не на предмете и содержании его, оказывается способна гарантировать истории самостоятельность отдельной науки.
Продолжаю переводить и адаптировать материалы с Aftermath. В прошлый раз было расследование про казино-фермы, теперь — тема, которая касается каждого, кто следит за новыми релизами.
🎭 Схема « bait and switch »
Aftermath заметили закономерность: за последние месяцы сразу несколько игр публично заявили, что «ИИ-ассеты не попали в финальную версию». Среди них — 1666: Amsterdam и Blood of Dawnwalker .
Звучит как честное признание: «Да, мы экспериментировали, но в релиз это не пошло». Проблема в том, что это не вся правда. Как пишет Aftermath, формулировка «ИИ не в финальной игре» технически может быть верной, но при этом не означает, что игра создана без ИИ .
🧩 Где ИИ прячется на самом деле
Компании используют лазейку в формулировках. ИИ мог быть использован для:
• концепт-артов, которые потом «перерисовал» человек (но идея и композиция — от нейросети);
• текстур, которые потом «доработали» вручную;
• анимаций, которые «отредактировали» аниматоры;
• озвучки, которую «перезаписали» другим актёром.
Формально: «ИИ-ассетов в финале нет». По факту: без ИИ этой игры бы не существовало в текущем виде, а люди, чей труд заменили нейросетью, остались без работы.
😤 Почему это бесит
Aftermath прямо называет это «bait and switch» — приманка и подмена . Компании понимают, что игроки не любят ИИ-контент (особенно после скандалов с генерацией артов и озвучки), поэтому пытаются отмазаться красивой формулировкой.
Но игроки не идиоты. Когда в игре видны характерные «нейросетевые» артефакты — лишние пальцы, странные лица, одинаковые текстуры — заявление «мы не использовали ИИ» звучит как издевательство.
🤔 Вопрос к вам
Как думаете: если компания использовала ИИ на этапе концептов или черновиков, но потом всё «переделали» людьми — это нормально или всё равно обман? И главное — вы вообще доверяете заявлениям разработчиков про «без ИИ», или уже считаете, что все врут?
История 18-летней давности.
Мне 23, я беременна впервые.
Так-то всё норм, я замужем. И жить есть где, хоть и секционка.
Мой гинеколог по совместительству - врач генетик.
На втором УЗИ в 22 недели мне произносят фразу:
"С ребёнком всё в порядке. Кисты сосудистых сплетений головного мозга. Генетик объяснит. Повтор УЗИ через 2 недели"
Сразу скажу, что первую фразу я не услышала после второй. В ушах звенело, у вышла из кабинета УЗИ как робот. Дошла до своего врача с результатами.
Врач, слова не объясняя, даёт мне на подпись бланк на прокол живота. Я отказываюсь, откровенно рыдая. На мои вопросы она отвечает: "почитаешь в интернете". Мир в тот момент казался мне таким маленьким и страшным. Моим миром и был мой живот с малышом.
Я вышла из клиники, муж 19-ти лет сидел в москвиче и ждал меня. Я красная, слезы льются, он замер. У нас не было компьютера, чтобы залезть в интернет. Я как-то сквозь слезы рассказала ему, в чем дело. Мы сразу поехали прямо в интернет-кафе. Я стала искать научные статьи по диагнозу. И что оказалось?
Это этап развития мозга.
Не болезнь. Лишь один из многих маркеров, которых надо собрать кучу, чтобы подтвердить диагноз.
УЗИ через 2 недели - без патологий.
Фамилию гинеколога-генетика никогда не забуду.
Мой вопрос: должен ли пациент искать диагноз в интернете? Или может рассчитывать на помощь врача?
Есть среди вас пациенты и врачи, столкнувшиеся с такой ситуацией?
Всё верно правила позволяют так делать. Но также правила позволяют мне не пускать тебя. Несмотря на то что ты можешь использовать поворотник. А если будешь настойчиво вклиниваться то согласно правилам это создание аварийной обстановки.
Занимаюсь теорией общинного устройства и параллельно пишу этику под неё — не для секты, не для продажи и не для зова никуда (это стандартное предупреждение для таких постов, но без него вы все равно спросите). Часть про хозяйство уже выкладывал, а сегодня — выжимка из этического очерка. Идея простая, но мне она кажется рабочей: почти любой поступок можно оценить через три разные категории, и каждая отвечает на свой вопрос.
Благородное — «кто я и что подобает в этом месте». Благородность — качество относительное: она оценивается тем, насколько род занятий соответствует функции, которую задаёт статус. Солдату благородно всё, что связано с войной и выучкой; заставьте его чистить столовую не по порядку — и несоответствие выльется в халатность и разболтанность, потому что ожидания не совпали с функцией. Ключевая особенность: благородное нельзя оторвать от человека — у одного и того же поступка благородность меняется вместе с положением делающего. Это не мораль «вообще», это мораль вхождения в роль.
Благое — «как я иду». Благим считается дело, когда человек действует не только из личной выгоды, но и с учётом интересов других. При этом неважно, знаком ли этот «другой» — родня, друг или прохожий; важно лишь, вписывается ли действие в представления коллектива о пользе. Пример: рабочий закончил смену и задержался на пять минут, чтобы прибрать за собой — не ради начальства, а потому что знает: чистота повышает его же продуктивность и облегчает работу сменщику. Одним жестом — польза себе, другому и всему цеху. Заметьте: благое не требует подвига, оно требует, чтобы польза была, а вреда себе не было. Это самый дешёвый из трёх уровней — и потому самый часто применимый.
Достойное — «зачем я иду». Самое интересное. Достойное отличается от прочих отсутствием конкретного выгодополучателя: посадить лес, который вырастет после твоей смерти; выкопать колодец на краю поля для других; перенять знания старого мастера и записать их, пока они не умерли вместе с ним. Во всех этих делах тот, для кого оно сделано, не может отплатить — и делающий это знает. И вот тут ловушка: мотив ненаблюдаем. Окружающие судят о нём только по результатам — но результат подделать проще всего. Достойность в списке мотивов держится наравне со славой, в том числе той, которой делающий может не дождаться при жизни. Отсюда вопрос: если человек сажает лес ради славы — его дело достойное или нет? Я так и не нашёл ответ, который устроил бы меня полностью.
Как это складывается. Три категории отвечают на три вопроса: «куда я иду?» — благородность, место в порядке дел; «как я иду?» — благость, путь через пользу; «зачем я иду?» — достойность, мотив, который переживает результат. Когда всё три сходятся в одном человеке, я называю его праведным. Да, слово сознательно взято из церковного обихода — я знаю, как оно звучит, и взял его именно потому, что оно несёт в себе вес, которого не хватало научным синонимам. У меня это светское и проверяемое понятие, без обещаний загробного, — только по результатам дел.
Теперь — вопрос к вам. Подставьте под это себя: вспомните поступок последней недели, который вы считаете хорошим. Он был благородным (соответствие функции), благим (польза без ущерба себе) или достойным (мотив без выгодополучателя)? И если ни один из трёх — возможно, я что-то недоучил в классификации. Критика приветствуется, несогласие особенно: оно в моей системе, кстати, отдельным сюжетом ещё не разобрано, и ваши возражения — готовый материал.