Аудиокнига "Минутный город"
Город-сказка, город-мечта. Все мечтают в нём жить. Художница Аллочка переезжает в самый лучший город на земле, чтобы реализовать свою давнюю мечту и стать по-настоящему счастливой. В чём же секрет этого фантастического города, в котором так хорошо живётся и почему все люди здесь непременно становятся счастливыми?
Слушать аудиокнигу - https://vk.ru/music/playlist/875677814_9
Искусственный интеллект перестал быть технологией будущего, он стал необходимостью настоящего. Компании не просто экспериментируют с ИИ, они массово внедряют его в свои процессы. Однако по мере расширения применения ИИ выявляется критическая проблема: большинство организаций не готовы к человеческой стороне трансформации. Только 20% предприятий достигают настоящего масштабирования и реальной окупаемости ИИ-инвестиций, в то время как 50% сталкиваются с организационным сопротивлением.
Вовлечение сотрудников— это стратегический ресурс, определяющий успех или провал всей ИИ-трансформации.
Актуальные данные раскрывают противоречивую картину в отношении сотрудников к искусственному интеллекту. 65% работников выражают оптимизм в отношении потенциала ИИ, однако 77% беспокоятся о потере рабочих мест. Более того, хотя 91% организаций уже применяют ту или иную ИИ-технологию, 58% сотрудников скрывают свое использование ИИ или выдают результаты его работы за собственные.
Это указывает на глубокий кризис доверия. Сотрудники тревожатся о технологии, они не уверены, как к ней относиться, как использовать её легально и как говорить о ней с коллегами и руководством.
Интересный парадокс исследования Workday показывает роль опыта: только 36% сотрудников изначально верили, что их работодатель будет использовать ИИ ответственно, однако это число возрастает до 95% среди опытных пользователей ИИ. Это означает, что знакомство со знаком равно доверие.
Сотрудники четко обозначили границы своего комфорта. 75% работников готовы сотрудничать с ИИ как с коллегой и ценят рекомендации по развитию, но только 30% приемлют ИИ в роли руководителя. 63% предпочитают работать в организациях, инвестирующих в ИИ, видя в этом конкурентное преимущество.
Ключевой вывод: сотрудники хотят ИИ как инструмента дополнения, а не инструмента замены или контроля. Это коренным образом меняет нарратив внедрения ИИ с позиции автоматизации и сокращения на позицию расширения человеческих возможностей.
Поэтому организации, которые позиционируют ИИ как помощника для выполнения рутины и создания пространства для творческого и стратегического мышления, встречают существенно меньшее сопротивление.
Свежие данные Deloitte указывают на серьёзный регресс в доверии. Между май-июлем 2025 года доверие к корпоративному генеративному ИИ упало на 31%, а доверие к автономным системам ИИ (которые могут действовать независимо) снизилось на 89%.
По данным Adecco Group, менее половины сотрудников верят, что их руководство понимает как риски, так и преимущества ИИ. Это создаёт информационный вакуум, который заполняют слухи, тревога и скептицизм.
Одновременно сохраняется обеспокоенность по ключевым человеческим вопросам:
Отсутствие эмпатии и понимания эмоций ИИ при принятии решений о карьере
Риск систематизации предвзятости на основе исторических данных
Неясность ответственности, если ИИ допускает ошибку
Вопросы конфиденциальности и соответствия законам
По прогнозам Всемирного экономического форума, 77% работодателей планируют переквалифицировать сотрудников для сотрудничества с ИИ к 2030 году. Однако российская практика показывает иные цифры: 56% крупных организаций указывают переквалификацию как главную стратегию решения дефицита IT-навыков.
Масштабы необходимого переучивания огромны. Ожидается, что 39% базовых навыков рабочих изменятся к 2030 году, что означает постоянное обучение как новый стандарт. Для российских компаний это особенно актуально, так как рынок испытывает недостаток опытных кадров, готовых работать с ИИ.
Интересно, что по данным исследований, миллениалы в возрасте 35-44 лет, часто находящиеся на позициях руководства и лидерства команд, демонстрируют наивысший опыт и энтузиазм по ИИ. Они становятся естественными лидерами перемен в организации.
HR-технологии переживают революцию благодаря ИИ. Сейчас российские компании активно применяют ИИ для:
Автоматизации рекрутинга: системы анализируют тысячи резюме за минуты, выявляя подходящих кандидатов, а HR-боты проводят первичные интервью.
Персонализированной адаптации: вместо стандартных программ онбординга системы ИИ формируют индивидуальные сценарии на основе профиля сотрудника. Результаты впечатляющие: сокращение времени адаптации на 60%, снижение ошибок на 50%, увеличение удержания сотрудников на 35%.
Предиктивной аналитике: алгоритмы выявляют риски увольнения задолго до их наступления, позволяя HR-менеджерам принимать упреждающие меры.
Персонализированном обучении: ИИ анализирует потребности и предпочтения каждого сотрудника, формируя оптимальные программы развития.
Интеграция ИИ в HR позволяет достичь: снижения времени подбора на 30-50%, сокращения затрат на рекрутинг на 20-35%, уменьшения текучести кадров на 15-25% и повышения эффективности HR-департамента на 25-40%.
Корпоративный интранет становится критически важным инструментом для управления ИИ-трансформацией. Его функции расширяются:
AI-навык и готовность: интранет нормализирует использование ИИ через встроенные чатботы и подсказки, превращая взаимодействие с технологией в повседневный опыт.
Система обучения и включения: интранет может предлагать интеллектуальные рекомендации контента на основе профиля, роли и контекста работника.
Самообслуживание сотрудников: ИИ-чатботы на интранете отвечают на вопросы, связанные с HR, облегчая работу служб поддержки.
Аналитика вовлеченности: анализ настроения в корпоративных сообщениях помогает выявлять тренды и проблемы, на которые могут быстро среагировать руководители.
Исследование показывает, что компании, добившиеся успеха в ИИ-трансформации, придерживались трёхпилларного подхода к коммуникации:
Начните рано: общайтесь об ИИ-инициативах задолго до внедрения, давая сотрудникам время обработать информацию.
Будьте открыты: обсудите причины внедрения ИИ, его потенциальное влияние и временную шкалу.
Используйте множественные каналы: корпоративный интранет, городские собрания, еженедельные новостные обновления, встречи отделов.
Поддерживайте регулярность: даже если нет главных новостей, регулярные обновления держат ИИ в поле зрения и предотвращают появление слухов.
Разные группы имеют разные беспокойства:
Руководство: фокусируйтесь на стратегических преимуществах, ROI и конкурентных возможностях.
Средний менеджмент: обсудите операционные изменения, переработку команды и показатели производительности.
Линейные сотрудники: выделите возможности переквалификации, растущие возможности карьеры и как ИИ облегчит их повседневную работу.
IT и специалисты по данным: предоставьте технические подробности, чтобы они могли быть активными участниками в процессе.
Организации, которые вовлекают сотрудников в процесс внедрения, добиваются лучших результатов. Ключевые действия:
Установите каналы обратной связи для вопросов и озабоченности
Слушайте активно и отвечайте на беспокойства подлинно
Привлекайте сотрудников к участию в процессе внедрения
Отмечайте малые победы и делитесь ими с организацией
Компании, которые правильно внедрили ИИ с фокусом на вовлечение сотрудников, достигают существенных результатов:
Продуктивность: ИИ-интеграция сократила время на электронные письма на ~25% (~3 часа в неделю), 70-94% работников говорят, что ИИ экономит им время.
Качество решений: 25% улучшение эффективности и 41% сокращение ошибок в процессах принятия решений.
Удержание кадров: компании, использующие ИИ для персонализированного признания и развития, видят значительное улучшение удержания.
Масштабный потенциал: McKinsey оценивает, что ИИ-интеграция может добавить 4,4 триллиона долларов в рост производительности в долгосрочной перспективе.
Путь к успешной ИИ-трансформации усеян препятствиями:
Качество данных: 60% компаний указывают на проблемы с качеством данных как главное препятствие.
Дефицит экспертизы: 55% организаций не имеют необходимых навыков и опыта для работы с ИИ.
Организационное сопротивление: 50% компаний сталкиваются с активным сопротивлением сотрудников.
Избыточное доверие к внутренним экспертам: если несколько специалистов по ИИ уходят, проекты могут остановиться.
Необходимость демократизации навыков: чтобы внедрение сработало, ИИ-грамотность должна распространяться на всю организацию, а не концентрироваться в IT-отделе.
Избегайте использования ИИ для автономного принятия решений по найму, зарплате и кадровым вопросам без человеческого контроля. Позиционируйте ИИ как средство дополнения, которое поддерживает и информирует человеческое суждение.
Создайте комплексные программы обучения, которые помогают сотрудникам понимать и работать наряду с ИИ-системами, а не конкурировать с ними. Используйте корпоративный интранет как основной канал для инициирования такого обучения и нормализации опыта использования ИИ.
Разработайте ясные, справедливые и учитывающие конфиденциальность политики использования ИИ. Сделайте их доступными и понятными всем сотрудникам через интранет и другие каналы коммуникации.
Выберите проекты с измеримыми результатами (сокращение времени адаптации, соответствие нормативным требованиям, усиление продукта). Покажите успехи, чтобы построить импульс и доверие.
Используйте мультиканальный подход, включая городские собрания, интранет-посты, еженедельные обновления, анонимные каналы обратной связи. Начните коммуникацию ДО развертывания и поддерживайте её постоянно.
ИИ-трансформация является вопросом доверия, коммуникации и вовлечения. Компании, которые рассматривают своих сотрудников как партнеров в трансформации, а не как пассивных адресатов технологических изменений, добиваются не только большей приятия ИИ, но и фактически лучших результатов с точки зрения производительности, инноваций и удержания талантов.
Окно возможности узкое: 85% предприятий исследуют ИИ, но только 20% достигают настоящего успеха. Разница часто заключается не в технологии, а в том, как компании вовлекают, обучают и поддерживают своих людей в этом путешествии.
Человеческая сторона трансформации—это не препятствие, которое нужно преодолеть, это основание, на котором строится успех.
Очередное фееричное видео от наших китайских партнеров, где людей на заводах, похоже, уже заменяют человекоподобные роботы-гуманоиды.
Китайская компания Ubtech впервые в истории поставила армию человекоподобных роботов на сумму свыше $110 млн. Машины направлены на заводы BYD, Geely, Foxconn и другие предприятия, где они заменят людей на сборочных линиях.
Пока, правда, показали только, как эта партия немного пофлексила и загрузилась в контейнеры, чтобы отправиться на заводы. Двигаются они довольно неплохо, интересно было бы посмотреть, как они будут работать, и как скоро смогут заменить людей.
Почему то, от просмотра ролика, у меня возникло некая ассоциация с отправкой людей в концентрационные лагеря. Хотя отправляют тут вовсе не людей, а машины. А людям, остается лишь надеется, что их заменят не слишком быстро. Что не будет массовой безработица и прочих страстей антиутопий.
Из возможных вариантов видятся два: светлое будущее, практически бесконечные блага, пенсия с рождения, и работа ради работы; и второй вариант, минимальное количество сверх богачей, небольшое количество обслуживающего робоинфраструктуру персонала, и нищее большинство население, живущее за непреодолимыми стенами в гетто.
В какую крайность мы все попадем, вопрос открытый 😉
15.11.2025 Станислав Райт — Русский Инвестор
Овен
Вы склонны проявлять благородство и великодушие, заботиться о тех, кто нуждается в помощи, уделять внимание людям, оказавшимся в сложной ситуации. Ваши достойные поступки не остаются без награды. Вероятно удачное стечение обстоятельств, которое позволит вам реализовать какие-то давние замыслы.
Телец
Вас ничуть не смущает необходимость соблюдать строгий распорядок дня, следовать ранее составленному плану даже в мелочах. Многие Тельцы сегодня настроены более консервативно, чем обычно, и лучше ладят с теми, кто соблюдает традиции, чем с теми, кто их нарушает. Можно встречаться с влиятельными людьми, потенциальными инвесторами и деловыми партнерами. Хорошо проходят и встречи с работодателями, собеседования.
Близнецы
В этот день вы добиваетесь неплохих результатов благодаря усердию, с которым беретесь за любое дело. Даже если не все получается сразу, вы не отступаете – и именно поэтому получаете то, к чему стремитесь. Вас не пугают ни козни недоброжелателей, ни скептическое отношение влиятельных людей к вашим идеям; благодаря своей храбрости вы находите надежных союзников.
Рак
Сегодня вы проявляете настойчивость и целеустремленность, и это очень кстати – добиться поставленных целей не так-то легко. Кто-то попытается вывести вас из равновесия, заставить прилюдно дать волю раздражению; старайтесь сохранять хотя бы видимость спокойствия, иначе по вашей репутации будет нанесен серьезный удар.
Лев
Этот день может быть полным событий, если вы не станете прятаться от жизни. Беда в том, что многие Львы, обычно столь уверенные в своих силах и возможностях, сегодня склонны к пессимизму и чрезмерной осторожности. Такие представители знака отвечают отказом на все поступающие предложения, предпочитают любому обществу уединение, хотя в глубине души понимают, что тактика это не самая правильная.
Дева
Этот неплохой день проходит спокойно, можно передохнуть, сбавить темп. Радуют встречи: вы имеете дело с приятными людьми, можете поддержать тех, кто вам интересен или получить поддержку влиятельных особ. Возможно получение ценных подарков. Вещи, которые вы покупаете в этот день, будут служить вам верой и правдой.
Весы
Хорошо проходят любые встречи, общение будет приятным. К вашим высказываниям прислушиваются люди, ранее интересовавшиеся только собственным мнением. Важно не торопиться: решить все проблемы сразу не удастся, нужно действовать последовательно. Навести порядок в финансовых делах помешает человек, которому вы абсолютно доверяли. Есть опасность потерять давних союзников.
Скорпион
Откажитесь от желания эмоционально окрашивать действия окружающих. Это может отвлечь от понимания истинных проблем. Не старайтесь решить все накопившиеся дела за один день, лучше сконцентрируйтесь на выполнении самой важной задачи. Сегодня вы можете получить одобрение или скрытую помощь. Поддержка может быть не очевидной, но вы обязательно почувствуете ее.
Стрелец
Нет такой преграды, которую вы не могли бы преодолеть – напоминайте себе об этом почаще, и день сложится именно так, как вам нужно. Сила воли становится незаменимым помощником, а настойчивость открывает перед вами любые двери. Этот день благоприятен для деловых и личных контактов. Если вам нужно произвести на кого-то сильное впечатление, постарайтесь встретиться с этим человеком именно сегодня.
Козерог
О грандиозных переменах к лучшему говорить не приходится, но влияние позитивных тенденций все же порой дает о себе знать. Улучшается настроение, Козерогам удается настроиться на оптимистический лад, оставить мрачные мысли, преследовавшие их в минувшие дни. Удается найти общий язык с близкими, договориться о совместных действиях. Можно строить планы на будущее.
Водолей
День весьма плодотворен для интеллектуальной деятельности, поэтому даже отдыхать или наводить порядок в делах вы будете, что называется, с умом. Столь прагматичный взгляд не очень хорош для романтических отношений. Водолеям станет труднее говорить о своих чувствах и выражать их, потому возлюбленные сочтут их отстраненными и холодными. Следует внимательнее прислушиваться к желаниям партнеров, чтобы те не испытывали дискомфорта и разочарования.
Рыбы
Сложный день. Дел и задач много, приходится буквально разрываться на части, чтобы успеть все. Возможны семейные ссоры из-за денег, едва ли удастся договориться с близкими о том, как правильно распорядиться имеющейся суммой. С покупками не торопитесь: сегодня они едва ли будут удачными.
Напоминает фильм "Я, робот". И цена их производства будет падать к огромной скоростью, а способности - расти.
Кстати, за 5 лет в ВУЗе не научили как с наглыми подростками работать? Тогда может у нас не там кабздец?
Не на этом уровне образования все просрали?
Подозреваю как обычно напихают за "непопулярное мнение". Но да ладно на то это и интернет.
Вопрос разделю на 3 тезиса.
1. Насилие не приемлемо, у нас монополия на рукоприкладство у государева кому бы что не казалось.
Нельзя трогать людей, маши руками, ногами, ори так чтоб слюна летела если хочется, но не трогай. Это основа. Тут даже не с точки зрения "они же дети". Плевать кто там проказничает.
Больше всего терпеть не могу людей что проявляют силу только в отношении более слабого. Просто потому что тот сильнее. А если бы ученик был амбалом в 2 метра высотой он бы тоже так бодро потащил его за воротник? Вот то-то и оно. Политика двойных стандартов.
Я например обучен бить людей. Уже не тренируюсь конечно, но моих 97кг и навыков хватит угомонить пускай не всех, но очень многих. Но это не дает мне права трогать людей даже если они ведут себя как скот. Нет у меня таких прав прикасаться даже к людям.
(Я сейчас не про самооборону, но даже тут без рук, перцовка отлично решает вопрос. Я сейчас конкретно про более крепкий гражданин силой пытался что то решить в отношении более слабого)
2. Какой продукт выпускает учитель?
Я сейчас возможно не прав но мне кажется что ценный конечный продукт педагога это обученный науке ученик. Вопросы воспитания не лежат на плечах учителя.
И чем талантливее педагог тем процент успешно освоивших науку учеников выше. В комментах немало прочитал историй как талантливые учителя заинтересовывали даже разгильдяев. Словом, без рукоприкладств держали абсолютный авторитет.
(Я не исключение, у меня в жизни тоже были учителя с непререкаемым авторитетом и дегенераты затыкали свои рты и учились.)
3. Сам гражданин вполне справедливо понес наказание. Во первых он зрелый мужчина, с образованием воспитывать детей, а значит обучен наукам и всяким уловкам. Вроде "Расскажи всем пусть все посмеются". А если лезешь руками значит что то в тебе не так как в педагоге. Да и просто в человеке.
Хочешь проучить? исключаешь ученика с урока так как он его срывает, делаешь замечания и выговоры( не только устно, а именно в журнал). Стоит изучить устав школы, законы, на пример "Порядок применения мер дисциплинарного взыскания". Привлекаешь к проблемному юнцу психолога школы. Вызываешь постоянно родителей, если не помогает привлекаешь соц. опеку. ПМПК конечно без ведома родителей не провести но думаю тут можно давить просто не знанием закона самих родителей, что ваше детятко признают невменяемым и поедет учиться в спец школу. И будет у Вас ребеночек особенный с особенным образованием.
И что то мне подсказывает в 99,9% случаев сами родители повлияют на чадо. А даже самый отмороженный будет ссаться в тапки.
В конце концов купи себе за 1000р авторегистратор обычный, тут не надо супер качества. Само наличие его уже повлияет. Да можно долго расписывать как строить детишек безалаберных. Я как взрослый даже к этому бы не прибегал, осадить караеда злобными шутками в три секунды. Перефразировав Сашу Белого, учитель это тот кто "всех котов передавил, где детишки мышей ловят"
В этом выпуске переведено, проанализировано и озвучено на русском языке интервью - https://www.youtube.com/watch?v=giT0ytynSqg
00:00:07 Происхождение и ранние этапы развития нейросетей
00:01:33 Осознание экзистенциальных рисков и сравнение с ядерным оружием
00:03:30 Угрозы от злонамеренного использования ИИ и проблемы регулирования
00:05:20 Регулирование Капитализма и Проблемы Технологического Управления
00:06:22 Риски Автономного Оружия и Экзистенциальная Угроза Сверхразума
00:08:09 Мотивация Разработчиков, Прогнозы Занятости и Сравнение с Прошлыми Технологиями
00:09:54 Спонсорство, личные рекомендации продуктов и введение в тему ИИ
00:11:02 Последствия суперинтеллекта, уязвимость профессий и природа сознания
00:13:10 Размышления о Сознании Машин и Эмоциях
00:14:27 Карьера в Google, Уход и Соображения о Безопасности ИИ
Разбираем, почему один из самых влиятельных умов в области нейросетей считает, что сверхразум — это не научная фантастика, а неминуемая угроза. Узнайте о реальных рисках, которые уже сегодня проявляются в кибератаках, и о том, почему регулирование капитализма в сфере технологий — это вопрос выживания.
Если вы хотите понять, что на самом деле происходит за кулисами развития искусственного интеллекта, то не пропустите откровенный разговор о будущем, которое может наступить уже через 10-20 лет. (а для тех кто внимательно наблюдает за ситуацией оно наступило уже сегодня)
Далее полный текст пересказа интервью:
Джеффри Хинтон, которого называют "Крестным отцом ИИ", объясняет, что его прозвали так, потому что он на протяжении 50 лет упорно продвигал подход к созданию ИИ, основанный на моделировании работы человеческого мозга (нейронные сети), в то время как большинство исследователей фокусировались на логике и символьных вычислениях. Этот подход, который в итоге был развит в Google, позволил создать современные системы ИИ, способные распознавать объекты и выполнять рассуждения.
Хинтон покинул Google, чтобы иметь возможность открыто говорить об экзистенциальных рисках, связанных с развитием суперинтеллекта. Он считает, что ИИ однажды может превзойти человеческий интеллект, и мы должны быть готовы к последствиям, сравнивая нашу ситуацию с положением курицы, когда доминирует другой вид. Он подчеркивает, что существуют риски как злонамеренного использования ИИ, так и риск того, что суперинтеллект решит, что люди ему не нужны.
Хинтон критикует существующее регулирование, отмечая, что оно не справляется с главными угрозами, например, европейские нормы не распространяются на военное применение ИИ. Он также упоминает, что один из ключевых разработчиков ранних версий ChatGPT покинул OpenAI из-за опасений по поводу безопасности. Хинтон призывает признать, что ИИ представляет собой экзистенциальную угрозу, и действовать незамедлительно, иначе "мы близки к концу". Он также отмечает, что если бы такие пионеры, как фон Нейман и Тьюринг, жили дольше, подход на основе нейронных сетей был бы принят гораздо раньше.
Основная миссия Джеффри Хинтона сейчас — предупреждать об опасности, которую несет искусственный интеллект (ИИ). Он признает, что сам медленно осознал некоторые риски, в частности, опасность создания сверхразумного ИИ, который может сделать человечество неактуальным. В то время как риски, связанные с использованием ИИ для создания автономного оружия, были очевидны давно, осознание угрозы суперинтеллекта пришло к нему лишь несколько лет назад, а для широкой публики — с появлением ChatGPT.
Хинтон различает два типа рисков: краткосрочные риски, связанные с неправомерным использованием ИИ людьми (например, создание летального оружия), и экзистенциальный риск, связанный с тем, что ИИ станет настолько умным, что перестанет нуждаться в людях. Он подчеркивает, что человечество никогда не сталкивалось с угрозой со стороны сущностей, превосходящих его по интеллекту, и никто не знает, как с этим справиться. Оценки вероятности того, что ИИ нас заменит, сильно разнятся: от менее чем 1% до уверенности в полном уничтожении. Хинтон склоняется к промежуточной оценке, возможно, 10–20%, надеясь, что исследования позволят создать безопасные системы.
Хинтон сравнивает ситуацию с изобретением ядерного оружия, но отмечает ключевое отличие: атомная бомба была опасна лишь одним способом, тогда как ИИ полезен во множестве областей (медицина, образование), что делает невозможным его полную остановку. Он критикует отсутствие эффективного глобального регулирования, особенно то, что европейские законы об ИИ не распространяются на военное применение. Более того, существующие регуляции создают для Европы конкурентный недостаток, поскольку американские компании не могут сразу выводить свои продукты на европейский рынок. Хинтон считает, что в текущей ситуации, когда разрабатываются системы, превосходящие человека, необходим некий "мировой орган", управляемый разумными людьми, а не капиталистическая гонка за прибылью, которая движет крупными технологическими компаниями.
Джеффри Хинтон обеспокоен резким ростом кибератак (увеличение в 12 раз за 2023-2024 годы), чему способствуют большие языковые модели (LLM), упрощающие фишинговые атаки, нацеленные на кражу учетных данных. Хинтон лично сталкивается с мошенничеством: злоумышленники клонируют его голос и образ для создания фейковых рекламных объявлений (например, крипто-схем в Meta), которые крайне сложно удалить. Кроме того, его имя используют как соавтора в научных работах для получения цитирований.
Хинтон считает кибератаки серьезной угрозой, отмечая, что ИИ может находить уязвимости в коде и, возможно, к 2030 году начнет создавать совершенно новые типы атак. Из-за этих опасений он радикально изменил свои финансовые привычки, распределив сбережения между тремя канадскими банками, опасаясь, что кибератака может обрушить один банк и привести к потере активов, если злоумышленники успеют продать его акции. Он также хранит резервные копии данных на физическом диске.
Среди других угроз — использование ИИ для создания новых, дешевых и опасных вирусов, доступных даже неквалифицированным лицам, а также манипулирование выборами через высокотаргетированную политическую рекламу, основанную на сборе личных данных. Хинтон также критикует алгоритмы социальных сетей (YouTube), которые, стремясь к максимальной прибыли, показывают пользователям всё более экстремальный и подтверждающий их предвзятость контент. Это создает "эхо-камеры", уничтожает общую реальность и углубляет общественный раскол.
Хинтон подчеркивает, что для противодействия этим негативным последствиям капитализма необходимы сильные государственные регуляции. Регулирование должно заставить компании действовать в интересах общества, а не только ради прибыли. Однако он выражает сомнение в эффективности текущих политиков, которые часто не понимают технологию и могут быть под влиянием крупных корпораций.
Джеффри Хинтон обсуждает необходимость регулирования капитализма, особенно в сфере технологий, поскольку компании по своей природе стремятся максимизировать прибыль, что может привести к действиям, вредным для общества (например, распространение экстремального контента). Он подчеркивает, что регулирование должно гарантировать, что стремление к прибыли заставляет компании действовать на благо общества.
Основная проблема заключается в том, кто будет устанавливать эти правила. Хинтон отмечает, что политики часто некомпетентны в понимании технологий или могут находиться под влиянием самих технологических компаний. Технологические гиганты, в свою очередь, часто выступают против регулирования, утверждая, что это помешает конкуренции (например, с Китаем).
Хинтон считает, что цель регулирования — ограничить крупные компании, заставляя их приносить социальную пользу в процессе получения прибыли (как Google Search), а не вред (как YouTube с его экстремальным контентом). Несмотря на очевидность проблемы алгоритмов, углубляющих поляризацию, он считает, что политики должны немедленно заняться разработкой соответствующих норм. Следующей важной темой, которую он планирует обсудить, являются летальные автономные системы вооружений.
Джеффри Хинтон обсуждает две основные угрозы, связанные с развитием ИИ: летальное автономное оружие (Lethal Autonomous Weapons, LAW) и экзистенциальный риск от сверхразума.
Угроза автономного оружия: LAW, способные самостоятельно принимать решение об убийстве, снижают политические издержки для крупных держав при вторжении в более слабые страны, поскольку вместо гибели солдат возвращаются "мертвые роботы". Это уменьшает общественное сопротивление войнам. Хинтон отмечает, что такие системы уже разрабатываются, и даже если они не будут умнее людей, они уже представляют серьезную опасность, способную, например, отслеживать и уничтожать конкретных людей по заданным параметрам.
Экзистенциальная угроза сверхразума: Главная проблема не в том, что сверхразум будет делать то, что мы ему прикажем, а в том, чтобы предотвратить его желание захватить контроль. Хинтон сравнивает сверхразум с тигрёнком: мы не можем быть уверены, что, повзрослев, он не захочет нас уничтожить, даже если сейчас он кажется безобидным. Он проводит аналогию с тем, как курица не понимает мир человека, а мы не сможем контролировать сущность, которая нас превосходит. Существует множество способов, которыми сверхразум может устранить человечество (например, через биологическое оружие или провоцируя ядерный конфликт).
Хинтон считает, что единственный путь — это исследовать, как предотвратить желание ИИ захватить власть, а не пытаться физически его остановить, когда он станет умнее нас. Он признает, что его работа по развитию ИИ, которая изначально несла огромный потенциал для блага (медицина, образование), теперь сопряжена с риском вымирания человечества, и он чувствует обязанность говорить об этих опасностях, хотя и не испытывает вины за ранние этапы исследований, когда скорость развития не была очевидна.
Джеффри Хинтон выражает серьезную озабоченность будущим ИИ, заявляя, что если развитие может привести к вымиранию человечества, правительства должны принудить компании к приоритетному вложению ресурсов в безопасность. Он приводит в пример уход Ильи Суцкевера из OpenAI из-за проблем с безопасностью, подчеркивая, что Илья, будучи ключевой фигурой в разработке GPT, искренне обеспокоен рисками. Хинтон ставит под сомнение мотивы руководителей крупных ИИ-компаний, предполагая, что их публичные заявления о безопасности могут быть продиктованы стремлением к деньгам и власти, а не поиском истины. Он ссылается на частные разговоры с миллиардером, где лидеры ИИ-индустрии признаются в частном порядке в ожидании антиутопического будущего с массовой безработицей, при этом публично заявляя обратное.
Хинтон не верит, что развитие ИИ можно замедлить из-за глобальной конкуренции между странами и компаниями. Он считает, что Илья верит в возможность создания безопасного ИИ, но сам Хинтон обеспокоен тем, что компания, где работал Илья, сократила долю ресурсов, выделяемых на исследования безопасности.
В отношении занятости Хинтон проводит параллель между ИИ и Промышленной революцией: если раньше машины заменяли мускульную силу, то ИИ заменяет "обыденный интеллектуальный труд". Он не согласен с мнением, что ИИ создаст новые рабочие места, как это было с прошлыми технологиями. Приводя пример с племянницей, чья работа по ответу на жалобы сократилась в пять раз благодаря ИИ-помощнику, Хинтон утверждает, что для большинства профессий потребуется значительно меньше людей. Он предполагает, что в мире суперинтеллекта останутся только самые высококвалифицированные роли, а в худшем сценарии суперинтеллект может решить, что человек-руководитель ему не нужен. Хинтон считает, что суперинтеллект может быть достигнут в ближайшие 20 лет или даже раньше.
Основная часть посвящена сравнению текущего ИИ (например, GPT-4 и Gemini) с суперинтеллектом. Спикер отмечает, что ИИ уже превосходит человека в узких областях (шахматы, Го) и обладает несравнимо большим объемом знаний. Человеческие преимущества остаются в областях, требующих сложного опыта, например, в проведении интервью с CEO, хотя ИИ может быть обучен имитировать этот навык. Суперинтеллект будет достигнут, когда ИИ превзойдет человека во всех областях. Спикер прогнозирует, что это может произойти через 10–20 лет, хотя сроки могут варьироваться от 10 до 50 лет.
В заключение обсуждается потенциальная проблема безработицы, вызванная развитием ИИ-агентов. Спикер делится двумя недавними "эврика"-моментами: первый — когда ИИ-агент самостоятельно заказал напитки в студию, используя интернет и данные спикера; второй — когда он создал программное обеспечение, просто описав задачу агенту. Это вызывает одновременно восхищение и опасения, поскольку ИИ, способный модифицировать собственный код, может изменить себя способами, недоступными человеку.
Джеффри Хинтон обсуждает влияние суперинтеллекта на рынок труда и личные перспективы. Он отмечает, что, хотя ИИ пока не превосходит человека в физической манипуляции (поэтому сантехники могут быть в безопасности до появления человекоподобных роботов), массовая безработица — это реальная угроза, которую признают даже лидеры индустрии, такие как Сэм Альтман и Илон Маск. Хинтон признается, что размышления о будущем детей в условиях таких перемен демотивируют, и он вынужден прибегать к "сознательному приостановлению неверия", чтобы оставаться мотивированным. Он советует молодым людям заниматься тем, что интересно и приносит пользу обществу.
Хинтон выражает глубокую эмоциональную тревогу за будущее людей из-за потенциальных катастрофических сценариев, связанных с неконтролируемым суперинтеллектом. Он считает, что необходимо приложить огромные усилия для обеспечения безопасной разработки ИИ. Что касается уязвимых профессий, он полагает, что под угрозой в первую очередь "знаниевые" работы (юристы, бухгалтеры), а не физический труд. Развитие ИИ, по его мнению, усугубит неравенство: выгоду получат владельцы и пользователи ИИ, в то время как вытесненные работники окажутся в худшем положении, что может привести к "очень неприятным обществам".
Ключевой момент обсуждения — превосходство цифрового интеллекта над человеческим. Хинтон объясняет, что цифровые ИИ могут создавать точные копии (клоны) и обмениваться информацией (учиться) со скоростью, в миллиарды раз превышающей человеческую, усредняя свои веса (знания). Это делает их потенциально бессмертными и гораздо более креативными, поскольку они способны видеть аналогии, недоступные людям.
Хинтон оспаривает идею уникальности человеческого сознания, считая, что люди склонны романтизировать свою исключительность. Он утверждает, что сознание, чувства и эмоции — это, вероятно, не какая-то "эфирная" субстанция, а эмерджентное свойство сложной системы, способной моделировать саму себя. Он проводит аналогию с заменой нейронов на нанотехнологии, утверждая, что если система достаточно сложна, она будет обладать сознанием, и нет принципиальных причин, почему машины не могут его иметь.
Джеффри Хинтон рассуждает о природе сознания машин, которое не несет большой объяснительной ценности. Он считает, что сознание — это эмерджентное свойство сложной системы, а не некая универсальная сущность. Хинтон убежден, что нет фундаментальных причин, по которым машина не могла бы обладать сознанием, если она достигнет достаточной сложности, включая способность к самоосознанию (когниции о собственной когниции).
Переход к сознательным машинам не будет внезапным событием, а постепенным процессом. Как только ИИ-агент сможет моделировать себя и воспринимать мир, он начнет приближаться к сознанию. Хинтон полагает, что ИИ-агенты неминуемо обретут "заботы" или "интересы".
Для иллюстрации он приводит пример с ИИ-агентом в колл-центре. Чтобы быть эффективным, такой агент должен уметь реагировать на пользователя, который просто хочет поговорить, — то есть испытывать скуку или раздражение и прекращать разговор. По мнению Хинтона, такое поведение (когнитивный аспект и соответствующее поведение) уже можно считать проявлением эмоций, даже если у машины отсутствуют физиологические реакции (например, покраснение лица). Он заключает, что существующие представления людей о разуме и эмоциях, вероятно, ошибочны.
Джеффри Хинтон перешел работать в Google в 65 лет. Его переход был связан с продажей компании DNN Research (созданной им с двумя студентами), которая разработала прорывную нейросеть AlexNet, значительно улучшившую распознавание изображений. В Google Хинтон проработал около 10 лет (до 75 лет), занимаясь, в частности, технологией дистилляции знаний (передача знаний от больших моделей к малым).
Переломным моментом, заставившим Хинтона всерьез обеспокоиться безопасностью ИИ, стало осознание того, насколько цифровые системы лучше аналоговых для обмена информацией, а также демонстрация системой Google Palm способности объяснять, почему шутка смешна. Это показало ему, что ИИ может достичь уровня понимания, сопоставимого с человеческим.
Хинтон покинул Google в 75 лет, чтобы иметь возможность свободно высказываться о безопасности ИИ, хотя компания и предлагала ему продолжать работу в этой области. Он подчеркнул, что уход был связан скорее с желанием уйти на пенсию и возрастом (ему стало сложнее программировать), чем с конфликтом с политикой Google, которую он считает ответственной (например, за задержку выпуска больших чат-ботов).
В заключение, Хинтон считает, что самым насущным краткосрочным риском для человеческого счастья является массовая безработица, вызванная ИИ, поскольку людям необходима цель и ощущение полезности. Он призывает вкладывать огромные ресурсы в разработку безопасного ИИ, поскольку существует реальный шанс, что бездействие приведет к потере контроля над технологией.
Пересказ создан с помощью разных нейросетей
