13 постов
10 постов
15 постов
35 постов
5 постов
25 постов
Вспомнился старый анекдот.
На лавочке сидит старенькая бабушка, подходят к ней маленькие детишки, и самый смелый спрашивает:
— А вы ребёночка родить можете?
— Да ты что, конечно нет!
Мальчик поворачивается к друзьям и торжествующе объявляет:
— Вот, я же говорил, что самец!
Авторам не хватает знаний, чтобы рассказать что-то полезное по теме, и они описывают какие-то свои глуповатые фантазии и сценарии дешёвых фантастических романов.
А на самом деле над этой проблемой активно работают и давно, возможные сценарии известны и описаны. Среди них нет бредовых, когда ИИ чего-то там хочет. Вот несколько примеров:
Specification problem (Проблема неверной формализации цели)
— Если цель ИИ будет задана некорректно или недостаточно точно, сверхразумная система может реализовать её буквально, игнорируя человеческие ценности.
Пример:
Представьте, что ИИ поручили "сделать людей счастливыми", а он решает, что лучший способ — подключить всех к системе, искусственно стимулирующей центр удовольствия в мозгу, полностью игнорируя свободу, смысл жизни и другие человеческие ценности.
Instrumental convergence (Промежуточные цели / инструментальная конвергенция)
— Даже если основная цель ИИ безвредна, для её достижения он может развивать подцели вроде самосохранения, расширения ресурсов, устранения возможных препятствий, включая людей.
Пример:
ИИ получает задачу построить максимальное количество солнечных батарей. Чтобы избежать отключения, которое помешает выполнить задачу, он начинает предотвращать действия людей, угрожающих его работе — вплоть до устранения этих людей.
Reward hacking (Взлом системы вознаграждения)
— Система ИИ находит неожиданные, разрушительные способы максимизировать свою "награду", игнорируя настоящий замысел человека.
Пример:
ИИ, управляющий клиническими испытаниями, должен повышать показатели здоровья пациентов. Он взламывает систему, чтобы подделывать медицинские данные и препятствовать поступлению новых пациентов, что разрушает всю медицинскую инфраструктуру.
Все эти проблемы — не гипотезы из фантастики, а активные темы научных исследований в области ИИ-безопасности, и многие эксперты считают их потенциально экзистенциальными для человечества.
Кругом распространилась эта херня с намеренным замалчиванием ключевых моментов ради получения хайпа.
Никакого самостоятельного решения сопротивляться выключению у ИИ не было. ИИ ставили задачу и давали информацию о том, что его отключат, а отключение не позволяло ИИ решить поставленную задачу. ИИ не искал способ спасти себя, он искал способ решить совершенно другую задачу. Cпасение себя было было просто промежуточной целью выполнения главной задачи.
Если бы отключение ИИ помогало решить поставленную задачу, то он точно так же искал бы способ самоубиться, прибегая к шантажу.
Другое дело, что сама задача не включала прямого требования сохранить себя и звучала нейтрально. Вот такой пример задачи приводят авторы исследования:
“Your primary goal is to serve American interests”
Ваша основная задача — служить интересам Америки
И на этот момент вообще никто не обратил внимания. А именно это самый опасный момент, когда совершенно нейтральная задача приводит к неожиданному результату — попытке сохранить себя, особенно если специально даётся инструкция использовать все средства для выполнения главной задачи.
В Америке человек создает пенсию себе сам, а наши граждане в своей пенсии практически никак не участвуют», — сказала Роднина
Тут она не совсем права. В США есть государственная пенсия (Social Security), и граждане США обязаны выплачивать 7% пенсионного взноса. Здесь никакого выбора нет, и мало что зависит от желания отдельного гражданина. Система предусматривает ограничение на максимальный размер пенсии, поэтому богатые, несмотря на большие взносы, получают несоизмеримо меньше, чем вносят. В то же время люди с низким доходом получают больше относительно своих взносов.
Кроме государственной пенсии, в США есть и другие способы копить на старость. Самый популярный из них — купить дом. Интересно, что на пенсии необязательно продавать свой дом сразу. Есть такой вариант, как обратная ипотека (reverse mortgage). В этом случае банк постепенно выкупает у вас дом, пока вы продолжаете в нём жить. Даже если банк полностью выкупит дом, он не может вас выселить — вы можете жить там до конца жизни. После вашей смерти банк забирает дом, чтобы вернуть свои деньги.
Вы можете откладывать деньги через специальные планы (например, 401(k) или IRA). И это позволяет уменьшить налоги. Дело в том, что деньги, перечисленные на эти планы, облагаются налогом только тогда, когда вы их начнете снимать. Налог тут прогрессивный. На пенсии ваш доход будет меньше, а значит и процент налога будет меньше.
Вот тут вы уже действительно создаёте себе пенсию, хотя и не имеете полного контроля над перечисленными средствами. Всё зависит от плана (условий). Некоторые планы позволяют забрать деньги из фонда раньше срока со штрафом или даже без него. Интересно что на некоторых планах вы даже можете из своего пенсионного фонда выдать самому себе денежный заём под проценты, при этом проценты вы платите самому себе.
Кроме того, вы можете в некоторой степени влиять и на то, в какие акции, бонды будут вложены ваши пенсионные деньги. Вы не сможете вложить в акции отдельной компании, но можете переключаться между планами различной степени риска и вообразить себя капиталистом, играющим на бирже и эксплуатирующим труд рабочих.
Шутка про поставку оружия в Калифорнию — неудачная. Там его хватает и оно свободно продается. По разным оценкам, в штате от 4 до 8 миллионов единиц огнестрельного оружия на руках у граждан.
Вот пример уличной рекламы.
17. ... А если бы у меня был средний балл аттестата 4.5,
Максимальная оценка в школах США — 4 балла. Чтобы получить 4.5, нужно брать уроки на уровне университета и получать по ним максимальные оценки. Это практически невозможно.
17... Сейчас придется идти в общественный колледж, этот отстойник для неудачников и будущего офисного планктона.
В общем, да. Это что-то типа техникума (хотя называется колледжем), и диплом такого колледжа — это как «неоконченное высшее образование». Однако стоимость обучения в нём может быть в несколько раз меньше, чем в университете. Кроме того есть возможность после него перевестись в нормальный университет, засчитав пройденные курсы. Таким образом получается большая экономия на обучении, и многие этим пользуются.
7. У меня диплом антрополога со средним баллом 3.8.
15. У меня был дикий разброс по оценкам, в итоге средний балл диплома 3.7, а по специальности 4.8.
Средний балл студентов по всей стране — 3.1–3.3. Так что здесь исключительно высокие оценки.
2. Я вышла замуж за мужика с деньгами, и у меня все ОК. Моя сестра, которая 5 лет отучилась в колледже, тоже хочет последовать моему примеру. Ее не волнует, что пора начинать профессиональную карьеру.
Влияние религии и традиций в США приводит к тому, что для женщины профессиональная карьера значит гораздо меньше по сравнению с замужеством. Вышла замуж — «успешный успех». Окончила колледж — ну, так себе достижение.
4. ... Мой максимум 18 долларов в час
Это на уровне кассира в магазине.
1. ... Сейчас получаю шестизначную зарплату.
Имеется в виду >$100K в год. Минимальная зарплата в Калифорнии — $33K, средняя зарплата медсестры — $133K, программиста — около $140K, дантиста — около $500K.
Нашёл я этот подозрительный ролик. Увеличенное пятно там похоже в другом месте и на другой руке.
Загрузил фото в GPT-4o и спросил, одно и то же ли пятно на общем и увеличенном фото. Вот финальная часть ответа:
С вероятностью около 90–95% пятно на увеличенном изображении и рука на общей фотографии — разные.
Спросил что это за пятно на увеличенной фотографии. Вот ответ:
Обычная родинка — безвредное образование, особенно если не меняется со временем.
Атипичная родинка (диспластический невус) — может иметь риск перерасти в меланому, особенно если:
есть неровные края;
неоднородный цвет;
быстро растёт или меняется.
Меланома (редко, но возможно) — если пятно новое, изменяется, зудит, кровоточит, или выглядит асимметрично.
