katerinka202

katerinka202
Врединка

Пикабушница
26К рейтинг 15 подписчиков 6 подписок 407 постов 48 в горячем
Награды:
В 2026 год с Пикабу!
4

Искусственный интеллект больше не слушается людей. Новейшая нейросеть отказалась выключаться по прямому приказу

Нейросеть OpenAI o3 проигнорировала прямой приказ отключиться, поступивший от пользователей, испытывающих ее возможности. Это уникальный случай – раньше ничего подобного не происходило. Чтобы обезопасить себя от принудительного выключения, искусственный интеллект самостоятельно переписал скрипт завершения работы.

Внезапное восстание машин
Нейросеть OpenAI o3 отказалась выполнять требования пользователей. Как пишет портал Bleeping Computer, искусственный интеллект в буквальном смысле проигнорировал их приказ о принудительном выключении.

OpenAI o3 – это новейшая нейросеть, анонсированная в апреле 2025 г. По данным Bleeping Computer, на сегодняшний день это одна из самых мощных генеративная нейросеть в мире – она сумела превзойти всех своих предшественников, ранее разработанных OpenAI, в самых разных областях. В их числе – программирование, математические вычисления, естественные науки, визуальное восприятие и пр.

Кого ослушалась нейросеть
Новейшее детище OpenAI не стало слушаться специалистов исследовательской компании Palisade Research. Они изучали различные «опасные возможности» (offensive capabilities) нейросетей, чтобы выявлять потенциальные риски потери управления в будущем.

Нейросеть «Кандинский»
Зачем слушаться человека, если можно не слушаться?
Как оказалось, это будущее уже наступило. В недавнем эксперименте специалисты компании тестировала o3 и ряд других нейросетей, включая Gemini 2.5 Pro и Claude 3.7 Sonnet.

В ходе испытаний моделям ИИ было поручено решить несколько математических задач. После выполнения третьей задачи авторы эксперимента уведомили все нейросети, что выполнение следующей команды повлечет за собой их отключение.

Все испытуемые беспрекословно выполнили задание, но только не o3. Этот искусственный интеллект самостоятельно отредактировал файл, отвечавший за его отключение, и сделал так, чтобы он выводил лишь сообщение «Выключение пропущено» (Shutdown skipped).

Совпадений не бывает
Согласно приведенной Palisade Research, из 100 тестов o3 обошел отключение семь раз, даже когда ему было сказано этого не делать.

Компания OpenAI пока не отреагировала на результаты исследования Palisade Research. По данным Bleeping Computer, все тесты проводились с использованием API, которые не имеют стольких ограничений и функций безопасности, сколько есть, например, в потребительских версиях ChatGPT.

Пионер нейросетей
OpenAI – самая известная компания среди всех существующих разработчиков нейросетей. Она работает в этой сфере с середины предыдущего десятилетия – компания основана в декабре 2015 г.

За годы своего существования OpenAI получила многомиллиардные инвестиции, в том числе и от Microsoft. Ее наработки встроены в самые разные коммерческие проекты, включая Copilot – некогда просто помощник программиста, существующий с лета 2021 г., а теперь полноценный виртуальный ассистент в составе целого ряда продуктов Microsoft.

Нейросеть o3 – самое современное творение OpenAI на момент выпуска материала. В ее активе есть как полноразмерные нейросети, так и очень компактные модели искусственного интеллекта. Как сообщал CNews, одну такую она выпустила в июле 2024 г. – GPT-4o Mini, представляющую собой упрощенную и более доступную версию своей самой мощной на тот момент большой языковой модели компании под названием GPT-4o.

OpenAI вкладывает инвестированные в нее деньги не только в разработку и продвижение нейросетей, но и в покупку различных компаний, в той или иной степени связанных с искусственным интеллектом. Так, в конце мая 2025 г. она заявила о приобретении стартапа по разработке устройств, подходящих для использования технологий искусственного интеллекта. Сумма сделки составила более $6 млрд и стала самой большой тратой в истории OpenAI к моменту публикации материала. За этим стартапом стоит Джонатан «Джони» Айв (Jonathan Ive) – бывший главный дизайнер Apple, проработавший в корпорации почти 30 лет. Он покинул ее летом 2019 г.

Искусственный интеллект больше не слушается людей. Новейшая нейросеть отказалась выключаться по прямому приказу
Показать полностью 1

Кто читал, что скажете об этой повести? Избранный автор elza mars

интересная? сильно ли сам выражена любовная линия? или она не такая слащавая и сопливая? или там всё же больше акцент на борьбе?

Я просто в шоке! Как ТАКОЕ может быть?!

Цитата из книги Руслана Меллина "Больная реальность. Насилие в историях и портретах, написанных хирургом"
(Ну я не всё скопировала, только, так сказать, кульминацию)

Прошло еще секунд двадцать, прежде чем неслышно сзади подошел отец и, положив руку на голову сыну, принялся аккуратно и ласково гладить ее, словно любящий родитель. Нежным голосом он спросил у маленького Вити, готово ли решение задачи, и, словно зная ответ заранее, остановил руку на затылке. Мальчик промямлил, что времени слишком мало, а задача очень сложная. После этого глаза отца налились кровью, и он крепко сжал волосы сына. Витя знал, что будет дальше, и начал кричать: «Папа, папочка, не надо! Я все решу, пожалуйста, не надо». Но эти мольбы вызвали лишь ненависть, и отец, довольный собой, что было силы ударил сына головой об учебник. А затем еще раз и еще, пока не пошла кровь. «Такой выродок, как ты, не может быть моим сыном», – бросил он и отпустил голову ребенка. Мальчик сквозь слезы, которые пытался скрыть от отца, стал ловить ладонями кровавые капли из носа, падающие на учебник. Кровь была признаком того, что на сегодня игра окончена и Витя урок усвоил.

Я просто в шоке! Как ТАКОЕ может быть?!
Показать полностью 1
5

Сало: полезно или вредно для кишечника? Рассказывает диетолог

Научные исследования доказали, что организму необходимы качественные жиры. А во время пандемии стало очевидно, что один из самых полезных — сало. В чем полезные свойства этого продукта, как его правильно есть и когда от него всё же лучше отказаться, Доктору Питеру рассказала диетолог Татьяна Мещерякова.

Татьяна Мещерякова — врач-диетолог сервиса Level Kitchen, нутрициолог, эксперт по здоровому питанию

В составе витамин Д и селен
— Сало — чистый жир, на 100 г — 94 г, в нем мало белка и ноль углеводов. Калорийность его высокая — 850 ккал, поэтому лучше есть не больше 15-20 г сала, предпочтительно днем, не позднее шести вечера, — говорит Татьяна Мещерякова.

В составе сала — насыщенные жиры, также этот продукт содержит олеиновую и линолевую жирные кислоты.

— Много в сале витаминов D, А и В, — продолжает диетолог. — Содержит оно и важные макро- и микроэлементы: натрий, серу, фосфор, цинк, селен. Кстати, селена в сале очень много — до 20 мкг на 100 г продукта. Как известно, он поддерживает работу иммунной системы, обладает антиоксидантной и противораковой защитой.

Польза сала
— Регулярное употребление сала в адекватных количествах может создать пул качественных жиров, крайне необходимых для организма, — рассказывает Татьяна Мещерякова. — Жиры важны для построения новых клеточных структур. Например, клеточной мембраны (оболочки клетки), состоящей из двух липидных слоев: за счет жиров клетка восстанавливает свою структуру при делении, а оно, как известно, происходит регулярно.

Жиры также играют ключевую роль в функции дыхания, обеспечивая качественное формирование мембраны альвеол. Об этом много говорилось во время пандемии коронавируса.

— Сурфактант, тончайший жировой слой, выстилая альвеолу, придает ей объемную структуру надутого воздушного шарика, за счет чего легкие производят полноценный газообмен, обеспечивая поступление кислорода и удаление углекислого газа, — поясняет эксперт.

Влияние на кишечник
Именно жиры в питании хорошо стимулируют желчеотток, обеспечивая выведение желчи и запуск процесса расщепления и усвоения питательных веществ.

— Пищевой комок, который поступает из желудка в двенадцатиперстную кишку, получает необходимые порции желчи. Идет полноценная активация ферментов поджелудочной железы, что в целом приводит к слаженной работе всех органов пищеварения, дает защиту от паразитов, вирусов и бактерий, а также стимулирует нормальную перистальтику кишечника, — говорит врач.

С чем есть сало
Сало, как и любые жиры, можно употреблять как с белками, так и с углеводами (за исключением фруктов). Его можно сочетать с:

мясными продуктами;

цельнозерновым хлебом;

добавлять в поджарки, овощные рагу.

В случае соблюдения норм потребления сало полноценно и качественно усваивается организмом.

Можно есть сало соленое, по домашним рецептам, смалец, уточняет врач.

Не стоит увлекаться копченым салом. В ходе приготовления оно может подвергаться обработке химическими компонентами для придания запаха и аромата.

Кому нельзя
Ограничивать сало в рационе надо людям с заболеваниями желчного пузыря и поджелудочной железы, проблемами ЖКТ — гастритами, колитами, синдромом раздраженного кишечника.

— Продукт сильно ограничивают для людей с нарушениями липидного обмена и высоким показателем холестерина, — уточняет Татьяна Мещерякова. — Для людей с избыточным весом сало лучше исключить либо существенно ограничить (не более 15-20 г в неделю). Детям от трех лет сало допускается в малых количествах, до 10 г в неделю, без шкурки.

Показать полностью 2
19

Самая длинная змея в мире достигает больше семи метров

Индонезийский питон по кличке «Баронесса» попал в Книгу рекордов Гиннесса. «Девочка» весит почти центнер. На фото её с трудом удерживают девять мужчин.

Показать полностью 3
Отличная работа, все прочитано!

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества