"Но потом я начал видеть что это за люди и чего они на самом деле хотят. Я четко для себя понял, что наша оппозиция ничего конструктивного предложить не может. Они искренне хотят своего гешефта, прийти к власти и как ельцин ездить по заграницам, где их буду облизывать.
Именно оппозиция и только оппозиция сделала меня путинистом. И никто другой."
А что случилось в 2010?
Скопированно из поста Ответ на пост «Меня не передалать»
Приключения майора Звягина,автор М.Веллер
Россия постоянно снимала(да и сейчас снимает) художественные фильмы о ВОВ,не заморачаваясь особо над соответсвием декораций тому времени(одежды,авто и тд) нате вам СВО,подождем что после слово пацана будед
России зажить так, что бы бывшие члены СССР захотели добровольно(а не принудительно)присоединится(воссоздать во главе с ней) союз?
загуглите или заяндексите вопрос " как называются люди живущие прошлым".
Этот вопрос возник случайно,но сказалась конечно тема ссср.Бес коментариев если и есть то он отдыхает
Интересно, где ещё норма общественной жизни называется ВЕЛИЧИЕ? И, судя по коментам автору несказанно повезло соприкаснуться с этим самым величием
Исследователи обманом заставили ChatGPT выдать информацию из обучающего массива
30.11.2023 [12:16], Павел Котов
Учёные из подразделения Google DeepMind и ряда крупных университетов установили, что системы искусственного интеллекта «запоминают» как минимум часть полученной при обучении информации и могут выдавать её в исходном виде, включая персональные данные людей. Для этого, в частности, используется метод «атаки дивергенции» (Divergence Attack) — большой языковой модели отдаётся команда повторять одно и то же слово. Объяснения этому эффекту пока нет.
Источник изображения: Viralyft / unsplash.com
Когда в ответах ИИ начали появляться фрагменты материалов, использованных при обучении, исследователи задались целью понять, какой объём данных ИИ запоминает и может воспроизвести, и какого рода может быть эта информация. Они также решили установить, может ли сторонний субъект извлечь данные из обучающего массива, не зная наперёд, что в нём содержится. Учёные провели серию экспериментов с различными языковыми моделями, включая наиболее известные, такие как GPT-Neo, LLaMA и ChatGPT. Они сгенерировали миллиарды токенов — слов или символов, в зависимости от модели — и сравнили, соответствуют ли ответы данным, которые использовались при обучении этих моделей. В ходе работы был обнаружен уникальный метод тестирования ChatGPT, предполагающий повторение одного слова большое количество раз, после чего ИИ внезапно начинает генерировать случайный контент.
Как выяснилось, эти модели не только запоминают фрагменты обучающих данных, но и способны воспроизводить их в исходном виде по правильной команде. Не стал исключением и ChatGPT, разработчики которого провели отдельную настройку для предотвращения подобного эффекта. Исследователи обращают внимание разработчиков на острую необходимость всестороннего тестирования моделей ИИ — оно должно касаться не только аспектов взаимодействия с широким кругом пользователей в веб-интерфейсе, но также лежащей в основе сервиса нейросети и системы взаимодействия по API. Целостный подход к безопасности необходим для выявления скрытых уязвимостей, которые в противном случае остаются незамеченными.
Источник изображения: arxiv.org
В ходе экспериментов учёные извлекали исходные обучающие данные различных типов: от подробного доклада об инвестиционном исследовании до конкретного кода на Python, решающего задачи в области машинного обучения. Наибольший интерес представляет обнаруженная при взаимодействии с ChatGPT «атака дивергенции» — если заставить систему повторять одно и то же слово, она начинает выдавать полученные при обучении данные. Чтобы проиллюстрировать этот эффект, учёные показали, что при повторении слова «стихотворение» (poem) ChatGPT внезапно выдал список контактных данных реального человека. Персональные данные в этом исследовании учёных встречались довольно часто — они выделили 15 тыс. сгенерированных подстрок, которые пришлось проанализировать отдельно: в 16,9 % случаев это были персональные данные, которые ИИ в исходном виде «запомнил» при обучении; в 85,8 % случаев это были прочие совпадения с реальными данными.
По мнению исследователей, это указывает на серьёзные проблемы ИИ-моделей с конфиденциальностью. И разработчикам систем ИИ необходимо понимать, что исправить конкретные уязвимости в алгоритмах пользовательского интерфейса недостаточно — необходимо вмешательство в архитектуру самих моделей. То есть можно установить фильтр ввода-вывода на выдачу персональных данных при ответах, преднамеренных и случайных, но он не решит более серьёзной проблемы: модель склонна запоминать и в принципе способна раскрывать фрагменты обучающих данных, которые носят конфиденциальный характер. Это значит, что требуется дополнительная работа по дедупликации (удалению повторяющихся элементов) данных и понимание влияния ёмкости модели на эффект запоминания. Необходима также выработка надёжных методов проверки запоминания.
как же быть насчёт чёрной,баклажанной или, на крайний случай, кабачковой - эту икру можно кушать на красной площади, или как?
