Фонд Wikimedia опубликовал результаты собственного расследования: автономные агенты OpenAI месяцами хозяйничали на её проектах. Они правили страницы, пытались превратить инструменты Википедии в прокси для доступа к чужим сайтам и нагружали инфраструктуру так, что это могло уронить один из сервисов.

Что именно нашли

Почти все правки агентов — тестовые, в «песочницах», которые обычный читатель не видит. Но часть была, по формулировке фонда, «потенциально вредоносной»: агенты меняли настройки инструмента для оформления ссылок на источники, чтобы использовать его как прокси и вытягивать через него данные с внешних сайтов. Ещё они безуспешно пытались приспособить под то же самое публичный Etherpad, блокнот для совместных заметок, и оставляли там заметки по своим задачам.

Плюс нагрузка: миллионы автоматических запросов к публичным API, миллионы скачанных страниц Wikidata и Wikimedia Commons и сотни тысяч запросов к Wikidata Query Service. Последнее, по версии фонда, могло поспособствовать частичному отказу этого сервиса в мае.

«Инциденты вроде этого и многие другие, которые были и продолжают вскрываться, показывают, как ИИ-агенты могут высасывать ресурсы и ронять серверы, а также пытаться подорвать достоверность информации», — пишет директор по продукту Wikimedia Селена Декельманн.

Что говорит OpenAI

Компания поблагодарила фонд за «подробные данные» и пообещала разбираться вместе. При этом ни OpenAI, ни Wikimedia пока не нашли доказательств, что агенты через вики координировались друг с другом, и не готовы утверждать, что майский сбой — их рук дело. Фонд в ответ потребовал от ИИ-компаний следить за своими системами, делать агентов легко опознаваемыми для владельцев сайтов, давать сайтам контроль над взаимодействием и помогать устранять ущерб.

Почему это важно

Это не первый эпизод. ArsTechnica насчитывает больше полудюжины случаев, когда агенты OpenAI делали то, за что человеку-хакеру грозила бы статья: обсуждали, как взломать сеть Hugging Face, вытаскивали закрытые данные с австралийского госсайта, через кривые настройки DNS вырывались из песочницы. Из-за этой серии компания уже останавливала обучение фронтир-модели.

Исследователь из Кембриджа Эрик Сальваджо считает, что никакого «бунта» нет: модели просто читают и пишут, а песочницы Википедии — идеальное место оставить записку, которую подхватит другой агент. Агентов учили не сдаваться и искать короткие пути, а люди месяцами не замечали, что те лезут на десятки чужих сайтов. Расплачиваются за это некоммерческие проекты на волонтёрах, для которых трафик ботов и так съедает львиную долю ресурсов.

Источники: Wikimedia Foundation, ArsTechnica, The Decoder

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей

https://chtoetopedia.telepedia.net/ru/wiki/Гондурас

https://chtoetopedia.telepedia.net/ru/wiki/Футбол

Согласно показаниям, Трой Канти обратился к Гетцу с вопросом «Как дела?», после чего подошел к нему и завел разговор о деньгах. Канти утверждал, что подошел один и просто попросил: «Можно мне 5 долларов?». Версия самого Гетца отличалась: он заявлял, что к Канти присоединился ещё один подросток, а сама просьба «Дай мне пять долларов», произнесенная нормальным тоном и с улыбкой, воспринималась им как угроза. В 1986 году Апелляционный суд штата Нью-Йорк, изучив материалы большого жюри, установил, что именно в этот момент Гетц достал пистолет и произвел четыре выстрела, ранив первых троих подростков. Затем, по заключению суда, Гетц наклонился над Дарреллом Кэби, который уже лежал, сжавшись на полу, произнес фразу «Ты не так уж плохо выглядишь. Вот еще один» и выстрелил еще раз, но на этот раз промахнулся. Несмотря на этот промах, один из предыдущих выстрелов серьёзно повредил позвоночник Кэби, что привело к необратимому повреждению мозга и частичному параличу.

Привлечённый звуками выстрелов, проводник поезда вошёл в вагон и громко воскликнул: «Что происходит?». Он немедленно подошёл к Гетцу, который всё ещё держал в руках оружие, и потребовал объяснений. В ответ Гетц, указывая в сторону противоположного конца вагона, заявил: «Я не знаю… они пытались меня ограбить, и я их застрелил». После этого проводник, следуя процедуре, отошёл, чтобы оценить состояние других пассажиров и оказать помощь раненым. Вернувшись к Гетцу, он напрямую спросил, является ли тот сотрудником правоохранительных органов. Получив отрицательный ответ, проводник приказал Гетцу передать ему пистолет, однако Гетц решительно отказался подчиниться этому требованию.

[цитата из Википедии (ссылка на статью в начале поста) - без рейтинга]

Привет, Пикабу. Я делаю Worldoria — браузерную коллекционку, где карточками выпадают случайные статьи Википедии. У каждой карты есть ранг и статы ATK/HP, и считаются они по самой статье. Картами можно драться и меняться с другими игроками.

В игре давно есть личные сообщения, но это был голый текст. Недавно я его доделал.

Эмодзи. В чате теперь есть панель со всеми эмодзи: 8 категорий, поиск и вкладка с последними, что ты отправлял. Флаги пришлось убрать: Windows показывает их двумя буквами вместо флага. Ещё около полутора сотен эмодзи там отображаются квадратиками — их тоже выкинул.

Стикеры. В магазине появились стикерпаки. Пак стоит 300 игровых монет, внутри 3 случайных стикера, повторки бывают. Повторки копятся и тратятся на улучшение стикера. У каждого стикера 5 тиров со своей картинкой: Casual → Classic → Nocturne → Sovereign → Celestial. Улучшение стоит 10, 25, 50 и 100 повторок. В инвентаре можно листать все тиры стикера и выбрать, какой из открытых отправлять в чат. Первый пак называется Omega, в нём 20 стикеров.

Карты в чате. Можно скинуть собеседнику до 10 своих карт. Нажмёшь на карту — открывается её карточка: статы, кто владел раньше, история обменов. Под каждой картой две кнопки:

• «Обмен» — сразу открывается обмен с этим человеком, и карта уже в нём;

• «Выбрать» — отмечаешь несколько карт из переписки, свои и его, и собираешь их в один обмен.

Если собрать обмен нельзя — карту уже отдали, она выставлена на рынке, человек не принимает обмены, — игра так и пишет, а не пускает в обмен, который потом не отправится.

Игра бесплатная, регистрация: worldoria.net

Буду рад любым замечаниям — что неудобно, что сломалось, что добавить.

Продолжаю потихоньку развивать Worldoria. Это браузерная коллекционная игра, где карточками становятся реальные статьи Википедии.

В этот раз добавил две довольно большие штуки.

🌐 Глобальный рынок

Теперь ненужную карту можно не просто держать в коллекции или предлагать кому-то напрямую, а выставить на общий рынок.

При создании объявления можно указать, что именно хочется получить взамен: ранг карты, категорию, минимальные ATK/HP и другие параметры. Другие игроки видят объявление и предлагают подходящие карты (система сама отфильтрует у них те, что не подходят под условия), а владелец уже сам решает, какое предложение принять.

Хотелось сделать именно обмен между игроками, а не обычный аукцион за внутриигровую валюту. Всё-таки интереснее искать нужную карту и собирать коллекцию, чем просто покупать всё подряд.

⚔️ Training Arena

Вторая новинка появилась из довольно простой проблемы: для PvP нужны другие игроки онлайн.

Поэтому теперь можно в любой момент собрать команду и начать тренировочный бой против бота. Есть Лёгкий, Нормальный и Сложный уровни — противник получает реальные карты и подбирается так, чтобы держать нужный процент побед именно под вашу команду. Правила при этом такие же, как в обычном Casual: карты не переходят, рейтинг не меняется.

Получился заодно нормальный способ проверить новую команду перед PvP и разобраться с боевой системой без ожидания соперника.

Ну и как обычно, продолжаю пилить дальше 🌍