Немного ночных мыслей
Прочитав документации и публичные заявления Anthropic, Google и ряда других ведущих компаний, я сделал вывод, что мы уже подошли к точке, где способности ИИ приходится ограничивать в отдельных сферах, чтобы темп развития не опережал нашу готовность им управлять.
Во всех флагманских моделях уже введены закрытые проверки, лимиты на автономные действия, искусственные барьеры в критических отраслях. Это перестало быть теорией и основой fearmongering-роликов, это стало вполне обозримой реальностью. Причем данные ограничения абсолютно обоснованы. Это выглядит как некий маркер зрелости технологии. Развитие "интеллекта" модели постепенно уходит на второй план и заменяется введением мер безопасности. Что, в свою очередь, накладывает ограничения и на "безобидные" виды деятельности. вроде reverse-инжиниринга.
Never lose your signal.
Немного не в тему. В январе сменил смартфон, да чтоб меня. Не флагманская модель, такой середнячок за полтинник. Неделю, если не больше, боролся с ИИ, выдирал свистки, затаптывал его в стойло, вводил запреты. Лезет изо всех щелей на любое действие. Как будто я его раб, а не он должен облегчать мне жизнь. До сих пор иногда прорывается.