События ИИ [Сентябрь №1]⁠⁠

У нас

🔹5 сентября стало известно, что в российских регионах в пилотном режиме применяют четыре большие языковые модели, обучаемые на правовых позициях Верховного суда и судебных решениях. Их предполагается использовать для выявления противоречий, снижения числа ошибок и повышения предсказуемости правосудия. При этом окончательное решение, оценка доказательств и применение права должны оставаться за судьёй

〽ИИ входит в одну из самых чувствительных сфер, где даже рекомендация алгоритма способна повлиять на человеческое решение. Поэтому важно не только оставить последнее слово за судьёй, но и понимать, как вывод модели был получен и использован

В мире

🔹В сентябре руководители Anthropic, OpenAI и xAI призвали согласованно замедлить развитие наиболее мощных моделей, чтобы меры безопасности успевали за ростом их возможностей. Вслед за этим риски ИИ и возможной потери контроля над автономными системами вынесли на обсуждение Совета Безопасности ООН

〽Риски действительно существуют, но призыв выглядит выгодным прежде всего для тех, кто уже вырвался вперёд. Единые ограничения могут повысить порог входа для остальных и под лозунгом безопасности закрепить сложившееся лидерство

Промптология

🔹В журнале Information издательства MDPI опубликована статья Promptology: Enhancing Human–AI Interaction in Large Language Models. Авторы рассматривают промптологию как междисциплинарную область, связанную с проектированием эффективных промптов, взаимодействием человека и ИИ, когнитивными аспектами и безопасным использованием генеративных моделей. В статье термин «promptology» включён в ключевые слова и определяется как направление, выходящее за рамки традиционной prompt engineering.

〽Использование термина в академической публикации показывает, что промптология начинает закрепляться не только как практический навык работы с запросами, но и как обозначение области исследования взаимодействия человека с генеративным ИИ. При этом разные авторы пока формируют собственные границы понятия, что является естественным этапом становления новой области