OpenAI советует дать ИИ-агенту должностную инструкцию раньше, чем доступ к системам
OpenAI выпустил для руководителей инструкцию, как внедрять ИИ-агентов, и среди шести пунктов один стоит особняком, потому что он не про эффективность, а про то, кто будет отвечать, когда агент ошибётся. Компания советует ещё до запуска прописать агенту доступы, права и точку, в которой он обязан остановиться и передать дело человеку, а также заранее назначить, кто именно в компании отвечает за эти доступы и контроль.
С точки зрения юриста, агент действует от имени компании, и его слова и действия связывают её так же, как слова обычного сотрудника. Поэтому вопрос не в том, ошибётся ли агент, а в том, сможете ли вы показать, что выстроили разумный контроль над ним. Отсутствие такого контроля превращается из технической мелочи в основание для ответственности.
Показательна история Air Canada. В 2022 году чат-бот на сайте сказал пассажиру, летевшему на похороны бабушки, что тот вправе оформить возврат по льготному тарифу в течение 90 дней после покупки билета. Такого правила у авиакомпании не существовало, бот его попросту выдумал.
В суде Air Canada защищалась тем, что бот это самостоятельное лицо, за которое компания не отвечает. В феврале 2024 года трибунал Британской Колумбии этот довод отклонил, прямо указав, что компания обязана следить за точностью своего бота и отвечает за всё на своём сайте, будь то обычная страница или чат-бот. Пассажиру присудили компенсацию около 800 канадских долларов.
«Это был не я, это бот» звучит убедительно ровно до того момента, как вы произносите это в суде.
--
Реально интересный телеграм про право в сфере IT и AI.
Юридические услуги в сфере IT и AI, например защита ноу-хау ИИ-разработки.





