На видео оператор использует чат-бота в стиле ChatGPT для вызова разведки дронами, составления нескольких планов атаки и организации подавления коммуникаций противника. Затем он просит чат-бота показать более подробную информацию о скоплении техники противника и угадать, какие это могут быть боевые единицы.

Получив данные от ИИ, оператор просит систему сделать более качественные снимки. Он запускает дрон Reaper MQ-9.

Затем оператор спрашивает систему, какие возможные варианты действий существуют. Предложенные ИИ опции включают атаку танка с помощью F-16, дальнобойной артиллерии или ракет Javelin. При этом система сообщает, достаточно ли у ближайших подразделений войск этого оружия для выполнения миссии.

AIP поддерживает различные LLM с открытым исходным кодом, включая FLAN-T5 XL, доработанную версию GPT-NeoX-20B и Dolly-v2-12b, а также несколько пользовательских подключаемых модулей.

Первая проблема заключается в том, что такие системы могут «галлюцинировать». В частности, GPT-NeoX-20B — это альтернатива с открытым исходным кодом GPT-3, предыдущей версии языковой модели OpenAI, созданной стартапом EleutherAI. Одна из моделей EleutherAI, доработанная другим стартапом Chai, недавно убедила бельгийца в ходе беседы с ней покончить с собой.

Palantir же обещает, что её система будет «безопасной». AIP можно будет развернуть «на тактических устройствах», и она будет анализировать как секретные данные, так и данные в реальном времени «ответственным, законным и этичным способом».

На видео оператор сможет контролировать действия LLM и ИИ в системе. «По мере того, как операторы принимают меры, AIP создает защищённую цифровую запись операций. Эти возможности имеют решающее значение для снижения значительных юридических, нормативных и этических рисков в конфиденциальных и секретных условиях», — поясняет компания.

Также Palantir показала бэкенд системы, который позволит контролировать LLM и доступ к ним.

Однако компания не объяснила, как она будет решать проблемы работы самих LLM и какие последствия они могут иметь.

Между тем доступ в интернет получил другой проект с открытым исходным кодом Auto-GPT с поддержкой GPT-4 — ChaosGPT. Теперь он пытается понять, как можно «уничтожить человечество», «установить глобальное господство» и «достичь бессмертия».

ChaosGPT уже придумал, как получить контроль над человечеством посредством манипуляций для обретения большей силы и ресурсов, которых у него пока нет. Для начала он решил привлечь больше подписчиков в Twitter, чтобы манипулировать ими и контролировать их. (C)