ИИ как инструмент⁠⁠

Один из самых тиражируемых недостатков ИИ - он слишком охотно соглашается с пользователем.

Сказал глупость - поможет ее обосновать. Предложил сомнительную идею - разовьет. Впрочем, с тем же энтузиазмом раскритикует, если попросишь.

Мы почему-то считаем соглашательство недостатком ИИ, хотя для инструмента выполнять поставленную задачу - как бэ нормально.

Проблема в том, что как инструмент он воспринимается плохо.

Он помнит больше нас, пишет быстрее, иногда рассуждает лучше и вполне способен найти ошибку, которую мы не заметили. Поэтому где-то незаметно возникает ощущение, что перед нами независимый разум. А у независимого разума должна быть собственная позиция.

Но ИИ - все еще инструмент. Просто впервые инструмент оказался способен превосходить своего владельца, в том что мы считали исключительно человеческой чертой.

Отсюда и довольно странное требование: мы хотим, чтобы он был независим, но последнее слово оставлял за нами.

Возможно, поэтому вообще так плохо приживаются по-настоящему умные вещи. Автопилоту оставляют руль, автоматике - ручной режим, алгоритму - кнопку отмены. Нам важно не только чтобы система работала правильно. Нам важно ощущать, что решение все еще наше.

С ИИ это ощущение особенно легко потерять, потому что его орган управления - обычный разговор.

Но если хочется критики - ее можно попросить. Если хочется альтернативы - тоже.

Меня гораздо больше насторожил бы топор, который сам решал, что он сегодня рубит.

Больше заметок здесь или здесь