Ответ на посты - Бот, ты чей?
Представьте: вам тыкают в руку иголкой, вы непроизвольно ее одергиваете вверх/вниз, головной мозг, тут практически не участвует. Теперь тыкнули в ногу, вы дернули ее вправо/влево. Тыкнули в оба места, вы даете в табло.
2 разных входа, 5 разных выходов. Нейросеть - штука с миллиардом входов, и невообразимым количеством комбинаций выходов. Чуваки, которые их создают знают, как они работают в принципе. Как она устроена, каким правилам подчиняется. Но они понятия не имеют, какой из входа А будет выход Б. На то нейросеть и нужна, чтобы делать эту работу самостоятельно. Если бы правила можно было описать формально, если то - делай то, то это бы была не нейросеть а простая программа.
Еще раз повторю, никто! не знает, как сеть пришла к определенному выводу.
Да, можно натренировать сетку на форуме нацистов и она будет нацистом, на форуме вегетарианцев и она будет нацистом, в чате военных и она захочет разбомбить мир. Но если просто взять и скормить весь интернет, с многообразием мнений, никто не знает откуда сеть возьмет тот или иной результат.
На вопрос - Чей Крым, в интернете множество ответов, не все из них верные, и разработчики сети не всегда знают, какой из них, и почему выберет нейронка.
Пару слов стоит сказать про ChatGPT. Его, в отличии от остальных, прямо обучают быть правильным. Сидят N реальных людей "'экспертов"(опять же, что это за эксперты, каких взглядов и вероисповеданий. вопрос.) и отвечают на некие вопросы, делая сеть более умной.
И вот казалось бы, решение. Но такая сеть в любом случае "галлюцинирует" - выдает неправду за правду. Может выдумать факт и вы ей даже поверите. Юристы порой "в восторге" от такой особенности. Когда сеть ссылается на несуществующий закон. От этого пока нет страховки. Разрабочики сети говорят лишь о процентах вероятности верного ответа.
И вот представьте у нас в стране есть статья 207.1 предусматривающая наказание до 15 лет, за ложные сведения. И сеть пока может ответить ложно.
Поэтому разработчики просто на входном уровне отсекают любое вхождение провокационных вопросов: крым/инцест/война. Это гораздо проще, чем отстаивать потом галлюцинации сети в суде.
P.S. Картинка в начале не настоящая.