Помогут ли нейросети бороться с лженаукой?⁠⁠

Недавно на лекции один из слушателей задал Александру Соколову такой вопрос: "Помогут ли нейросети и искусственный интеллект в ближайшем будущем бороться с лженаукой? Или, наоборот, они будут способствовать её распространению, сочиняя тексты для гомеопатов и астрологов?"

Александр - не эксперт по нейросетям. Поэтому мы "перенаправили" вопрос нашему коллеге и другу Сергею Маркову - специалисту в области искусственного интеллекта, руководителю управления экспериментальных систем машинного обучения департамента SberDevices и автору книги "Охота на электроовец".

Вот что ответил Сергей:

"Сами по себе технологии искусственного интеллекта нейтральны — их можно использовать как во благо, так и во вред. Так обстоит дело практически с любой достаточно общей технологической отраслью или достаточно универсальной технологией. Обычным молотком можно забивать гвозди и строить дома, а можно проламывать чьи-то головы. Помогает ли борьбе с лженаукой компьютерная техника, умножение матриц, энергетика, математические уравнения?

Генеративные модели могут сочинять тексты и для гомеопатов, и для астрологов, и для популяризаторов науки, и для преподавателей, и для учёных — нейросеть не выбирает себе пользователей. Помимо генерации текстов у нейросетей очень много применений — при помощи нейросетей можно, например, выявлять фейки, ошибки в текстах или спам, искать нужную информацию (да, поисковые системы в Интернете сейчас тоже основаны на нейросетях), переводить тексты с других языков, помогать ставить диагнозы врачам (например, распознавать аномалии на медицинских снимках), управлять роботами, суммаризировать длинные тексты, генерировать идеи, элементы дизайна, музыку. Они помогают изобретать новые лекарства, молекулы с новыми свойствами, конструкционные материалы, помогают проектировать новую технику, писать программный код, выявлять дефекты или уязвимости в программных системах, отражать DDOS-атаки и многое-многое другое.

Вряд ли основная проблема гомеопатов и астрологов заключается в том, что им не хватает рабочей силы для того, чтобы писать свои рекламные тексты — такой работой с охотой занимается множество людей и я, честно говоря, не вижу признаков того, что гомеопаты и астрологи испытывают какой-то дефицит рабочей силы. Проблема с текстами гомеопатов и астрологов не в том, что их много, а в том, что многие люди эти тексты читают и верят им. А для того, чтобы развивать критическое мышление, людям нужно повышать уровень образования, учиться находить более проверенную информацию — а в этом им как раз могут помочь современные технологии искусственного интеллекта.

То, какое именно применение технологий будет преобладать, зависит от нас с вами. Во время предыдущих информационных революций — таких как изобретение книгопечатанья или всемирной сети — человечество худо-бедно справилось с возникшими вызовами, по крайней мере прогресс не остановился, хотя мы и наблюдаем множество сопутствующих побочных эффектов, специфических технологических рисков и т. д. Я не думаю, что есть какие-то основания считать, что в этот раз ситуация будет отличаться радикальным образом".

Кстати, Сергей ведёт интересный канал в телеграм - https://t.me/oulenspiegel_channel. Советуем подписаться!