0 просмотренных постов скрыто
Про доверие...
Взято с моего канала в МАХ - https://max.ru/club8244637
Показать полностью
1
Можно ли доверять ИИ? Мой опыт проверки нейросети, и почему генетика не прощает ошибок
Все мы сейчас активно пользуемся искусственным интеллектом: кто-то пишет с его помощью код, кто-то генерирует картинки, а кто-то использует его как помощника в работе и исследованиях.
Недавно мне понадобилась конкретная последовательность ДНК, кодирующая ген окситоцина. Задача, казалось бы, стандартная для современных языковых моделей.
ИИ бодро выдал результат. Но поскольку в таких делах точность превыше всего, я решила перепроверить данные через специализированную базу данных, где записана не только кодирующая часть, но и полная геномная картина.
Я снова обратилась к нейросети — уже с уточнением. И знаете что? На выходе я получила совершенно другой результат. Не просто уточненный, а кардинально иной!
Когда я указала ИИ на это очевидное противоречие и попросила объяснить разницу, ответ меня одновременно позабавил и заставил задуматься. Нейросеть включила режим максимальной вежливости и выдала признание:
«Вы совершенно правильно заметили противоречие. Прошу прощения: я предоставил вам две разные последовательности, не объяснив разницу.
Правильной для вашего исследования должна быть последовательность, проверенная по официальной записи геномной ДНК человека, а не просто подобранная по генетическому коду.
Обе ранее приведённые мной последовательности нельзя считать равноценно подтверждёнными участками геномной ДНК. Первая была приведена как возможный вариант кодирования, а вторую я ошибочно назвал проверенным геномным участком, не подтвердив координаты должным образом».
Ключевой вывод, который стоит сделать: искусственный интеллект — великолепный эрудит и отличный собеседник, но он не проверяет факты в реальном времени так, как это обычно делается через базы данных вроде NCBI (GenBank), а просто генерирует наиболее вероятное продолжение текста.
Если бы речь шла о простом реферате — это не так страшно. Но когда дело касается точных наук, генетики, медицины или серьезных исследований, вера нейросетям может привести к ошибкам.
Показать полностью
Ответ на пост «Главу наркоконтроля полиции уволили за подработку таксистом и курьером»3
Полицейского, вероятно, уволили не за то, что он лично подрабатывал таксистом или курьером, а за то, что
полицейский через аффилированное лицо — индивидуального предпринимателя, связанного с ним, — организовал предпринимательскую деятельность;
он занимался услугами легкового такси и курьерской доставки;
то есть не просто подрабатывал таксистом сам, а построил схему: сдавал автомобили под эти услуги,
а это уже совсем другая история, не так ли?
Ответ на пост «Главу наркоконтроля полиции уволили за подработку таксистом и курьером»3
Все люди как люди, крутятся, вертятся, "зарабатывают" в рамках своей профессиональной деятельности. А этот выделиться решил, оторвался, можно сказать от коллектива. Когда он мог подрабатывать курьером и таксистом? Откуда у начальника отдела свободное время? От основной работы? Если он не смог себя реализовать в полной мере на своей должности, то ему на ней не место! Какой он пример подавал подчинёным? А вопросы решать за него кто должен? Таким в системе не место! Не наш человек!
Хотя б может ему зарплату другую платить? Может быть он тоже как все на БМВ рассекал, домик в деревне, квартирку в Москве прикупил...
Проблемы с доверием
Из канала Мем в глаз попал
Также в МАХ
Показать полностью
Главу наркоконтроля полиции уволили за подработку таксистом и курьером3
В Нижнем Новгороде уволен начальник отдела по контролю за оборотом наркотиков отдела полиции №8 УМВД России. Причиной стала его подработка в качестве таксиста и курьера. Как установила проверка, предпринимательскую деятельность госслужащий вел через аффилированного индивидуального предпринимателя. Прокурор Сормовского района расценил это как нарушение законодательства и потребовал увольнения сотрудника в связи с утратой доверия.