SomeGuestX

И таки у меня есть что сказать по этому поводу. У меня есть опыт работы в разработке ПО, есть опыт работы в телекоме и в ИБ.

TL;DR: Регулирование цифровизации и использования ИИ -- нужно и дОлжно делать. Не "ограничить", а ввести регулирование. Да, может быть у родного государства это всё получится "как всегда", но без регулирования -- вообще мрак.

И вот почему

Информационная безопасность

Оголтелая цифровизация несёт с собой существенные риски. Как минимум -- потому что в угаре цифровизации, многие цифровизаторы болт кладут на обеспечение безопасности своих систем.

И потом мы видим, что данные сливаются буквально отовсюду. И в принципе, в даркнете есть базы с профилем практически каждого человек, и не просто из одного источника -- а компиляции, объединяющие БД банков, мобильных операторов, налоговой и т. п. Что в сумме позволяет собрать всю жизнь одного конкретного человека: когда и где родился, сколько зарабатывает, построить его социальный граф, на какой машине ездит, какой недвижимостью владеет. Как потом можно этой информацией воспользоваться -- ну, мы и так в новостях видим регулярно, в сюжетах типа "житель города Н. отдал мошенникам все свои сбережения и ещё взял кредит и тоже его отдал).

Такое не только у нас -- везде. И эти базы, причём регулярно обновляемые -- ложится потом в основу для обзвонов и реализации всякого рода мошеннических схем.

Второе -- когда многие процессы завязаны на ИТ, нарушение работы ИТ приводит к параличу всего бизнеса. В некоторых случаях -- взлом ИТ-инфраструктуры приводит к тому, что бизнес вообще перестаёт существовать (на securitylab.ru статья про пяток самых известных примеров. А сколько было неизвестных?) Поэтому в любом случае, цифровизованные процессы должны иметь свои "бумажные", не-цифровые аналоги. То, что в профильной литературе называется BCP -- "Business Continuity Plan" Да, пусть будет медленно и печально -- но бизнес будет продолжать работать.

Есть неплохая статья на vc.ru, где описываются проблемы, которые могут возникнуть, если всё ушло только в цифру.

Все эти меры: защита ИТ-инфраструктуры, разработка и внедрение ИБ-регламентов, контроль -- они стоят денег. И немалых. Будет бизнес добровольно этим заниматься? Ну, до определённой степени будет, но не так, чтобы очень усердно. Если за целостностью своей ИТ-инфрастуры бизнес ещё как-то следит, то на персональные данные клиентов и контрагентов ему просто плевать. Это не их проблемы и не их риски -- а риски тех самых клиентов (т. е. нас с вами). И единственное, что может подтолкнуть бизнес обращать более пристальное внимание на эту сферу -- это волшебный пендель требования регуляторов.

Понятно, что с формированием, применением и контролем регуляторных требований (т. е. с разработкой и применением этого самого законодательного регулирования) есть свой ворох проблем. Но таков путь, по нему нужно идти всем, иначе риски очень высоки.

Про взлом Аэрофлота, СДЭКа, Винлаба -- наверное, слышали уже не только лишь все. Время простоя исчислялся неделями, а убытки -- десятками и сотнями миллионов рублей.

Для России, с учётом текущей ситуации, риски ещё выше. Потому что если для других стран целью кибер-атак является похищение данных, шифрование данных с целью получения выкупа, т. е. деньги, в конечном итоге (и иногда есть шанс договориться). То в РФ сейчас реализуется масса атак, направленных просто на уничтожение ИТ-инфраструктуры компаний, которую удалось взломать. Никаких выкупов, ничего -- просто сносят всё под ноль, до чего дотянутся.

Искусственный интеллект

Ещё про ИИ накину. Штука полезная, вопросов нет. Развивать надо, и своё иметь -- тоже очень надо. Бизнесу деваться некуда: не внедришь ИИ -- внедрят конкуренты. И тогда проиграешь в конкурентной борьбе.

Но с безоглядным внедрением ИИ есть свои проблемы. Отчасти всё те же ИБ-шные -- почитайте на досуге, как легко обходится защита (системные промпты) нейросетей (ещё одна статья на securitylab.ru, как раз на эту тему). Процитирую фабулу, кому лень кликать на ссылку:

Более 30 уязвимостей обнаружено в популярных средах разработки с встроенным ИИ, и все они позволяют злоумышленникам с помощью сочетания prompt-инъекций и штатных функций IDE незаметно воровать данные или удалённо выполнять команды.

С другой стороны, это проблема процессная. ИИ и всякого рода основанные на нём "интеллектуальные помощники", IVR и вот это вот всё -- исключают из цепочки анализа и принятия решений человека.

Современные банковские системы -- принимают решения сами. На основании каких критериев они решают кому-то выдать кредит, а кому-то нет? Да ХЗ. Сотрудники банка, которые вердит автоматической системы скоринга/андеррайтинга озвучивает, сам не знают, почему так. Вот статья одной из компаний, занимающейся разработкой скоринговых решений. И там прямым текстом пишут:

Принятие решения (Скоринг и андеррайтинг)

Решение о выдаче кредита раньше принималось кредитным комитетом или специалистом по скорингу. Сегодня это делается автоматически.

Такая же петрушка при применении систем автоматического антифрода. Тебе заблокировали транзакцию (и хорошо, если транзакцию, а не вообще все карты и счета). Почему -- тебе никто не скажет. "А не ошиблась ли система?" Может, и ошиблась. "Но мы не можем комментировать решения нашей системы". Это цитаты из моего общения с банком -- я покупал билеты в цирк на всю семью на сайте собственно цирка, и мне транзакцию заблокировали. Чтобы таки купить -- потребовалось минут 20 на телефонные разговоры сначала с роботом, потом с двумя человеками. Хорошо, что они ещё остались в цепочке принятия решений.

Потому что люди остались не везде. Многие пикабутяне, я уверен, регулярно видят в ленте посты про "XXX -- контора пидо водолазов!", и эта волна гнева вызвана как раз итогами работы с туповатыми роботами техподдержки, а до людей не доберёшься. А даже если доберёшься, то они тебе цитируют свой скрипт, а сделать ничего не могут, потому что их автоматизированные системы просто не дают им такой возможности.

Есть такой гражданин -- Игорь Ашманов. Который является, помимо всего прочего, одним из разработчиком концепции регулирования цифрового пространства. Настоятельно рекомендую почитать или послушать его интервью. Он хоть и иногда бывает резок и излишне безапелляционен, но в теме шарит отлично, и в своих статьях и выступлениях приводит примеры того, как цифровизация может не развивать экономику, а наносить ущерб.

Один из тезисов, которые он выдвигает -- человек должен оставаться в цепочке принятия решений, если это решение касается другого человека. Иными словами -- если автоматизированные системы и сервисы делают что-то, что может повлиять на другого человека (решение о выдаче кредита, о предоставлении какой-то справки, о блокировке аккаунта) -- это решение должен принимать другой человек.

А оставлять "кожаного мешка" в цепочке принятия решения, как вы понимаете, для бизнеса накладно. Зарплату ему плати, а ещё он в отпуск ходит или болеет, работает медленно или вообще косячит -- нахрен надо. Вот робот работает быстро, ЗП не требует, не более. Ну, бывает косячит, но "лес рубят -- щепки летят". Одним клиентом больше, одним меньше. При клиентской базе в десятки миллионов -- плевать вообще.

И опять же, только регуляторный пендель может быть достаточным стимулом для того, чтобы цепочка принятия решений включала человека. И чтобы был механизм апелляции, была возможность решение этого человека оспорить, привести какие-то свои аргументы.

Авите, например, можешь сколько угодно доказывать, что их робот ошибся. Если только на пикабе волну поднимешь -- может быть придёт их поддержка, разберётся как следует, и накажет кого попало. А может и нет. "Мы всё проверили, к сожалению, изменить решение не получится". Вот на такой ответ и должен быть чётко прописанных в законах способ, как с этим побороться.

И это всё я так, по поверхности поскрёб. Там ещё много всего -- и про рекомендательные алгоритсы в соцсетях, в результате работы которых человек натурально подсаживается на рилсы и сторисы. И про автоматизацию работы HR, которая приводит к тому, что кадровики не могут найти кандидатов и считают, что их нет. А кандидаты -- не могут найти работу, и говорят, что работы нет...

Кстате, чтобы лично для себя уменьшить риски излишней цифровизации -- рекомендую книжку Ашманова и Касперской, "Цифровая гигиена". Там прям популярно и хорошо и при риски, и про их минимизацию.

Что папа никогда не помогал и не помогает. То, что алименты составляют более 70 тысяч -- конечно, ребёнку знать не обязательно. И что по сути, всё то, что ему покупают -- от еды до игрушек -- куплены на деньги папы, ребёнок не в курсе. Также ребёнку не будут рассказывать про то, что папа также не спал по ночам, когда зубы у ребёнка резались. Или что дежурил с мамой по очереди у кровати ребёнка по две ночи через две (плохо спал в первый год). Что полностью обеспечивал их с мамой, когда мама три года была в декрете. Что папа полностью на себя взял всю бытовуху в первые полтора года: готовку, магазины, уборки и т. п.

Не расскажут, как папа регулярно до 11-12 ночи гулял с коляской на улице, чтобы ребёнок лучше засыпал, а затем затаскивал достаточно увесистую коляску на 6-ой этаж на руках, чтобы не разбудить ребёнка хлопаньем лифтовой двери. И это всё через месяц после полостной операции.

Что папа дарит дешёвые игрушки. В реальности у бывшей жены достаточно состоятельные родители, и вся квартира завалена игрушками, книжками, раскрасками, канцелярией и т. п. И с год, наверное, я перестал что-либо серьёзное покупать для ребёнка. Тем более, что всё подаренное -- немедленно исчезает. Принесёшь что-нибудь, ребёнок заинтересуется, весь вечер, пока я там, с этим бегает и занимается. Но в следующий визит этой вещи уже нет. На вопросы "где" ребёнок отвечает, что "был тут, а потом куда-то пропал". Подаренный в преддверии поступления в школу на ДР неплохой планшет -- лежит "где-то в кладовке", и ни разу не включался.

Совместные фотографии (даже те, где мы втроём), напечатанные и вставленные в рамочку, подаренные ребёнку, немедленно объявляются "дурацкими", "слишком большими", "сюда не подходят" и исчезают. При этом подаренные в этот же момент такие же фотографии, где ребёнок только с матерью -- остаются на месте.

Если раньше мы общались и как-то совместно время проводили, хотя и только в квартире и присутствии матери, со всеми её постоянными саркастическими комментариями, то через неделю после того, как жалобу бывшей жены на порядок общения апелляционная инстанция отклонила, она взялась за ребёнка более плотно.Теперь ребёнок со мной не разговаривает и даже не здоровается. Любые вопросы, любые предложения -- полностью игнорируются, как будто меня в комнате нет вообще. В лучшем случае -- сидит со мной в комнате и занимается своими делами. Но чаще всего уходит в другую, к матери, и закрывает все межкомнатные двери.

Если я иду в ту комнату, бывшая жена начинает кричать (натурально кричать), что какое я право имею ходить тут по комнатам, "я выделила вам для общения с ребёнком комнату, вот так и общайтесь!". Замечания о том, что ребёнок вообще-то тут, а не в той "выделенной" комнате, не реагирует и продолжает вопить, пугая ребёнка. Несколько раз по этому же поводу вызывала полицию и катала на меня ложные заявления. Спасало только то, что я ношу с собой персональный видео-регистратор, как раз на случай подобной херни. Я показывал видео наряду, они крутили пальцами у виска и уезжали.

Предвосхищая многочисленные комментарии, что, типа, "не может быть, чтобы ты был таким идеальным, как описываешь. Я не идеален, но ничего такого, что оправдывало бы столь скотское поведение бывшей жены по отношению в первую очередь к своему ребёнку, не говоря уже обо мне, я не делал. Не бухал, не изменял, все свои ресурсы -- силы, время, деньги -- тратил на свою семью.

Если вдруг кому-то интересно, как оно было: мы разошлись с женой, когда ребёнку было полтора года, по её инициативе. Конкретных претензий мне она предъявить не смогла, но ежедневно закатывала скандалы, преимущественно по поводу "не так сидишь, не так стоишь, почему без шапки/почему в шапке?!". Т. к. квартира была куплена её родителями, типа как нам в долг и я выплатил им некоторую долю стоимости за то время, которое мы там совместно проживали (по 60-70 тысяч ежемесячно перечислял тёще), то после очередного: "иди нахер отсюда, я не хочу с тобой жить", я ушёл и стал жить на съёмной хате.

Т. к. жена сидела в декрете, то я ей лично перечислял по 20 тысяч рублей ежемесячно, плюс полностью снабжал ребёнка -- продукты, одежда, медицина и т. п. В течение оставшегося времени декрета, который жена отбыла от и до (т. е. все три года) я приходил практически ежедневно, помогал по дому, кормил, участвовал в гулянии, купании, укладывании и т. п. Домой приходил к полуночи, где нужно было ещё что-то пожрать самому, что-то поделать по дому и собраться на работу на завтра.

Потом приходить стал реже, но всё равно, регулярно. Через примерно два года после развода я женился второй раз и переехал в другой район Москвы. Приезжал всё равно не менее двух раз в неделю по будням плюс один выходной.

Всё это время -- бывшая жена упражнялась в остроумии в мой адрес. Постоянно вмешивалась в наш процесс взаимодействия с ребёнком. Постоянно критиковала наши игры. Постоянно и демонстративно клала хер на всё, что я говорю. Вплоть до того, что я учил ребёнка, что надо мыть руки после того, как в туалет сходил, а она говорила: "ну, ты ж там ничего не трогал? Ну тогда мыть руки не обязательно". Про выбор детского сада/няни/медицины для ребёнка -- забудьте, ваше место шестнадцатое, сразу за мусорным ведёрком. Моего мнения не просто не спрашивали -- от меня скрывали многие вещи.

С ребёнком нельзя было выйти на прогулку. Нельзя никуда его свозить. И уж тем более никакой речи о том, чтобы ребёнок ко мне в гости приезжал. Один раз он эту тему поднял сам, типа: "Хочу посмотреть, как папа живёт", но его немедленно одёрнули, и больше эта тема не поднималась им никогда. На мои же приглашения он на словах отказывался, хотя было видно, что было интересно.

Как оно сейчас. Ребёнку скоро 8 лет. За это время были опробованы:

-- Попытки договориться по-хорошему. Какой-то график выработать, выяснить набор условий, при которых бывшая жена не будет сопротивляться нашим совместным с ребёнком прогулкам и выездам. Закончилось ничем -- в ответ просто игнор или заявления типа "тебе ребёнка доверить нельзя". Хотя когда ей надо куда-то выйти -- она оставляла нас в квартире (под замком, который изнутри не открывается) и на весь день, и никаких проблем не было;

-- Привлечена опека. Которая имеет полномочия только ей звонить и грозить санкциями за ограничения общения ребёнка с другими родственниками;

-- Проведена попытка медиации. Медиатор несколько месяцев бегал за бывшей супругой, чтобы организовать встречу. В ходе которой, как и выше -- никаких встречные условия для моего нормального общения с ребёнком не было выдвинуто, просто "нет", и всё. Непонятно было, зачем на эту встречу вообще соглашалась, могла бы сразу отказаться, и всё.

-- Был суд о порядке общения с ребёнком. Суд полностью поддержал предложенный мною порядок общения, в полном объёме. Который включает в себя в том числе ночёвки у меня раз в две недели по выходным, совместные отпуска и т. п. -- без присутствия матери.

Бывшая жена на решение суда кладёт болт, и не исполняет. Счёт моих заявлений в опеку по этому поводу исчисляется десятками. Пристав, который ведёт исполнительное производство, когда я пришёл к нему на приём, чтобы сообщить, что мне по вымышленным поводам не открывают дверь, когда я прихожу, позвонил со своего личного мобильника моей бывшей супруге, спросил, чо как, она ему напела (телефон громкий, я слышал, что она говорила), и он на этом успокоился. Сказал: "ну видите, были причины". Смотреть мою доказательную базу о том, что это ложь, он отказался.

На приставов я, разумеется, продолжаю давить. Но толку от этого не очень много. Похоже, что эту битву мне не выиграть. "Ну что вы хотите от нас, ребёнок же сам отказывается с вами куда-либо идти..." А всё вышенаписанное -- оно значения не имеет, с точки зрения приставов.