О том, что «ИИ не умеет считать пальцы»...⁠⁠

Это перевод истории с Reddit

Пару дней назад Роб, новый стажёр, зашёл ко мне в кабинет около трёх дня. Он был бледен. Чёрт, он выглядел больным.

«Роб, ты в порядке?» — спросил я, отрываясь от монитора. Новая бета-версия нашей модели ИИ как раз компилировалась. Это был наш главный проект за последние 9 месяцев.

Роб сглотнул. «Я... не уверен. Я нашёл проблему», — выдавил он.

Я приподнял бровь. «С моделью ИИ?» — спросил я. Если да, это могло стать катастрофой. Слишком многое зависело от запуска.

Роб собрался с духом. «Не совсем. Давайте я покажу».

Он поставил ноутбук на стол и открыл его. «Взгляните».

На экране было изображение, сгенерированное ИИ. Внизу виднелся водяной знак нашей беты. На картинке — улыбающаяся блондинка, едящая салат. Стандартный тест для калибровки модели.

«В чём проблема?» — спросил я.

«Пальцы. Посмотрите на пальцы», — прошептал Роб.

Я присмотрелся. Рука, держащая вилку, имела шесть пальцев.

«Роб, не парься. Вся индустрия ИИ годами бьётся с этой фигнёй. Это уже мем», — махнул я рукой.

«Дело не в этом», — голос Роба дрогнул, и я понял: он не болен... он напуган.

«Роб, что за чёрт?» — спросил я, чувствуя, как по спине пробежал холодок.

Он нервно огляделся. «Подойдите сюда. Посмотрите».

Я вышел в дверь кабинета, окинув взглядом офис с десятками сотрудников.

Роб метнул взгляд на одного из них — коренастого мужчину за соседним столом. «Видите его? Эрик, кажется».

«Эрик Симмонс. Он работает с базами данных. Ты же его знаешь. Он здесь столько же, сколько и я», — сказал я, не понимая, к чему это ведёт.

«Посчитайте пальцы на руке, которой он двигает мышку», — приказал Роб.

«Роб, это уже...» — начал я.

«Просто... поверьте», — перебил он.

Я вздохнул. На руке Эрика было пять пальцев.

«Пять, Роб. Как у нас с тобой», — сказал я. Может, сроки свели парня с ума.

«А теперь... не смотрите прямо. Посмотрите на постер позади него краем глаза... и пересчитайте», — прошептал Роб.

«Роб, возьми выходной. Ты заслужил...»

«Пожалуйста», — голос его дрожал. «Просто... сделайте это».

Не знаю, почему согласился. Я закрыл глаза, моргнул. Сфокусировался на постерe — гребцы с банальным лозунгом о команде. А краем глаза... пересчитал пальцы Эрика.

Шесть.

Я моргнул. Взглянул прямо — пять. Четыре пальца и большой. Никаких сомнений.

Снова перевёл взгляд на постер, расфокусировав зрение, как в тех старых «волшебных картинках». И снова — шесть. Большой и пять остальных.

Роб увидел моё лицо. «Вы тоже это видите?»

«Что за хрень?» — выдохнул я.

«Вернёмся в кабинет. Я объясню», — сказал Роб.

Он показал на экран. «Мне поручили разобраться с проблемой пальцев. Я начал с алгоритма, анализирующего фото рук. Использовал эти». Он ткнул в изображения. Руки с тарелками, стаканами... знакомые лица.

«Корпоратив на Рождество», — сказал я.

«Точно. Они были в общем доступе. Я прогнал их через модель. Получил кучу картинок с лишними пальцами. Но вот что странно: код безупречен. ИИ должен считать лучше, чем рисовать лица. Почему ошибка?»

«Роб, ИИ — сложнейшая штука. Глюки будут вылезать годами...» — начал я, пытаясь убедить себя.

«Я подумал так же. Тогда я прогнал через модель фото пластиковых рук. Все картинки — правильное число пальцев», — Роб переключил слайды. Манекены, деревянные руки... все с пятью.

«То же ПО. Никакой логики!»

«И что это значит? И при чём здесь Эрик?» — спросил я.

Роб выдохнул. «Думаю, ИИ не ошибается. Он видит то, чего не видим мы».

Я фальшиво рассмеялся. «То есть у людей есть скрытые пальцы, которые видит только ИИ?»

Роб не улыбнулся. «Наши руки тоже были на фото с корпоратива».

Я машинально взглянул на свою руку. Пять пальцев.

Роб усмехнулся. «Я тоже постоянно их пересчитываю. Бесполезно».

«И... что это значит?» — спросил я, отводя взгляд.

«Не знаю. Нужна большая выборка. У 1 из 10 на фото лишний палец. Эрик, Даг из бухгалтерии, Джанет из HR... и гендиректор. Поэтому я пришёл к вам. Вы из старших не входите в их число».

«Это бред. Должна быть ошибка...» — пробормотал я.

«Я разбираюсь в коде. Всё работает идеально. Проблема не в ПО... а в реальности», — голос Роба дрожал. «Что-то не так с некоторыми людьми здесь».

Я глубоко вдохнул. Его убеждённость пугала. «Что предлагаешь?»

«Пока не знаю. На выходных сделаю больше снимков», — сказал Роб.

«Иди домой. Отдохни. И... будь осторожен», — предупредил я.

Он ушёл. Я вернулся к работе. Через час в дверях возник Эрик.

«Привет. О чём вы с Робом говорили?» — спросил он. Улыбка его была ледяной.

«Мелочи. Он бился над проблемой пальцев», — соврал я.

Улыбка Эрика исчезла. Затем он медленно, демонстративно, положил ладонь на мой стол, растопырив пальцы.

Он показывал мне руку. Нарочно.

«Надеюсь, Роб не переживает из-за неудачи», — произнёс Эрик. В его тоне сквозила угроза.

Он ушёл. Я замер. Позже, выходя из офиса, Даг из бухгалтерии помахал мне, растопырив пальцы. «Хороших выходных!» Джанет в холле стучала ногтями по доске объявлений, словно отсчитывая что-то.

Дома я включал телевизор, но вздрагивал, видя руки ведущих. Все пять пальцев... пока камера не показала руку питчера. Я выключил его.

К утру я убедил себя, что Роб сорвался от стресса. Решил поговорить с ним в понедельник.

Но в понедельник всё изменилось. В шесть утра телефон взорвался сообщениями. Роб мёртв. По новостям: в субботу он снимал руки людей в магазине. Его избили. В понедельник ночью его нашли возле офиса. Череп размозжён. Рядом — ноутбук. Полиция ищет того парня из магазина, но я знаю: это не он.

Потому что убийца отрезал Робу пальцы и разложил их аккуратными рядами по пять возле тела.

Телефон звонит non-stop. Я пью кофе в кафе и считаю пальцы у прохожих.

Считаю и не знаю, что делать.

Надеюсь, я пойму раньше, чем увижу шесть пальцев на чьей-то руке.

Подписывайся на ТГ, чтобы не пропускать новые истории и части.

https://t.me/bayki_reddit

Подписывайтесь на наш Дзен канал.

https://dzen.ru/id/675d4fa7c41d463742f224a6