Anthropic завела свою биолабораторию: Claude будет ставить опыты руками роботов⁠⁠

Anthropic втихую построила «мокрую» лабораторию, то есть площадку для настоящих экспериментов с клетками и молекулами, в районе Сан-Франциско. Цель — чтобы Claude сам вёл роботов через эксперименты при минимальном участии людей. ИИ выходит из чата в пробирки.

Что известно

О лаборатории первым сообщил Reuters, глава направления наук о жизни Эрик Кодерер-Абрамс её существование подтвердил: «Мы считаем, что в биологии финальной проверкой остаётся и ещё долго будет оставаться реальная работа в лаборатории».

Инструменты уже есть: рабочая среда Claude Science для учёных и Model Hardware Standard, через который ИИ управляет лабораторным оборудованием. Весной компания купила биостартап Coefficient Bio примерно за 400 млн долларов акциями, а в совет директоров вошёл глава Novartis. Официальная цель — «неизлечимые» болезни, за которые фарма не берётся, например сложные антитела, которые бьют сразу по нескольким мишеням. Клинических испытаний Anthropic не проводит. При этом представитель компании уточнил, что лаборатория нужна «не только для поиска лекарств», а для чего ещё — не сказал.

А это не тот сценарий, где ИИ делает супервирус?

Вопрос законный, и Anthropic сама задаёт его громче всех: биологическое оружие — главный катастрофический риск в её политике безопасности. Модель, которая умеет спроектировать сложное антитело и поставить опыт руками робота, теоретически закрывает оба узких места злоумышленника: знание и навык работы в лаборатории. Раньше между «ИИ подсказал в чате» и «вирус в пробирке» стояли годы обучения и живые руки. Теперь этот разрыв сокращается.

Что стоит на пути. Человек обязан контролировать опыты: компания прямо называет это условием безопасности, а автоматизация, по словам Кодерера-Абрамса, пока на «самом раннем этапе». Модели работают с защитой уровня ASL-3. Вышедший сегодня Opus 5.5 вообще перенаправляет запросы по биологии и кибербезопасности на старые модели. По оценке компании в карточке Opus 5, модель помогает только с синтезом уже известных опасных агентов (уровень CB-1), но не с созданием новых (CB-2).

Итог честный: сценарий «злой ИИ сам варит вирус» сегодня упирается в людей у пульта и фильтры в модели. Но лаборатория, где ИИ ставит опыты почти без людей, — ровно та инфраструктура, из-за которой этот вопрос перестаёт быть фантастикой. Днём ранее научная панель ООН предупредила, что «нет гарантий, что люди сохранят контроль» над ИИ-агентами.

Источники: Reuters, The Decoder

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей