Искусственный интеллект быстро учится автономно разрабатывать и проводить биологические эксперименты, но системы, призванные управлять этими возможностями, с трудом поспевают за ним. Компания OpenAI и биотехнологическая фирма Ginkgo Bioworks объявили в феврале 2026 года, что флагманская модель OpenAI GPT-5 автономно разработала и провела 36 000 биологических экспериментов. Она сделала это через облачную роботизированную лабораторию — объект, где автоматизированное оборудование, управляемое удаленно компьютерами, проводит эксперименты. Модель ИИ предлагала дизайн исследований, роботы выполняли их и передавали данные обратно модели для следующего раунда. Люди ставили цель, а машины делали большую часть работы в лаборатории, сократив стоимость производства нужного белка на 40%. Это программируемая биология: проектирование биологических компонентов на компьютере и создание их в физическом мире, где ИИ замыкает цикл.
Десятилетиями биология в основном двигалась от наблюдения к пониманию. Ученые секвенировали геномы организмов, чтобы каталогизировать всю их ДНК, узнавая, как гены кодируют белки, выполняющие жизненные функции. Изобретение таких инструментов, как CRISPR, затем позволило ученым редактировать эту ДНК для конкретных целей, например, отключать ген, связанный с болезнью. ИИ теперь ускоряет третью фазу, где компьютеры могут как проектировать биологические системы, так и быстро тестировать их. Этот процесс все меньше похож на традиционную лабораторную работу и все больше на инженерию: дизайн, постройка, тестирование, обучение и повторение. Там, где традиционный эксперимент мог бы проверить одну гипотезу, управляемая ИИ программируемая биология исследует тысячи вариантов дизайна параллельно, итеративно, как инженер, улучшающий прототип.
Как ученый по данным, изучающий геномику и биобезопасность, я исследую, как ИИ меняет биологические исследования и какие меры безопасности это требует. Текущие меры безопасности и нормативные акты не поспевают за этими возможностями, и разрыв между тем, что ИИ может делать в биологии, и тем, к чему готовы системы управления, растет.
Что становится возможным благодаря ИИ
Самый яркий пример того, как исследователи используют ИИ для автоматизации исследований, — это ускоренный ИИ дизайн белков. Белки — это молекулярные машины, которые выполняют большинство функций в живых клетках. Проектирование новых традиционно требовало лет проб и ошибок, поскольку даже небольшие изменения в последовательности белка могут непредсказуемо изменить его форму и функцию. Языковые модели белков (AI, обученные на миллионах природных белковых последовательностей) могут быстро предсказать, как мутации изменят поведение белка, или спроектировать новые белки. Эти модели ИИ разрабатывают потенциальные новые лекарства и ускоряют разработку вакцин. В сочетании с автоматизированными лабораториями эти модели создают плотные циклы экспериментирования и доработки, тестируя тысячи вариаций за дни, а не за месяцы или годы, которые потребовались бы человеческой команде. Более быстрое конструирование белков может означать более быстрое реагирование на новые инфекции и более дешевые лекарства.
Проблема двойного назначения
Исследователи выразили обеспокоенность, что те же самые инструменты ИИ могут быть использованы во вред — это проблема, известная как проблема двойного назначения: технологии, разработанные для полезных целей, могут быть перенаправлены для причинения вреда. Например, исследователи обнаружили, что модели ИИ, интегрированные с автоматизированными лабораториями, могут оптимизировать распространение вируса даже без специального обучения. Ученые разработали инструмент оценки риска, чтобы оценить, как ИИ может изменить возможности вируса, например, изменить виды, которые он поражает, или помочь ему избежать иммунной системы. Текущие модели ИИ способны провести пользователей через технические шаги по извлечению живых вирусов из синтетической ДНК. Исследователи определили, что ИИ может снизить барьеры на нескольких этапах процесса разработки биологического оружия, и что текущий надзор неадекватно решает эту проблему.
Риск от био-ИИ
Опытные ученые уже используют ИИ для планирования и проектирования биологических экспериментов. Вопрос о том, может ли ИИ помочь людям с ограниченной биологической подготовкой проводить опасные лабораторные работы, является предметом активных исследований. Два недавних исследования пришли к разным выводам.
Исследование компании Scale AI и некоммерческой организации по биобезопасности SecureBio показало, что когда людям с ограниченным опытом в биологии предоставляли доступ к большим языковым моделям (тому же типу ИИ, который лежит в основе ChatGPT), они смогли выполнять задачи, связанные с биобезопасностью, такие как поиск неисправностей в сложных вирусологических лабораторных протоколах, с четырехкратно большей точностью. В некоторых областях эти новички превзошли обученных экспертов. Около 90% этих новичков сообщили, что не испытывали особых трудностей в получении от моделей опасной биологической информации, такой как подробные инструкции по работе с опасными патогенами, несмотря на встроенные защитные фильтры, предназначенные для блокировки таких выходных данных.
В отличие от этого, исследование под руководством Active Site (исследовательская некоммерческая организация, изучающая использование ИИ в синтетической биологии) показало, что помощь ИИ не привела к существенным различиям в способности новичков выполнять сложный рабочий процесс по производству вируса в биолаборатории. Однако группа с поддержкой ИИ чаще добивалась успеха в большинстве задач и быстрее завершала некоторые этапы, особенно выращивание клеток в лаборатории.
Практическая работа в лаборатории традиционно была узким местом в переводе проектов в результаты. Даже блестящий план исследования все еще зависит от квалифицированных человеческих рук для его выполнения. Это может не продлиться долго, поскольку облачные лаборатории и роботизированная автоматизация становятся дешевле и доступнее, позволяя исследователям отправлять созданные ИИ экспериментальные планы в удаленные лаборатории для выполнения.
Реагирование на биологические риски, связанные с ИИ
Системы ИИ теперь способны автономно проводить эксперименты в больших масштабах, но существующие нормативные акты не были разработаны для этого. Правила, регулирующие биологические исследования, не учитывают автоматизацию на основе ИИ, а правила, регулирующие ИИ, конкретно не рассматривают его использование в биологии. В США администрация Байдена издала в 2023 году указ об ИИ-безопасности, который включал положения о биобезопасности, но администрация Трампа отменила его. Скрининг синтетической ДНК, которую производят коммерческие поставщики, чтобы гарантировать, что она не может быть использована для создания патогенов или токсинов, остается в основном добровольным. Двухпартийный законопроект, внесенный в 2026 году для обязательного скрининга ДНК, пока не решает проблему последовательностей, созданных ИИ, которые обходят текущие методы обнаружения.
Конвенция о биологическом оружии 1975 года, международный договор, запрещающий производство и использование биологического оружия, не содержит положений об ИИ. Британский институт безопасности ИИ и Комиссия по национальной безопасности в области новых биотехнологий США призвали к скоординированным действиям правительства. Оценки безопасности, которые лаборатории ИИ проводят перед выпуском новых моделей, часто непрозрачны и непригодны для оценки реального риска. Исследователи подсчитали, что даже скромные улучшения в способности модели ИИ помогать планировать эксперименты с патогенами могут привести к дополнительным тысячам смертей от биотероризма в год. Сроки, когда эти возможности пересекут критические пороги, остаются неясными.
Ситуация усугубляется тем, что роботизированные облачные лаборатории становятся все более доступными не только для университетов, но и для частных лиц с сомнительными намерениями. Если сегодня для создания биооружия нужно иметь PhD в вирусологии и доступ к дорогостоящему оборудованию, то завтра, возможно, достаточно будет кредитной карты и подписки на облачный сервис, который возьмет на себя всю «грязную» работу. Именно этот сценарий — «демократизация биотерроризма» — вызывает наибольшую тревогу у специалистов по биобезопасности.
Инициатива по ядерной угрозе (Nuclear Threat Initiative) предложила систему управляемого доступа к биологическим инструментам ИИ, которая сопоставляет право пользователя на использование данного инструмента с уровнем риска модели, а не вводит тотальные запреты. Центр RAND по ИИ, безопасности и технологиям разработал набор действий, которые исследователи могли бы предпринять для улучшения биобезопасности, включая улучшенный скрининг синтеза ДНК и оценку моделей перед выпуском. Исследователи также утверждают, что сами биологические данные нуждаются в управлении, особенно геномные данные, которые могут обучать моделям опасным возможностям.
Некоторые компании, разрабатывающие ИИ, начали добровольно вводить собственные меры безопасности. Anthropic активировала свой наивысший уровень безопасности при выпуске своей самой продвинутой модели в середине 2025 года. В то же время OpenAI обновила свою «Рамочную программу готовности» (Preparedness Framework), пересмотрев пороговые значения того, какой биологический риск может представлять модель, прежде чем потребуются дополнительные меры предосторожности. Но это добровольные, индивидуальные для компании шаги. Генеральный директор Anthropic Дарио Амодеи написал, что темпы развития ИИ вскоре могут превзойти способность любой отдельной компании оценивать риск конкретной модели.
Если ИИ используется в хорошо контролируемой среде, он помогает ученым быстро достигать исследовательских целей. Что произойдет, когда те же самые возможности будут работать вне этих рамок контроля, — это вопрос, на который политика еще не дала ответа. Если перестараться с регулированием, таланты и инвестиции могут уйти в другие места, в то время как технология продолжит развиваться. Если не доработать, риски этой технологии могут быть использованы для причинения реального вреда. Тревожным сигналом стало исследование Scale AI, где 90% новичков обошли защитные фильтры. Это означает, что современные «сторожевые псы» ИИ лают, но не кусают. А время, когда они научатся надежно блокировать опасные запросы, может наступить слишком поздно — после того, как первый био-инцидент с участием ИИ уже произойдет. Гонка вооружений между безопасностью и доступностью биотехнологий только начинается, и на кону — жизни миллионов.
Поделитесь в вашей соцсети👇
Ваш комментарий