Google DeepMind и Isomorphic Labs представили инициативу по развитию биоустойчивости, направленную на предотвращение злоупотреблений ИИ в биологических исследованиях. Программа сфокусирована на создании защитных механизмов для предотвращения создания опасных патогенов, одновременно расширяя возможности ИИ в области оперативного реагирования на глобальные эпидемии и разработки новых лекарственных препаратов для борьбы с инфекционными заболеваниями.
Инициатива, запущенная год назад, перешла от закрытого тестирования к активному взаимодействию с внешними партнерами. Основная цель заключается в установлении стандартов безопасности при использовании генеративных моделей в биологии. Разработчики стремятся сбалансировать открытость научных данных с необходимостью контроля над инструментами, которые могут быть потенциально использованы для создания биологических угроз.
В рамках программы создана сеть из более чем 15 партнерств, включающая государственные структуры, организации по биобезопасности и академические исследовательские группы. Участники работают над методами оценки рисков, связанных с использованием ИИ-моделей в синтетической биологии, и разрабатывают протоколы, которые позволяют исследователям безопасно применять вычислительные мощности для моделирования сложных биологических систем.
Ключевые факты
- Программа биоустойчивости объединяет усилия Google DeepMind и Isomorphic Labs для контроля рисков в биологии.
- За последние 12 месяцев сформировано более 15 партнерств с правительственными и научными организациями.
- Инициатива направлена на предотвращение использования ИИ для создания патогенов при сохранении потенциала для борьбы с эпидемиями.
- Работа включает создание новых стандартов безопасности для вычислительных моделей, применяемых в биоинженерии.