Более 90 выдающихся ученых, включая Нобелевского лауреата Фрэнсис Арнольд, объединились, чтобы подписать важное соглашение, направленное на уменьшение потенциальных рисков искусственного интеллекта (ИИ) в сфере биооружия, подчеркивая при этом значительные преимущества этой технологии для биологических исследований. Эта коллективная акция стала ответом на беспокойство, высказанное генеральным директором Anthropic Дарио Амодеем по поводу потенциального злоупотребления ИИ в создании биологических угроз, сообщает The New York Times.
Подписанты соглашения, специалисты по разработке белков на основе искусственного интеллекта, публично признали трансформационный потенциал ИИ в развитии биологии, в частности в разработке новых вакцин и методов лечения. Их соглашение формулирует обязательство ответственно развивать исследования ИИ, гарантируя, что огромные перспективы этих технологий, особенно в дизайне белков, не будут омрачены потенциалом злоупотреблений в создании биологического оружия.
Центральным элементом консенсуса является регулирование оборудования для производства ДНК, являющегося решающим шагом в синтезе биологических материалов, которые могут быть использованы для разработки биологического оружия. Дэвид Бейкер, ключевая фигура в организации соглашения и директор Института дизайна белков при Вашингтонском университете, подчеркнул необходимость сосредоточить регуляторные усилия на этом этапе синтетического биологического конвейера, чтобы предотвратить злоупотребления.
Эта инициатива отражает более широкое промышленное и научное движение, направленное на предотвращение двойного использования технологий искусственного интеллекта, которые, имея революционный потенциал для общественных благ, также представляют значительные риски, если их использовать во вредных целях. Диалог вокруг этого вопроса активизировался после выступления Амодея в Конгрессе, где он спрогнозировал, что достижения в области ИИ могут через несколько лет ненамеренно способствовать разработке нового биологического оружия, несмотря на существующие ограничения.
Соглашение выступает за надежные протоколы безопасности при производстве ДНК и призывает к всесторонней оценке безопасности и защите новых моделей ИИ перед их выпуском. Такой проактивный подход направлен на то, чтобы интеграция ИИ в биологические исследования продолжала оставаться силой добра, способствуя инновациям и одновременно защищая от потенциальных угроз.
