OpenAI и LANL начали сотрудничество для оценки биологических рисков frontier AI моделей, включая GPT-4o.
Кратко:
●OpenAI и LANL начали партнёрство 10 июля 2024 года
●Цель — оценка биологических рисков frontier AI
●Исследования включают мультимодальные интерфейсы
●Результаты могут установить стандарты безопасности ИИ
Новая эра безопасности: партнёрство OpenAI и LANL
10 июля 2024 года OpenAI и Лос-Аламосская национальная лаборатория (LANL) объявили о начале совместного исследования. Основная цель партнёрства — разработка оценок безопасности и изучение биологических возможностей и рисков, связанных с моделями frontier AI, такими как GPT-4o.
Зачем это нужно?
Инициатива отвечает распоряжению администрации США, направленному на оценку биологических способностей передовых моделей ИИ. Это необходимо для обеспечения безопасности и снижения рисков, связанных с внедрением таких технологий.
Кто участвует?
OpenAI
Технический директор OpenAI, Мира Мурати, подчеркнула важность этого партнёрства как ключевой шаг в миссии продвижения науки. OpenAI планирует использовать свои наработки в области ИИ для улучшения биологических исследований.
LANL
Лос-Аламосская лаборатория, в лице Ника Дженероса, заместителя руководителя группы систем информации и моделирования, создаёт новую Technical Assessment Group по рискам ИИ для управления потенциальными угрозами новой технологии.
Цели и методы исследования
OpenAI и LANL исследуют, как модели frontier AI, в частности GPT-4o, могут безопасно поддерживать лабораторные работы. В рамках эксперимента будут проверены возможности GPT‑4o в помощи исследователям при выполнении таких лабораторных процедур, как:
●трансформация — введение генетического материала в организм-носитель;
●культивирование клеток;
●разделение клеток с использованием мультимодальных интерфейсов.
Особое внимание уделяется «wet lab» техникам, где ранее не применялся ИИ.
Перспективы и значение
Партнёрство открывает новые горизонты для взаимодействия общественного и частного секторов. Оно может стать основой для разработки новых стандартов оценки безопасности и эффективности ИИ в биологических дисциплинах.
Инновации для всех
Уникальность подхода заключается в его доступности для не-специалистов. Включение помощи в сложных процедурах, таких как генетическая модификация кишечной палочки, демонстрирует потенциал ИИ в расширении возможностей научных исследований.
Частые вопросы
Какова цель партнёрства OpenAI и LANL?
Основная цель — оценка биологических рисков и возможностей frontier AI моделей, таких как GPT-4o.
Какие методы исследования будут использованы?
Проверка возможностей GPT‑4o в поддержке лабораторных процедур с акцентом на мультимодальные интерфейсы.
Какое значение имеет это сотрудничество?
Оно может установить новые стандарты безопасности и эффективности ИИ в биологических исследованиях.
