OpenAI обсуждает безопасность ИИ с Anthropic и Google
OpenAI уже несколько недель ведёт переговоры по безопасности искусственного интеллекта с конкурентами — Anthropic и Google DeepMind. Об этом во вторник сообщил журналистам Крис Лехане, руководитель отдела глобальной политики OpenAI, находящийся в Вашингтоне для взаимодействия с законодателями по теме катастрофических рисков ИИ. Информацию первым опубликовал Bloomberg. Об этом пишет издание RuSamara.
Переговоры начались после эссе главы Anthropic Дарио Амодеи, опубликованного в субботу, в котором он призвал отрасль объединиться для замедления развития передовых ИИ-технологий. Обращение поддержали руководители ведущих компаний, включая Сэма Альтмана из OpenAI, Демиса Хассабиса из Google и Илона Маска. Альтман заявил, что OpenAI допустит в компанию сторонних оценщиков для контроля безопасности.
Лехане подтвердил, что три компании обсуждают вопросы безопасности, однако, по его словам, им не требуется государственное исключение из антимонопольного законодательства, которое предложил Амодеи. Некоторые эксперты, включая Альтмана, отмечали, что координация может быть расценена как подавление конкуренции.
Ранее The Information сообщила, что компании работают над созданием органа по стандартизации в сфере ИИ. Альтман намекнул, что это должно произойти без поддержки американского правительства. В июле Хассабис призывал США создать надзорный орган для проверки передовых моделей, но президент Трамп отверг опасения, назвав их обманом, а его советник Дэвид Сакс считает страхи преувеличенными.
На встрече во вторник Лехане также заявил, что OpenAI поддерживает законопроект FRONTIER Act, обязывающий лаборатории допускать независимых проверяющих для контроля безопасной разработки моделей. TechCrunch обратился за комментариями к Anthropic, Google и OpenAI.
