Глава OpenAI Сэм Альтман призвал замедлить развитие искусственного интеллекта, чтобы повысить безопасность систем. По его словам, компании должны внедрять новые инструменты для оценки рисков и проводить тщательный мониторинг ещё на этапе обучения моделей, не дожидаясь ввода законодательства.
Альтман выделил два опасных сценария развития ИИ: потеря контроля над технологиями и концентрация огромного влияния в руках одной компании или человека, что может привести к дистопическим последствиям. Он подчеркнул важность того, чтобы ИИ всегда служил интересам человечества.
OpenAI уже разрабатывает специальные «кейсы безопасности» перед запуском сложных этапов обучения моделей и рассчитывает на сотрудничество индустрии по выработке единых стандартов безопасности и мониторинга. При этом Альтман приветствует инициативы государства в регулировании, но считает, что бизнес должен начать работать над этим независимо.
Ранее сообщалось о сбоях в кибербезопасности у OpenAI и Anthropic, что подтверждает необходимость усиления контроля над ИИ. В общей сложности призыв Альтмана направлен на осознанный и ответственный подход к стремительному развитию технологий, чтобы избежать рисков для общества.