Энди Конвински, сооснователь Databricks и Perplexity AI, поднял серьезную тему о безопасности ИИ на недавней встрече Open Frontier в Сан-Франциско. По его мнению, концентрация контроля над ИИ – сама по себе серьезный риск, который маскируется под заботу о безопасности. Он критикует практику ограничения доступа к передовым вычислительным ресурсам, считая, что это ведёт к монополизации и закрытию исследований.
Иллюстрацией этой проблемы служит недавний случай с Anthropic, который вскоре после запуска Claude Fable 5 попытался внедрить механизм самоцензуры модели против конкурентов, но быстро отказался от этой идеи под давлением сообщества. Конвински отмечает, что здесь не только ошибка Anthropic, но и сама концепция, когда корпорации принимают подобные решения в одиночку.
В поддержку своих взглядов Конвински приводит аналогии с фундаментальной инфраструктурой, такой как железные дороги или электричество, которая изменила общество и сосредоточилась в руках немногих. Он предлагает создавать открытые исследовательские платформы с мощными вычислительными ресурсами, доступными широкому кругу учёных, чтобы обеспечить свободу развития ИИ.
Эту точку зрения поддержал лауреат Тьюринговской премии Янн Лекун, бывший главный научный сотрудник Meta. В комментарии в X он сравнил текущую закрытость в ИИ с «медиевальным обскурантизмом», когда Османская империя более двухсот лет запрещала печатный станок для сохранения контроля над знанием. По его мнению, инфраструктура ИИ должна оставаться открытой и со временем превратится в общественное благо, а прибыль будет исходить из приложений, которые строятся на этой основе.
Лекун уже основал AMI Labs в Париже с миллиардным финансированием, чтобы реализовать видение открытых моделей и продолжить исследования без коммерческой срочности. Дискуссия вокруг концентрации власти и открытости в индустрии ИИ продолжает оставаться одной из главных тем технологического сообщества.