Джордж Хотц, знаменитый взломщик первого iPhone и PlayStation 3, выразил серьёзные опасения по поводу массового внедрения ИИ-агентов в программирование. В опубликованном недавно блоге он назвал этот тренд одной из самых дорогостоящих ошибок в истории разработки ПО. Хотз утверждает, что менее опытные инженеры, в отличие от топовых специалистов, не способны выявлять и исправлять ошибки, которые ИИ создаёт в коде — а таких инженеров в разы больше. В результате общая средняя качество программного обеспечения заметно снижается.
Хотз провёл полгода, используя ИИ-агентов в реальных проектах, включая работу с Tinygrad и реверс-инжиниринг прошивки USB-PCIe-чипа. Он отмечает, что ИИ-агенты часто дают иллюзию прогресса, но без должной проверки создают накопленную массу ошибок, которые замечают лишь более опытные разработчики. В то время как крупные компании активно продвигают эти технологии, Хотз предостерегает, что последствия могут серьезно навредить качеству софта.
Этот взгляд резко контрастирует с мнением Андрея Карпаты — одного из ведущих исследователей в области ИИ, недавно присоединившегося к Anthropic. Карпаты уверен, что ИИ-агенты уже меняют процесс разработки и будут формировать будущее индустрии. В то время как Hotz стоит на позиции скептиков вроде Яна ЛеКуна и Гэри Маркуса, подчеркивающих, что языковые модели лишь повторяют паттерны, без настоящего осмысления новых задач.
Дебаты между такими авторитетами отражают глубокие разногласия в индустрии. Пока одни видят в ИИ инструмент для роста эффективности, другие предупреждают о рисках ухудшения качества кода из-за массового и поверхностного использования агентов. В любом случае, в ближайшие годы разработка с ИИ обещает серьёзные изменения и важные уроки для всего технологического сообщества.