ИИ пишет код, который программисты больше не понимают — даже инженеры OpenAI теряются
- Джереми Никсон говорит, что программисты всё чаще не понимают код языковой модели и вместо создания продуктов присматривают за ней.
- По словам Джордана Наноса, инженеры OpenAI не понимали код GPU-ядер, хотя те корректно работали.
- По данным Undo, 35% ИИ-кода попадает в продакшен без полного понимания инженерами; 94% разработчиков сталкивались с этим за полгода.
Почему это важно: Ошибки ИИ-кода уже приводили к сбоям, нарушившим обработку заказов Amazon.
Искусственный интеллект всё чаще пишет рабочий код, который не способны осмыслить даже опытные инженеры. Основатель компании Infinity Джереми Никсон рассказал Business Insider, что программисты перестают понимать, что именно собирает языковая модель, а их роль смещается от создания продуктов к «присмотру» за нейросетью. Проблема оказалась глубже, чем кажется: исследователи фиксируют когнитивный спад и атрофию навыков у специалистов, которые перестают писать код вручную и не осваивают умения, нужные для проектирования крупных систем.
Яркий пример пришёл из самой OpenAI. Технический сотрудник SemiAnalysis Джордан Нанос рассказал, что инженеры OpenAI, читая код GPU-ядра для оптимизации, признавались: они не понимают, что этот код делает. «Можно идти строка за строкой — и везде «нет, нет, нет», — описал он. — ИИ понимает, ИИ тестирует, а ты видишь результат. Но он выдаёт корректные ядра, которые отлично работают». По мнению Наноса, это не некомпетентность, а смена парадигмы: разработчик задаёт архитектуру и критерии приёмки, а нейросети отдают всё остальное.
Оборотная сторона — ошибки и галлюцинации, которые проскальзывают в продакшен. Amazon ранее в этом году ввела 90-дневный «тест безопасности кода» после серии сбоев, нарушивших обработку заказов. Хотя компания отрицала вину ИИ, внутренние логи и заметки показали обеспокоенность менеджеров «высоким радиусом поражения изменений, созданных с помощью ИИ». Согласно аналитике компании Undo, 35% сгенерированного нейросетями кода уходит в промышленную среду без полного понимания инженерами, 29% разработчиков сообщают о падении производительности из-за необходимости «распутывать ИИ-код» несколько раз в месяц, а 94% сталкивались с такой ситуацией минимум однажды за полгода.
Пока оптимисты видят в этом естественную эволюцию профессии, критики указывают на тревожный парадокс: индустрия растит поколение инженеров, которые не понимают код, от которого зависит всё более цифровой мир.
© iXBT
