Будущее без джунов может стать будущим без сеньоров

Будущее без джунов может стать будущим без сеньоров IEEE Spectrum пишет о том, что ИИ может автоматизировать не только работу, но и сам процесс формирования специалистов. Экспертиза не загружается в голову в готовом виде. Она возникает через простые задачи, неудачные сборки, долгую отладку и попытки понять, почему система неожиданно заработала. Если ИИ избавит начинающих инженеров от этого опыта, они смогут контролировать модель формально, но не приобретут интуиции, позволяющей заметить её уверенную и потенциально катастрофическую ошибку. Неэффективность по замыслу. Более десяти лет назад автор колонки руководил проектированием полностью цифровой системы управления для американской атомной электростанции. В нём использовался важный принцип: некоторые операции намеренно оставили ручными, хотя автоматика могла выполнять их сама. Оператор, который годами лишь наблюдает за автоматикой, постепенно теряет практические навыки и ясное представление о работе системы. Но автоматика возвращает ему управление именно тогда, когда сама столкнулась с необычной или опасной ситуацией. Поэтому ручные этапы были не техническим недочётом, а способом сохранять человеческую компетенцию. Другой урок дает катастрофа рейса Air France 447 в 2009 году. После того как датчики воздушной скорости начали выдавать противоречивые показания, автопилот отключился и передал управление экипажу. Митчелл описывает дальнейшее развитие событий как не только технический, но и «отказ компетенции» : пилоты не смогли правильно распознать сваливание на большой высоте и вручную вывести самолёт из ещё обратимой ситуации. В этом и состоит парадокс автоматизации: машина превосходит человека в штатных режимах, лишая его практики, но оставляет ему самые редкие и сложные случаи. Авиация не стала отказываться от автопилотов. Вместо этого FAA в 2017 году призвало авиакомпании поддерживать навыки ручного пилотирования, а некоторые перевозчики, как пишет Митчелл, стали поощрять ручное управление на отдельных этапах полёта в безопасных условиях. Небольшой проигрыш в эффективности оказался платой за сохранение способности действовать в критической ситуации. IEEE приводит несколько тревожных исследований Гарварда и Стенфорда, которые показывают сокращение занятости молодых специалистов (22-25 лет) выше 9% в профессиях, наиболее подверженных воздействию ИИ. Причём изменения происходят преимущественно через сокращение найма. Существенную часть падения найма джунов может объяснять не ИИ, а удалённая работа: начинающих сотрудников сложнее обучать на расстоянии: они меньше наблюдают за старшими коллегами, получают меньше неформальной обратной связи и дороже обходятся организации. Однако, эта оговорка не отменяет тезис Митчелла. ИИ может забирать задачи, на которых приобретается опыт, а удалёнка — ослаблять передачу опыта от старших к младшим. В обоих случаях под давлением оказывается один и тот же механизм ученичества. Митчелл предлагает создавать обязательные ручные этапы внутри процессов, в целом усиленных ИИ. Например, при обнаружении дефекта в критическом модуле джуниор сначала без ассистента должен воспроизвести ошибку, найти первопричину и написать тест. Только после собственной диагностики подключается модель: предлагает исправления, альтернативы и ищет похожие дефекты. Это не призыв отказаться от ИИ. Это предложение защищать некоторые виды «неэффективной» работы как критическую инфраструктуру. Иногда рутина это не издержка производства, а инвестиция в производство будущих экспертов.