Технический директор Palantir Шьям Шанкар предъявил военному заказчику впечатляющий расчёт: план 1000 ударов н…

Технический директор Palantir Шьям Шанкар предъявил военному заказчику впечатляющий расчёт: план 1000 ударов на сутки, который 50 человек готовили 2 недели, с ИИ способен составить 1 человек за 4 часа. В интервью CBS он объяснял этим преимущество американских военных в войне против Ирана. Сокращение штабной работы до размеров одной смены звучит как достижение промышленной автоматизации. Продукцией в данном случае становятся решения о применении силы. Военная ценность такого ускорения вполне определённа. Командование получает подготовленный план раньше и может чаще пересматривать его по новым сведениям. При этом исполнение зависит от доступных сил и средств. Штабное ускорение принесёт наибольшую пользу, если задержка возникала при подготовке решений. Когда задерживает следующий участок работы, быстрый выпуск предложений увеличивает очередь перед ним. Объём заявленной экономии требует точного описания самой операции. Шанкар привёл сравнение без опубликованной методики измерения. Если 1 специалист должен за 4 часа лично просмотреть все 1000 позиций, средний бюджет внимания составит 14,4 секунды на каждую. Это условный расчёт по его цифрам. Другие сотрудники могут проверять материалы параллельно или после составления плана. Их участие следует учитывать в общей трудоёмкости: обещание заменить группу человеком за терминалом зависит от того, сколько людей осталось вне кадра. Скорость меняет и цену остаточной ошибки. При сопоставимых заданиях удвоение числа предложений с прежней долей ошибочных удвоит их количество. Сохранение прежнего количества требует снизить эту долю вдвое. Такой расчёт относится к выходу программы, он ничего не говорит о числе состоявшихся ударов или жертв. Фактическая доля ошибок Maven в сравнении Шанкара не раскрыта. Поэтому даже улучшение точности способно сопровождаться ростом числа неверных предложений, если выпуск растёт быстрее. Проверка должна выдерживать и ненадёжность исходных сведений. Несколько программных проходов по одному ошибочному сообщению могут многократно одобрить одну ошибку. Новое основание появляется при независимом подтверждении. Национальный институт стандартов и технологий США в добровольном руководстве по рискам ИИ связывает оценку точности с реалистичными испытаниями и условиями применения. Отчёт GAO о закупках ИИ описывает отдельный принцип независимой оценки: испытательные данные заказчика должны быть недоступны поставщику заранее. Иначе продавец может блестяще сдать экзамен по уже знакомым вопросам. У Maven эта требовательность появилась вслед за спешкой. Американская Счётная палата GAO 13 апреля сообщила: первоначально программу финансировали без достаточно определённых требований, торопясь получить новые возможности. Заказчику оказалось трудно требовать от разработчиков обещанные результаты. Последующие договоры стали дополнять показателями качества моделей. Этот опыт объясняет, почему телевизионную цифру производительности приходится переводить в проверяемые условия приёмки. Масштаб этих условий уже выходит за рамки отдельного проекта. По письму от 9 марта, опубликованному Reuters, заместитель министра обороны США Стив Файнберг распорядился сделать Maven постоянной программой закупок. Намерение закрепить продукт в армии означает, что удачные решения и пропущенные ошибки будут тиражироваться вместе с ним. Пентагону придётся оплачивать и организовывать проверку в том темпе, который он покупает у Palantir. У компании появляется соблазнительная единица продажи — часы, выигранные штабом. У заказчика остаётся более трудная единица приёмки — обоснованное решение при возросшем потоке предложений. Если Пентагон сохранит людям время на проверку и право отклонять сомнительный результат, ускорение даст им больше свободы действий. Если весь выигрыш уйдёт в объём, объявленное Шанкаром преимущество поставит военных в зависимость от темпа, который задаёт программа. /// ПолитДоклад