Очередной повод пересмотреть ИИ-политику компании.

Очередной повод пересмотреть ИИ-политику компании. Или создать её, если вы ещё этого не сделали. Исследователи из Стэнфорда проанализировали почти 250 000 реальных диалогов с Claude. В 56% из них пользователи поручали ИИ задачи с серьёзными последствиями. К этой категории задач авторы исследования отнесли случаи, когда результат мог повлиять на других людей, а ошибку было сложно исправить. Причём чаще всего это были рабочие задачи. Такое активное использование ИИ сотрудниками несёт риски для компаний: вместе с запросом в сервис могут попасть конфиденциальные сведения. Поэтому важно заранее определить правила для команды. Что закрепить в политике в первую очередь : ➡️ Разрешённые сервисы. Укажите, какими ИИ-сервисами можно пользоваться, а какие нельзя открывать с рабочих устройств и корпоративных аккаунтов. ➡️ Передача данных. Определите, какую информацию можно загружать в ИИ. Например, можно разрешить работу с открытыми данными и обезличенными примерами, но запретить загружать резюме с контактами, сведения о зарплатах и результаты оценки сотрудников. ➡️ Проверка результата. Определите, в каких задачах результат ИИ нужно перепроверять каждый раз, а где достаточно регулярного выборочного контроля. Что добавить по мере развития ИИ-политики : ➡️ Оценка рисков перед запуском. Прежде чем передавать ИИ новую задачу, оцените последствия возможной ошибки: на кого она повлияет, можно ли будет исправить результат и какие данные использует система. Чем серьёзнее последствия, тем строже должны быть условия запуска. ➡️ Контроль качества. Определите, как проверять новые сценарии на ошибки, систематические искажения и риск раскрытия данных. Для важных задач можно фиксировать, какой сервис использовали, на основе каких данных получили результат и кто его проверил. ➡️ Действия при сбоях. Сотрудники должны знать, куда сообщить об ошибке или возможной утечке, кто разберёт ситуацию и в каких случаях использование инструмента нужно приостановить. После таких случаев правила стоит пересматривать, а сотрудников — знакомить с изменениями. В вашей компании уже есть ИИ-политика? ❤️ — да, уже сформулировали правила 🔥 — сейчас формируем или обновляем 👀 — пока нет