на системы искусственного интеллекта

Атаки на системы искусственного интеллекта смещаются с уровня кода на уровень данных . Вместо поиска уязвимостей в ИТ-инфраструктуре злоумышленники изменяют обучающие выборки — этот метод известен как отравление данных (Data Poisoning) ❗️ Внедрение скрытых дефектов происходит на этапе сбора данных, их разметки или при использовании сторонних решений на основе открытого исходного кода. В результате модель успешно проходит стандартные тесты, но гарантированно выдает предсказуемо ошибочные решения при промышленной эксплуатации. ⚡️ О методах противодействия состязательному машинному обучению рассказывает директор по искусственному интеллекту Лиги Цифровой Экономики Олег Белоусов: Универсального решения нет — нужна комбинация подходов в зависимости от задачи и ресурсов. Для защиты ИИ-систем эксперты Лиги применяют комплекс инструментов: от предварительной фильтрации данных и устойчивого обучения до отсечения уязвимых нейронов и детекции триггеров. Выбор конкретных методов зависит от критичности бизнес-процесса и баланса между безопасностью и сохранением точности алгоритмов. ⛓️ Подробный технический разбор методов отравления данных и способов борьбы с ними читайте в статье по ссылке Ставьте буст нашему каналу 🔥 Хабр | vc.ru | Вакансии | Стажировка | Чат-бот #ит #ЛигаЦифровойЭкономики #интересное #новости #новостиит