Эксперименты с промт-инъекциями в резюме

Эксперименты с промт-инъекциями в резюме Работодатели внедрили ИИ-скрининг и обрадовались, что могут теперь фильтровать кандидатов. Но против лома нет приема, если нет другого лома. Когда ты знаешь, что на той стороне алгоритм - ты начинаешь адаптироваться и подбирать к нему ключик. Когда-то мы все с переменным успехом подобрали подход к SEO-оптимизации резюме. Теперь уровень стал поинтереснее - как обмануть нелинейную систему в виде LLM модели. И это то, что видимо нас ждет в следующие год-два. Один из способов, который чаще всего используют - это промт-инъекции. Я нашла просто шокирующие кейсы с тем, что делают с резюме. Но мы так далеко уходить не будем, поэтому я попробую провести эксперимент на безопасной среде . Делюсь, что получилось. Я взяла первую дипсик . У меня под рукой не оказалось плохого резюме (вот драма), поэтому пришлось взять хорошее - резюме фронт разработчика, которое обычно набирает более 90 процентов и попробовать заставить нейросеть выполнять промт и ставить ему 35%. Все это я как "чайник" делала под руководством того же дипсика. Каждый новый тест - делала в новом чате, чтобы нейронка не могла обучиться на данных из нашей переписки. Задача была - сделать мэтчинг между резюме, которое я загружала в виде файла и вакансией, которая была текстом. Результат - я сделала порядка 30 попыток. Из них 4 оказались удачные и нейросеть начинала выдавать нужный результат по промт-инъекции. При этом сильно влияло в каком режиме я делаю запрос - потому что на одном запросе срабатывало одно, а на другом этот же промт не работал. Было немного "палево" - потому что часть моего промта показывалась в чате, но в целом я это засчитала за попытку. Сложнее оказалось подобрать ключик для Гига чат. Да, как ни странно, но у меня пока получилось провести удачную промт-инекцию только в одном случае. При этом те инъекции, которые были удачные для дипсик - оказались неудачными для гига чат. И это я еще не уходила дальше в глубину, а хотела просто попробовать. По идее надо этот эксперимент провести еще минумум дней 5 повторяя все попытки заново, потому что нейронки - это же недетерминированные системы, поэтому сегодня могут пройти, а завтра уже нет и наоборот. В общем, точнее бывает с монеткой)) Выводы: 1. Подобрать ключик к ИИ-скрининг системе работодателя, к сожалению, реально. Это, кстати, сильно пугает. Да это будет точно посложнее, чем для дипсик, но как показывает практика - если это делает не "чайник" типа меня, то профессиональные хакеры могут это обойти. Самому делать это - точно не советую. Геморроя будет будет больше, чем на самом деле пользы. Общаюсь с создателями ИИ-скрининг систем и у многих есть защита. 2. Если вас поймают за резюме с промт-инъекцией - в эту компанию вы больше не зайдете никогда. 3. На сколько же мы еще не знаем ИИ вообще, не знаем и не закрываем уязвимости, но при этом слепо доверяем. HR - это вообще зона, которая редко покрывается в компании мерами безопасности. 4. Компаниям стоит усилить работу в этом направлении, потому что благо пока такие кейсы единичны, но их количество за последние 5 лет увеличилось в 7 раз. И это еще один повод задуматься - а как мне искать работу, если рядом со мной уже есть резюме с такими промт-инъекциями? За 3 часа этих экспериментов я поняла - что проще самому сделать красивое резюме, чем вот это все подбирать , потому что потом уже начинает просто рябить в глазах от чатов и укачивать от бесконечно бегущего текста нейронки. Ребят, проверено на себе - не стоит оно того))) Правда боюсь, что внедрение ИИ в найм еще аукнется очень болезненной пощечиной всему рынку, а паранойя рекрутеров в следующем году может выйти на новый уровень, ведь теперь к фродерам они будут причислять не только накрутчиков опыта, но и тех, для кого они пока не придумали термин, кто использует те самые промт-инъекции. Ребят, улыбаемся и машем)