Тот же промпт, а токенов вдвое меньше
Тот же промпт, а токенов вдвое меньше
😏
Когда модель получает на вход большую кодовую базу, она часто путается. Обычно в такой ситуации правят промпт или берут модель покруче, но мы нашли более простое решение — якорную разметку.
Почему XML держит длинный контекст, а JSON на нём деградирует, и что такое якоря внимания — рассказал
🧠
Максим Антипов, руководитель
направления в управлении разработки для бизнес-решений на базе ИИ.
Проверяли находки с помощью AlfaGen — нашей платформы для работы с генеративными моделями.
🔗
В карточках собрали главное: сравнение форматов запросов, правила выбора разметки и первые результаты. А все детали —
в статье на Хабре
#полезное
#ии
❤
Подписывайтесь на
@alfadigital_jobs
Откликнуться в Telegram →
⚠️ Никогда не платите «за оформление» или «гарантию трудоустройства» — это признак мошенников. Работа ТРУ не несёт ответственности за содержание вакансии.