core code helper

Питання: AI Engineer

Не виходить налаштувати, запустити чи зрозуміти? Запитайте — відповідають люди, які вже з цим стикались. Автор питання позначає найкращу відповідь галочкою.

0 голосів 1 відповідь 19 переглядів

Яку температуру ставити для LLM, яка класифікує звернення в підтримку?

Тестую фічу, де LLM розносить звернення клієнтів по категоріях (оплата, баг, побажання, інше). Розробники поставили temperature: 0.7 , і одне й те саме звернення іноді отримує різні категорії. З погляду QA це виглядає…

Олена Ковальчук ·
0 голосів 1 відповідь 11 переглядів

Як обрати розмір чанка для RAG по технічній документації?

Роблю RAG по внутрішній документації (Confluence, близько 3000 сторінок, багато таблиць і прикладів коду). Зараз ріжу текст по 1000 символів з перекриттям 200 — і відповіді часто «майже правильні»: модель бачить шматок…

Тарас Гнатюк ·