Статті
Локальні LLM: Ollama, llama.cpp і квантизація
Як запустити мовну модель на своєму ноутбуці чи сервері, скільки для цього потрібно пам'яті і що насправді означають позначки Q4_K_M та Q8_0.
Як тестувати LLM-застосунки: evals, золоті набори і LLM-as-a-judge
Юніт-тести не впораються з недетермінованими відповідями. Розбираємо, як побудувати оцінювання якості LLM-фіч: від набору прикладів до автоматичних перевірок у CI.
AI-агенти: tool calling, цикл агента і MCP
Чим агент відрізняється від чат-бота, як влаштований виклик інструментів, навіщо потрібен Model Context Protocol і як не дати агенту наробити шкоди.
Prompt engineering без магії: техніки, що реально працюють
Замість «чарівних фраз» — інженерний підхід до промптів: чітке завдання, контекст, приклади, структурований вивід і перевірка на наборі тестів.
RAG на практиці: чанкінг, ембеддинги та векторний пошук
Як навчити LLM відповідати за вашими документами: з чого складається RAG-конвеєр, як різати тексти на чанки і чому гібридний пошук майже завжди кращий за чисто векторний.
Як працюють LLM: токени, контекстне вікно і температура
Мінімум теорії, без якого не вийде впевнено працювати з мовними моделями: що таке токен, чому модель «забуває» і як параметри генерації змінюють відповідь.