• Презентація фінального AI-асистента

• Розбір важливих технічних аспектів, варіанти для покращення точності відповідей

• Розбір архітектури та як вона впливає на вартість рішення

• Обговорення наступних кроків для покращення рішення і впровадження у бізнес-процеси

• Вартість AI-рішення: як рахувати витрати

• Best practices: коли не варто використовувати LLM, RAG та агентів

• Питання продуктивності у взаємодії з LLM та агентами

• Робота з безпекою та потенційно небезпечними діями AI-агентів: guardrails, sandboxing, manual judgment, feedback loop, checkpoints

• Observability для AI-застосунку

Практика: 

Робота з LLMOps-системами, оцінка швидкодії і вартості використання LLM

• Coding-агенти: хайп чи робочий інструмент

• АІ-асистенти для повного циклу розробки: від роботи над ідеєю до деплою в прод

• Cursor, Claude, Cline та інші популярні інструменти

• MCP-сервери, Skills та їх інтеграція в процес розробки

Практика: 

Створення застосунку цілковито з використанням coding-агента. Підключення MCP-серверів і Skills для розширення можливостей агентів.

• MCPs та tool calling

• Агентні фреймворки

• Agentic RAG

• Проєктування надійних AI-агентів

• Дизайн-патерни для агентів

• Context engineering і керування памʼяттю для агентів

Практика: 

Створення рішення з використанням agent framework. Планування та виклик тулів. Agentic RAG. Використання user feedback.

• Що таке RAG і де він використовується в індустрії

• Чому ми використовуємо RAG, а не тренуємо моделі?

• Архітектура RAG: retrieval-алгоритми та їх оптимізація, формування відповідей

• Контекст і памʼять: ключові речі для побудови ефективних RAG-рішень

Практика: 

Cтворення чат-бота для відповідей на запитання з власних (внутрішніх) даних. Побудова RAG для великих обʼємів даних, коли неможливо вмістити всю інформацію в context window.

• Поняття та базові принципи

• Пошук за схожістю, кластеризація, semantic та hybrid search, reranking

• Стратегії chunking

• Ембединги для тексту, зображень, аудіо, відео та мультимодальні ембединги

• Практичні кейси: нормалізація та дедуплікація

Практика: 

Векторизація даних. Пошук за схожістю з урахуванням контексту, нормалізація та дедуплікація.

• Імовірнісна природа LLM

• Написання scoring functions для AI-рішень

• LLM-as-a-judge: використання моделей для оцінювання результатів

• Побудова комплексного пайплайну оцінювання як частини CI/CD

Практика:

Побудова пайплайну для оцінки роботи AI-рішення. Підготовка тестового набору даних і дизайн функцій оцінювання.

• Різниця між zero-shot та few-shot prompting

• Оптимізація промптів під конкретну задачу

• CoT prompting і використання моделей для reasoning

• Як писати промпти, щоб зменшити галюцинації в LLM

• Ризики безпеки та способи їх мінімізації

• Версіонування та тестування промптів

Практика: 

Побудова пайплайну для екстракції структурованих даних із текстових файлів

• Навчальні дані, training, post-training та fine-tuning: для чого потрібен кожен етап

• Архітектура моделі та її розмір

• Семплінг і його вплив на результати

• Спеціалізовані моделі: coding, обробка зображень, генерація аудіо та відео

• On-device та малі (mini) моделі 

Практика: 

Запуск і використання локальних моделей для різних кейсів: coding, генерація зображень, speech-to-text

• Що таке AI engineering

• Практичні кейси використання фундаментальних моделей

• Стек AI-інженерії