AI Engineering

• Що таке AI engineering
• Практичні кейси використання фундаментальних моделей
• Стек AI-інженерії

• Навчальні дані, training, post-training та fine-tuning: для чого потрібен кожен етап
• Архітектура моделі та її розмір
• Семплінг і його вплив на результати
• Спеціалізовані моделі: coding, обробка зображень, генерація аудіо та відео
• On-device та малі (mini) моделі 

Практика: 
Запуск і використання локальних моделей для різних кейсів: coding, генерація зображень, speech-to-text

• Різниця між zero-shot та few-shot prompting
• Оптимізація промптів під конкретну задачу
• CoT prompting і використання моделей для reasoning
• Як писати промпти, щоб зменшити галюцинації в LLM
• Ризики безпеки та способи їх мінімізації
• Версіонування та тестування промптів

Практика: 
Побудова пайплайну для екстракції структурованих даних із текстових файлів

• Імовірнісна природа LLM
• Написання scoring functions для AI-рішень
• LLM-as-a-judge: використання моделей для оцінювання результатів
• Побудова комплексного пайплайну оцінювання як частини CI/CD

Практика:
Побудова пайплайну для оцінки роботи AI-рішення. Підготовка тестового набору даних і дизайн функцій оцінювання.

• Поняття та базові принципи
• Пошук за схожістю, кластеризація, semantic та hybrid search, reranking
• Стратегії chunking
• Ембединги для тексту, зображень, аудіо, відео та мультимодальні ембединги
• Практичні кейси: нормалізація та дедуплікація

Практика: 
Векторизація даних. Пошук за схожістю з урахуванням контексту, нормалізація та дедуплікація.

• Що таке RAG і де він використовується в індустрії
• Чому ми використовуємо RAG, а не тренуємо моделі?
• Архітектура RAG: retrieval-алгоритми та їх оптимізація, формування відповідей
• Контекст і памʼять: ключові речі для побудови ефективних RAG-рішень

Практика: 
Cтворення чат-бота для відповідей на запитання з власних (внутрішніх) даних. Побудова RAG для великих обʼємів даних, коли неможливо вмістити всю інформацію в context window.

• MCPs та tool calling
• Агентні фреймворки
• Agentic RAG
• Проєктування надійних AI-агентів
• Дизайн-патерни для агентів
• Context engineering і керування памʼяттю для агентів

Практика: 
Створення рішення з використанням agent framework. Планування та виклик тулів. Agentic RAG. Використання user feedback.

• Coding-агенти: хайп чи робочий інструмент
• АІ-асистенти для повного циклу розробки: від роботи над ідеєю до деплою в прод
• Cursor, Claude, Cline та інші популярні інструменти
• MCP-сервери, Skills та їх інтеграція в процес розробки

Практика: 
Створення застосунку цілковито з використанням coding-агента. Підключення MCP-серверів і Skills для розширення можливостей агентів.

• Вартість AI-рішення: як рахувати витрати
• Best practices: коли не варто використовувати LLM, RAG та агентів
• Питання продуктивності у взаємодії з LLM та агентами
• Робота з безпекою та потенційно небезпечними діями AI-агентів: guardrails, sandboxing, manual judgment, feedback loop, checkpoints
• Observability для AI-застосунку

Практика: 
Робота з LLMOps-системами, оцінка швидкодії і вартості використання LLM

• Презентація фінального AI-асистента
• Розбір важливих технічних аспектів, варіанти для покращення точності відповідей
• Розбір архітектури та як вона впливає на вартість рішення
• Обговорення наступних кроків для покращення рішення і впровадження у бізнес-процеси