Тренінг
Spring AI для інтеграції LLM в Spring Boot додатки
Як Java розробник з досвідом у Spring Boot стеку, ви, можливо, замислювалися про інтеграцію LLM у свої сервіси або про створення свого невеликого агента для конкретного практичного завдання. Але основна екосистема навколо LLM побудована за допомогою Python і це відразу вибиває із зони комфорту. Адже необхідно не тільки вивчити нову мову програмування, але ще й перейнятися новими парадигмами розробки та підтримки додатків. Тепер це не проблема! У світі Java є 2 досить зрілі рішення, які дозволяють повноцінно інтегрувати LLM в існуючі додатки або писати нові. Ідеться про LangChain4j та Spring AI. На цьому практичному тренінгу ми розберемося як розробляти LLM фічі у звичному Spring Boot стилі.
Цілі та завдання тренінгу
- розглянути основні можливості LLM та механізми інтеграції у додатки через API;
- на практичних прикладах навчитися повноцінно інтегрувати LLM у існуючі Spring Boot додатки;
- отримати уявлення про різноманітні інструменти для розширення можливостей LLM та протокол MCP;
- навчитися оптимізувати свої інтеграції з погляду вартості та швидкості роботи.
- Цільова аудиторія
- Java розробники, архітектори, технічні лідери
- Вартість
- 450 $за учасника
- Дата та час
- 5 модулів по 3 години
Детальна програма
Частина 1
- Generative AI та архітектура Transformer.
- Принципи роботи LLM та основні етапи її навчання.
- Можливості та обмеження LLM.
- Доступні LLM на ринку та їхня класифікація.
- Огляд моделей від OpenAI та варіанти їхнього хостингу.
- Реєстрація облікового запису та використання пісочниці.
- Порівняння з моделями від Anthropic.
- Розгортання моделей на Amazon Bedrock.
Частина 2
- Основи промпт інжинірингу.
- Принципи використання та основні можливості OpenAI API.
- Знайомство зі Spring AI та LangChain4j.
- Короткий огляд основних фіч.
- Інтеграція у режимі чату.
- Використання шаблонів промптів.
Частина 3
- Використання структурних відповідей та об’єктів.
- Налаштування пам’яті, різні режими пам’яті.
- Реалізація персистентної пам’яті.
- RAG для додавання приватних знань у контекст.
- Embedding та інтеграція з різними векторними сховищами.
- Різні стратегії RAG.
Частина 4
- Додавання інструментів.
- Існуючі інструменти та їх інтеграція.
- Протокол MCP та його переваги.
- Інтеграція з існуючими серверами MCP.
- Реалізація власного MCP-сервера.
Частина 5
- Моніторинг інтеграції з LLM.
- Тестування інтеграції з LLM (локальне та повноцінне).
- Оцінка якості роботи LLM для конкретних кейсів.
- Оптимізація інтеграції за вартістю та швидкістю роботи.
Історія проведення
- 22 вересня - 1 жовтня, 2025онлайн5 занять у Zoom по понеділках, середах та п'ятницях (16:00-19:00, Київ).