Тренинг
Spring AI для интеграции LLM в Spring Boot приложения
Как Java разработчик с опытом в Spring Boot стеке, вы возможно задумывались об интеграции LLM в свои сервисы или о разработке своего небольшого агента для конкретной практической задачи. Но основная экосистема вокруг LLM построена с использованием Python и это сразу выбивает из зоны комфорта. Ведь необходимо не только изучить новый язык программирования, но еще и проникнуться новыми парадигмами разработки и поддержки приложений. Теперь это не проблема! В мире Java есть 2 достаточно зрелых решения, которые позволяют полноценно интегрировать LLM в существующие приложения или писать новые. Речь про LangChain4j и Spring AI. На этом практическом тренинге мы разберемся как разрабатывать LLM фичи в привычном Spring Boot стиле.
Цели и задачи тренинга
- рассмотреть основные возможности LLM и механизмы интеграции в приложения через API;
- на практических примерах научиться полноценно интегрировать LLM в существующие Spring Boot приложения;
- получить представление о разнообразных инструментах для расширения возможностей LLM и протоколе MCP;
- научиться оптимизировать свои интеграции с точки зрения стоимости и скорости работы.
- Целевая аудитория
- Java разработчики, архитекторы, технические лидеры
- Стоимость
- 450 $за участника
- Дата и время
- 5 модулей по 3 часа
Детальная программа
Часть 1
- Generative AI и архитектура Transformer.
- Принципы работы LLM и основные этапы ее обучения.
- Возможности и ограничения LLM.
- Доступные LLM на рынке и их классификация.
- Обзор моделей от OpenAI и варианты их хостинга.
- Регистрация аккаунта и использование песочницы.
- Сравнение с моделями от Anthropic.
- Разворачивание моделей на Amazon Bedrock.
Часть 2
- Основы промпт инжиниринга.
- Принципы использования и основные возможности OpenAI API.
- Знакомство со Spring AI и LangChain4j.
- Краткий обзор основных фичей.
- Интеграция в режиме чата.
- Использование шаблонов промптов.
Часть 3
- Использование структурных ответов и объектов.
- Настройка памяти, различные режимы памяти.
- Реализация персистентной памяти.
- RAG для добавления приватных знаний в контекст.
- Embedding и интеграция с различными векторными хранилищами.
- Различные стратегии RAG.
Часть 4
- Добавление инструментов.
- Существующие инструменты и их интеграция.
- Протокол MCP и его преимущества.
- Интеграция с существующими MCP серверами.
- Реализация собственного MCP сервера.
Часть 5
- Мониторинг интеграции с LLM.
- Тестирование интеграции с LLM (локальное и полноценное).
- Оценка качества работы LLM для конкретных кейсов.
- Оптимизация интеграции по стоимости и скорости работы.
История проведения
- 22 сентября - 1 октября, 2025онлайн5 занятий в Zoom по понедельникам, средам и пятницам (16:00-19:00, Киев).