Как построить пайплайн RAG с использованием LLamaIndex

RAG (Retrieval Augmented Generation) — это подход, который дополняет большие языковые модели с помощью обогащения контекста пользовательскими данными. Он сочетает в себе процесс извлечения информации из баз данных (как правило, векторных) с последующей генерацией текста. Это позволяет моделям предоставлять ответы, основанные на данных, которые не были им видны в процессе обучения, но есть в базе данных.

Как и в любой сложной системе, есть ключевые моменты, которые нужно и важно учитывать при построении. Во время доклада расскажем, что требуется, чтобы создать надежный конвейер RAG. Обсудим основные моменты, которые помогут лучше понять концепцию дополненной поисковой генерации на примере чат-бота для технической поддержки.