Доклад

От Text-to-SQL к Trusted Analytics: строим on-prem семантический слой для AI-агентов

  • AI агенты

LLM-модели уверенно галлюцинируют, когда им напрямую скармливают DDL таблиц и просят написать SQL для сложных бизнес-запросов. Они не понимают предметной области, запутываются в связях и умножают хаос. В результате «цифры на столе у директора не бьются». Семантический слой переводит LLM из роли генератора SQL в роль проводника, который детерминированно выбирает нужную метрику из реестра, и ошибиться ему становится негде.

Я сфокусируюсь на on-prem реальности, покажу, как скрестить open-source движок описания семантики MetricFlow с локальными open-source моделями. Вы узнаете:

  • Почему добавление «thinking-токенов» не помогает моделям перестать ошибаться.
  • Как устроен MetricFlow и стандарт описания семантического слоя OSI (Open Semantic Interchange).
  • Как написать обвязку для MetricFlow, обеспечить авторизацию, управление тысячами YAML-файлов.
  • Какое качество дают топовые модели с семантическим слоем и без него, какое качество дают open-source модели, почему «уместиться» в компактную open-source LLM с семантическим слоем надежнее и безопаснее.

Спикеры

Доклады