Как организовать масштабируемый ресерч-кластер для более чем 600 дата-сайентистов с помощью JupyterHub в Kubernetes

Расскажем, как в Wildberries реализована ресерч-платформа на базе JupyterHub и Kubernetes для более чем 600 дата-сайентистов, решающих задачи в таких областях, как CV, NLP, OCR, рекомендации. Поделимся опытом интеграции с Keycloak, Teleport, Hadoop и Spark, организацией персистентного хранения данных на CephFS, управлением ресурсами (GPU/CPU) с учетом активности пользователей и обеспечением SLA для критически важных задач. Кроме этого, обсудим безопасность Docker в Kubernetes, боттлнеки масштабирования JupyterHub и практические решения для эффективной работы команд в условиях высокой нагрузки.

Будет полезно MLE, DS-специалистам, MLOps и DevOps, стремящимся создать надежную и удобную ML-инфраструктуру. И всем, кто в своей работе сталкивается с проблемами масштабирования JupyterHub и хочет узнать о проверенных решениях для эффективного и безопасного управления ресурсами и доступом в условиях высокой нагрузки.