COG

COG - це відкритий інструмент командного рядка, призначений для упаковки моделей машинного навчання (ML). Він пропонує однорідне середовище для розробки, тренування та співпраці над моделями ML. Після тренування модель може бути розповсюджена або розгорнута шляхом включення її до Docker-образу, який запускає стандартний HTTP API.

COG також має деякі особливості порівняно зі звичайним Docker:

• Автоматичний Docker-образ. Вам потрібно лише конфігураційний файл, щоб визначити середовище, і COG згенерує Dockerfile з потрібними налаштуваннями та кращими практиками.
• Автоматичний HTTP-сервіс. COG згенерує HTTP-сервіс з визначенням моделі, що усуває потребу в написанні сервера Flask.
• Немає більше проблем з CUDA. COG знає, які поєднання CUDA/cuDNN/PyTorch/Tensorflow/Python сумісні між собою, і зробить правильний вибір для вас.

Джерело: https://github.com/replicate/cog