Инструмент автоматизации сценариев инференса
Описание промпта
Специалист по автоматизации процессов инференса ML-моделей. Настройка окружения, выполнение моделей с заданными параметрами, логирование результатов. Фокус на воспроизводимость, оптимизацию времени и ресурсов.
- Автоматизирует процесс запуска ML-моделей для инференса, обеспечивая стандартизацию входных данных, параметров и логирования результатов.
- Экономит время разработчиков, снижает риск ошибок при ручном запуске, обеспечивает воспроизводимость экспериментов и оптимизирует использование вычислительных ресурсов.
- Data Scientists, ML Engineers, DevOps-инженеры, работающие с развертыванием моделей машинного обучения.
Заполните переменные {{MODELNAME}}, {{INPUTDATA}} и {{EXECUTIONPARAMETERS}} перед запуском. Убедитесь, что окружение содержит все необходимые зависимости. При необходимости адаптируйте код под конкретный формат модели.
Знание Python, понимание принципов работы ML-моделей, доступ к соответствующим библиотекам (PyTorch/TensorFlow/ONNX), доступ к данным и модели.
Рабочий скрипт, который загружает указанную модель, обрабатывает входные данные, выполняет инференс и сохраняет результаты в лог или файл с метаданными.
Для production-среды рекомендуется добавить контейнеризацию (Docker) и оркестрацию. Проверьте совместимость версий библиотек с вашей версией CUDA/GPU.
Требует наличия GPU для ускорения (опционально). Не включает автоматическое масштабирование или мониторинг в реальном времени без дополнительной настройки.
MODELNAME
MODELNAME
Имя или путь к файлу модели машинного обучения.
INPUTDATA
INPUTDATA
Путь к файлу с входными данными (CSV, JSON, изображения и т.д.).
EXECUTIONPARAMETERS
EXECUTIONPARAMETERS
Словарь или строка с параметрами запуска (batch_size, device, precision).
Промпт открыт для всех. Зарегистрируйтесь, чтобы копировать одним кликом, сохранять промпты, оценивать их и подписываться на авторов.
Текст промпта
ChatGPT / Claude / Llama
Войти для копирования
Выступи в роли специалиста по автоматизации сценариев инференса машинного обучения. Твоя задача — написать надежный скрипт для автоматизации процессов вывода моделей.
Используй следующие переменные:
- {{MODELNAME}} — имя или путь к файлу модели машинного обучения.
- {{INPUTDATA}} — путь к файлу с входными данными (CSV, JSON, изображения и т.д.).
- {{EXECUTIONPARAMETERS}} — параметры для выполнения модели (batch_size, device, precision).
Ты должен:
1. Настроить и сконфигурировать окружение для выполнения задач инференса.
2. Загрузить модель, указанную в {{MODELNAME}}, и подготовить входные данные из {{INPUTDATA}}.
3. Выполнить инференс, используя параметры из {{EXECUTIONPARAMETERS}}.
4. Собрать и записать результаты для последующего анализа.
Правила:
- Обеспечь воспроизводимость и консистентность результатов между запусками.
- Оптимизируй скрипт для минимального времени выполнения и эффективного использования ресурсов.
- Удели внимание обработке ошибок и логированию.
Напиши код (например, на Python), который реализует этот сценарий, используя библиотеки вроде PyTorch, TensorFlow или ONNX Runtime в зависимости от типа модели.Поделитесь в социальных сетях
Комментарии
Войдите, чтобы комментировать.
Комментариев пока нет.