AWS presenta las API de sesión de entrenamiento para SageMaker
Según AWS. Las nuevas API permiten a los desarrolladores crear bucles de entrenamiento personalizados sin gestionar infraestructura de GPU.
- • Permite libertad algorítmica para funciones de pérdida y aprendizaje por refuerzo.
- • El modelo de facturación por token elimina los costos de GPU en reposo.
- • Incluye un endpoint compatible con OpenAI para facilitar el muestreo.
Control algorítmico sin gestión de servidores
Las nuevas API de sesión de entrenamiento de Amazon SageMaker permiten a los usuarios ejecutar bucles de entrenamiento personalizados desde sus máquinas locales. AWS se encarga de la asignación de GPU, la carga de modelos y la recuperación de fallos, permitiendo que el desarrollador se enfoque exclusivamente en la lógica del algoritmo, el entrenamiento supervisado o el aprendizaje por refuerzo.
Eficiencia en costos y ejecución
A diferencia de la facturación por hora de GPU, este servicio cobra por token procesado. Esto permite que los ingenieros realicen tareas de computación local, como el procesamiento de recompensas o la carga de datos, sin incurrir en costos de infraestructura mientras el GPU no está realizando operaciones activas de gradiente o muestreo.
- 1. aws.amazon.comAbrir fuente