– Ajustar Llama 3 con sus propios datos puede crear un modelo potente y personalizado para necesidades comerciales específicas
– Vertex AI proporciona opciones de ajuste, herramientas de evaluación y hardware/software de última generación para un ajuste y servicio eficientes.
– Model Garden ofrece una amplia gama de modelos propios, de terceros y abiertos para que los desarrolladores empresariales descubran, ajusten y administren modelos.
Ajustar un LLM general como Llama 3 con sus propios datos puede dar como resultado un modelo poderoso adaptado a necesidades comerciales específicas. Al utilizar Vertex AI, los desarrolladores tienen acceso a opciones de ajuste de última generación, incluido LoRA para ajuste supervisado, RLHF para aprendizaje por refuerzo y destilación. La evaluación de los modelos Llama sintonizados se puede realizar a través de cuadernos preconfigurados en Model Garden o con Auto SxS para una evaluación basada en modelos.
Vertex AI ofrece flexibilidad con aceleradores como TPU y GPU, y Cloud TPU v5e ahora está disponible para predicciones en línea. Los usuarios de PyTorch pueden utilizar el paquete Optimum-TPU para entrenar y servir Llama 3 en TPU. Funciones como Model Registry facilitan la gestión y el seguimiento de variantes de modelos y puntos finales, lo que permite la escalabilidad basada en necesidades específicas.
Con más de 130 modelos propios, de terceros y abiertos, Vertex AI Model Garden es la plataforma de referencia para que los desarrolladores empresariales descubran, ajusten y administren modelos. Los desarrolladores pueden acceder a los últimos modelos como Llama 3 y utilizar infraestructura y herramientas de primer nivel para crear agentes de IA generativos. Únase a Vertex AI en I/O el 14 de mayo para obtener más actualizaciones sobre Model Garden y comenzar a explorar las posibilidades con Llama 3.
