Crear modelos de IA de ajuste preciso

La pestaña Modelos de ajuste preciso permite crear modelos ajustados a partir de modelos descargados que luego se pueden cargar y usar para la generación de texto. Se pueden crear múltiples modelos con ajuste preciso, pero solo se puede cargar una generación de texto en la memoria para su uso en un momento dado.

Importante  Primero debe habilitar el servidor de modelos y la opción de ajuste preciso para que la pestaña Modelos de ajuste preciso esté disponible. Algunos modelos requieren que se incluya un token Hugging Face en la pestaña Model Server (Servidor de modelos) para descargar el modelo. Consulte Iniciar, detener y actualizar el servidor de modelo de IA y Configurar los ajustes de la IA.

Para crear un modelo de ajuste preciso:

  1. Haga clic en la pestaña Servicios de IA > Modelos de ajuste preciso.

  2. Haga clic en Crear modelo de ajuste preciso.

  3. En el cuadro de diálogo Crear un modelo de ajuste preciso, haga clic en el botón Explorar y, a continuación, busque el archivo JSON que contiene los datos de entrenamiento.

    Cada línea del archivo JSONL de datos de entrenamiento debe contener un ejemplo de entrada del usuario y la respuesta válida a la entrada. Por ejemplo:

    Copiar 
    {"messages":[{"content":"Indicación del sistema","role":"system"},{"content":"Datos de usuario de ejemplo","role":"user"},{"content":"Salida del sistema de ejemplo tras procesar los datos del usuario"}]}
    {"messages":[{"content":"sys.123","role":"system"},{"content":"usr.234","role":"user"},{"content":"ast.345","role":"assistant"}]}
    {"messages":[{"content":"sys.456","role":"system"},{"content":"usr.567","role":"user"},{"content":"ast.678","role":"assistant"}]}

  4. En el cuadro de diálogo Crear un modelo de ajuste preciso, introduzca la siguiente información:

    • Nombre del modelo de ajuste preciso: el nombre del modelo que desea utilizar para las conexiones de cliente. El servidor del modelo de IA antepondrá "fm-mlx-" al nombre especificado, por lo que el nombre real del modelo de ajuste preciso será "fm-mlx-<nombre_especificado>".

    • Modelo base: seleccione el modelo que desea ajustar.

      Nota  Los modelos base deben ser modelos de generación de texto que ya estén descargados y reconocidos.

    • Número de iteraciones: el número de iteraciones de entrenamiento. Cuantas más iteraciones se establezcan, más memoria y más tiempo para procesar serán necesarios.

    • Capas LoRA: el número de capas de adaptación de bajo rango (LoRA). Cuantas más capas se establezcan, más memoria y tiempo serán necesarios.

    • Tamaño de lote: el número de ejemplos de entrenamiento para entrenar el modelo que se usan a la vez. Cuanto mayor sea el tamaño del lote, más memoria se requerirá, aunque el entrenamiento puede completarse más rápidamente.

  5. Haga clic en Crear modelo.