Configurar los ajustes de la IA

La configuración le permite controlar qué componentes del servidor de modelo de IA están habilitados, dónde se descargarán los modelos, qué modelos están precargados y varias configuraciones de RAG y modelos que mejoran la comunicación del modelo de IA.

Para modificar la configuración:

1. Haga clic en la pestaña Servicios de IA > Configuración.

2. Haga cambios en cualquiera de las siguientes opciones:

   • Servicios: controlar los servicios que proporciona el servidor de modelos.

     • Incrustación

     • Generación: para la generación de texto

     • RAG

     • Adaptación

       Nota  Esta opción solo está disponible para sistemas con hardware que admita modelos de ajuste preciso.

     • Generación de subtítulos de imágenes

   • Configuración del servidor: configura cómo funciona el servidor modelo.

     • Exigir clave API para el acceso

     • Precargar modelos: cargar los modelos especificados en la sección Modelos precargados

     • Cargar modelos anteriores: cargar los modelos previamente cargados antes del cierre del servidor de modelo de IA

     • Registrar uso de token

     • Registrar indicaciones y respuestas del modelo

   • Modelos precargados: controla qué modelos cargar cuando se inicia el servidor de modelos.

     • Modelo de incrustación precargado

     • Modelo de generación de texto precargado

   • Configuración de RAG: opciones de control para la generación aumentada por recuperación (RAG) en el servidor del modelo.

     • Utilice el umbral de similitud de coseno para los resultados de RAG.

     • Umbral de similitud del coseno para los resultados de RAG

       Nota  Esta opción no se muestra hasta que habilite Utilizar el umbral de similitud del coseno para los resultados de RAG.

     • Número de resultados de alto rango para el resumen de RAG

     • Ruta de caché de RAG

     • Utilizar incrustaciones de OpenAI

     • Clave API de OpenAI para RAG: introduzca una clave API de OpenAI para acceder a un recurso RAG de OpenAI

       Nota  Esta opción no se muestra hasta que habilite Modelo de incrustaciones de OpenAI para RAG.

     • Modelo de incrustaciones de OpenAI para RAG

     • Tamaño del lote para crear incrustaciones RAG

     • Número de tokens por fragmento de texto: tamaño predeterminado de nuevos trozos de texto al añadir texto o archivos a un espacio RAG; para cambiar el tamaño de los fragmentos existentes, debe eliminar y recrear el espacio RAG, y luego añadir los datos de nuevo.

     • Sincronizar RAG: el botón le da acceso a la configuración de la sincronización de RAG; consulte Realizar sincronización de RAG

     Nota  Debe hacer clic en Mostrar configuración avanzada para ver esta sección.

   • Configuración de ajuste preciso: opciones de control para modelos de ajuste preciso.

     • Indicación del sistema para el ajuste preciso

     Nota  Esta sección solo está disponible para sistemas con hardware que admita modelos de ajuste preciso. Debe habilitar la opción Ajuste preciso y hacer clic en Mostrar configuración avanzada para ver esta sección.