Chatear con modelos de IA

La pestaña Chat le permite probar el chat con un modelo de generación de texto descargado mientras está en la Admin Console.

Importante  Primero debe habilitar el servidor de modelos para que la pestaña Chat disponible. Debe descargar un modelo de generación de texto antes de poder usar la función de chat. Debe habilitar y configurar RAG para usar la función RAG avanzada en una sesión de chat. Algunos modelos requieren que se incluya un token Hugging Face en la pestaña Model Server (Servidor de modelos) para descargar el modelo. Consulte Iniciar, detener y actualizar el servidor de modelo de IA.

Para chatear:

  1. Haga clic en la pestaña Servicios de IA > Chat.

  2. Introduzca texto en el cuadro de mensaje.

    Nota  Puede adjuntar o soltar imágenes en mensajes de chat para modelos multimodales compatibles.

  3. Pulse Intro o Volver, o haga clic en ➤.

Para usar RAG para una sesión de chat:

  1. Haga clic en la pestaña Servicios de IA > Chat.

  2. Haga clic en Configuración avanzada.

  3. Seleccione Habilitar RAG para habilitar la configuración.

  4. Introduzca la Clave API de RAG.

  5. Introduzca el Space ID de RAG.

  6. Introduzca una Plantilla de indicaciones de RAG descriptiva.

    Nota  La Plantilla de indicaciones de RAG es el texto de marcador de posición del cuadro de texto. Si las macros "{question}" y "{context}" no se especifican en la plantilla, se utiliza la plantilla predeterminada.

  7. (Opcional) Haga clic en Configuración avanzada para ocultar la configuración.

Para administrar el historial del chat:

  1. Haga clic en la pestaña Servicios de IA > Chat.

  2. Haga clic en el icono del historial de chat.

  3. Para iniciar un nuevo chat, haga clic en + Nuevo chat.

  4. Para volver a una sesión de chat anterior, haga clic en el chat en el Historial de chat.