Minstral_pubmed_gguf

ThorBaller
Pregunta y respuesta

Este modelo es un transformador de Preguntas y Respuestas con arquitectura llama de precisión de 16 bits y un tamaño de 7.24B parámetros. Es adecuado para la generación de texto.

Como usar

Este modelo no tiene suficiente actividad para ser desplegado en la API de Inferencia (sin servidor) todavía. Aumente su visibilidad social y vuelva a comprobar más tarde, o despliegue en Endpoints de Inferencia (dedicado) en su lugar.

Funcionalidades

Modelo de Preguntas y Respuestas
Transformadores
Basado en GGUF
Arquitectura llama
Precisión de 16 bits (F16)
Tamaño de 7.24B parámetros

Casos de uso

Generación de texto
Resolución de preguntas y respuestas