chpr3019-Q8_0-GGUF
zachaman
Pregunta y respuesta
Este modelo es una versión afinada del phi-3-medium-instruct de Microsoft (contexto de 4k), creado utilizando QLoRA en un conjunto de datos privado de Ingeniería Química de 900k tokens sobre Operaciones Unitarias (temas que incluyen revisión de mecánica de fluidos, intercambio térmico, absorción, destilación y adsorción). El modelo GGUF fue convertido utilizando llama.cpp (en el espacio de HF 'gguf-my-repo'). Su uso previsto es para investigación y formación.
Como usar
Este modelo aún no tiene suficiente actividad para ser desplegado en Inference API (sin servidor). Aumente su visibilidad social y vuelva a verificar más tarde, o despliegue a Inference Endpoints (dedicados) en su lugar.
Funcionalidades
- versión afinada del phi-3-medium-instruct de Microsoft
- contexto de 4k
- creado utilizando QLoRA
- dataset de Ingeniería Química de 900k tokens
- convertido utilizando llama.cpp
Casos de uso
- Investigación
- Formación