echarlaix/distilbert-base-uncased-distilled-squad-openvino
echarlaix
Pregunta y respuesta
Este modelo se convirtió a OpenVINO desde distilbert/distilbert-base-uncased-distilled-squad usando optimum-intel a través del espacio de exportación. Es un modelo de Transformers destinado para responder preguntas, afinado en el dataset SQuAD en inglés. El modelo soporta endpoints de inferencia dedicados.
Como usar
Primero asegúrate de tener instalado optimum-intel:
pip install optimum[openvino]
Para cargar tu modelo puedes hacer lo siguiente:
from optimum.intel import OVModelForQuestionAnswering
model_id = "echarlaix/distilbert-base-uncased-distilled-squad-openvino"
model = OVModelForQuestionAnswering.from_pretrained(model_id)
Este modelo no tiene suficiente actividad para ser desplegado en Inference API (sin servidor) aún. Aumenta su visibilidad social y vuelve a comprobar más tarde, o despliega en Endpoints de Inferencia (dedicados) en su lugar.
Funcionalidades
- Respuestas a preguntas
- Basado en Transformers
- Compatibilidad con OpenVINO
- Modelos de referencia y transferencias
Casos de uso
- Generación de respuestas a preguntas
- Aplicaciones de atención al cliente
- Asistentes virtuales
- Búsqueda de información