Nomic-embed-text-v1.5-Embedding-GGUF
second-state
Similitud de oraciones
Nomic-embed-text-v1.5-Embedding-GGUF es un modelo original ejecutado con LlamaEdge y modelos cuantizados GGUF. El modelo está diseñado para la similitud de oraciones y es utilizado principalmente para la incrustación de texto. La versión de LlamaEdge compatible es la v0.12.3 o superior. El modelo está respaldado por la arquitectura nomic-bert.
Como usar
Para usar este modelo como servicio LlamaEdge:
wasmedge --dir.:. --nn-preload default:GGML:AUTO:nomic-embed-text-v1.5-f16.gguf \
llama-api-server.wasm \
--prompt-template embedding \
--ctx-size 768 \
--model-name nomic-embed-text-v1.5
Funcionalidades
- Similitud de oraciones
- Soporte para múltiples métodos de cuantización (Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_0, Q4_K_M, Q4_K_S, Q5_0, Q5_K_M, Q5_K_S, Q6_K, Q8_0, F16)
- Modos de calidad y tamaño ajustables
- Compatible con la arquitectura nomic-bert
- Disponible en múltiples tamaños y niveles de pérdida de calidad
Casos de uso
- Similitud de oraciones
- Incrustación de texto para aplicaciones como búsqueda semántica, agrupación de textos, y comparación de frases