paráfrasis-multilingüe-MiniLM-L12-v2-Q6_K-GGUF

armand01
Similitud de oraciones

Este modelo se convirtió al formato GGUF desde sentence-transformers/paráfrasis-multilingüe-MiniLM-L12-v2 utilizando llama.cpp a través del espacio GGUF-my-repo de ggml.ai. Consulte la tarjeta del modelo original para obtener más detalles sobre el modelo.

Como usar

Usar con llama.cpp

Instalar llama.cpp a través de brew.

brew install ggerganov/ggerganov/llama.cpp

Invocar el servidor de llama.cpp o la CLI.

CLI:

llama-cli --hf-repo armand01/paraphrase-multilingual-MiniLM-L12-v2-Q6_K-GGUF --model paraphrase-multilingual-minilm-l12-v2.Q6_K.gguf -p "El significado de la vida y el universo es"

Servidor:

llama-server --hf-repo armand01/paraphrase-multilingual-MiniLM-L12-v2-Q6_K-GGUF --model paraphrase-multilingual-minilm-l12-v2.Q6_K.gguf -c 2048

Nota: También puede usar este punto de control directamente a través de los pasos de uso listados en el repositorio Llama.cpp.

git clone https://github.com/ggerganov/llama.cpp && cd llama.cpp && make && ./main -m paraphrase-multilingual-minilm-l12-v2.Q6_K.gguf -n 128

Funcionalidades

Transformadores
50 idiomas
Extracción de características
llama-cpp
GGUF

Casos de uso

Similitud de oraciones