gte-Qwen2-1.5B-instruct-GGUF
gaianet
Similitud de oraciones
Este modelo es un transformer GGUF especializado en la generación de texto, la similaridad de oraciones y las inferencias de embeddings de texto. Originalmente desarrollado por Alibaba-NLP y gestionado por Gaianet, está cuantizado utilizando llama.cpp b3259 y tiene un tamaño de 1.78B parámetros. El modelo es ideal para varios tipos de transformación y generación de texto.
Como usar
Inicio rápido con gte-Qwen2-1.5B-instruct:
https://github.com/GaiaNet-AI/node-configs/blob/main/gte-Qwen2-1.5B-instruct/README.md
Personaliza tu nodo:
https://docs.gaianet.ai/node-guide/customize
Funcionalidades
- Similaridad de oraciones
- Transformers
- Generación de texto
- Inferencias de embeddings de texto
- Quantizado en múltiples formatos (2-bit, 3-bit, 4-bit, 5-bit, 6-bit, 8-bit, 16-bit)
Casos de uso
- Generación de texto a partir de prompts
- Inferencias de embeddings de texto para análisis de datos
- Medición de similaridad de oraciones
- Aplicaciones que utilizan transformers