sentence-transformers/bert-large-nli-mean-tokens
sentence-transformers
Similitud de oraciones
Este es un modelo de Sentence-Transformers: convierte oraciones y párrafos en un espacio vectorial denso de 1024 dimensiones y se puede usar para tareas como la agrupación o la búsqueda semántica.
Como usar
# Uso con Sentence-Transformers
pip install -U sentence-transformers
from sentence_transformers import SentenceTransformer
sentences = ["This is an example sentence", "Each sentence is converted"]
model = SentenceTransformer('sentence-transformers/bert-large-nli-mean-tokens')
embeddings = model.encode(sentences)
print(embeddings)
# Uso con HuggingFace Transformers
from transformers import AutoTokenizer, AutoModel
import torch
def mean_pooling(model_output, attention_mask):
token_embeddings = model_output[0] # La primera parte del output del modelo contiene todos los embeddings de tokens
input_mask_expanded = attention_mask.unsqueeze(-1).expand(token_embeddings.size()).float()
return torch.sum(token_embeddings * input_mask_expanded, 1) / torch.clamp(input_mask_expanded.sum(1), min=1e-9)
sentences = ['This is an example sentence', 'Each sentence is converted']
tokenizer = AutoTokenizer.from_pretrained('sentence-transformers/bert-large-nli-mean-tokens')
model = AutoModel.from_pretrained('sentence-transformers/bert-large-nli-mean-tokens')
encoded_input = tokenizer(sentences, padding=True, truncation=True, return_tensors='pt')
with torch.no_grad():
model_output = model(**encoded_input)
sentence_embeddings = mean_pooling(model_output, encoded_input['attention_mask'])
print("Sentence embeddings:")
print(sentence_embeddings)
Funcionalidades
- Transforma oraciones y párrafos a un espacio vectorial de 1024 dimensiones
- Puede utilizarse para tareas de agrupación y búsqueda semántica
- Compatible con PyTorch, TensorFlow y JAX
- Licencia: Apache-2.0
Casos de uso
- Agrupación de oraciones
- Búsqueda semántica