sentence-transformers/bert-large-nli-mean-tokens

sentence-transformers
Similitud de oraciones

Este es un modelo de Sentence-Transformers: convierte oraciones y párrafos en un espacio vectorial denso de 1024 dimensiones y se puede usar para tareas como la agrupación o la búsqueda semántica.

Como usar

# Uso con Sentence-Transformers
pip install -U sentence-transformers
from sentence_transformers import SentenceTransformer
sentences = ["This is an example sentence", "Each sentence is converted"]
model = SentenceTransformer('sentence-transformers/bert-large-nli-mean-tokens')
embeddings = model.encode(sentences)
print(embeddings)
# Uso con HuggingFace Transformers
from transformers import AutoTokenizer, AutoModel
import torch

def mean_pooling(model_output, attention_mask):
    token_embeddings = model_output[0]  # La primera parte del output del modelo contiene todos los embeddings de tokens
    input_mask_expanded = attention_mask.unsqueeze(-1).expand(token_embeddings.size()).float()
    return torch.sum(token_embeddings * input_mask_expanded, 1) / torch.clamp(input_mask_expanded.sum(1), min=1e-9)

sentences = ['This is an example sentence', 'Each sentence is converted']
tokenizer = AutoTokenizer.from_pretrained('sentence-transformers/bert-large-nli-mean-tokens')
model = AutoModel.from_pretrained('sentence-transformers/bert-large-nli-mean-tokens')
encoded_input = tokenizer(sentences, padding=True, truncation=True, return_tensors='pt')
with torch.no_grad():
    model_output = model(**encoded_input)
sentence_embeddings = mean_pooling(model_output, encoded_input['attention_mask'])
print("Sentence embeddings:")
print(sentence_embeddings)

Funcionalidades

Transforma oraciones y párrafos a un espacio vectorial de 1024 dimensiones
Puede utilizarse para tareas de agrupación y búsqueda semántica
Compatible con PyTorch, TensorFlow y JAX
Licencia: Apache-2.0

Casos de uso

Agrupación de oraciones
Búsqueda semántica