l3cube-pune/indic-sentence-bert-nli

Uso (Sentence-Transformers)

Usar este modelo se vuelve fácil cuando tienes instalado sentence-transformers:

pip install -U sentence-transformers

Entonces puedes usar el modelo así:

from sentence_transformers import SentenceTransformer
sentences = ["Esta es una oración de ejemplo", "Cada oración es convertida"]
modelo = SentenceTransformer('{MODEL_NAME}')
embeddings = model.encode(sentences)
print(embeddings)

Uso (HuggingFace Transformers)

Sin sentence-transformers, puedes usar el modelo así: Primero, pasas tu entrada a través del modelo transformer, luego tienes que aplicar la operación de agrupación correcta en la parte superior de las incrustaciones de palabras contextualizadas.

from transformers import AutoTokenizer, AutoModel
import torch

def mean_pooling(model_output, attention_mask):
 token_embeddings = model_output[0] # El primer elemento de model_output contiene todas las incrustaciones de tokens
 input_mask_expanded = attention_mask.unsqueeze(-1).expand(token_embeddings.size()).float()
 return torch.sum(token_embeddings * input_mask_expanded, 1) / torch.clamp(input_mask_expanded.sum(1), min=1e-9)

sentencias = ['Esta es una oración de ejemplo', 'Cada oración es convertida']

tokenizer = AutoTokenizer.from_pretrained('{MODEL_NAME}')
modelo = AutoModel.from_pretrained('{MODEL_NAME}')

encoded_input = tokenizer(sentencias, padding=True, truncation=True, return_tensors='pt')

with torch.no_grad():
 model_output = model(**encoded_input)

sentence_embeddings = mean_pooling(model_output, encoded_input['attention_mask'])

print("Incrustaciones de oraciones:")
print(sentence_embeddings)