GIST-pequeño-Embedding-v0

El modelo puede ser cargado fácilmente usando la biblioteca Sentence Transformers.

import torch.nn.functional as F
from sentence_transformers import SentenceTransformer

revision = None # Reemplazar con la revisión específica para asegurar la reproducibilidad si el modelo es actualizado.

model = SentenceTransformer("avsolatorio/GIST-small-Embedding-v0", revision=revision)

texts = [
"Ilustración del modelo REaLTabFormer. El bloque izquierdo muestra el modelo de datos tabulares no relacionales usando GPT-2 con una cabeza LM causal. En contraste, el bloque derecho muestra cómo la tabla hija de un conjunto de datos relacional se modela usando un modelo de secuencia a secuencia (Seq2Seq). El modelo Seq2Seq utiliza las observaciones en la tabla padre para condicionar la generación de las observaciones en la tabla hija. El modelo GPT-2 entrenado en la tabla padre, con pesos congelados, también se usa como el codificador en el modelo Seq2Seq.",
"Predecir la movilidad humana tiene un valor práctico significativo, con aplicaciones que van desde mejorar la planificación de riesgos de desastres hasta simular la propagación de epidemias. En este artículo, presentamos el GeoFormer, un modelo transformador de solo decodificador adaptado desde la arquitectura GPT para prever la movilidad humana.",
"A medida que las economías del Sudeste Asiático continúan adoptando tecnologías digitales, los formuladores de políticas cada vez preguntan cómo preparar a la fuerza laboral para las demandas laborales emergentes. No obstante, se sabe poco sobre las habilidades que los trabajadores necesitan para adaptarse a estos cambios"
]

# Calcular embeddings
embeddings = model.encode(texts, convert_to_tensor=True)

# Calcular similitud de coseno para cada par de oraciones
scores = F.cosine_similarity(embeddings.unsqueeze(1), embeddings.unsqueeze(0), dim=-1)

print(scores.cpu().numpy())