netcat420/MFANN3bv0.7.10-GGUF

netcat420

Clasificación de texto

Esta es una fusión de modelos de lenguaje preentrenados creada usando mergekit. El método de fusión utilizado fue el método TIES usando liminerity/Phigments12 como base. Este modelo se utiliza principalmente para la clasificación de texto.

Como usar

Para usar este modelo, se recomienda emplear las bibliotecas 'adapter-transformers' y 'llama-cpp-python'. La configuración YAML utilizada para producir este modelo es la siguiente:
models:
- model: netcat420/MFANN3bv0.6
  parameters:
    density: [1, 0.7, 0.1]  # gradiente de densidad
    weight: 1.0
- model: netcat420/MFANN3bv0.3
  parameters:
    density: 0.5
    weight: [0, 0.3, 0.7, 1]  # gradiente de peso
- model: netcat420/MFANN3bv0.7
  parameters:
    density: 0.33
    weight:
    - filter: mlp
      value: 0.5
    - value: 0
merge_method: ties
base_model: liminerity/Phigments12
parameters:
  normalize: true
  int8_mask: true
  dtype: float16

Funcionalidades

Clasificación de texto
Arquitectura phi2
Longitud de contexto de 2048
Fusión de múltiples modelos
Normalización y enmascaramiento int8

Casos de uso

Clasificación de texto en aplicaciones NLP
Mejora de modelos existentes mediante la fusión de múltiples modelos preentrenados
Investigación científica sobre interferencia y fusión de modelos