tals/albert-base-vitaminc-fever

Este modelo se utilizó en 'Get Your Vitamin C! Robust Fact Verification with Contrastive Evidence (Schuster et al., NAACL 21)'. Los modelos típicos de verificación de hechos utilizan evidencia escrita recuperada para verificar afirmaciones. Las fuentes de evidencia, sin embargo, a menudo cambian con el tiempo a medida que se recopila y revisa más información. Para adaptarse, los modelos deben ser sensibles a las diferencias sutiles en la evidencia de apoyo. Presentamos VitaminC, un punto de referencia infundido con casos desafiantes que requieren que los modelos de verificación de hechos disciernan y se adapten a pequeños cambios fácticos. Recopilamos más de 100,000 revisiones de Wikipedia que modifican un hecho subyacente y aprovechamos estas revisiones junto con otras construidas sintéticamente para crear un total de más de 400,000 pares de afirmaciones y evidencias. A diferencia de los recursos anteriores, los ejemplos en VitaminC son contrastivos, es decir, contienen pares de evidencias que son casi idénticos en lengua y contenido, con la excepción de que uno apoya una afirmación dada mientras el otro no. Mostramos que entrenar utilizando este diseño aumenta la robustez, mejorando la precisión en un 10% en la verificación de hechos adversariales y un 6% en la inferencia de lenguaje natural adversarial (NLI).