Procesamiento de Lenguaje Natural · Inteligencia Artificial

Clasificación de texto

Construir clasificadores de sentimiento y tópicos a partir de datos etiquetados, evaluando su rendimiento con métricas adecuadas.

Clasificación de texto

De palabras a etiquetas Clasificar texto es decidir una etiqueta a partir de palabras. La receta —representar, aprender, evaluar— es estable; lo que cambia son las trampas del dato: desbalance, contexto y expresión figurada.

El flujo de trabajo

Representar el texto

Se puede partir de TF-IDF, rápido e interpretable, o de embeddings que captan semejanza. La elección condiciona el modelo: los dispersos casan bien con lineales; los densos, con redes.

Documentos que entran por un embudo y salen etiquetados en positivo y negativo, con pulgares arriba y abajo.
Un clasificador convierte texto crudo en una decisión: positivo, negativo o de un tópico dado.

Modelos clásicos

Regresión logística, máquinas de vectores soporte o ingenuos bayesianos resuelven mucho con pocos datos y gran velocidad. Suelen ser un buen referente antes de tirar de profundidad.

Enfoques profundos

CNN y RNN sobre embeddings aprenden patrones que los modelos lineales pierden, sobre todo en textos largos o con estructura. Cuestan más datos y cómputo, y no siempre ganan.

Transformers y ajuste fino

Hoy se parte de un modelo de lenguaje preentrenado y se afina para la tarea: suele batir a lo demás con pocas muestras. El coste es memoria y latencia en inferencia.

Sentimiento y su trampa

Detectar polaridad choca con la ironía, los dobles sentidos y el contexto. «Qué bien, otra vez lloviendo» engaña a un modelo que solo mira palabras sueltas.

Datos desbalanceados

Si el 95 % de las reseñas son positivas, predecir siempre positivo da alta exactitud inútil. Conviene re-muestrear, ponderar la pérdida o mirar precisión por clase.

Evaluar con criterio

Además de la exactitud, importan precisión y exhaustividad por clase y la matriz de confusión. En multi-clase, el F1 macro trata a todas las clases con igualdad.

Errores que enseñan

Revisar los textos mal clasificados revela si falta dato, si la etiqueta es dudosa o si el modelo ignora palabras clave. La mejora suele salir de ahí, no de tocar hiperparámetros.

Errores frecuentes

Ejemplo resuelto: clasificar reseñas de cine

Dispones de 10 000 reseñas etiquetadas como positivas o negativas y quieres un detector de sentimiento fiable:

  1. Divides en entrenamiento y prueba y compruebas el balance de las clases.
  2. Transformas el texto con TF-IDF como base rápida e interpretable.
  3. Entrenas una regresión logística y miras precisión, exhaustividad y F1 por clase.
  4. Afines un modelo preentrenado y lo comparas con la base usando el mismo F1 macro.
  5. Revisas los falsos positivos: si abunda la ironía, añades ejemplos de ese estilo y repites.

¿Para qué sirve en la realidad?

Las marcas vigilan su reputación en redes, las tiendas de aplicaciones priorizan reseñas negativas y las encuestas clasifican miles de respuestas abiertas: todo eso es clasificación de texto desplegada.

En un clasificador de sentimiento con clases muy desbalanceadas, la exactitud global engaña porque:

Ajustar fino un modelo de lenguaje preentrenado suele funcionar mejor con pocas muestras etiquetadas que entrenar una red desde cero.

Clasificación texto

Tarea de asignar polaridad a un texto
sentimiento
Modelo lineal rápido y de referencia para texto
regresion logistica
Métrica multi-clase que iguala la importancia de las clases
f1 macro
Tabla que muestra qué clases se confunden entre sí
confusion
Expresión que engaña a los clasificadores por su sentido literal
ironia

Ordena las etapas de un proyecto de clasificación de texto:

Etiquetar
Representar
Entrenar
Evaluar

Análisis de sentimiento
Clasificación de la polaridad de textos.

Une cada concepto de clasificación de texto con su descripción.

De palabras a etiquetas

# Clasificación de texto
## Flujo
### etiquetar datos
### entrenar y medir
## Representación
### tf-idf disperso
### embeddings densos
## Modelos
### lineales de referencia
### transformers afinados
## Evaluación
### precision por clase
### matriz de confusion

Clasificación de documentos
Panorama de la tarea y sus variantes: sentimiento, tópicos, intención.

Tu clasificador de reseñas ignora la ironía y falla en frases como «menuda maravilla de vuelo». ¿Qué cambiarías: datos, representación o modelo? Justifica.