Clasificar un correo, asignar una incidencia o elegir la siguiente herramienta puede requerir solo una etiqueta. La ventaja es que el programa puede actuar directamente. La dificultad aparece cuando alguien necesita saber por qué.
Imagina que llega un correo a la bandeja de soporte de una tienda. El cliente dice que le han cobrado dos veces. Antes de responderle, el sistema tiene que decidir a qué equipo enviarlo. Para eso puede bastar una palabra: «facturación».
Esa es la idea que plantea Xataka al hablar de la próxima apuesta de empresas como Google y OpenAI: usar la IA para resolver preguntas cerradas dentro de una aplicación. El resultado puede ser una categoría, una opción acompañada de una puntuación o la instrucción de llamar a una herramienta. En muchas de esas tareas, el destinatario de la respuesta es otro programa.
Qué está diciendo realmente un 0,82
Supongamos que un sistema clasifica el correo como «facturación» y devuelve una puntuación de 0,82. La aplicación podría usarla para decidir si lo envía directamente a ese equipo o si pide a una persona que lo revise.
La cifra solo tiene sentido si sabemos cómo se obtuvo. Un 0,82 puede ser una puntuación que sirve para ordenar casos, y para interpretarla como un 82 % de probabilidad de acierto hay que comprobar cómo se comporta el sistema con ejemplos reales. Si entre los casos con puntuaciones similares acierta mucho menos, el número transmite más seguridad de la que ofrece el sistema.
Cuándo una respuesta corta ahorra tiempo
Un modelo de lenguaje genera su respuesta token a token. Un token puede ser una palabra, parte de una palabra o un signo. Si el modelo va a devolver una etiqueta en lugar de un párrafo, suele tener menos texto que generar. Cuando una aplicación repite esa tarea miles de veces, reducir la longitud de las respuestas puede ahorrar tiempo y, en servicios que cobran por token de salida, reducir esa parte de la factura.
La espera total también depende de cuánto tenga que leer el modelo, de si consulta datos externos y del tiempo que tarde el sistema en ejecutar la acción. Una respuesta de una palabra puede llegar tarde si antes hay que recorrer veinte páginas o consultar varios servicios.
Además, clasificar mensajes y devolver puntuaciones son tareas que ya resolvían sistemas especializados. La novedad está en cómo se integran esas decisiones en flujos donde también intervienen modelos de lenguaje. Un clasificador puede asignar el correo al equipo adecuado y un asistente puede ayudar después a redactar una respuesta con el contexto de ese caso.
Una respuesta breve también puede dejar rastro
Volvamos al correo del cobro duplicado. Si acaba por error en el equipo de envíos, al responsable de soporte le interesa saber qué información recibió el sistema y qué regla aplicó la aplicación para asignarlo. Un registro puede guardar la categoría elegida, la puntuación, el umbral utilizado y la versión del modelo.
Ese registro permite investigar el error aunque el usuario solo vea que su consulta está en trámite. Y una explicación redactada después por un chatbot puede sonar razonable sin reflejar qué datos o reglas determinaron la decisión. Para revisar lo ocurrido, importa que la explicación se pueda comprobar con el registro.
Equivocarse al asignar un correo suele tener una solución sencilla: reenviarlo. Cuando una decisión afecta al acceso a un servicio o a una oportunidad, poder revisarla cobra más importancia. La aplicación puede resolver tareas rutinarias en segundo plano y reservar la explicación para el momento en que alguien la necesita.
Fuente
Sombra Radio · Apoyo de lectores
Ayuda a mantener viva Sombra Radio
Tu aportación voluntaria nos ayuda a seguir publicando sobre IA. Puedes apoyarnos desde 1 € al mes.
