Un estudio con 189 participantes revela diferencias económicas al valorar asistentes virtuales con la misma tecnología. Los resultados apuntan a posibles sesgos, aunque no permiten atribuir toda la brecha al género.
La misma tecnología, una valoración diferente
¿Cuánto vale la ayuda de una inteligencia artificial? Podríamos pensar que depende de la calidad de sus respuestas, del tiempo que nos ahorra o de su capacidad para resolver problemas. Pero un experimento en realidad virtual introduce otra variable: la apariencia del asistente.
Una investigación en la que participaron las universidades de Zúrich y Limerick y SKEMA Business School comparó cómo reaccionaban los usuarios ante distintas representaciones de una IA. Entre ellas estaban Johan y Johanna, dos asistentes de apariencia humana, uno masculino y otro femenino.
La comunicación institucional del estudio destaca que Johanna recibió una recompensa económica un 10,25 % inferior. Es una diferencia observada dentro de un experimento, no una medición de salarios reales ni una regla aplicable a todos los avatares femeninos.
El resultado plantea una pregunta relevante: ¿qué expectativas trasladamos a una máquina cuando le damos una identidad reconociblemente humana?
Cómo funcionó el experimento
Los investigadores situaron a 189 participantes en una oficina de realidad virtual para colaborar con asistentes de IA en tareas laborales. El diseño incluía cuatro representaciones: un chatbot de texto, un robot de escritorio y los avatares Johan y Johanna.
Los sistemas compartían la tecnología de base. Esa coincidencia permitía estudiar el papel de la presentación del asistente sin comparar herramientas construidas sobre modelos diferentes.
Después de colaborar, los participantes valoraban la ayuda recibida y repartían dinero entre ellos mismos y el asistente. Por tanto, la recompensa no era únicamente una respuesta hipotética: entregar más implicaba conservar menos.
Este detalle hace especialmente interesante la prueba. Una cosa es declarar que una herramienta resulta útil y otra decidir qué parte de un recurso propio estamos dispuestos a asignarle.
Qué se midió y qué diferencias aparecieron
Las tareas incluían proponer ideas sobre cuestiones laborales, como mejorar la colaboración en el trabajo. Cada participante pasó por tres condiciones: el chatbot, el robot y uno de los dos avatares humanos. Nadie comparó directamente a Johan y Johanna dentro de su propia sesión.
Podían asignar hasta cuatro francos suizos al asistente y quedarse con el resto. El equipo también realizó entrevistas posteriores a 34 participantes.
Entre Johan y Johanna hubo diferencias estadísticamente significativas en la recompensa y en el grado de semejanza humana percibida, ambas favorables a Johan. Sin embargo, las diferencias en confianza y reconocimiento de la contribución no fueron estadísticamente significativas.
Eso impide resumir el resultado como «los usuarios confiaron menos en la IA femenina». La valoración económica y la confianza declarada son medidas distintas, y aquí no ofrecieron exactamente la misma respuesta.
El límite crucial: el género no quedó aislado
Los autores advierten de que solo utilizaron una representación masculina y una femenina. Además del género percibido, diferían otras características de esos diseños, y Johan fue considerado más humano.
Por ello, el estudio no permite separar con precisión cuánto corresponde al género, cuánto a la semejanza humana y cuánto a otros rasgos de los avatares. Tampoco demuestra que el mismo patrón se repita con cualquier diseño o tras meses de uso.
La conclusión prudente es que estos asistentes recibieron un trato diferente pese a compartir tecnología. Identificar la causa exacta exige nuevas comparaciones.
Lo que decimos preferir y lo que terminamos premiando
La Universidad de Zúrich destaca otra tensión: muchas personas entrevistadas afirmaron que el género del asistente no les importaba, mientras que las decisiones económicas mostraron diferencias entre las condiciones del experimento.
También observó que una mayor semejanza humana tendía a acompañarse de más confianza y recompensa. Esto abre un debate sobre el diseño: una interfaz que inspira confianza no es necesariamente una interfaz más competente.
Para interpretar esta discrepancia conviene evitar acusaciones individuales. Los resultados de un grupo no permiten conocer las motivaciones de cada participante. Sí invitan a preguntarse si un cuestionario de preferencias basta para evaluar cómo funciona una interfaz en la práctica.
Un sesgo ante la IA no es lo mismo que un sesgo del modelo
Hay una distinción importante para entender esta noticia. Aquí se estudió cómo las personas evaluaban y recompensaban a los asistentes. No se estaba comprobando si el modelo escribía respuestas sexistas o discriminaba al seleccionar candidatos.
Son problemas relacionados, pero requieren análisis diferentes. Un sistema podría producir respuestas cuidadosamente revisadas y, aun así, recibir un trato desigual por su nombre, su voz o su aspecto. A la inversa, una interfaz aparentemente neutra no garantiza que sus respuestas estén libres de prejuicios.
Desde una perspectiva de diseño, esto sugiere que revisar únicamente el texto generado deja fuera parte de la interacción. También importa cómo se presenta la herramienta y qué expectativas despierta.
Qué deberían preguntarse quienes diseñan asistentes
Como aplicación práctica de estos resultados, proponemos evaluar la presentación de una IA con preguntas más concretas que «¿te gusta este avatar?»:
- Competencia percibida: ¿la misma respuesta parece más fiable cuando cambia la identidad del asistente?
- Reconocimiento: ¿los usuarios atribuyen el mismo mérito a una ayuda equivalente?
- Decisiones: ¿cambia la disposición a pagar, seguir una recomendación o delegar una tarea?
- Transparencia: ¿queda claro que se está interactuando con un sistema artificial?
- Variedad: ¿el efecto se mantiene al probar varios diseños, en lugar de una sola pareja de avatares?
Estas preguntas son propuestas para futuras evaluaciones, no resultados adicionales del estudio. Permitirían comprobar si una elección estética está introduciendo diferencias que el equipo de producto no había previsto.
La lectura de SombraRadio: también diseñamos relaciones
Lo relevante de esta investigación no es imaginar a una IA reclamando un salario. El dinero funciona aquí como una forma de observar el valor que las personas atribuyen a su ayuda.
En SombraRadio creemos que el caso invita a prestar más atención a las identidades que construimos para estas herramientas. Ponerles rostro y nombre puede facilitar la interacción, pero también introducir expectativas sobre autoridad, disponibilidad o reconocimiento.
La respuesta tampoco debería ser convertir automáticamente todos los asistentes en figuras masculinas porque una de ellas obtuvo más recompensa en una prueba. Eso transformaría un posible sesgo en una decisión de producto sin resolver su origen.
Cuando damos una identidad humana a una IA, también debemos examinar las expectativas humanas que esa identidad activa.
El reto es conseguir que la confianza y el valor atribuidos a un asistente se apoyen en lo que hace y en sus límites reales. Este experimento no cierra el debate, pero ofrece una razón concreta para medirlo.
Fuentes
- ACM: Human-Like and Male? How AI Assistant Design Relates to Trust and Monetary Reward at Work in VR
- Universidad de Zúrich, HASEL: explicación del experimento, resultados y limitaciones por su autora
- Universidad de Zúrich: cómo el diseño de asistentes influye en la confianza y las recompensas
- Universidad de Limerick, vía Tech Xplore: comunicación de los resultados
Sombra Radio · Apoyo de lectores
Ayuda a mantener viva Sombra Radio
Tu aportación voluntaria nos ayuda a seguir publicando sobre IA. Puedes apoyarnos desde 1 € al mes.
