He hecho el experimento con dos inteligencias artificiales, una para traducir prompts -DeepL-; y otra para generar la imagen -Midjourney-. Y, ¡oh, sorpresa!, con ambas he tenido el mismo problema: los sesgos.
Empecemos por el principio. Cuando ponía promts con una descripción más o menos estándar lo que me daba Midjourney era algo sin ninguna gracia y esto iba de jugar, así que me vine arriba y le dije a DeepL: “Traduce: Es una máquina de la creatividad, piensa, escribe, tiene ambición, empatía, ha trabajado en entornos de gran responsabilidad y defiende la igualdad de las mujeres”. Y de repente la IA de traducción, se destapó.
El traductor, cuando yo le hablaba de una “máquina de la creatividad”, de ‘motu propio’ utilizaba el pronombre masculino, pero cuando hablaba de feminismo, lo cambiaba automáticamente al femenino. Es decir, "el", si es una máquina; "ella", si es feminista.
Pero luego, con Midjourney, tampoco es que mejorara la cosa. Las imágenes generadas, son todas de adolescentes soñadoras, perfectas, jóvenes (aunque no haya hecho mención alguna a la edad), guapas y con largas melenas. Para Midjourney somos todas mujeres con filtro de TikTok. Os voy a ahorrar pasar el traguito de ver las imágenes cuando añadía que era madre porque son de enfadarse.
Sí, la IA tiene sesgos. Bueno, el mundo entero es un sesgo, todos tenemos sesgos de algún tipo, pero parte de nuestro trabajo, si queremos mejorar a nivel personal y profesional, es detectarlos y corregirlos. Pero, ¿qué pasa con la IA? ¿Quién se preocupa de que además de avanzar a nivel tecnológico no se quede estancada a nivel ético? Recemos para que en algún momento la ética se monetice.