Verónica Silva Vélez
En la era digital, la Inteligencia Artificial (IA) se ha convertido en una herramienta poderosa que está transformando la forma en que interactuamos con el mundo. La IA está presente en nuestras vidas cotidianas, especialmente entre los jóvenes que usan la tecnología de manera habitual, ya que con estas herramientas podemos crear desde imágenes y videos, hasta otro tipo de contenido como texto o código de programación para computadoras. Sin embargo, esta revolución tecnológica también trae consigo desafíos importantes, como los sesgos (o prejuicios) y estereotipos que pueden afectar negativamente a comunidades indígenas, como es el caso de muchas comunidades en Oaxaca.
Ejemplos de prejuicios en la IA
Es importante recalcar que la Inteligencia Artificial no es un ser autónomo que crea contenido de la nada. Al contrario de lo que la mayoría cree, la IA elabora imágenes u otro tipo de contenido de acuerdo con la información que tiene en sus bases de datos. Entonces, al analizar las imágenes generadas por herramientas de IA, es evidente que estas reflejan los prejuicios presentes en los datos con los que fueron entrenadas.
Por ejemplo, cuando se genera una imagen de una persona mexicana, frecuentemente aparece la figura estereotípica del mariachi: un hombre con sombrero grande, traje charro y piel clara, o peor aún, atuendos que parecen disfraces en vez de representaciones auténticas de los mexicanos (imagen 1). Incluso, cuando se busca representar a una mujer de Oaxaca (imagen 2), las imágenes generadas tienden a perpetuar una serie de estereotipos que crean una visión alejada de nuestras raíces culturales, ya que nuestra apariencia física diversa y nuestra riqueza cultural única no es capturada por estas herramientas.
Impacto en las Comunidades de Oaxaca
Este problema con las bases de datos en la IA no es inofensivo. La continua representación errónea y la invisibilización de las comunidades indígenas perpetúan el racismo y el clasismo que existe en nuestra sociedad. En Oaxaca, uno de los estados de México con mayor número de hablantes de lenguas indígenas, la tendencia a favorecer una apariencia física "blanqueada" y una cultura occidentalizada, refuerza las ideas de inferioridad hacia las personas de origen indígena. Este problema no es nuevo; ha sido impulsado por décadas a través de los medios de comunicación, como telenovelas y comerciales, que promueven una imagen falsa de lo que significa ser mexicano, y la IA puede reforzar este clasismo y racismo en una escala mayor.
Un llamado a la reflexión crítica
Es crucial que como usuarios de la tecnología, especialmente aquellos que consumen y comparten contenido generado por IA, adoptemos una postura crítica. No se trata sólo de aceptar pasivamente las imágenes o el contenido que nos presentan. Debemos cuestionar: ¿Esta imagen realmente me representa como Oaxaqueño? ¿Refleja mi cultura, mi historia y mi identidad?
Es fundamental dejar de consumir y difundir representaciones blanqueadas e impuestas, y en su lugar, abrazar y celebrar nuestra propia apariencia y herencia cultural. Al hacerlo, no sólo resistimos la perpetuación de estereotipos dañinos, sino que también promovemos una representación más auténtica y diversa de lo que significa ser Oaxaqueño. Las imágenes 3 y 4 muestran cómo podemos dar instrucciones específicas a las herramientas, para poder crear imágenes que nos representen mejor.
Recapitulando
La inteligencia artificial tiene el potencial de ser una herramienta transformadora, pero sólo si somos conscientes de sus limitaciones y prejuicios. Como mencioné al inicio, la Inteligencia Artificial no es una herramienta autónoma, por lo que debemos siempre guiarla y entrenarla para poder conseguir resultados que no sean perjudiciales para nadie. En Oaxaca, un estado rico en cultura y diversidad, es vital que nos aseguremos de que nuestras comunidades sean representadas de manera justa y precisa. Sólo entonces podremos avanzar hacia una sociedad más inclusiva y respetuosa de todas sus culturas.
Verónica Silva Vélez
Nacida en Oaxaca de Juárez, es licenciada en Diseño de la Comunicación por la Universidad de la Ciudad de Nueva York.
Cuenta con la maestría por la Facultad de Diseño, Tecnología y Comunicación de Lisboa, Portugal.
Actualmente, es docente en esa misma institución, donde también cursa el doctorado.
