Con la expansión del uso de la inteligencia artificial surge una pregunta que se multiplica: ¿cómo evitar que su uso reproduzca o incluso amplifique estereotipos y desigualdades presentes en la sociedad?
Según un artículo publicado en la Stanford Social Innovation Review, de la Universidad de Stanford, un análisis realizado sobre 133 sistemas de inteligencia artificial encontró sesgos de género en el 44% de los casos, y sesgos combinados de género y raza en el 26%.
Frente a ese escenario, el capítulo argentino de la Unstereotype Alliance (Alianza Sin Estereotipos), impulsada por ONU Mujeres, presentó una guía para una inteligencia artificial inclusiva, destinada a promover criterios de diversidad y responsabilidad en el uso de estas herramientas. El contenido es de acceso libre y gratuito.
El lanzamiento se realizó durante un encuentro organizado por la empresa Natura, miembro del capítulo argentino de la Alianza, que reunió a representantes de empresas, agencias y organizaciones.
Allí se trabajó -de manera articulada entre los distintos sectores- sobre casos prácticos para identificar y reducir sesgos en el uso de la inteligencia artificial generativa.
Las 3 C
La propuesta se organiza alrededor de tres capacidades que pueden aplicarse en distintas etapas del proceso de producción con inteligencia artificial: curar, crear y controlar.
La primera -curar- supone seleccionar datos, referencias e información diversa y representativa. La guía parte de una premisa central: “La IA no empieza desde un lugar neutral”. Sus resultados están condicionados tanto por los datos con los que fue entrenada como por aquellos que proporciona quien la utiliza, por ejemplo, al incorporar referencias, ejemplos o información.
Por eso, propone prestar atención a la representación presente en esos insumos: procurar que reflejen una amplia variedad de audiencias, roles y contextos; analizar posibles vacíos de representación y conocer, en la medida de lo posible, las fuentes, la cobertura y el alcance de los datos utilizados para entrenar o alimentar las herramientas.
La segunda C -crear- pone el foco en los ‘prompts’, es decir, las instrucciones que se le dan a la inteligencia artificial. La guía propone pensarlos como una suerte de brief destinado a un integrante virtual del equipo: necesita contexto y expectativas claras para producir un buen resultado.
En ese sentido, advierte que escribir los ‘prompts’ constituye una de las principales herramientas que tienen los usuarios para orientar los resultados: aquello que no se especifica puede quedar librado a las suposiciones de la IA.
Para construir ‘prompts’ inclusivos, la guía recomienda contemplar cinco aspectos: definir el rol que se le asignará a la IA; establecer claramente el objetivo; precisar la audiencia a la que estará dirigido el contenido; indicar los valores y criterios con los que deberá estar alineado el resultado; y proporcionar fuentes, información y datos relevantes que refuercen el enfoque de inclusión.
Además, propone una pregunta para revisar las instrucciones antes de avanzar: si existen partes del ‘prompt’ en las que no se proporcionaron suficientes detalles o matices y, por lo tanto, se está dejando que sea la propia inteligencia artificial la que complete esos vacíos.
Finalmente, la tercera C propuesta -controlar- implica mantener la supervisión humana sobre aquello que produce la IA antes de transformarlo en un contenido o en una decisión de comunicación. La premisa en este caso es contundente: “La IA genera pero las personas siempre deben decidir”.
Para eso, la guía recomienda establecer momentos concretos del proceso en los que los resultados sean revisados antes de avanzar, utilizar criterios consistentes para evaluarlos, comparar distintas respuestas para identificar patrones o sesgos, y definir mecanismos que permitan cuestionar y corregir resultados estereotipados.
En este punto, incorpora otra cuestión relevante: la intervención humana tampoco está exenta de sesgos. Aquello que se percibe como correcto o creíble y lo que finalmente se elige son decisiones humanas que también pueden reforzar involuntariamente prejuicios y estereotipos. En este punto, la propia IA puede ser utilizada para cuestionar decisiones y revisar trabajos o datos de referencia en busca de sesgos que hayan pasado inadvertidos.
No obstante, no plantea solo una mirada centrada en los riesgos sino que señala que, “cuando se utiliza con intención, la IA puede ayudar a ampliar la representación, mejorar la accesibilidad o personalizar contenidos con rapidez y a gran escala, además de contribuir a detectar el sesgo humano”.
“La inteligencia artificial ya forma parte de los procesos de creación de contenidos, planificación y toma de decisiones. Por eso necesitamos fortalecer capacidades que permitan identificar y mitigar sesgos desde el diseño mismo de las herramientas y de los contenidos que producimos”, señala Mariana Massaccesi, especialista en sector privado y coordinadora del capítulo argentino de la Alianza Sin Estereotipos en ONU Mujeres.
En este sentido, plantea que “la guía de las 3Cs ofrece un marco práctico para que empresas, agencias y equipos de comunicación integren una perspectiva inclusiva en el uso de la IA”.
Del uso de la herramienta a la revisión de sus resultados
La guía titulada “Las 3Cs para una Inteligencia Artificial Inclusiva” fue presentada globalmente por la Alianza Sin Estereotipos y desarrollada con aportes de empresas miembro, organizaciones aliadas y especialistas del sector.
Está dirigida especialmente a profesionales de marketing, publicidad y comunicación que incorporan herramientas de inteligencia artificial en distintas instancias de sus procesos creativos y de producción de contenidos.
Durante su presentación en la Argentina, fueron analizados casos concretos y los participantes debatieron cómo incorporar una mirada inclusiva desde la selección inicial de información y referencias hasta la evaluación de los resultados obtenidos.
El evento también permitió intercambiar experiencias entre organizaciones que ya están incorporando estas tecnologías a sus procesos de trabajo.
Comunicar para combatir estereotipos
La Alianza Sin Estereotipos tiene como objetivo erradicar los estereotipos perjudiciales en la publicidad y los medios de comunicación para, de esa manera, contribuir con la construcción de una sociedad más igualitaria.
Convocada por ONU Mujeres, la Alianza busca promover la representación de las personas en toda su diversidad y utilizar la publicidad como herramienta para impulsar cambios positivos.
Su capítulo argentino fue creado en 2022 y está integrado por empresas, agencias y organizaciones vinculadas con la publicidad y la comunicación.
Con la irrupción de la inteligencia artificial generativa, el desafío ahora se extiende a un nuevo ámbito: evitar que las tecnologías utilizadas para imaginar y producir los contenidos del futuro terminen reproduciendo los estereotipos que se busca dejar atrás.
La guía “Las 3Cs para una Inteligencia Artificial Inclusiva” se encuentra disponible para su descarga gratuita a través de este link.
