- Favorece las precariedades sociales, debido a que los algoritmos pueden reproducir y ampliar disparidades históricas relacionadas con género, raza, clase social o acceso a la tecnología
Karla García / Diario de Chiapas
La Inteligencia Artificial (IA) favorece las desigualdades sociales debido a que los algoritmos pueden reproducir y ampliar disparidades históricas relacionadas con el género, la raza, la clase social o el acceso a la tecnología. Académicos de El Colegio de la Frontera Sur (Ecosur) señalaron lo anterior en el panel “Sesgos de la IA que propician desigualdades sociales”. En dicho evento, el académico Eduardo Santiago Ruiz señaló que la tecnología es producto de la sociedad y, por lo tanto, refleja sus relaciones de poder.
Santiago Ruiz mencionó diversos sistemas de reclutamiento laboral y de reconocimiento facial que emplean IA, los cuales han mostrado sesgos sistemáticos que afectan a mujeres y a personas de piel oscura. Por su parte, la investigadora Elvia Garduño Telis señaló la existencia de una “pobreza digital”, la cual define la desigualdad en el acceso, uso y calidad de las tecnologías de la información que mantiene a comunidades enteras en México al margen de la revolución tecnológica.
A su vez, Dafne Rodríguez González planteó, desde una perspectiva sociocultural, que la interacción con la IA debe entenderse como una nueva forma de uso del lenguaje digital; asimismo, señaló que los datos con los que se entrenan estas herramientas contienen rastros de desigualdades históricas, lo que privilegia visiones dominantes del mundo y puede invisibilizar saberes, culturas y lenguas marginadas.
En el mismo sentido, la especialista Marina Vicario advirtió el riesgo de que los modelos generativos de inteligencia artificial refuercen estereotipos de género si no se incorporan criterios éticos desde su diseño. Enfatizó que el problema no se resuelve únicamente con la llamada “ingeniería de prompts”, sino con una revisión profunda de cómo se programan y entrenan los algoritmos.
Finalmente, la investigadora Sujella Ayala señaló la lógica de funcionamiento de los algoritmos que operan en redes sociales y plataformas digitales, los cuales utilizan el rastro digital de los usuarios para predecir comportamientos y ofrecer contenidos personalizados; esto puede generar “burbujas digitales” que refuerzan creencias previas y limitan la diversidad. Asimismo, advirtió sobre el riesgo del llamado “mito de la objetividad algorítmica”, ya que estos sistemas pueden reproducir discriminaciones históricas en ámbitos como el empleo o el acc
