Proyecto GuIA. Implementaciones éticas de Inteligencia Artificial en América Latina y el Caribe


¿Cómo podemos avanzar desde Latinoamérica y el Caribe (LAC) en la adopción de los beneficios de la Inteligencia Artificial (IA)? Ante todo, para que la región pueda amoldar su propio marco de implementaciones debe generar un espacio de conversación y desarrollo de documentos que abordan la ética de la IA, su gobernanza y aplicaciones en la región. Esto es lo que está haciendo GuIA, un proyecto organizado por el CETyS, con el apoyo de la plataforma fAIr LAC del Banco Interamericano de Desarrollo (BID), en pos de congregar centros universitarios, think tanks e iniciativas de diversas disciplinas y países de LAC para presentar trabajos sobre el impacto de la IA en la región.

 

Morgan Doyle, representante del BID en Uruguay, Carolina Aguerre, co-directora del CETyS 

y Virginia Pardo, directora del Área Ciudadanía Digital del AGESIC, en la apertura del proyecto.
 

En palabras de Carolina Aguerre, co-directora del CETyS, uno de los objetivos del proyecto es “producir documentos desde la región y generar una comunidad para avanzar con la discusión de estos temas desde América Latina y el Caribe”. Los documentos están orientados a generar políticas públicas que beneficien la región y se publicarán paulatinamente en la página de GuIA.ai y a través de nuestra cuenta de Twitter (@cetysedu) bajo el hashtag #GuIA.

 

El hilo conductor de los documentos producidos en esta primera edición se encuentra en cómo podemos adoptar las tecnologías de IA de una manera ética que aporte al crecimiento de la región. Como menciona Cristina Martínez, directora de AI for Good Lab de C-Minds (México), los beneficios de una aceleración en el desarrollo e implementación de IA se estiman en un 14% de aumento en el PBI global rumbo a 2030. Si bien actualmente Latinoamérica es líder mundial en datos abiertos, se encuentran diversas problemáticas: i. la calidad de esos datos; ii. la generación de estrategias de implementación en el sector público y privado; iii. la experimentación en legislación y gobernanza transparente y; iv. la inversión en infraestructura necesaria. 

 

Un punto de común en los trabajos es que estas tecnologías de IA ya se encuentran siendo implementadas de distintas formas en los países de la región con una carencia de marcos éticos, regulatorios y de gobernanza que puedan servir como guía; tanto para el sector público, para obtener un mayor impacto social adecuado, como para el privado. A modo de ejemplo, Joan López, historiador y sociólogo colombiano de la Fundación Karisma, trabaja un documento sobre los problemas de transparencia, calidad de datos y vigilancia del Sistema de Identificación de Potenciales Beneficiarios de Programas Sociales (SISBEN), un algoritmo de clasificación social que construye posibles beneficiarios a programas sociales en Colombia. En palabras de Joan, los algoritmos funcionan como una “caja negra”, ya que los procedimientos de procesamiento y clasificación de potenciales beneficiarios a programas sociales son totalmente opacos y desconocidos. Además, las variables que estos algoritmos usan al procesar datos son establecidas por un grupo pequeño de personas, más aún, sus justificaciones son totalmente confidenciales.

Joan López, presentando “Automatización, pobreza y justicia social: la experimentación con el SISBEN en Colombia”

 

Por otro lado, Carlos Felipe Amunátegui, investigador chileno, presenta distintas problemáticas del uso de IA -particularmente del modelo de redes neuronales- para decisiones del Poder Judicial. Uno de los problemas consiste en que estos modelos funcionan en base a correlaciones, y no reglas. Los modelos de redes neuronales llegan a resultados a través de análisis lineares que no son del todo compatibles con la estructura del Derecho, el cual sí está compuesto por un sistema de reglas. Esto implica que “se toman decisiones judiciales en base a quién eres, y no qué haces”, sostiene Carlos Felipe. Llevado a un caso práctico, un algoritmo que decide si una persona va a reincidir o no, bien podría juzgar a la persona en base al lugar en el que vive o a quién conoce.

 

Si bien las tecnologías de IA son prometedoras en cuanto a sus posibilidades, la falta de guías éticas, normas de transparencia en sus implementaciones, calidad de datos que toman e infraestructura para tomarlos presentan nuevos desafíos para la región. Actualmente hay una falta de visibilidad de estas problemáticas y un grado de inconsciencia en torno a los riesgos que presenta el sesgo humano en el diseño, creación y aplicación de estas tecnologías, profundizando las asimetrías ya existentes en la sociedad. Cómo menciona Diego Lawler, parte del Grupo de Investigación de Inteligencia Artificial, Filosofía y Tecnología (GIFT), “los problemas éticos de la tecnología están presentes desde el diseño de los artefactos”, no desde la introducción de estos aparatos en la sociedad. La problemática se encuentra cuando estas tecnologías se cristalizan, en conjunto con los sesgos trasladados por la sociedad, y resulta increíblemente costoso y difícil volver a diseñarlos y aplicarlos nuevamente. 

 

Por otro lado, los documentos indagan en posibles implementaciones de IA para un crecimiento económico y social de la región. Trabajos como el de Chelceé Brathwaite, investigadora de Barbados, muestran los potenciales beneficios de la incorporación de IA en regiones como el Caribe. Según la investigadora, la IA aporta posibilidades de mejora en sectores como la producción agrícola, la salud pública y en la mitigación de desastres naturales. 

 

A su vez, el Proyecto GuIA presenta iniciativas concretas como fAIr LAC del BID, la estrategia de IA en Uruguay, la organización Alliance for Inclusive Algorithms, entre otros proyectos que buscan una aplicación inclusiva, ética y con mayor impacto social de la Inteligencia Artificial en América Latina y el Caribe. 

 

Fotografía de algunos de los investigadores del proyecto

Una vez más, el proyecto funciona como un espacio de diálogo necesario entre académicos, disciplinas, iniciativas -privadas y públicas- y países de la región sobre el correcto desarrollo de estas tecnologías y una gobernanza ética de los datos. Como indica Virginia Pardo, directora del Área Ciudadanía Digital del AGESIC - organismo que apoyó en la organización del taller de expertos el pasado noviembre de 2019 en la ciudad de Montevideo -, “las implicancias de estas tecnologías no tienen fronteras” y estos talleres aportan un espacio para que Latinoamérica pueda tener sus propias guías, marcos y regulaciones.

 
Jueves, Abril 23, 2020