Recorrido por el taller del Cetys sobre Inteligencia Artificial en América Latina y el Caribe


El día 12 de noviembre se llevó a cabo el taller “Inteligencia Artificial en América Latina y el Caribe: ética, gobernanza y aplicaciones” en las oficinas del Banco Interamericano de Desarrollo (BID) en Montevideo, Uruguay. El taller fue coordinado por el CETyS, en conjunto con la AGESIC y la plataforma de fAIr LAC del BID. Contó con el financiamiento de Facebook. Distintos centros universitarios y think tanks de diversas disciplinas de Argentina, Barbados, Chile, Colombia, México y Uruguay, expusieron trabajos en progreso sobre el impacto de la Inteligencia Artificial (IA) en América Latina. 

 

Morgan Doyle, representante del BID en Uruguay, Carolina Aguerre, co-directora del CETyS 

y Virginia Pardo, directora del Área Ciudadanía Digital del AGESIC, presentando el taller.

 

En palabras de Carolina Aguerre, el objetivo del taller fue “discutir documentos producidos desde la región y generar una comunidad para avanzar con la discusión de estos temas desde América Latina y el Caribe”. Los trabajos preliminares presentados durante el taller se publicarán durante los primeros días de marzo del 2020 bajo el marco de Proyecto GuIA, un espacio para el desarrollo de documentos que abordan la ética de la IA, su gobernanza y aplicaciones en la región. Participaron además como comentaristas invitados Fabrizio Scrollini de la Iniciativa Latinaomericana por los Datos Abiertos (ILDA), Alvaro Pardo de la Facultad de Ingeniería de la Universidad Católica del Uruguay y Renata Ávila de Ciudadanía Inteligente.

 

El hilo conductor que englobó las exposiciones fue cómo podemos, desde Latinoamérica y el Caribe, adoptar las tecnologías de IA de una manera ética y que aporte al crecimiento de la región. Como mencionó Cristina Martínez, directora de AI for Good Lab de C-Minds (México), los beneficios de una aceleración en el desarrollo e implementación de IA se estima en un 14% de aumento en el PBI global rumbo a 2030. Si bien actualmente Latinoamérica es líder mundial en datos abiertos, se encuentran diversas problemáticas en torno a: i. la calidad de esos datos; ii. en generar estrategias de implementación de IA en el sector público y privado; iii. experimentar en legislación y gobernanza transparente y; iv. invertir en la infraestructura necesaria. 

 

Una de las conclusiones que surgieron del taller fue que estas tecnologías se están implementando de distintas formas en los distintos países de la región con una falta de marcos éticos, regulatorios y de gobernanza que puedan servir como guía; tanto para el sector público, para obtener un mayor impacto social adecuado, como para el privado. A modo de ejemplo, Joan López, historiador y sociólogo colombiano de la Fundación Karisma, presentó sus resultados preliminares sobre los problemas de transparencia, calidad de datos y vigilancia del Sistema de Identificación de Potenciales Beneficiarios de Programas Sociales (SISBEN), un algoritmo de clasificación social que construye posibles beneficiarios a programas sociales en Colombia. En palabras de Joan, la forma en la que estos algoritmos funcionan es “una caja negra”, ya que son totalmente opacos y desconocidos los procedimientos de procesamiento y clasificación de potenciales beneficiarios a programas sociales. Además, las variables que estos algoritmos usan al procesar datos son establecidas por un grupo pequeño de personas, cuyas justificaciones para decidir las variables son totalmente confidenciales.

Joan López, presentando “Automatización, pobreza y justicia social: la experimentación con el SISBEN en Colombia.

 

Por otro lado, Carlos Felipe Amunátegui, investigador chileno, expuso distintas problemáticas del uso de IA -particularmente del modelo de redes neuronales- para decisiones del Poder Judicial, los cuales funcionan en base a correlaciones, y no reglas. Esto implica que “se toman decisiones judiciales en base a quién eres, y no qué haces”, sostuvo Carlos Felipe. Llevado a un caso práctico, un algoritmo que decide si una persona va a reincidir o no, podría bien juzgar a la persona en base al lugar en el que vive o a quién conoce.

 

Si bien estas tecnologías son prometedoras en cuanto a sus posibilidades, la falta de guías éticas, normas de transparencia en sus implementaciones, calidad de datos que toman e infraestructura para tomarlos presentan nuevos desafíos para la región. Otra conclusión que dejó el taller fué la falta de visibilidad de estas problemáticas y el grado de conciencia en torno a los riesgos que presenta el sesgo humano en el diseño, creación y aplicación de estas tecnologías, profundizando las asimetrías ya existentes en la sociedad. Cómo mencionó Diego Lawler, en su presentación en conjunto con el Grupo de Investigación de Inteligencia Artificial, Filosofía y Tecnología (GIFT), “los problemas éticos de la tecnología están presente desde el diseño de los artefactos”, no desde luego de la introducción de estos aparatos en la sociedad. La problemática se encuentra cuando estas tecnologías se cristalizan, en conjunto con los sesgos trasladados por la sociedad, y resulta increíblemente costoso y difícil volver a diseñarlos y aplicarlos nuevamente. 

 

Por otro lado, el taller indagó en posibles implementaciones de IA para un crecimiento económico y social de la región. Presentaciones como la de Chelceé Brathwaite, investigadora de Barbados, muestran los potenciales beneficios de la incorporación de IA en regiones como el Caribe. Según la investigadora la IA aporta posibilidades de mejora en sectores como la producción agrícola, la salud pública y en la mitigación de desastres naturales. A su vez, luego de la presentación de los trabajos, se realizó un panel abierto donde se presentaron iniciativas concretas como fAIr LAC del BID, la estrategia de IA en Uruguay, la organización Alliance for Inclusive Algorithms, entre otros proyectos que buscan una aplicación inclusiva, ética y con mayor impacto social de la Inteligencia Artificial en América Latina y el Caribe. 

 

Fotografía de fin de jornada

El taller funcionó como un espacio de diálogo necesario entre académicos, disciplinas, iniciativas -privadas y públicas- y países de la región sobre el correcto desarrollo de estas tecnologías y una gobernanza ética de los datos. Como indicó Virginia Pardo, directora del Área Ciudadanía Digital del AGESIC, “las implicancias de estas tecnologías no tienen fronteras” y estos talleres aportan un espacio para que Latinoamérica pueda tener sus propias guías, marcos y regulaciones.


 
Jueves, Noviembre 21, 2019