La ética de la inteligencia artificial
Por Patricia María Guerra Soriano / Colaboración especial para Resumen Latinoamericano
El progreso de la inteligencia artificial (IA) ha sido imparable desde que, en 1950, Alan Turing se preguntara en el artículo Computing machinery and intelligence, “¿pueden las máquinas pensar?” y más adelante, cuando en 1956; John McCarty, Marvin Misky y Claude Shannon denominaron formalmente el término durante la conferencia de Darmouth, como: “La ciencia e ingenio de hacer máquinas inteligentes, especialmente programas de cálculo inteligente”.
Aunque son varias las disciplinas desde las cuales se fundamenta la inteligencia artificial, su caracterización se construye y consolida, específicamente, a nivel matemático con el propósito de mejorar las capacidades humanas por medio de la creación y uso creciente de variables tecnológicas. La realidad tras esos algoritmos automatizados suele ser más intrincada de lo que se publica, pues representa una recolección y manipulación de datos individuales que dan vida al sistema, al punto de que la tecnología termina reproduciendo patrones discriminatorios, xenófobos y racistas aprendidos de los humanos.
“La red no es libre, ni abierta ni democrática. Es un conjunto de servidores, conmutadores, satélites, antenas, routers y cables de fibra óptica controlados por un número cada vez más pequeño de empresas”, escribe la periodista española Marta Peirano en su libro El enemigo conoce el sistema (2020). Sobre esa opaca infraestructura se despliegan los propulsores de la IA, a un ritmo que no conjuga con la aparición de mecanismos reguladores de su empleo.
Por eso, cuando este miércoles 25 de noviembre, los 193 Estados miembros de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) aprobaron el primer marco ético sobre IA, se comenzó a delinear una infraestructura jurídica sin precedentes en el desarrollo beneficioso de esas tecnologías.
Un documento de 30 páginas publicado en forma de recomendación, de conformidad con la decisión adoptada por la Conferencia General de la Unesco en su cuadragésima reunión en noviembre de 2019, es el resumen de varios meses de trabajo en los cuales un importante grupo interdisciplinario de expertos se formó con el propósito de construir un instrumento normativo de referencia neutra y universal para el uso ético de las tecnologías derivadas de la IA.
Aunque no se trata del primer texto vinculado al tema, sí es el primero en involucrar a tantos países con un alcance global bajo la premisa de que todos los individuos accedan a sus registros de datos personales con la posibilidad de borrarlos y con la explícita prohibición del uso de la IA para la calificación social y la vigilancia masiva.
De acuerdo con información publicada en el sitio web de Naciones Unidas, la Recomendación tiene como objetivo garantizar que las transformaciones digitales promuevan los derechos humanos y contribuyan a la consecución de los Objetivos de Desarrollo Sostenible, abordando asuntos relativos a la transparencia, la rendición de cuentas y la privacidad con capítulos políticos orientados a la acción sobre la gobernanza de datos, la educación, la cultura, el trabajo, la atención sanitaria y la economía.
Para Gabriela Ramos, subdirectora general de Ciencias Sociales y Humanas de la Unesco, las decisiones que afectan a millones de personas “deben ser justas, transparentes y contestables”, pues —según agregó— “estas nuevas tecnologías deben ayudarnos a afrontar los principales retos de nuestro mundo actual, como el aumento de las desigualdades y la crisis medioambiental y no profundizar en ellos”.
Con respecto al uso de armamento autónomo letal, Ramos explica que, si bien la Recomendación no hace referencia directa al tema, establece que “las decisiones de vida o muerte no deben ser tomadas por sistemas de IA” porque en estos casos “la última palabra debe ser humana”.
La guía también funciona como una suerte de convocatoria para que los representantes gubernamentales trabajen en la evaluación de los efectos que, sobre la diversidad cultural y lingüística, poseen los sistemas de recomendación de plataformas como Netflix o Spotify.
El documento presentado por la Unesco promueve el empoderamiento ciudadano a través de la potenciación del pensamiento crítico frente a las plataformas tecnológicas; plantea además un itinerario importante que le permitirá a los Gobiernos anticiparse al riesgo que representa un controvertido uso de la IA, siempre y cuando las naciones firmantes cumplan lo acordado.
Foto de portada: ABC
