Los líderes católicos presentaron al Papa Francisco una amplia propuesta de ética, educación y derechos de AI como parte de una conferencia de AI en el Vaticano en Roma.
Por qué es importante: los algoritmos ya están comenzando a reemplazar la toma de decisiones humanas, pero los especialistas en ética y activistas dicen que ahora es el momento de hablar sobre los valores que esos algoritmos deberían incorporar.
Las empresas y los grupos de derechos civiles ya lo están haciendo. Cada vez más, también lo son los líderes religiosos.
Impulso de las noticias: los miembros de la Academia Pontificia para la Vida, un grupo de académicos que estudian bioética, piden que se desarrolle la IA de una manera que proteja el planeta y salvaguarde «los derechos y la libertad de las personas para que no sean discriminados por algoritmos «.
El vicepresidente ejecutivo de IBM, John Kelly, y el presidente de Microsoft, Brad Smith, están firmando el » Llamado de Roma para la ética de la inteligencia artificial » en nombre de las dos compañías tecnológicas.
El grupo describió los principios éticos relacionados con la transparencia, el acceso y la imparcialidad, lo que ellos llaman un marco «algorítmico».
Es un «primer paso hacia la conciencia y el compromiso» con otras compañías e instituciones internacionales para un debate público sobre la ética de la IA, dijo a Axios un portavoz de la Academia en un correo electrónico.
Entre líneas: la IA respalda la tecnología que podría usarse para fabricar armas autónomas y se está utilizando para automatizar trabajos, poniendo en riesgo la vida y el sustento de muchos.
Y al intentar imitar la inteligencia humana, los humanos están construyendo tecnología que desafía nuestra comprensión de nosotros mismos.
Delegar la toma de decisiones a los sistemas automatizados también podría hacer que los humanos se vuelvan menos hábiles para saber cómo tomar decisiones correctamente, dice Brian Green, del Centro Markkula de Ética Aplicada de la Universidad de Santa Clara. «¿Cómo podemos nosotros como seres humanos mantener nuestras capacidades morales y mejorar en ellas mientras automatizamos mucho poder de toma de decisiones?»
La Iglesia Católica está interesada en todos estos temas, dice.
El año pasado, el Vaticano acogió a líderes tecnológicos y el Papa Francisco les advirtió sobre los peligros potenciales del uso equivocado de la IA.
«Si el llamado progreso tecnológico de la humanidad se convirtiera en un enemigo del bien común, esto conduciría a una desafortunada regresión a una forma de barbarie dictada por la ley del más fuerte», dijo el Papa Francisco .
Verificación de la realidad: la confianza en las instituciones religiosas está disminuyendo en los EE. UU. Y un informe de Edelman encontró que la confianza también está disminuyendo en las empresas de tecnología.
El panorama general: las empresas tecnológicas necesitan políticas vinculantes y detalladas que les hagan responsables de abordar las muchas preocupaciones éticas que rodean a la IA, dice Meredith Whittaker, cofundadora del AI Now Institute de la Universidad de Nueva York.
«[M] las pautas de ética de IA de cualquier organización siguen siendo vagas y difíciles de implementar … Estamos cayendo en una trampa de lavado de ética, donde la acción genuina es reemplazada por promesas superficiales», escribió Karen Hao de MIT Technology Review el año pasado .
«La especificidad es crítica si vamos a abordar los daños que estos sistemas podrían producir», dice Whittaker.
Las recomendaciones de políticas de AI Now incluyen compañías tecnológicas que hacen que su tecnología esté abierta al análisis por parte de investigadores externos y denunciantes de compañías tecnológicas que están siendo protegidas .
El resultado final: » Con la IA tenemos un gran espejo en el que estamos mirando», dice Kelly de IBM, que ha pedido una «regulación específica» de la IA.
«Todas estas cosas se reducen a nuestras elecciones humanas y es ahí donde las grandes religiones del mundo y las personas que piensan en la ética pueden guiarnos constantemente porque al final volverá a nosotros».
