Cisco se une al Llamado de Roma para la ética de la IA

Cisco se adhiere a Llamado de Roma a favor de la ética de la IA a medida que se amplía el debate sobre la ética de la IA. La medida destaca el creciente apoyo a la transparencia, la inclusión, la rendición de cuentas, la imparcialidad, la confiabilidad, la seguridad y la privacidad en la IA. Cisco ha decidido unirse a otros líderes tecnológicos en Llamado de Roma a favor de la ética de la IA de la IA, en un contexto de creciente conciencia sobre la necesidad de principios éticos en la inteligencia artificial.

¿Qué es el Llamado de Roma para la ética de la IA?

El llamamiento es un documento publicado por el Vaticano en febrero de 2020 con el objetivo de promover el desarrollo de tecnologías de IA que sean transparentes, responsables y socialmente útiles. Los firmantes inaugurales fueron la Academia Pontificia para la Vida del Vaticano, Microsoft, IBM, el Ministerio italiano de Innovación y la Organización de las Naciones Unidas para la Alimentación y la Agricultura.

En abril de 2021, el Papa Francisco estableció una fundación sin fines de lucro llamada Fundación RenAIssance en la Academia Pontificia para la Vida en el Vaticano con el objetivo de proteger y promover el Llamamiento fomentando un debate ético más amplio sobre las tecnologías digitales en la sociedad. “La IA es sólo el último eslabón de la cadena de transformación automatizada que produjo la revolución industrial”, afirma. Padre Paolo Benantidirector científico de la Fundación RenAIssance.

“La revolución industrial dio poder y bienestar a algunas personas, pero produjo penurias, desigualdad y problemas ambientales para muchas otras”. El interés en el desarrollo ético de la IA también es una preocupación profundamente sentida por el actual jefe de la Iglesia Católica Romana, el Papa Francisco, quien “siempre ha llevado a la iglesia a la vanguardia en cuestiones como los inmigrantes, el medio ambiente y ahora la IA”, afirmó. dice Benanti.

Sin embargo, es una señal del debate generalizado sobre la IA y la ética que el llamamiento fuera firmado por líderes judíos y musulmanes en enero de 2023 en una reunión en la que participaron el Foro de Abu Dhabi para la Paz de la Uniti de los Emiratos Árabes Unidos y la Comisión para las Relaciones Interreligiosas de el Gran Rabino de Israel.

El llamamiento también ha atraído el apoyo del sector privado, incluidas organizaciones tan diversas como los proveedores de atención médica Providence y Somos, el organismo de derechos del consumidor Euroconsumers, la empresa de aprendizaje automático ML cube y el Centro de Estudios Avanzados para la ‘Inteligencia Artificial en Italia’.

El desarrollo de la IA en Cisco se guía por seis principios

Benanti dice que Cisco será una incorporación importante a la lista. “La IA no se trata sólo de información y datos”, afirma. “También es una cuestión de potencia computacional y conexión, elementos en los que Cisco juega un papel clave”. El desarrollo de la IA en Cisco se guía por seis principios: transparencia, equidad, responsabilidad, privacidad, seguridad y confianza.

Estos están en gran medida alineados con los seis principios éticos enumerados en el Llamamiento, que son:

• Transparencia, en el sentido de que los sistemas de IA deben ser comprensibles para todos.
• La inclusión, que requiere sistemas que no discriminen a nadie, porque todos los seres humanos tienen la misma dignidad.
• Responsabilidad, en el sentido de que siempre debe haber alguien que se responsabilice de lo que hace una máquina.
• Imparcialidad, lo que significa que los sistemas de IA no deben seguir ni crear sesgos.
• Confiabilidad, para garantizar que se pueda confiar en la IA para aplicaciones vitales.
• Seguridad y privacidad, exigiendo que los sistemas sean seguros y respeten la privacidad del usuario.

Los primeros avances en IA ya han puesto de relieve problemas en algunas de estas áreas, como la imparcialidad. Se ha descubierto que los sistemas de inteligencia artificial están sesgados en una amplia gama de áreas, desde la discriminación contra las personas de color hasta el favorecimiento de los hombres sobre las mujeres en la publicidad de contratación. Quizás estos problemas sean de esperar en un campo incipiente como la IA. Pero el poder de la tecnología, que ha generado crecientes preocupaciones entre los consumidores, significa que es cada vez más importante que las empresas, los gobiernos y la sociedad civil presten atención al llamado.

La investigación de Cisco ha demostrado que la mayoría de los consumidores están preocupados por cómo las organizaciones utilizan sus datos personales para la IA, y el 60% dice que ya han perdido la confianza en las organizaciones debido al uso de la IA. Benanti dice que crear una base ética para la IA podría tener beneficios que superan con creces los que podrían lograrse simplemente siguiendo un motivo de lucro.

A modo de comparación, dice, consideremos el Central Park de Nueva York: es un terreno adquirido por la ciudad y luego quitado a los promotores, pero que ahora añade un valor considerable a sus alrededores y a la ciudad en general. “El llamamiento de Roma a favor de la IA no tiene que ver con la evaluación o el cumplimiento”, afirma Benanti. “Es una oferta de valor, para las personas, para las empresas, para la sociedad, de forma voluntaria”. La esperanza es que esto se vuelva cada vez más evidente a medida que empresas como Cisco, junto con instituciones gubernamentales y líderes de la sociedad civil, sumen sus voces al Llamado, hasta el punto en que los principios éticos se conviertan en una parte intrínseca del desarrollo de TO THE. “Paradójicamente, el mejor resultado será cuando el Llamamiento ya no sea necesario, cuando pueda desaparecer y nadie se dé cuenta”, afirma Benanti. “Eso significará que funcionó”.