Valores

Ética e inteligencia artificial

Escrito por Antonio Argandoña
Escuchar artículo

Ahora que se habla tanto de la inteligencia artificial (IA) y de la ética aplicada a la misma, es un buen momento para hacer algunas reflexiones sobre el tema. La primera es que el foco ha de ponerse en las personas, no en las máquinas o el software.

Un principio ético importante en este tema es el de la autonomía humana, basada en la dignidad y los derechos de la persona. Este principio sostiene que la IA debe tener siempre en cuenta la participación de la persona en los procesos y en los resultados. En última instancia, siempre debe haber una persona verificando esos procesos y resultados y tomando las decisiones; otra cosa es que «delegue» en la máquina, pero esta no puede ser la última palabra. La persona no puede estar subordinada, manipulada o coaccionada por la máquina.

Otro gran principio ético es el de evitar el daño, razón por la cual la persona debe estar siempre al mando del proceso. La IA no puede afectar a la integridad física o mental de las personas y del medioambiente, debe ser siempre segura, previendo los riesgos, y cuidar especialmente de las personas vulnerables -la solidaridad.

La justicia es otro gran principio ético en el desarrollo y uso de la IA. Justicia en la distribución de los costes y beneficios que se produzcan en el proceso, ofrecer iguales oportunidades a todos, cuidar de que la privacidad de las personas sea siempre respetada e impedir el control continuo de los poderosos.

El cuarto principio es la explicabilidad: la IA no puede ser una caja negra, sino que ha de ser auditable e inteligible, cosa que no siempre es posible, dado que los datos se utilizan de muchas maneras y con poco cuidado en ocasiones. Los que obtienen y poseen los datos han de ser responsables y ofrecer toda la información necesaria sobre el origen de esos datos y su manipulación, respetando siempre el derecho a la privacidad de los afectados.

Son principios muy generales, pero muy importantes si queremos que la IA no cause daño, sino que contribuya a un beneficio real para la sociedad.

 

*Publicada originariamente en el Blog Economía, Ética y RSE del IESE, Business School, Universidad de Navarra.

Sobre el autor

Antonio Argandoña

Profesor Emérito de Economía y titular de la Cátedra CaixaBank de Responsabilidad Social Corporativa del IESE (España). Imparte clases principalmente en las áreas de macroeconomía, economía monetaria y economía internacional, además de publicar investigaciones sobre ética empresarial, responsabilidad social corporativa y gobierno de las organizaciones.

Deje su opinión