La IA en la sociedad, una cuestión de perspectiva: algunas afirmaciones y definiciones preliminares.
Nos encontramos en el año 2026. La IA ha progresado enormemente y aún queda mucho por hacer. Cada vez más, tenemos que aprender: la tecnología, incluida la tecnología de datos, es poder (K. Crawford, 2021; K. Schüller 2025). La carrera por la tecnología de la IA tiene, por tanto, al menos tres ángulos válidos: conocimiento, dinero, poder. El lado intelectual y científico va de la mano con la codicia y el lado comercial, y ambos se alinean con el juego específico de nuestra especie humana, el ejercicio del poder político y social.
Por lo tanto, es el momento de conectar lo que está por venir de la IA con algunas consideraciones relativas a nuestra sociedad. Y aquí llegamos a una primera trampa mental: ¿qué es la sociedad? Nuestro cerebro humano sugiere que sociedad significa el lugar donde nos encontramos: Alemania, Portugal, Estados Unidos, China, México o Nigeria. A la función normalizadora de contextos de nuestro cerebro le gusta sacar conclusiones sin datos o, al menos, con pocos datos. El término «normalizador» significa una extrapolación típicamente inconsciente del significado, en las condiciones de nuestro contexto local y mental actual.
Curiosamente, existe un segundo atajo mental. Hablo de una función cerebral que asigna automáticamente «relevancia y significado» a todos los datos y acontecimientos de nuestra vida. En la mayoría de las situaciones, esto puede ser útil. En contextos académicos y científicos, sin embargo, puede resultar ser una segunda trampa mental. Sabemos que se pueden asignar diferentes significados al término de «sociedad», pero no parece ser muy relevante para el momento de leer este texto.
No obstante, merece la pena indicar el enorme valor de la reflexión consciente de nuestra perspectiva específica de construcción del contexto. Podemos contemplar la «sociedad» desde el punto de vista de nuestro municipio, nuestra región, nuestra nación, nuestro continente o más allá. En este documento, seleccionamos la perspectiva del «más allá», y esto significa explícitamente que nos ocupamos de la «sociedad civil global». Este término engloba a todos los seres humanos que actualmente viven en este planeta tierra. Se ha convertido en una realidad gracias a los avances de la comunicación en tiempo real debidos a la información y la comunicación digitales. Es independiente de los pasapuertos y sigue defendiendo algunos intereses comunes como, por ejemplo, la paz, la superación de la crisis climática, la gestión de las migraciones y otros. Dado que la IA se ha convertido en una realidad generalizada con posibilidades globales de acceso, es un propósito conectar la IA no a una sociedad individual sino al conjunto de la sociedad civil global, en la medida de lo posible.
Esta perspectiva va más allá de los estados y su poder y otros intereses. En realidad, hemos definido la sociedad civil como la suma de todas las personas, instituciones e interacciones, siempre que no estén impulsadas ni por el Estado ni por el crimen organizado (cf. U. Hemel 2022, 96). Esta definición, mejorada por el Instituto de Estrategia Social desde 2009, es más amplia que las ONG, ya que abarca campos de actividad social como el deporte, la empresa, la religión o la cultura. Todos ellos tienen sus propios actores de la sociedad civil que en realidad «no son ni el Estado ni el crimen organizado».
¿Por qué es importante empezar por las definiciones?
En primer lugar, es un valor científico ser transparente y dejar claro el significado de las nociones y conceptos utilizados. En segundo lugar, la IA es un reto tan grande que no podemos prescindir de reflexionar detenidamente sobre las perspectivas bajo las que la contemplamos. Al hacerlo, ya he mencionado la perspectiva intelectual, la comercial y la política o de poder. En realidad, «perspectiva» es un término inherente a cualquier uso de la IA, debido al horizonte temporal, el contenido y el interés que hay detrás de los datos de entrenamiento.
Desde la perspectiva de la sociedad civil mundial, las aplicaciones actuales de la IA tienden a impulsar perspectivas implícitas procedentes principalmente de EE.UU. y de China. En el caso de las herramientas de IA procedentes de África, América Latina o incluso Europa, son más bien la excepción.
Este punto es evidente para casi todos nosotros, pero de alguna manera hemos aprendido a considerarlo «normal». No lo es. E incluso una pequeña consulta, por ejemplo sobre «Taiwán», arrojará respuestas diferentes de DeepSeek (China) y ChatGPT (EE.UU.). El término «perspectiva» designa un conjunto de supuestos contextuales y hábitos de percepción, en su mayoría implícitos, que son típicos de personas o instituciones que actúan en condiciones locales y/o socioculturales similares.
Más allá de las perspectivas políticas (como en torno a «Taiwán»), las perspectivas son un espejo de las condiciones individuales, como hombre o mujer, viejo o joven, blanco o de color, discapacitado o sano. El punto delicado de las perspectivas es su configuración emocional como «naturales». A modo de ejemplo, durante mucho tiempo pareció «natural» realizar pruebas a maniquíes para accidentes de coche utilizando un cuerpo masculino normalizado. Afortunadamente, esto ha cambiado, al reconsiderarse el valor de las personas de sexo femenino, alrededor del 50% de la humanidad.
Por último, si de verdad queremos entender más sobre la IA y la sociedad, tenemos que empezar con una simple frase: El contexto importa, las perspectivas importan.
(…)
La IA actual no sólo es principalmente un espejo de las visiones del mundo de EE.UU. y China, sino que también refleja predominantemente una perspectiva joven y masculina. No hay nada malo en ninguna de estas perspectivas, pero deben ser claras y transparentes. Imagínese que prefiriéramos reflejar una perspectiva africana. De todos mis viajes a más de 20 países de África, supongo que las aplicaciones agrícolas inteligentes serían más frecuentes, porque hay mucho margen de mejora. Sólo un ejemplo para estimular la curiosidad: en 2024, he visto a pequeños agricultores de Zimbabue utilizar una aplicación digital impulsada por la IA para la documentación del biocarbón hecho con los residuos del árbol baobab, produciendo certificados de CO² de primera clase.
Una aplicación de este tipo, por supuesto, es diferente de las aplicaciones de la IA, de la escena de los juegos o de los medios sociales. Al fin y al cabo, cada aplicación de la IA refleja un cierto interés y curiosidad humanos. Por tanto, es hora de explorar más a fondo el sentimiento de curiosidad.
(…) Debatir sobre la IA desde la perspectiva de la sociedad civil mundial, en el mejor de los casos, puede tener un impacto en el establecimiento de la agenda. Las nuevas tecnologías no son neutrales. Se utilizarán en beneficio de los individuos, de las empresas, de los Estados, a veces más allá de los límites humanitarios razonables. La tarea de nuestra generación no es sólo el uso eficiente de la IA aprovechando sus increíbles ventajas para la gestión del conocimiento, la eficiencia de los procesos y la comunicación. Nuestra tarea consiste también en un proceso de búsqueda colectiva para superar la etapa «Viejo Oeste» del uso de la IA.
Desgraciadamente, no parece que haya un final para un mundo con múltiples conflictos. Sin embargo, es una noble tarea académica y política buscar formas y medios para un mundo en equilibrio, utilizando los mejores lados de la IA en beneficio y no en detrimento de los seres humanos en la sociedad civil global.
Los datos son poder (K. Crawford 2021, K. Schüller 2025). Depende de nosotros, los seres humanos, encontrar el equilibrio adecuado entre confianza y control. Por último, la ambivalencia de la IA no es simplemente una ambivalencia tecnológica. Es más bien la ambivalencia ética de la toma de decisiones humana (U. Hemel 2020, P. Kirchschläger 2021). Será tarea de la humanidad encontrar la forma de prohibir los abusos y sacar el máximo partido de la IA como un cambio de juego en la historia de la humanidad.