“Jesús llamó a un niño, lo puso en medio de ellos y dijo:
… si alguien escandaliza a uno de estos pequeños que
creen en mí, sería preferible para él que le ataran al cuello
una piedra de moler y lo hundieran en el fondo del mar.”
Mt. 18,1-3, 6
Vivimos en un mundo plagado de exigencias, en el que llevamos una vida acelerada y cada vez más virtual y adicta, que conlleva efectos nocivos.
No sólo existe una adicción al alcohol en el mundo de más de 400 millones de personas y más de 300 millones al consumo de drogas ilícitas en el último año -siendo un negocio que mueve alrededor de US$600.000 millones al año-, sino que estas adicciones parecen irrelevantes frente a la nueva droga que está introduciendo Meta (a través de Facebook e Instagram) y también empresas como Youtube y Tiktok, especialmente en menores de 13 años.
Pareciera que se trata de un mundo virtual e inofensivo, que se presenta con un aparente manto de inocencia, positivismo, likes y sonrisas estereotipadas. Pero los efectos perjudiciales son muy serios.
Estudios de entes reguladores de comunicación indican que aproximadamente el 40 % a 50 % de los niños de entre 8 y 12 años usan al menos una red social como Facebook, Instagram o TikTok, la mayoría habiendo falsificado su edad o utilizando cuentas asistidas por adultos. Alrededor del 12 % de los usuarios activos en estas plataformas son menores de 13 años.
Los actuales estudios señalan que hasta aproximadamente los 12 años un niño atraviesa un periodo de desarrollo donde la plasticidad cerebral, la sensibilidad emocional y la formación de la identidad, son extremadamente frágiles. Su estructura cerebral se encuentra en pleno proceso de mielinización y poda neuronal. El córtex prefrontal (encargado del autocontrol, la planificación, el juicio crítico y la postergación de la gratificación) aún está inmaduro.
Por estos motivos hay que protegerlos de la sobreestimulación digital y la estimulación de dopamina de alta frecuencia (pantallas, vídeos cortos, gratificación instantánea). Si los niños son expuestos demasiado temprano a esto, el cerebro adapta sus circuitos a la recompensa inmediata, dificultando el aprendizaje sostenido y la autorregulación.
A pesar de estar en pleno conocimiento de esta realidad, Meta, no ha tenido en cuenta los daños que provocan sus plataformas y ha buscado establecer la adicción de los niños con Facebook e Instagram, con el único propósito de obtener una mayor rentabilidad. El lucro es el patrón determinante que guía sus acciones.
Las investigaciones judiciales señalaron que Meta era consciente de la presencia masiva de millones de niños menores de 13 años en Instagram y Facebook. A pesar de ello, los mecanismos de verificación de edad fueron intencionalmente laxos.
Frente a la gravedad del uso adictivo de estas plataformas, 47 de los 50 estados de los Estados Unidos, es decir casi la nación entera, le inició juicio a Meta por la adicción de las plataformas de Facebook e Instagram, basado en lo siguiente:
1.Engaño deliberado sobre la seguridad y los daños mentales
Los fiscales acusaron a Meta de omitir y falsificar información al público.
Mientras la empresa declaraba que sus plataformas eran seguras y promovían la “conexión”, sus propias investigaciones internas demostraban que Facebook e Instagram agravaban problemas de depresión, ansiedad, trastornos de la conducta alimentaria (TCA) y pensamientos suicidas en adolescentes.
Los estados que demandaron a Meta, argumentaron que la empresa ocultó activamente estos informes para no frenar la captación de nuevos usuarios ni ahuyentar a los anunciantes.
El papa León XIV se pregunta preocupación: “¿qué estamos construyendo? Mientras el desarrollo tecnológico cambia rápidamente lenguajes, relaciones, instituciones y formas de poder, nosotros, los creyentes, debemos y podemos elegir en qué proyecto trabajar y con qué estilo, para custodiar y valorar la magnífica humanidad que nos ha sido brindada como don.”[1]
2.Diseño intencionadamente adictivo (“Defectuoso por diseño”):
Bajo las leyes de protección al consumidor, los fiscales alegaron que las plataformas incorporaban mecánicas creadas específicamente para manipular la neurobiología de los menores, con recompensas variables y bucles de dopamina; uso de notificaciones dosificadas y contadores de “me gusta” (likes), para generar ansiedad y dependencia; eliminación de pausas naturales; implementación del desplazamiento infinito (infinite scroll) y reproducción automática para mantener a los niños enganchados sin puntos de interrupción; promoción de filtros de alteración estética y algoritmos que incentivaban la comparación de apariencia física, sabiendo que afectaba la autoestima de los adolescentes.
Por estos motivos el Papa afirma que “… no podemos considerar a la IA como moralmente neutra”[2]
3.Violación masiva de la Ley de Privacidad Infantil (COPPA):
La demanda sostuvo que Meta infringió de forma sistemática la Ley de Protección de la Privacidad Infantil en Línea (COPPA) de EE. UU.
La norma prohíbe explícitamente a las empresas de internet recopilar datos personales de menores de 13 años sin el consentimiento previo y verificable de sus padres. Los estados demostraron que Meta sabía que millones de niños menores de 13 años utilizaban sus redes, pero intencionalmente mantuvo mecanismos de verificación de edad deficientes para seguir recopilando sus datos y rentabilizarlos mediante publicidad dirigida.
4.Maximización del beneficio sobre la seguridad infantil:
Un argumento central, que fue probado por los fiscales (respaldado por testimonios de exingenieros de la empresa), fue que la cúpula directiva rechazó sistemáticamente propuestas de su propio equipo ético, prefiriendo no implementar herramientas efectivas de bienestar (como límites estrictos de tiempo o suspensión de notificaciones nocturnas) porque esas medidas reducían el tiempo de permanencia (engagement) y, por ende, sus ingresos publicitarios.
Documentos internos de Meta mostraban que la empresa consideraba a los preadolescentes y adolescentes como el “activo más valioso”, ya que capturar a un usuario a temprana edad garantiza años de retención de atención e ingresos publicitarios futuros. A partir de los 12 años, la necesidad de pertenencia al grupo de pares alcanza su punto máximo. Los algoritmos explotaron esto mediante el bucle de validación social (métricas de me gusta, comentarios) y la comparación de apariencia física, que afectó de manera desproporcionada la salud mental y la imagen corporal de las adolescentes.
Los documentos filtrados y los testimonios ante senados y tribunales, señalaron que Meta no era un bloque monolítico, dado que, mientras la cúpula directiva priorizaba las métricas de crecimiento, gran parte del equipo técnico y científico, libró una batalla ética que terminó en frustración y renuncias.
Pareciera que más que nunca deberíamos cuidarnos “… de los falsos profetas, que se presentan cubiertos con pieles de ovejas, pero por dentro son lobos rapaces.” [3]
En el acuerdo histórico alcanzado en agosto de este año, Meta aceptó pagar hasta 18.000 millones de dólares para cerrar las demandas presentadas por fiscales generales de Estados Unidos. De esta forma, quiso cerrar en alguna medida, exposición pública que, sin duda, perjudicaría cada día más su imagen.
La realidad descripta me lleva a comprender que el nuevo mundo de la IA en el que estamos inmersos, no es neutro y esconde actitudes y valores que se alejan de una visión cristiana del hombre y la vida.
Nos dice en este sentido el papa León XIV que “no podemos limitarnos a invocar la moralización de la máquina … sin tener la valentía de poner una condición ulterior: la posibilidad de discutir el código ético que debe ser usado. … De lo contrario, quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas.” [4]
Lo dicho me lleva a preguntarme si somos conscientes de los códigos morales implícitos en muchas de las acciones que tomamos en las empresas.
¿En qué medida se esconden en muchas de nuestras acciones y en la forma de relacionarnos, una determinada forma de comprender y valorar el trabajo y la persona humana?
¿Qué decisiones tomaríamos si para producir una mayor ganancia tuviéramos que generar una cierta adicción en nuestros clientes?
¿Somos capaces de no aprovecharnos de nuestra posición dominante sobre los que tienen menos posibilidades?
En definitiva, quizás la pregunta que debamos hacernos es saber si estamos construyendo una empresa transparente, inclusiva y justa, en la que haya lugar para llevar adelante actividades creadoras y de entrega mutua, que despierte confianza y nuestras capacidades de forjar con entusiasmo y alegría. Algo así como trabajar en un entorno en el que sea posible mostrar ese niño que todos llevamos dentro.
Tal vez de esa forma Meta no hubiera manipulado a los niños a través de la IA, persiguiendo un lucro desmedido a un precio tan alto y hubiera podido hacer propio el principio de Jesús que pide: “dejen que los niños vengan a mí; no se lo impidan, porque el reino de los cielos es de quienes son como ellos».”[5]
[1] Papa León XIX, Carta Encíclica “Magnifica humanitas”, pto. 90.
[2] Idem, 104
[3] Mt., 7, 15
[4] Idem. 107
[5] Mt, 19, 14