En un mundo donde las pantallas y las nuevas tecnologías forman parte del día a día de nuestros hijos, la Inteligencia Artificial (IA) avanza a pasos agigantados. De hecho, mientras que internet tardó 15 años en alcanzar los mil millones de usuarios, ¡la IA lo ha logrado en solo dos!
Ante esta velocidad de vértigo, el secretario general de la ONU, António Guterres, ha lanzado una seria advertencia en Ginebra: «Ningún niño debe convertirse en un conejillo de indias de una IA no regulada». Por ello, ha propuesto un pacto internacional para que los gobiernos y las grandes empresas tecnológicas protejan de forma estricta a los menores en el entorno digital.
Los 3 pilares del pacto para proteger a los menores
La propuesta de Naciones Unidas es clara y directa, exigiendo que el desarrollo tecnológico no se haga a costa de la seguridad emocional y física de la infancia. El plan se basa en tres principios obligatorios para las empresas desarrolladoras:
- Demostrar la seguridad antes de lanzar el producto: Las empresas tecnológicas tendrán que certificar de forma pública y rigurosa que sus sistemas, aplicaciones y herramientas de IA son 100% seguros para los niños antes de que estos puedan usarlos.
- Tolerancia cero con el abuso visual: El pacto exige un bloqueo absoluto y tolerancia cero ante la generación de cualquier tipo de imagen de abuso sexual infantil mediante herramientas de Inteligencia Artificial.
- Redirección obligatoria a ayuda humana: Si un sistema de IA detecta que un menor muestra señales de angustia, ansiedad o riesgo de autolesión a través de sus mensajes o búsquedas, los algoritmos deberán derivar de inmediato al niño hacia la atención y el apoyo de profesionales humanos.
Un impacto que va más allá de las pantallas: El medio ambiente
La ONU no solo ha puesto el foco en la seguridad mental de los niños, sino también en el planeta que les vamos a dejar. Guterres ha presentado la Iniciativa de Transparencia Ambiental sobre la IA, alertando de que los centros de datos consumen ya más electricidad que la mayoría de los países.
Para 2030, estas instalaciones podrían gastar tanta agua como la que necesitarían los 1.300 millones de habitantes del África subsahariana en un año. Por ello, el pacto exige a las tecnológicas que todos sus centros funcionen con energías renovables antes de 2030.
