El Consejo Asesor Internacional de Inteligencia Artificial ha presentado este jueves el Manifiesto de Madrid por una IA responsable. El documento defiende el rol legítimo de las democracias "en la configuración, la gobernanza y la supervisión de la Inteligencia Artificial, de modo que sus beneficios, oportunidades y capacidades sean compartidas globalmente y estén alineadas con los derechos humanos y los valores democráticos”.
El manifiesto advierte de que "la autorregulación de esta tecnología no es suficiente", ya que "no puede asegurar que se desarrolla en línea con el interés público". El texto ha sido elaborado por un grupo de diez expertos internacionales en tecnología, ética, economía, sociología, gobernanza digital y ciencias cognitivas, en respuesta a un mandato del Consejo de Ministros de 2024.
La presentación contó con la participación del presidente del Consejo Asesor, el sociólogo Manuel Castells, junto a la experta en política digital Francesca Bria, y el ministro para la Transformación Digital y de la Función Pública, Óscar López. El ministro López agradeció el trabajo del Consejo, calificándolo de "muy valioso, no sólo para España, sino para todos los que, en todo el mundo, ven al Consejo como un modelo de referencia en materia de asesoramiento, defensa y evaluación de la IA”.
El Consejo Asesor alerta sobre nuevas formas de colonialismo en la era digital, donde los datos se apropian de la vida personal para su explotación. Subraya que la IA "debe desarrollarse y gobernarse al servicio de la dignidad humana, la democracia, la justicia social y la prosperidad compartida", combinando competitividad con transparencia, trazabilidad, supervisión humana y rendición de cuentas.
Los expertos aseguran que la IA puede ofrecer "oportunidades genuinas de progreso" en ciencia, salud y educación si se implementa correctamente. Sin embargo, advierten de la concentración de poder sobre la IA en "pocas manos", lo que genera "desafíos fundamentales para la gobernanza democrática, la equidad económica y la soberanía tecnológica".
El manifiesto enfatiza que la IA es "una carrera por construir la sociedad más capaz de aprovechar la IA y beneficiarse de ella". Se subraya la necesidad de integrar los derechos fundamentales en el desarrollo de la IA, promoviendo la igualdad, la inclusión, la no discriminación, la privacidad y la seguridad de los menores. La protección de los niños se considera "la condición que legitima la innovación".
La soberanía digital es señalada como "una condición necesaria para la democracia", permitiendo a las sociedades gobernar infraestructuras digitales críticas según sus valores. Se construye mediante la apertura y la cooperación, garantizando el control efectivo sobre datos y sistemas, y reflejando la diversidad cultural y territorial.
El Consejo considera las capacidades públicas como "la piedra angular de la soberanía digital", instando a mantenerlas robustas en toda la cadena de valor de la IA para asegurar la supervisión democrática y el interés público. La IA debe generar "prosperidad, conocimiento y bienestar para las generaciones presentes y futuras".
El manifiesto hace un llamamiento a la responsabilidad y transparencia de los responsables de los sistemas de IA, reclamando que la responsabilidad por los daños recaiga en "quienes los desarrollan y despliegan". Se exige que los sistemas de alto riesgo se sometan a "evaluación independiente antes de su despliegue" y que las autoridades públicas puedan suspender sistemas que escapen al control humano.
El documento está suscrito por Manuel Castells, Luciano Floridi, Paul S. Adlr, Jeroen van den Hoven, Francesca Bria, Carissa Véliz, Vint Cerf, Erika Staël von Holstein, Kate Crawford, Niklas Lundblad y Jerome A. Feldman. La reunión del Consejo Asesor en Madrid fue inaugurada por la secretaria de Estado de Digitalización e IA, María González Veracruz, y clausurada por el ministro Óscar López.
