El Consejo Asesor Internacional de Inteligencia Artificial (IA), un órgano independiente que elabora informes para el Gobierno, ha publicado hoy un documento de trabajo en el que, entre otras cosas, reclama “una fiscalidad justa” para las tecnológicas, y que los sistemas de IA que puedan afectar a los menores “sean sujetos a evaluaciones independientes antes de su despliegue para asegurar altos niveles de seguridad, protección y responsabilidad”.
El panel internacional de expertos que asesora al Gobierno en esta tecnología recomienda más regulación y apostar por la soberanía europea
El Consejo Asesor Internacional de Inteligencia Artificial (IA), un órgano independiente que elabora informes para el Gobierno, ha publicado hoy un documento de trabajo en el que, entre otras cosas, reclama “una fiscalidad justa” para las tecnológicas, y que los sistemas de IA que puedan afectar a los menores “sean sujetos a evaluaciones independientes antes de su despliegue para asegurar altos niveles de seguridad, protección y responsabilidad”.
Esos son algunos de los puntos destacados del Manifiesto de Madrid por una IA Responsable, el informe preparado por este grupo de expertos presidido por el exministro Manuel Castells, y formado hace tres años. “Nuestra intención es aportar una visión estratégica de la IA y fijar los principios que deberían guiar la acción”, ha dicho el sociólogo durante la presentación del documento. El ministro de Transformación Digital y de la Función Pública, Óscar López, ha dicho en el mismo acto que la intención del Gobierno –en el caso de que se revalide tras las elecciones del 29N– es “transformar en leyes las ideas aportadas” por el consejo asesor.
“Hay muchas leyes vivas que vamos a seguir empujando”, ha dicho López, en referencia al Decreto de Centros de Datos, que impone a estas infraestructuras nuevas exigencias sobre su huella medioambiental; o a la Ley de Menores, que incluye la prohibición de las redes sociales a menores de 16 años. El ministro ha recordado también que el presidente del Gobierno, Pedro Sánchez, anunció hace dos semanas “el impulso de un nuevo contrato social de la IA”, para el que se convocaría a los agentes sociales. Un anuncio que ha quedado congelado por el adelanto electoral.
El documento presentado por el grupo de expertos incide en que la IA debe proteger y servir a las personas, tiene que servir a la democracia, debe ser inclusiva y sostenible y apostar por la transparencia. En este sentido, el manifiesto defiende que a IA debe respetar la privacidad de las personas y minimizar los datos que se cede a las desarrolladoras de estas tecnologías, así como demostrar que su acción sirve a la sociedad.
El grupo de expertos no es ajeno al debate de las últimas semanas en torno a la seguridad de la IA. Preguntado al respecto, el exministro Castells ha sido categórico: “No hay ninguna evidencia científica de que la IA pueda tomar decisiones por sí misma. Utiliza todos los recursos que tiene a su disposición para resolver los problemas que se le plantea, y es muy eficiente en ello: puede ir todo lo lejos que uno pueda imaginarse o más”, ha dicho. “Lo más importante es controlar a las personas que están programando la IA, porque es una herramienta extraordinaria. Lo demás son fantasías de Hollywood o estrategias financieras”, ha subrayado.
“Es inaceptable que las empresas que desarrollan la IA digan que no son responsables de lo que están haciendo sus modelos”, ha dicho en este sentido Francesca Bria, experta en soberanía digital y profesora honoraria del Instituto para la Innovación y el Propósito Público de la University College London, que dirige la economista Mariana Mazzucato.
El Consejo Asesor está compuesto, además de por Castells, por Luciano Floridi, Paul Adler, Jeroen van den Hoven, Francesca Bria, Carissa Véliz, Vint Cerf, Erika Staël von Holstein, Kate Crawford, Niklas Lundblad y Jerome Feldman.
Tecnología en EL PAÍS
