Declaración de Shanghai sobre la Gobernanza Global de la Inteligencia Artificial

Oficina de Asuntos Exteriores del Gobierno Municipal de Shanghai|

Somos plenamente conscientes del impacto del alcance actual de la inteligencia artificial (IA) en el mundo y de su gran potencial. Reconocemos que la IA está liderando una revolución científica y tecnológica y afectando profundamente a la forma de trabajar y de vivir de las personas. Con el rápido desarrollo de las tecnologías de IA, también nos enfrentamos a retos sin precedentes, especialmente en términos de seguridad y ética.

Subrayamos la necesidad de promover el desarrollo y la aplicación de las tecnologías de IA, garantizando al mismo tiempo la seguridad, la fiabilidad, la controlabilidad y la equidad en su proceso de desarrollo, y promoviendo el uso de las tecnologías de IA para potenciar el desarrollo de la sociedad humana. Creemos que solo mediante la cooperación mundial y un esfuerzo colectivo podremos aprovechar todo el potencial de la IA para el mayor bienestar de la humanidad.

1. Promover el desarrollo de la IA

Acordamos promover activamente la investigación y el desarrollo para liberar el potencial de la IA en diversos campos como la sanidad, la educación, el transporte, la agricultura, la industria, la cultura y la ecología. Se fomentará el pensamiento innovador, se apoyará la colaboración en la investigación interdisciplinar y se promoverá conjuntamente los avances de las tecnologías de IA y la IA para el bien. Además, vigilaremos de cerca y mitigaremos el impacto de la IA en el empleo. Estamos dispuestos a guiar y promover la optimización de la calidad y la eficiencia del trabajo humano posibilitado por la IA.

Defendemos el espíritu de apertura y beneficio compartido, promoviendo los intercambios y la cooperación sobre los recursos mundiales de investigación en IA. Se establecerán plataformas de cooperación para facilitar la transferencia y comercialización de tecnología, impulsar la distribución equitativa de la infraestructura de IA, eliminar barreras técnicas y fortalecer conjuntamente el desarrollo global de la IA.

Estamos de acuerdo en defender el desarrollo de datos de alta calidad con una seguridad de datos de alto nivel, promover conforme a la ley el flujo libre y ordenado de datos, oponernos a la formación de datos discriminatoria y exclusiva, y colaborar en el desarrollo de conjuntos de datos de alta calidad para impulsar de manera óptima el desarrollo de la IA.

Se establecerán mecanismos de cooperación para promover enérgicamente la potenciación de la IA en todas las industrias, empezando por acelerar la aplicación inteligente en campos como la fabricación, la logística y la minería, y promoviendo simultáneamente el intercambio de tecnologías y normas pertinentes.

Nos comprometemos a cultivar más profesionales de la IA, a reforzar la educación, la formación y los intercambios de personal y la cooperación, y a mejorar los conocimientos y habilidades de la IA en todo el mundo.

Hacemos un llamado a todos los países para que defiendan un enfoque centrado en la humanidad y se adhieran al principio de la IA para el bien y garanticen la igualdad de derechos, la igualdad de oportunidades y la igualdad de normas para todos los países a la hora de desarrollar y utilizar las tecnologías de IA sin ningún tipo de discriminación.

Respetamos el derecho de todos los países a un desarrollo independiente. Animamos a todos los países a formular estrategias, políticas y leyes y reglamentos sobre IA basados en sus propias condiciones nacionales. Pedimos que se acaten las leyes y reglamentos de los países receptores de los bienes y servicios, se observe el derecho internacional aplicable y se respeten sus sistemas económicos y sociales, así como sus tradiciones y valores religiosos y culturales, a la hora de llevar a cabo la cooperación internacional sobre tecnologías, productos y aplicaciones de IA.

2. Mantener la seguridad de la IA

Concedemos gran importancia a la seguridad de la IA, especialmente a la seguridad de los datos y a la protección de la privacidad. Acordamos promover la formulación de normas de protección de datos, reforzar la interoperabilidad de las políticas de protección de datos e información de los distintos países y garantizar la protección y el uso lícito de la información personal.

Reconocemos la necesidad de reforzar la regulación y desarrollar tecnologías de IA fiables que puedan ser revisadas, supervisadas y rastreadas. Dado el carácter evolutivo de la IA, utilizaremos las tecnologías de IA para prevenir los riesgos asociados y fortalecer la capacidad tecnológica para la gobernanza de la IA, manteniendo siempre la toma de decisiones y la supervisión humanas como base fundamental. Animamos a los países, a la luz de sus condiciones nacionales, a formular leyes y normas y a establecer un sistema de pruebas y evaluación basado en los niveles de riesgo de la IA y un sistema de revisión ética de la ciencia y la tecnología. Sobre esta base, alentamos la formulación de normas de autodisciplina más oportunas y ágiles para la industria.

Decidimos reforzar la ciberseguridad relacionada con la IA, mejorar la seguridad y fiabilidad de los sistemas y aplicaciones, y prevenir la piratería informática y las aplicaciones maliciosas, así como también combatir conjuntamente el uso de la IA en la manipulación de la opinión pública, así como en la creación y difusión de desinformación. Este compromiso se fundamenta en el respeto y la aplicación de los marcos jurídicos tanto a nivel internacional como nacional.

Trabajaremos juntos para impedir que los terroristas, las fuerzas extremistas y los grupos delictivos organizados transnacionales utilicen las tecnologías de IA para actividades ilegales. Uniremos fuerzas para combatir el robo, la manipulación, la filtración y la recopilación y el uso ilegales de información personal.

Acordamos empujar la formulación y adopción de directrices y normas éticas para la IA con un amplio consenso internacional, orientar el desarrollo saludable de las tecnologías de IA y prevenir su uso indebido, abusivo o malintencionado.

3. Desarrollar el sistema de gobernanza de la IA

Abogamos por el establecimiento de un mecanismo de gobernanza de la IA de alcance mundial. Apoyamos el papel de las Naciones Unidas como canal principal, celebramos el fortalecimiento de la cooperación Norte-Sur y Sur-Sur, y pedimos que se incremente la representación y la voz de los países en desarrollo. Animamos a los distintos actores, incluyendo las organizaciones internacionales, las empresas, los institutos de investigación, las organizaciones sociales y los particulares, a desempeñar activamente el papel que les corresponde en el desarrollo y la aplicación del sistema de gobernanza de la IA.

Estamos de acuerdo en fortalecer la cooperación con organizaciones internacionales e institutos profesionales para compartir políticas y prácticas de ensayo, evaluación, certificación y regulación de la IA con el fin de garantizar la seguridad, controlabilidad y fiabilidad de las tecnologías de IA.

Acordamos perfeccionar los mecanismos reguladores y de rendición de cuentas de la IA para garantizar el cumplimiento y la rendición de cuentas en el uso de las tecnologías de IA.

4. Reforzar la participación pública y optimar la alfabetización

Acordamos establecer mecanismos de participación diversa, incluidas consultas públicas y encuestas sociales, para integrar al público en la toma de decisiones sobre IA.

Buscamos aumentar la conciencia y comprensión pública sobre la IA y sensibilizar a la población sobre la seguridad de la IA, a través de actividades de comunicación para difundir el conocimiento de la IA, mejorar la alfabetización digital y concienciar al público sobre la importancia de la seguridad en este ámbito.

5. Mejorar la calidad de vida y aumentar el bienestar social

Promoveremos activamente la aplicación de la IA en el campo del desarrollo sostenible, incluyendo la innovación industrial, la protección medioambiental, la utilización de recursos, la gestión energética y la promoción de la biodiversidad. Fomentamos el pensamiento innovador en la exploración del potencial de las tecnologías de IA para contribuir a la resolución de problemas globales.

Estamos comprometidos a utilizar la IA para mejorar el bienestar social, especialmente en campos como la sanidad, la educación y el cuidado de ancianos.

Somos plenamente conscientes de que la aplicación de esta declaración requiere nuestros esfuerzos conjuntos. Esperamos respuestas positivas de los gobiernos, las comunidades de ciencia y tecnología, las comunidades industriales y otras partes interesadas de todo el mundo. Juntos, impulsemos el desarrollo saludable de la IA, garanticemos la seguridad en su aplicación y potenciemos el futuro común de la humanidad con la IA.