Declaración de Bletchley: "La IA debe ser segura, centrada en las personas y responsable"

Redacción

La Inteligencia Artificial (IA) presenta enormes oportunidades, y también riesgos, globales. Desde el más positivo de los afrontamientos tiene el potencial de transformar y mejorar el bienestar humano, la paz y la prosperidad. Sin embargo las preocupaciones éticas sobre el mal uso o las consecuencias indeseadas de esta poderosa tecnología han impulsado una cumbre mundial celebrada en Bletchley (Reino Unido) que ha generado una declaración oficial.

Más de 1.000 personas firmaron en Bletchley (Reino Unido)  una declaración que enfatiza la necesidad de que esta tecnología de presente y gran futuro sea desarrollada y utilizada de manera segura, centrada en el ser humano, logrando que sea confiable y responsable. Entre los firmantes se encuentran representantes de 28 países, de la Unión Europea, de organizaciones internacionales y de grupos regionales… pero también personalidades como el empresario Elon Musk, el cofundador de Apple, Steve Wozniak, el director ejecutivo de la firma Stability AI, Emad Mostaque, e investigadores de la firma DeepMind.

Se comprometieron a:

-Cooperar en la IA para promover el crecimiento económico, el desarrollo sostenible y la innovación.

-Es irrenunciable proteger los derechos humanos y tener la confianza de la sociedad en los sistemas de IA.

Puntos clave de la declaración de Bletchley:

• La IA tiene el potencial de transformar y mejorar el bienestar humano, la paz y la prosperidad a nivel global.
• Los sistemas de IA ya se están utilizando en varios aspectos de la vida cotidiana, y se espera que su uso aumente en diversos ámbitos, incluyendo vivienda, empleo, transporte, educación, salud, accesibilidad y justicia.
• Es crucial el desarrollo y uso seguro de la IA en beneficio de todos, con un enfoque en la inclusión y los derechos humanos.
• Los riesgos asociados con la IA incluyen cuestiones de derechos humanos, transparencia, equidad, responsabilidad, regulación, seguridad, ética, privacidad y protección de datos.

Preocupaciones específicas

Entre los riesgos de la IA se han destacado los relacionados con la seguridad y su uso indebido, particularmente en ámbitos como la ciberseguridad y la biotecnología. Los asistentes a la cumbre de Bletchley han destacado que la cooperación internacional es esencial para abordar la naturaleza internacional de los riesgos relacionados con la IA.

Reconocen que los países deben adoptar un enfoque de gobernanza y regulación que sea proporcional y promueva la innovación. La colaboración debe incluir a diversas partes interesadas, como naciones, organizaciones internacionales, empresas, sociedad civil y academia, con un enfoque en la inclusión y la reducción de la brecha digital.

Las medidas de seguridad deben considerarse en todo el ciclo de vida de la IA, y los actores que desarrollan capacidades de IA denominadas ‘de frontera’ tienen una fuerte responsabilidad a la hora de garantizar su impacto y seguridad.

Agenda en IA

La agenda de temas a abordar para enfrentar y reducir los riesgos asociados a la ‘IA de frontera’ incluye:

-La identificación de riesgos de seguridad compartidos de la IA.

-Creación de políticas basadas en riesgos.

-Apoyo a una red internacional de investigación científica sobre seguridad en la IA de frontera.

-Próxima cumbre en 2024.