El pasado 16 y 17 de noviembre de 2023 se realizó la cuarta asamblea de la Alianza Europea de la Inteligencia Artificial. En REDTORRES realizamos el streaming AIalliance.
El evento #AIAlliance, que tuvo lugar en Casa de América, Madrid, fue organizado por el Ministerio de Asuntos Económicos y Transformación Digital de España, a través de su Secretario de Estado de Digitalización e Inteligencia Artificial, junto con la Comisión Europea. El Consejo de la UE, presidido en esta ocasión por España, depositó su confianza en REDTORRES para llevar la producción del streaming a YouTube, para todas aquellas personas que no pudieron acudir de forma presencial.
El evento contó con la bienvenida de Enrique Ojeda, Director General de Casa América. Fue inaugurado y clausurado por Irene López de Vallejo, Maestra de Ceremonias, quien fue la persona encargada de dar el discurso de apertura del encuentro. También fue quien introdujo el videomensaje de bienvenida tanto de la Primera Ministra de España, Nadia Calviño, como el discurso de Thierry Breton, Comisario europeo de Mercado Interior.
4.ª Asamblea de la Alianza Europea de la IA: Liderar una IA fiable a escala mundial
La primera jornada de la asamblea del streaming AIalliance se centró en el tema de la regulación de la IA. En la sesión inaugural, la vicepresidenta Nadia Calviño destacó la importancia de la IA para la sociedad europea y el compromiso de la UE con el desarrollo de una IA de confianza. El comisario europeo de Mercado Interior, Thierry Breton, presentó la Ley de IA, que establece un marco regulatorio para la IA en la UE.
Colocando a Europa en el mapa de la Inteligencia Artificial generativa
Durante esta sesión del del streaming AIalliance, se debatió sobre la importancia de la IA generativa para la innovación y el crecimiento económico. Los participantes destacaron la necesidad de aumentar la inversión en IA generativa en Europa. Buscan garantizar que el desarrollo de esta tecnología se lleve a cabo de forma responsable.
En la sesión «Cooperación internacional para la IA confiable», se discutió sobre la importancia de la cooperación internacional para el desarrollo de una IA de confianza. Los participantes coincidieron en la necesidad de establecer normas internacionales para la IA y de fomentar el intercambio de conocimientos y experiencias entre los distintos países.
Conexión con Bruselas
Fuente: 4th European AI Alliance Assembly: Leading Trustworthy AI Globally. DAY-1. YouTube.
A la sesión, el Secretario de Estado de Bélgica, próximo país miembro que presidirá la Comisión Europea, no pudo acudir en persona. Desde REDTORRES realizamos una conexión directa para ser preguntado por el Asesor internacional para IA, DG CNECT, Juha Heikkilä. Entre las preguntas, qué espera él, en relación con la transformación digital o la agenda para la transformación digital en particular. El belga también compartió su visión de cómo afectará esto a la futura cooperación y convergencia entre las dos regiones.
IA confiable para todos: garantizar la inclusión y la justicia
Fuente: 4th European AI Alliance Assembly: Leading Trustworthy AI Globally. DAY-2. YouTube
La segunda jornada del streaming AIAlliance fue inaugurada por Carmen Artigas, secretaría de Estado en Digitalización e IA.
Durante esta segunda sesión se debatió sobre los posibles daños y riesgos de discriminación que plantean los modelos de IA generativa. También se debatía sobre los sistemas de apoyo a las decisiones de IA. Y sobre esto último, preocupa en particular sistemas de IA utilizados en escenarios de alto riesgo. Se pone el foco en el empleo, la educación y la aplicación de la ley.
Los participantes destacaron que los modelos de IA generativa y los sistemas de apoyo a las decisiones de IA pueden ser susceptibles a sesgos. . Estos sesgos pueden conducir a resultados injustos, como discriminar a las personas en función de su raza, género, origen étnico o religión.
También se destacaron que los sesgos en la IA pueden ser difíciles de detectar y mitigar. Y es que los sesgos pueden estar en los datos, en los algoritmos o en la forma en que se utilizan los modelos de IA.
Implementación de la Ley de IA en la práctica
En esta sesión, se discutieron los retos y oportunidades de la implementación de la Ley de IA en la UE. Los participantes destacaron la necesidad de establecer normas armonizadas para la IA. Es necesario crear normas regulatorias para facilitar la experimentación con la IA y de fortalecer la supervisión de la IA.
En la sesión «IA para ciberseguridad e IA adversaria«, se debatió sobre la relación entre la IA y la ciberseguridad. Los participantes destacaron la importancia de proteger los sistemas de IA de los ataques cibernéticos y de desarrollar la IA para la ciberseguridad.
En la sesión «Ayudar a los innovadores de la IA a llegar al mercado de forma más rápida y responsable: instalaciones de prueba y experimentación – TEF», se argumentó sobre el papel de las instalaciones de prueba y experimentación (TEF) en el desarrollo de la IA. En esta parte del evento, los participantes destacaron la importancia de las TEF para ayudar a las empresas a probar sus tecnologías de IA en entornos del mundo real.
La asamblea fue un evento fructífero que ayudó a avanzar en la discusión sobre la IA de confianza. Todos y cada uno de los invitados compartieron ideas y perspectivas valiosas, y establecieron una serie de prioridades para el trabajo futuro de la EAIA.
Algunos de los puntos claves destacar que surgieron de la asamblea son:
- La IA es una tecnología poderosa con el potencial de transformar muchos aspectos de nuestras vidas, pero solo si se desarrolla y utiliza de forma responsable.
- La Ley de IA es un paso importante hacia el desarrollo de una IA de confianza en la UE, pero es necesario que se implemente de forma eficaz.
- Es importante abordar los sesgos en los datos y los modelos de IA para garantizar que la IA sea inclusiva y justa.
- La ciberseguridad es un desafío clave para el desarrollo de la IA, y es necesario que se tomen medidas para proteger los sistemas de IA de los ataques cibernéticos.
- Las instalaciones de prueba y experimentación (TEF) pueden desempeñar un papel importante en el desarrollo de la IA, al ayudar a las empresas a probar sus tecnologías en entornos del mundo real.