Novidades e acordos na regulación sobre Intelixencia Artificial
R
- 2023-12-05
4 min
A Intelixencia Artificial irrompeu con forza en todos os ámbitos. E fíxoo tan rapidamente que non deu tempo a que os estados e organizacións conten con leis que garantan o seu uso coas debidas garantías.
Pola súa banda, a Unión Europea acaba de aprobar a primeira lei sobre Intelixencia Artificial do mundo.
A súa intención é establecer un marco xurídico uniforme e común a longo prazo na Unión Europea de cara ao desenvolvemento, a comercialización e a utilización da Intelixencia Artificial. É dicir, conseguir unha IA segura, fiable e ética é un obxectivo primordial europeo, centrado nun enfoque humanista.
Porque, aínda que se recoñece amplamente a súa decisiva importancia na economía dixital e que a súa aplicación conleva múltiples e diversos beneficios, é unha tecnoloxía emerxente que non está exenta de riscos, que deben ser identificados e mitigados. Dada a importancia e o vertixinoso protagonismo que está a experimentar na práctica totalidade de sectores, resulta clave a súa regulación.
Foi en abril de 2021 cando a UE publicou a primeira proposta de marco regulador.
En abril de 2022, aprobouse un informe da Comisión Especial en Intelixencia Artificial na Era Dixital.
En xuño de 2023, incorporáronse novas modificacións a un borrador que xa enfilaba a recta final.
As claves da regulación europea da IA
A prioridade da UE é garantir que os sistemas utilizados sexan seguros, transparentes, visibles, non discriminatorios e respectuosos co medio ambiente, e que salvagarden os dereitos dos cidadáns fronte a esta tipoloxía de tecnoloxía rupturista
E un dato importante: deben ser supervisados por persoas.
A ética e o cidadán son dous dos eixes básicos dunha regulación que cómpre garanta a seguridade, a transparencia e a responsabilidade para evitar calquera forma de desviación e discriminación, así como o respecto dos dereitos fundamentais.
A lei baséase na definición e na clasificación das aplicacións que utilicen a IA en función do nivel de risco para os/as usuarios/as; é dicir, a maior risco, maior regulación.
Considérase que presentan un alto risco aqueles casos nos que a tecnoloxía de IA sexa utilizada en infraestruturas críticas que poderían poñer en perigo a vida e a saúde dos/as cidadáns/ás e na formación educativa ou profesional, que podería determinar o acceso á educación e influír na traxectoria profesional dunha persoa, ou en compoñentes de seguridade dos produtos, entre outros supostos. En tal caso, deben deseñarse de tal modo que permitan en calquera momento a supervisión humana, así como o cumprimento de obrigacións estritas. No caso de aplicacións desta tecnoloxía que puidesen atentar gravemente contra principios éticos ou resultar perigosas, serán prohibidas por conlevar un risco inaceptable.
Así, a proposta establece unha listaxe de prácticas de IA prohibidas, entre elas a utilización con fins de “puntuación” social á ciudadanía (é dicir, para recompilar datos que rexistran, controlan e avalían os comportamentos dunha poboación), a explotación de vulnerabilidades de determinados colectivos ou os sistemas de identificación biométrica a distancia en tempo real en espazos de acceso público (aínda que, neste último caso, prevense excepcións).
En termos xerais, os sistemas de IA que lle poidan afectar negativamente á seguridade ou interferir cos dereitos fundamentais das persoas consideraranse de alto risco.
Por outra banda, a IA xenerativa terá que cumprir esixentes requisitos de transparencia.
En calquera caso, a transparencia antóllase esencial, independentemente do nivel de risco. Os usuarios deben ser conscientes sempre de cando están a interactuar cun sistema de IA, en calquera soporte ou formato, e cómpre que conten coa opción de decidir se queren seguir utilizándoa, quedándolles claro se se lles ofrecen alternativas.
Á hora de levar á práctica a IA, a proposta normativa, chamada “Artificial Intelligence Act (AIA)”, fala de varios modelos de implementacións e dos seus requisitos: funcionais (necesitan documentación previa á súa publicación, xestión de seguridade e xestión do copyright), altamente capaces (dependendo da potencia de cálculo usada para adestralos) e propósitos xerais (con etiquetaxes e informe de riscos).
Esta lei europea non só fala dos efectos da IA para os/as cidadáns/as; tamén aborda as implicacións para as empresas, procurando promover a innovación e, ao mesmo tempo, achegando seguridade xurídica.
En relación con isto, os dereitos de propiedade intelectual son un dos crebacabezas pendentes: A quen pertence a propiedade intelectual de algo que se desenvolveu integramente con IA?
Regulación da Intelixencia Artificial en EE.UU.
Pola súa banda, EE.UU. adoptou unha orde executiva para regular o desenvolvemento de Intelixencia Artificial dirixida a controlar os posibles excesos e ameazas desta tecnoloxía.
Ademais de medidas encamiñadas a protexer o/a consumidor/a, a privacidade e os dereitos civís, nela regúlase de forma explícita o seu uso en infraestruturas críticas e, especialmente, os riscos que poida supoñer en áreas como a química, a radioloxía, o ámbito nuclear ou a ciberseguridade.
En canto á IA xenerativa, obriga á etiquetaxe con claridade do contido xerado por IA.
O G7 irrompe na lexislación sobre a IA
No medio dos estudos e propostas regulatorias europeas e estadounidenses, o G7 decidiu mover ficha e pronunciarse ante a IA.
O organismo internacional decantouse por apoiar o chamado “Proceso de Hiroshima sobre IA”, unha proposta de Xapón a medio camiño entre a restritiva opinión europea e a máis permisiva americana.
Trátase dun código internacional de conduta para os desarrolladores de sistemas de Intelixencia Artificial, que deben tomar as medidas adecuadas para mitigar os riscos ao longo de todo o ciclo de vida, cun enfoque baseado no risco.
Ademais, define un marco de gobernanza que aposta pola seguridade, a protección e a fiabilidade da IA en todo o mundo. Foméntase o investimento e a implementación de controis de seguridade e faise fincapé na transparencia e na necesidade de compartir información entre organizacións. Sen embargo, permite que as diversas xurisdicións poidan adoptar os seus propios enfoques para a aplicación das accións da forma que lles resulte máis adecuada.
Se queres saber máis sobre as nosas solucións tecnolóxicas relacionadas con Intelixencia Artificial, subscríbete ao noso boletín ou contacta co/coa teu/túa asesor/a persoal ou co noso equipo da área comercial empresas a través do seguinte formulario. E para estar ao día das últimas noticias síguenos en LinkedIn.
visualizacións: 207
MENÚ
3 min 
