"Por unha intelixencia artificial (IA) ética e respectuosa cos dereitos das persoas con discapacidade"

A continuación reproducimos o manifesto do CERMI (Comité Español de Representantes de Personas con Discapacidad) polo Día Nacional en España da Convención Internacional sobre os Dereitos das Persoas con Discapacidade. O manifesto tamén é accesible, tendo en conta a temática deste ano, en versión de lectura realizada con intelixencia artificial por avatares con discapacidade, así como en lectura fácil e en lingua de signos española.

O 3 de maio foi declarado polo Goberno, mediante decisión do Consello de ministros e por suxestión do CERMI, Día Nacional en España da Convención Internacional sobre os Dereitos das Persoas con Discapacidade do 13 de decembro de 2006, conmemorando así a data en que este tratado internacional de dereitos humanos entrou en vigor en todos os Estados parte, incluída España. O propósito deste Día Nacional é xerar coñecemento e provocar toma de conciencia, en todas as instancias, operadores, axentes e grupos de interese, da discapacidade como unha parte, digna e valiosa, da diversidade humana, que só pode entenderse e abordarse como unha cuestión de dereitos humanos.

O mundo está a atravesar un crecemento acelerado e sen precedentes no uso da intelixencia artificial por parte dos individuos, empresas, institucións e estados. A influencia desta tecnoloxía está cada vez máis presente na automatización da toma de decisións a través da aprendizaxe automática e nas tecnoloxías de intelixencia artificial xenerativas a través da aprendizaxe profunda. Estas innovacións poden supoñer grandes beneficios ás persoas, pero tamén se están identificando e denunciando publicamente impactos discriminatorios que se traducen en vulneracións de dereitos. A xeración de estereotipos en todos os ámbitos a través dos usos da intelixencia artificial tamén constitúe unha seria ameaza para unha sociedade inclusiva e diversa.

A falta de transparencia é un verdadeiro obstáculo para os dereitos fundamentais. A natureza opaca dos modelos e sistemas de intelixencia artificial vese acentuada polas leis de propiedade intelectual, os acordos comerciais internacionais que encobren eficazmente calquera deseño discriminatorio que integraran e a ausencia dunha gobernanza democraticamente compartida.

Os organismos especializados das Nacións Unidas xa levan algúns anos alertando sobre o equilibrio entre os riscos e as oportunidades que presenta a intelixencia artificial e hai unha crecente conciencia sobre os enormes desafíos que estas tecnoloxías poden representar para os dereitos humanos e a ética, pero chegou o momento de impulsar un debate máis profundo sobre os problemas concretos que afectan as persoas con discapacidade no exercicio dos seus dereitos humanos.

A través deste manifesto, o Movemento CERMI busca expoñer algúns dos perigos que estas tecnoloxías poden supoñer para as persoas con discapacidade e resaltar a idea de que os dereitos deste sector social deben ocupar un lugar central nos debates sobre estas innovacións. Ata que estes riscos non sexan avaliados de forma adecuada e desde o enfoque de dereitos humanos, non será posible aproveitar plenamente as vantaxes prácticas da intelixencia artificial.

Os sistemas de intelixencia artificial e tecnoloxías xenerativas deben respectar, protexer e promover os dereitos humanos das persoas con discapacidade atendendo aos mandatos incluídos nos tratados internacionais de dereitos humanos, especialmente na Convención Internacional sobre os Dereitos das Persoas con Discapacidade, a Convención sobre a Eliminación de Todas as Formas de Discriminación contra a Muller, a Convención Marco do Consello de Europa sobre Intelixencia Artificial e Dereitos Humanos, Democracia e Estado de Dereito, o Regulamento de Intelixencia Artificial da Unión Europea e a Carta de Dereitos Dixitais.

Non pode haber sistemas de intelixencia artificial que sirvan para a vulneración dos dereitos das persoas con discapacidade, en xeral, e das mulleres e nenas con discapacidade en particular. Do mesmo xeito, debe prestarse especial atención á infancia e adolescencia con discapacidade, en tanto grupos de especial risco fronte á violencia e outras formas de vulneración de dereitos. Os dereitos relevantes e as obrigas comprenden, entre outros, a accesibilidade, a privacidade, a autonomía, a vida independente, o emprego, a educación, a saúde e, en especial, a garantía xeral de igualdade e non discriminación.

Estes sistemas deben ser ferramentas útiles para loitar contra todo tipo de discriminación e garantir a diversidade e a inclusión de todas as persoas con discapacidade, con especial atención ás persoas suxeitas a maior risco de exclusión pola intersección das características persoais de sexo, idade e discapacidade con outros factores de exclusión social como son a raza ou a etnia, a relixión ou crenzas, a orientación e identidade de xénero, a ruralidade ou o nivel socioeconómico.

A fenda dixital nas súas diferentes dimensións é a principal barreira á inclusión das persoas con discapacidade nestes sistemas. Os datos a grande escala son un elemento esencial para o funcionamento das ferramentas de intelixencia artificial. A falta de datos desagregados sobre as persoas con discapacidade implica unha menor representación ou a invisibilidade das persoas con discapacidade nos datos de adestramento, validación e proba e nos resultados dos sistemas de Intelixencia Artificial. Por iso é fundamental garantir que estes sistemas non aumenten os rumbos discriminatorios ou contribúan a crear novos rumbos algorítmicos, conscientes ou inconscientes, que poden condicionar a toma de decisións en distintos ámbitos de políticas públicas, co consecuente impacto nos dereitos fundamentais das persoas con discapacidade.

Todas as etapas e compoñentes destes sistemas deben ser transparentes e fáciles de comprender e permitir en todo momento preguntas sobre o seu funcionamento. Isto significa que as persoas con discapacidade deben poder acceder á información sobre como se implanta cada unha das fases dun sistema, sobre os factores que inflúen na predición ou outras decisións creadas a partir dos mesmos e sobre os conxuntos de datos que se empregan.

As persoas con discapacidade deben recibir información, en formatos universalmente accesibles, sobre cada un dos compoñentes destes sistemas, e saber en todo momento que interactúan con estes.

De igual modo, é crucial garantir a supervisión humana dos sistemas e fomentar a participación activa das persoas con discapacidade, xunto coas entidades que as representan. Así mesmo, é fundamental reverter a invisibilidade das mulleres con discapacidade nos conxuntos de datos utilizados para a base, o adestramento e a validación dos sistemas de intelixencia artificial.

Non deben obviarse os grandes impactos ambientais, enormes consumos de enerxía, da intelixencia artificial, e a necesidade de minimizalos, avogando por un uso desta tecnoloxía que sexa responsable no social e ambiental; nada será intelixente nin sostible se se exclúe o social e a perspectiva da discapacidade.

Para iso, o Estado debe asumir un rol central na regulación e fiscalización destes sistemas, asegurando que a lexislación estableza obrigacións claras para o desenvolvemento, aplicación e control da intelixencia artificial, cun enfoque baseado nos dereitos humanos e a non discriminación.

ACCESO A OUTRAS VESIÓNS DO MANIFESTO

Versión en lectura fácil

https://back.cermi.es/catalog/editor/files/1bwrh-cermi-lfmaniefiesto-3mayo25.pdf

Versión en lingua de signos española

https://youtu.be/r6GGPNjquj4

Lectura por avatares con discapacidade xerados con IA, con subtítulos

https://youtu.be/gf7DKQcnUQs

Lectura por avatares con discapacidade por IA + subtítulos e interpretación en lingua de signos española (LSE)

https://youtu.be/qm8KZene_qU

Lectura fácil con avatar IA y subtítulos

https://youtu.be/758DOiulybM