Inteligencia artificial y discapacidad: el primer estudio del Real Patronato revela una brecha entre conocerla y usarla

El primer estudio sobre inteligencia artificial y discapacidad en España

El Real Patronato sobre Discapacidad, organismo adscrito al Ministerio de Derechos Sociales, Consumo y Agenda 2030, ha publicado el estudio «Impacto de la Inteligencia Artificial en los derechos de las personas con discapacidad», elaborado con la asistencia técnica de Fundación ONCE y editado por el Centro Español de Documentación e Investigación sobre Discapacidad (CEDID). Se trata, según el propio organismo, de «un primer y serio esfuerzo de análisis» de las intersecciones entre discapacidad e inteligencia artificial desde un enfoque de derechos humanos, algo que hasta ahora era un hueco relevante en la literatura científica española.

La metodología se apoyó en la experiencia en primera persona: se encuestó a 864 personas con discapacidad, con una muestra diseñada para garantizar representatividad en variables relevantes como el tipo de discapacidad, el género y la edad. El objetivo era contrastar la visión optimista sobre el potencial de la inteligencia artificial con una mirada más cautelosa sobre los riesgos de exclusión que estos desarrollos tecnológicos pueden generar si no se diseñan desde la accesibilidad universal y el diseño universal.

La brecha entre conocer y usar la inteligencia artificial: solo un 12,3% la utiliza

Uno de los datos más llamativos del estudio es la distancia entre el conocimiento y el uso real de la inteligencia artificial entre las personas con discapacidad encuestadas:

• 99,8% conoce productos o dispositivos basados en inteligencia artificial.
• Solo un 12,3% los utiliza de forma activa.

Esta brecha entre conocimiento y uso apunta a que el problema no es la falta de información sobre estas herramientas, sino las barreras que impiden su adopción real: desde el diseño poco accesible de las interfaces hasta el coste añadido de muchos productos de apoyo basados en IA, pasando por la complejidad de instrucciones y menús que no siempre contemplan criterios de accesibilidad cognitiva.

Barreras de accesibilidad y sobrecoste en los productos de inteligencia artificial

El estudio identifica tres barreras principales que explican esa baja tasa de uso pese al alto conocimiento de estas tecnologías:

• Falta de accesibilidad de muchos productos y aplicaciones de inteligencia artificial, que no se diseñan pensando en la diversidad funcional desde el origen.
• Sobrecoste añadido para las personas con discapacidad, que a menudo deben pagar más por versiones adaptadas o por productos de apoyo específicos.
• Complejidad de instrucciones y menús, que dificulta especialmente el uso a personas con discapacidad intelectual o cognitiva.

Estas barreras conectan con un debate más amplio sobre los ajustes razonables que deberían exigirse a los fabricantes de tecnología, y con la necesidad de que el diseño accesible se incorpore desde la fase de desarrollo del producto y no como una adaptación posterior.

Riesgos de discriminación algorítmica y capacitismo en los sistemas de IA

Más allá del acceso, el informe alerta sobre riesgos de fondo en el propio funcionamiento de los sistemas de inteligencia artificial. Uno de los más señalados es la discriminación en procesos de selección laboral: el estudio advierte de que «los sistemas actuales pueden detectar cuando el candidato tiene, ha tenido, o puede tener una discapacidad», lo que abre la puerta a filtrar automáticamente candidaturas antes incluso de que un reclutador humano las revise.

También se señalan riesgos vinculados a aplicaciones que emplean datos biométricos con fines de vigilancia o control, capaces, por ejemplo, de «predecir y advertir a una persona con esquizofrenia cuando se aproxima a un brote psicótico», con las implicaciones que ello tiene sobre la privacidad y la autonomía de la persona. De fondo, el estudio describe el fenómeno del capacitismo algorítmico: cuando los conjuntos de datos con los que se entrenan los sistemas de IA carecen de una representación positiva de las personas con discapacidad, la tecnología «tenderá a subrepresentarla, a ignorarla y por tanto a discriminarla». El director del Real Patronato, Jesús Martín Blanco, ha insistido en que la Administración debe «estar vigilante para que la inteligencia artificial no se nutra del capacitismo».

Oportunidades de la IA para la autonomía y la accesibilidad universal

Pese a estos riesgos, el estudio no plantea una visión únicamente defensiva. Reconoce que la inteligencia artificial, bien diseñada, puede convertirse en una aliada real para la vida independiente y la autonomía personal: asistentes de voz, sistemas de subtitulado automático, descripción de imágenes, lectura asistida o herramientas de comunicación aumentativa son ejemplos de aplicaciones que ya están mejorando la accesibilidad digital cotidiana de muchas personas con discapacidad sensorial, física o intelectual.

La clave, según el propio informe, está en que estos desarrollos se sometan a criterios de accesibilidad universal desde su diseño y en que las administraciones y empresas incorporen la perspectiva de la discapacidad en la gobernanza de la inteligencia artificial, en lugar de dejar que sea el mercado, sin más criterio, quien determine qué personas quedan dentro o fuera de estas soluciones. Quienes quieran conocer recursos y productos de apoyo tecnológico disponibles pueden consultar las guías prácticas de Red Inclusiva, así como el apartado de actualidad sobre innovación y discapacidad.

Preguntas frecuentes sobre inteligencia artificial y discapacidad

¿Qué es el capacitismo algorítmico?

Es el sesgo que se produce cuando los sistemas de inteligencia artificial se entrenan con datos que no representan adecuadamente a las personas con discapacidad, lo que hace que la tecnología tienda a ignorarlas o discriminarlas.

¿Cuántas personas con discapacidad usan realmente productos de inteligencia artificial?

Según el estudio del Real Patronato sobre Discapacidad, un 99,8% conoce estos productos, pero solo un 12,3% los utiliza de forma activa.

¿Puede la inteligencia artificial discriminar en procesos de selección de empleo?

Sí. El estudio advierte de que algunos sistemas pueden detectar indicios de que una persona tiene, ha tenido o puede tener una discapacidad, lo que puede derivar en un filtrado discriminatorio de candidaturas.

¿Quién ha elaborado este estudio sobre inteligencia artificial y discapacidad?

El Real Patronato sobre Discapacidad, con la asistencia técnica de Fundación ONCE y la edición del Centro Español de Documentación e Investigación sobre Discapacidad (CEDID).

Fuente: Real Patronato sobre Discapacidad