El papel de la I.A. como herramienta de accesibilildad

Por Marcos Victorica http://linkedin.com/in/marcos-victorica-3b303b10

Me gustaria discutir algunas ideas acerca de la IA como una herramienta de accesibilidad.
No soy una persona con discapacidad física, por lo que solo puedo abordar este tema como un científico social y como alguien que observa esa comunidad desde fuera.
Mis opiniones son propias, no las de ninguna comunidad u organización.
Enfoque
En una presentación reciente, me pidieron que comenzara con una definición de “IA”, algo que siempre me causa cierta inquietud porque es un término tan nebuloso y difícil de definir. Sin embargo, esta vez decidí intentarlo nuevamente, leí algunas de las discusiones recientes sobre regulaciones y políticas, y llegué a esta definición:
IA: uso de ciertas formas de aprendizaje automático para realizar tareas que de otro modo tendrían que ser realizadas por personas.
Todavía estoy afinando esta definición y probablemente lo seguiré haciendo a medida que el mundo cambie, pero creo que es útil para la discusión de hoy. Nótese que esto NO limita nuestra conversación a la IA generativa, y eso es importante.
Esta conversación sobre IA se relaciona específicamente con la aplicación del aprendizaje automático, ya sea que involucre o no el aprendizaje profundo, para completar tareas que actualmente no serían automatizables por otros medios disponibles.
La teoría social sobre discapacidad es una disciplina propia, con una profundidad y complejidad enormes. Como en las discusiones y estudios sobre otros grupos de personas, es increíblemente importante que los miembros reales de esta comunidad no solo sean escuchados, sino que lideren las discusiones sobre cómo se les trata y las oportunidades que tienen en la sociedad en general.
Basado en lo que entiendo del campo, quiero priorizar las preocupaciones sobre que las personas con discapacidad tengan el nivel de autonomía e independencia que desean, junto con el apoyo necesario para tener oportunidades y resultados comparables a las personas sin discapacidades.
También vale la pena mencionar que muchas de las tecnologías que originalmente se desarrollaron para ayudar a las personas con discapacidades son útiles para todas las personas, como las puertas automáticas.
IA como herramienta
Entonces, ¿qué papel puede realmente jugar la IA en este objetivo? ¿Es la IA un bien neto para las personas con discapacidades?
La tecnología en general, no solo el desarrollo relacionado con IA, se ha aplicado de diversas maneras para proporcionar autonomía e independencia a personas con discapacidades, lo que de otro modo no sería posible.
Cualquiera que, como yo, haya estado viendo los Juegos Paralímpicos de París en las últimas semanas podrá pensar en ejemplos de tecnología aplicada de esta manera.
Pero me pregunto qué aporta la IA que no está presente de otro modo y cuáles pueden ser las desventajas o riesgos.
Resulta que ya se ha realizado y se sigue publicando una cantidad considerable de investigaciones académicas realmente interesantes sobre la cuestión.
Voy a dar un breve resumen de algunas áreas clave y proporcionar más fuentes si te interesa profundizar en alguna de ellas.
Aspectos positivos
Problemas neurológicos y de comunicación
Este parece ser un buen campo para las herramientas de IA. Los modelos de lenguaje natural (LLMs) son muy útiles para reformular o resumir textos. Cuando las personas tienen dificultades para leer textos largos o concentrarse, la capacidad de generar resúmenes precisos puede marcar la diferencia entre que los temas de un texto sean accesibles para esas personas o no. Esto no es necesariamente un sustituto del texto completo, pero podría ser una herramienta que aumente la comprensión del lector. (Como los resúmenes de “Cliff Notes”, pero usados como se supone que deben ser).
No recomendaría cosas como hacer preguntas directas a los LLM sobre el significado de un pasaje, porque es más probable que se produzcan errores o inexactitudes, pero resumir un texto que ya existe es un buen caso de uso.
En segundo lugar, las personas con dificultades para producir o consumir comunicación hablada pueden recibir apoyo de herramientas de IA.
Estas tecnologías pueden tomar un texto hablado y generar transcripciones automáticas altamente precisas, que pueden ser más fáciles de comprender para personas con formas de afasia, o permitir que una persona con dificultades para hablar escriba un texto y lo convierta en una voz humana hablada de sonido muy realista.
(Realmente, ¡las voces sintéticas de IA están mejorando muchísimo últimamente!).
Esto sin mencionar siquiera las formas en que la IA puede ayudar a las personas con discapacidades auditivas. Los audífonos pueden usar modelos para identificar y aislar los sonidos en los que el usuario quiere enfocarse, y reducir las distracciones o el ruido de fondo. Cualquiera que haya usado cancelación activa de ruido se ha beneficiado de este tipo de tecnología, y es un gran ejemplo de algo útil tanto para personas con discapacidades como para quienes no las tienen.
Visión e imágenes
Para las personas con discapacidades visuales, puede haber barreras para la participación digital, como sitios web mal diseñados para lectores de pantalla o la falta de texto alternativo que describa el contenido de las imágenes. Los modelos están cada vez más capacitados para identificar objetos o características dentro de las imágenes, y esto puede ser una forma de IA altamente valiosa si se hace accesible de manera generalizada, de modo que el software de lectura de pantalla pueda generar su propio texto alternativo o descripciones de imágenes.
Prótesis físicas
También existen formas de IA que ayudan a que las prótesis y herramientas de accesibilidad física funcionen mejor.
No me refiero necesariamente a tecnologías que usan implantes neuronales, aunque se están estudiando, pero hay muchos modelos que aprenden la física del movimiento humano para ayudar a que las prótesis motorizadas funcionen mejor para las personas. Estos modelos pueden integrarse con músculos y terminaciones nerviosas, o automatizar sutilmente ciertos movimientos que ayudan con cosas como habilidades motoras finas en prótesis de extremidades superiores. Las prótesis de extremidades inferiores pueden usar IA para comprender mejor y mejorar la longitud del paso y la fluidez, entre otras cosas.

Aspectos negativos Representación y borrado
Ok, estos son solo algunos de los grandes beneficios que la IA puede ofrecer para las necesidades relacionadas con la discapacidad.
Sin embargo, también deberíamos dedicar algo de tiempo a discutir las áreas donde la IA puede ser perjudicial para las personas con discapacidades y para nuestra sociedad en general. La mayoría de estas áreas están relacionadas con la producción cultural utilizando IA, y creo que se deben principalmente al hecho de que estos modelos replican y refuerzan los prejuicios sociales y la discriminación.
Por ejemplo:
Dado que nuestras estructuras sociales no priorizan o destacan a las personas con discapacidades y sus necesidades, los modelos tampoco lo hacen.
Nuestra sociedad está impregnada de “capacitismo” y esto se refleja en los textos producidos por IA.
Podemos intentar corregir esto explícitamente en la , pero mucha gente no se tomará el tiempo o no pensará en hacerlo. De manera similar, las imágenes generadas por modelos de IA tienden a borrar todo tipo de comunidades que no son culturalmente dominantes o priorizadas en los medios, incluidas las personas con discapacidades.
Cuanto más incluyan estos modelos en sus datos de entrenamiento representaciones de personas con discapacidades en contextos positivos, mejorará este aspecto, pero siempre habrá una tensión natural entre las proporciones de representación fieles a la vida real y tener más representación porque queremos evitar el borrado.
Privacidad de datos y ética
Esta área tiene dos grandes temas que pueden tener un impacto negativo para las personas con discapacidades. Primero, existe un alto riesgo de que la IA se use para hacer suposiciones sobre los deseos y capacidades de las personas con discapacidades, lo que lleva a la discriminación. Como sucede con cualquier grupo, preguntar a la IA qué podría preferir, necesitar o desear un grupo no es un sustituto de involucrar realmente a esa comunidad en las decisiones que les afectarán. Pero es fácil y cómodo que las personas simplemente “pregunten a la IA”, lo que sin duda ocurrirá en ocasiones.
Segundo, la privacidad de los datos es un tema complicado aquí.
Específicamente, cuando alguien utiliza tecnologías de accesibilidad, como un lector de pantalla para un teléfono móvil o una página web, esto puede generar datos inferidos sobre el estado de discapacidad. Si esos datos no están cuidadosamente protegidos, el estado de discapacidad de una persona, o el estado percibido si la inferencia es incorrecta, puede ser una vulnerabilidad que la someta a riesgos de discriminación en otras áreas. Necesitamos asegurarnos de que el uso de una herramienta o característica de accesibilidad se considere información personal sensible, al igual que otros datos sobre las personas.
Sesgo en el tratamiento médico
Cuando la comunidad médica comienza a utilizar la IA en su trabajo, debemos analizar de cerca los efectos secundarios para las comunidades marginadas, incluidas las personas con discapacidades. De manera similar a cómo el uso de LLM puede hacer que las voces reales de las personas con discapacidades sean ignoradas en la toma de decisiones importantes, si los profesionales médicos usan LLM para asesorarse sobre el diagnóstico o las terapias para discapacidades, este asesoramiento estará influenciado por los prejuicios sociales y culturales negativos que estos modelos conllevan.
Esto podría significar que las presentaciones no estereotípicas o poco comunes de una discapacidad sean pasadas por alto o ignoradas, porque los modelos necesariamente tienen dificultades para comprender los casos excepcionales. También podría significar que los pacientes tengan dificultades para convencer a los proveedores de atención de su experiencia vivida cuando esta contradice lo que un modelo espera o predice. Como he discutido en otros trabajos, las personas pueden volverse demasiado confiadas en la precisión de los modelos de aprendizaje automático, y las perspectivas humanas pueden considerarse menos confiables en comparación, incluso cuando esta no es una suposición justificable.
Acceso a tecnologías
Hay muchas otras tecnologías que no he tenido tiempo de cubrir aquí, pero quiero señalar que la mera existencia de una tecnología no equivale a que las personas con discapacidades tengan un acceso fácil y asequible a ellas para realmente poder utilizarlas.
Las personas con discapacidades suelen estar en desventaja económica, en gran parte debido a las barreras innecesarias para la participación económica, por lo que muchos de los avances excepcionales no son accesibles para muchas de las personas que podrían necesitarlos. Es importante reconocer esto como un problema que nuestra sociedad necesita asumir, ya que, al igual que en otras áreas del cuidado de la salud, especialmente en Estados Unidos, hacemos un trabajo terrible para satisfacer las necesidades de las personas en cuanto a los cuidados y herramientas que les permitirían vivir su mejor vida y participar en la economía de la manera en que podrían hacerlo.

Conclusiones
Esta es solo una revisión superficial de algunos de los temas clave en este ámbito, y creo que es un tema importante para aquellos de nosotros que trabajamos en el aprendizaje automático. Las tecnologías que construimos tienen tanto beneficios como riesgos para las poblaciones marginadas, incluidas las personas con discapacidades, y nuestra responsabilidad es tener esto en cuenta mientras trabajamos y hacemos nuestro mejor esfuerzo para mitigar esos riesgos. Lecturas adicionales
https://www.american.edu/cas/faculty/jflowers.cfm
https://www.frontiersin.org/journals/artificial-intelligence/articles/10.3389/frai.2020.571955/full?ref=blog.mondato.com
https://slate.com/technology/2024/09/national-novel-writing-month-ai-bots-controversy.html

Texto