# ¿Aumenta la automatización nuestra autonomía? | Sara Degli-Esposti | TEDxAlbacete Source: https://www.youtube.com/watch?v=dM_Mdkd60JY Recap page: https://rapidrecap.app/video/dM_Mdkd60JY Generated: 2025-12-10T16:11:06.006+00:00 --- ## Quick Overview La automatización incrementa nuestra comodidad al asumir tareas tediosas, pero simultáneamente aumenta nuestra dependencia de ella, lo que puede resultar en la pérdida de habilidades y la vulnerabilidad ante fallos sistémicos o sesgos algorítmicos, como demostró el caso de American Airlines con su sistema SABRE, que sesgó los resultados de búsqueda a favor de la compañía. **Key Points:** - Automatizar tareas cotidianas, como usar escaleras mecánicas o robots aspiradores, genera comodidad, pero conlleva una dependencia creciente. - El ponente cuestiona si al automatizar todo lo que hacemos, ganamos autonomía, sugiriendo que la comodidad puede transformarse en dependencia. - Un ejemplo histórico es el sistema SABRE de American Airlines (desarrollado en los 60s con IBM), que fue tan exitoso que otras aerolíneas lo adoptaron, pero contenía un sesgo que favorecía a American Airlines en las búsquedas. - El sesgo algorítmico en sistemas automatizados, como el de diagnóstico médico o el de la justicia (jueces), afecta la toma de decisiones humanas si no se considera la moralidad y la contextualización. - La conclusión principal es que la autonomía moral es lo que define la diferencia entre una máquina automática y una autónoma, y esta autonomía se ve amenazada por la dependencia de sistemas sesgados. - Si delegamos tareas tediosas, corremos el riesgo de olvidar cómo hacerlas, lo que nos hace vulnerables cuando el sistema automatizado falla, como ocurrió con el sistema SABRE que dejó de funcionar correctamente. - La ponente enfatiza que las decisiones tomadas por sistemas sesgados, incluso si son más eficientes, pueden tener graves consecuencias morales y sociales. ![Screenshot at 00:07: Sara Degli-Esposti inicia su charla en el escenario de TEDxAlbacete preguntando al público: "¿Qué perdemos y qué ganamos automatizando?"](https://ss.rapidrecap.app/screens/dM_Mdkd60JY/00-00-07.png) **Context:** Sara Degli-Esposti, investigadora científica del IFS-CSIC, presenta en TEDxAlbacete una reflexión sobre la relación entre la automatización tecnológica y la autonomía humana. Utiliza ejemplos cotidianos como las escaleras mecánicas y el impacto de la inteligencia artificial en sectores como la medicina y la justicia para ilustrar cómo la comodidad que brindan las máquinas puede erosionar nuestras habilidades y generar dependencia, introduciendo el concepto de sesgo algorítmico como un riesgo moral significativo. ## Detailed Analysis Sara Degli-Esposti argumenta que, si bien la automatización en la vida cotidiana ofrece comodidad al eliminar tareas tediosas como usar escaleras mecánicas o limpiar con robots aspiradores, esta comodidad conlleva una dependencia oculta que disminuye nuestra autonomía. Cita el ejemplo histórico del sistema SABRE de American Airlines, desarrollado en los años 60s en colaboración con IBM para la gestión de reservas, que fue tan exitoso que otras compañías lo adoptaron. Sin embargo, este sistema contenía un sesgo algorítmico que favorecía sistemáticamente los resultados de American Airlines. La ponente destaca que los sistemas automatizados, como los utilizados en diagnóstico médico o por jueces, no son neutrales; heredan los sesgos de quienes los diseñan y entrenan, lo que puede llevar a decisiones sesgadas con implicaciones morales graves. La autonomía moral, que es lo que define a los humanos frente a las máquinas, se ve amenazada cuando delegamos en sistemas que no comprendemos completamente. La lección clave es que todo lo que dejamos de hacer, dejamos de saber hacerlo, y esta pérdida de capacidad nos hace vulnerables cuando la tecnología falla o cuando sus decisiones sesgadas afectan áreas críticas como la salud o la justicia. ### Introducción y Pregunta Central - ¿Qué perdemos y qué ganamos automatizando? - La automatización nos hace más autónomos o dependientes? - Se ilustra con la metáfora de la escalera mecánica. ### Ejemplo Histórico - American Airlines y SABRE: El sistema SABRE (desarrollado en los 60s con IBM) fue un éxito que otras aerolíneas adoptaron, pero contenía un sesgo a favor de American Airlines en las búsquedas de vuelos. ### Sesgos en Sistemas Automatizados - Se muestran ejemplos en medicina (diagnóstico por IA) y justicia (jueces) donde los sesgos algorítmicos, incluso en sistemas avanzados como la IA generativa, pueden sesgar los resultados y decisiones humanas. ### El Riesgo de la Pérdida de Habilidad - Si delegamos tareas, olvidamos cómo hacerlas; si el sistema falla (como el piloto automático en un avión), perdemos la capacidad de actuar. ### Conclusión sobre Autonomía Moral - La autonomía moral es lo que define al ser humano frente a la máquina; depender de sistemas sesgados compromete esta autonomía y nuestras decisiones éticas. ![Screenshot at 00:05: Presentación de los patrocinadores: CLM Social Innovation Cluster y UCLM.](https://ss.rapidrecap.app/screens/dM_Mdkd60JY/00-00-05.png) ![Screenshot at 00:41: Pantalla de proyección mostrando una imagen de una escalera mecánica como metáfora de la automatización.](https://ss.rapidrecap.app/screens/dM_Mdkd60JY/00-00-41.png) ![Screenshot at 02:07: Imagen proyectada de robots de almacén \(tipo Amazon\) para ilustrar automatización de tareas físicas.](https://ss.rapidrecap.app/screens/dM_Mdkd60JY/00-02-07.png) ![Screenshot at 04:30: Imagen dividida mostrando una mujer comprando online versus un hombre comprando en tienda física, contrastando comodidad y experiencia.](https://ss.rapidrecap.app/screens/dM_Mdkd60JY/00-04-30.png) ![Screenshot at 08:03: Imagen proyectada de un médico revisando una radiografía en un monitor, simbolizando la automatización en el diagnóstico médico.](https://ss.rapidrecap.app/screens/dM_Mdkd60JY/00-08-03.png)