• Programa

    Los recientes avances en computación en general, y muy en particular, en Inteligencia Artificial, nos ubican el umbral de un nuevo punto de inflexión en la historia de la humanidad. Es probable que pronto confiemos la gestión de nuestro medio ambiente, economía, seguridad, infraestructura, producción de alimentos, atención médica y, en gran medida, incluso nuestras actividades personales, a sistemas informáticos artificialmente inteligentes.

     

    La posibilidad de “delegar nuestra existencia” a sistemas cada vez más autónomos plantea muchas preguntas complejas y preocupantes. ¿Cómo responderá la sociedad cuando los robots versátiles y los sistemas de aprendizaje automático desplacen a un espectro cada vez más amplio de trabajadores de carne y huesos? ¿Los beneficios de esta revolución tecnológica se distribuirán ampliamente o se acumularán para unos pocos afortunados? ¿Cómo podemos asegurarnos de que estos sistemas respeten nuestros principios éticos cuando toman decisiones a velocidades y por razones que exceden nuestra capacidad de comprensión? ¿Qué derechos legales y responsabilidades, si las hay, debemos otorgarles? ¿Y deberíamos considerarlos simplemente como herramientas sofisticadas o como una nueva forma de vida emergente?

     

    A lo largo de las 8 semanas en que se desarrollará el curso, se discutirán estas cuestiones y se buscará que los asistentes tomen conciencia de la problemática y asuman una posición proactiva sobre las posibles soluciones o al menos se generen documentos que puedan ser distribuidos entre el resto de la comunidad. Para lograr este objetivo durante cada clase se presentará un tema en particular y se propondrán diferentes textos y/o videos que los aborden. Los alumnos deberán haber leído/visto al menos uno de esos documentos, participar del debate y del taller final que producirá el borrador con las conclusiones del día.

     

    Los ocho temas a considerar serán: 

    1. Historia, fundamentos y filosofía de la Inteligencia Artificial
    2. Automatización y trabajo. Autonomía y responsabilidad.
    3. Toma de decisiones en el sistema legal. Sesgos y evaluación de riesgos.
    4. Interpretabilidad.
    5. Perfiles sociales y control de privacidad.
    6. Explicación y transparencia.
    7. Ética por diseño.
    8. Derechos y obligaciones de los robots.
    9. Normas, regulaciones y métricas sobre los sistemas de IA.

     

     BIBLIOGRAFÍA:

     - Minds, Brains, and Programs” by John Searle (Behavioral and Brain Sciences, 1980) (Up to “Open Peer Commentary”)

    - “Thinking Machines: The Search for Artificial Intelligence” by Jacob Roberts (Chemical Heritage Foundation, 2016)

    - “AI Now 2017 Report” by Crawford et al. (2017)

    - The Trouble with Bias - NIPS 2017 Keynote - Kate Crawford #NIPS2017 https://www.youtube.com/watch?v=fMym_BKWQzk

    - “Technology is Biased too. How do we Fix it?” By Laura Hudson (Five Thirty Eight, July 20, 2017).

    - “The Ethics of Artificial Intelligence: Mapping the Debate” by Brent Daniel Mittelstadt et al. (Big Data & Society, 2016).

    - "Moral Machines" chapter in Artificial Intelligence: A National Strategic Initiative for Artificial Intelligence by Tencent and the China Academy of Information and Communications Technology, translated by Jeffrey Ding Selbst, A. and Powles, J. (2017) Meaningful Information and the Right to an Explanation International Data Privacy Law, vol. 7(4), 233-242

    - "How Humans Respond to Robots: Building Public Policy Through Good Design", Heather Knight, 2014

    - “La mutación sentimental”. Carme Torra. Editorial Milenio. 2008.