Aspectes Ètics i Socials de la Intel·ligència Artificial

Crèdits
6
Tipus
Obligatòria
Requisits
Aquesta assignatura no té requisits , però té capacitats prèvies
Departament
CS
Mail
ia@cs.upc.edu
Aquest curs cobreix les pràctiques ètiques, legals, socioeconòmiques, culturals i de gènere de la tecnología basada en la IA, com ara l'equitat, la responsabilitat, els drets de les dades dels usuaris, l'alineació de valors i l'explicabilitat. El marc és la pràctica real a Europa.

Professorat

Responsable

  • Ulises Cortés García (ia@cs.upc.edu)

Hores setmanals

Teoria
2
Problemes
2
Laboratori
0
Aprenentatge dirigit
0
Aprenentatge autònom
6

Competències

Competències Transversals

Transversals

  • CT2 - Sostenibilitat i Compromís Social. Conèixer i comprendre la complexitat dels fenòmens econòmics i socials típics de la societat del benestar; tenir capacitat per relacionar el benestar amb la globalització i la sostenibilitat; obtenir habilitats per utilitzar de forma equilibrada i compatible la tècnica, la tecnologia, l'economia i la sostenibilitat.
  • CT4 [Avaluable] - Treball en equip. Ser capaç de treballar com a membre d'un equip interdisciplinari, ja sigui com un membre més o realitzant tasques de direcció, amb la finalitat de contribuir a desenvolupar projectes amb pragmatisme i sentit de la responsabilitat, assumint compromisos tenint en compte els recursos disponibles.
  • CT8 [Avaluable] - Perspectiva de gènere. Conèixer i comprendre, des de l'àmbit de la titulació mateixa, les desigualtats per raó de sexe i gènere en la societat, i integrar les diverses necessitats i preferències per raó de sexe i gènere en el disseny de solucions i la resolució de problemes.

    • Bàsiques

  • CB1 - Que els estudiants hagin demostrat posseir i comprendre coneixements en una àrea d'estudi que parteix de la base de l'educació secundària general, i se sol trobar a un nivell que, si bé es recolza en llibres de text avançats, inclou també alguns aspectes que impliquen coneixements procedents de l'avantguarda del seu camp d'estudi.
  • CB3 - Que els estudiants tinguin la capacitat de reunir i interpretar dades rellevants (normalment dins la seva àrea d'estudi) per emetre judicis que incloguin una reflexió sobre temes rellevants d'índole social, científica o ètica.

    • Competències Tècniques

    Específiques

  • CE15 - Adquirir, formalitzar i representar el coneixement humà en una forma computable per a la resolució de problemes mitjançant un sistema informàtic en qualsevol àmbit d'aplicació, particularment els relacionats amb aspectes de computació, percepció i actuació en ambients o entorns intel·ligents.
  • CE16 - Dissenyar i avaluar interfícies persona-màquina que garanteixin l'accessibilitat i usabilitat dels sistemes, serveis i aplicacions informàtiques.
  • CE17 - Desenvolupar i avaluar sistemes interactius i de presentació d'informació complexa i la seva aplicació a la resolució de problemes de disseny d'interacció persona-ordinador i persona-robot.

    • Competències Tècniques Generals

    Genèriques

  • CG5 - Treballar en equips i projectes multidisciplinaris relacionats amb la intel·ligència artificial i la robòtica, interactuant fluidament amb enginyers/es i professionals d'altres disciplines.
  • CG6 - Identificar oportunitats per a aplicacions innovadores de la intel·ligència artificial i la robòtica en entorns tecnològics en contínua evolució.
  • CG7 - Interpretar i aplicar la legislació vigent, així com especificacions, reglaments i normes en l'àmbit de la intel·ligència artificial.
  • CG8 - Observar un exercici ètic de la professió en totes les seves facetes, aplicant criteris ètics en el disseny de sistemes, algoritmes, experiments, utilització de dades, d'acord amb els sistemes ètics recomanats pels organismes nacionals i internacionals, amb especial èmfasi en seguretat, robustesa , privacitat, transparència, traçabilitat, prevenció de biaixos (de raça, gènere, religió, territori, etc.) i respecte als drets humans.
  • CG9 - Afrontar nous reptes amb una visió àmplia de les possibilitats de la carrera professional en l'àmbit de la Intel·ligència Artificial. Desenvolupar l'activitat aplicant criteris de qualitat i millora contínua, i actuar amb rigor en el desenvolupament professional. Adaptar-se als canvis organitzatius o tecnològics. Treballar en situacions de carència d'informació i/o amb restriccions temporals i/o de recursos.

    • Objectius

    1. Explorar el paper de l'ètica en la pràctica i la investigació de la intel·ligència artificial
      Competències relacionades: CB1, CB3, CT2, CT8, CE15, CE16, CE17, CG5, CG8,
    2. Poder desenvolupar un conjunt de criteris étics, legals, socioeconomics, culturals i de gener per al desenvolupament d'aplicacions d'IA, i avaluar cadascuna de les aplicacions identificades pel que fa a aquests criteris.
      Competències relacionades: CB3, CT4, CT8, CE15, CE16,
    3. Determinar les tecnologies basades en la IA, eines, arquitectures i algoritmes que serien els més adequats per a les aplicacions industrials.
      Competències relacionades: CT4, CT8, CE15, CE16, CE17, CG5, CG6, CG7, CG8, CG9,

    Continguts

    1. Introducció. principis ètics
      En aquest mòdul, considerarem les lleis, polítiques i principis ètics per regular i gestionar l'ús de la IA per al bé comú.
    2. Aplicacions de la Intel·ligència Artificial per a la Salut i altres dominis rellevants:
      En aquest mòdul, explorarem les aplicacions actuals i emergents de la IA a la salut altres dominis rellevants. La seva legislació i aspectes ètics. En particular, parlarem dels procediments de presa de decisions responsables.
    3. Construir un enfocament ELSEC per a l'ús de la IA
      En aquest mòdul, parlarem de com mesures diferents de la llei i la política poden garantir que la IA millori el benestar humà.
    4. Aplicacions de la Intel·ligència Artificial
      En aquest mòdul, explorarem les aplicacions actuals i emergents de la IA en diverses aplicacions de domini. Les sol·licituds seran la base per a un debat en profunditat i el material a avaluar

    Activitats

    Activitat Acte avaluatiu


    Introducció. Principis étics


    • Teoria: Introducció a l'ètica i la seva trajectòria filosòfica. Què és l'ètica de la tecnologia? L'ètica de la tecnologia és l'aplicació del pensament ètic a les preocupacions pràctiques de la tecnologia.
    • Problemes: En aquest mòdul, desenvoluparem un marc que defineix les condicions bàsiques per a la responsabilitat al llarg de tot el cicle de vida de la IA, des del disseny responsable fins al desplegament.
    • Aprenentatge autònom: Lectures
    Objectius: 1
    Continguts:
    Teoria
    8h
    Problemes
    8h
    Laboratori
    0h
    Aprenentatge dirigit
    0h
    Aprenentatge autònom
    24h

    Aplicacions de la intel·ligència artificial per a la salut:


    • Teoria: En aquest mòdul, abordem algunes possibles implicacions ELSEC dels sistemes basats en IA en l'assistència sanitària. Abordar els problemes d'ELSEC a l'assistència sanitària pot ajudar a promoure la seguretat, la privadesa i l'autonomia del pacient, així com prevenir conseqüències no desitjades o biaixos en l'ús dels sistemes d'IA.
    • Problemes: Debats dirigits durant la classe.
    • Aprenentatge autònom: Lectures
    Objectius: 3 1
    Continguts:
    Teoria
    2h
    Problemes
    2h
    Laboratori
    0h
    Aprenentatge dirigit
    0h
    Aprenentatge autònom
    6h

    Construir un enfocament ELSEC per a l'ús de la IA


    • Teoria: En aquest mòdul, desenvolupem un marc que defineix les condicions bàsiques per a la responsabilitat al llarg de tot el cicle de vida de la IA, des del disseny responsable fins al desplegament.
    • Problemes: Debats dirigits durant la classe.
    • Aprenentatge autònom: Lectures
    Objectius: 3 2 1
    Continguts:
    Teoria
    6h
    Problemes
    6h
    Laboratori
    0h
    Aprenentatge dirigit
    0h
    Aprenentatge autònom
    18h

    Aplicacions de la Intel·ligència Artificial


    • Teoria: Dilemes ètics en IA: una introducció a l'estudi filosòfic dels dilemes ètics en IA. Discutirem en profunditat sis aplicacions tecnològiques reals que poden ser problemàtiques legalment o èticament.
    • Problemes: Debats dirigits durant la classe.
    • Aprenentatge dirigit: Lectures
    Objectius: 3 2 1
    Continguts:
    Teoria
    12h
    Problemes
    12h
    Laboratori
    0h
    Aprenentatge dirigit
    0h
    Aprenentatge autònom
    36h

    Conclusions


    • Teoria: En aquest mòdul, concloem el nostre curs sobre aspectes ELSEC de la IA. Reflexionarem sobre les implicacions ètiques, legals, socials i econòmiques de la intel·ligència artificial i considerar els valors i principis esbossats a la Recomanació de la UNESCO sobre l'ètica de la intel·ligència artificial.
    • Problemes: N/A
    • Aprenentatge autònom: Lectures
    Objectius: 2
    Continguts:
    Teoria
    2h
    Problemes
    2h
    Laboratori
    0h
    Aprenentatge dirigit
    0h
    Aprenentatge autònom
    6h

    Metodologia docent

    Implicació activa dels alumnes. Això pot implicar convidar els estudiants a presentar les seves idees actuals sobre l'ètica o participar en activitats de presa de decisions ètiques abans que el professor els presenti el contingut per primera vegada.

    El professor selecciona els textos segons les necessitats del curs.

    Utilitzarem aquests mètodes per portar el pensament ELSEC a l'aula, les conferències, l'ús de casos pràctics, els jocs de rol i les discussions en grup.

    Mètode d'avaluació

    Demandarem a tots els participants ¿mitjançant un qüestionari d'avaluació¿ fins a quin punt consideren que el seminari ha assolit els seus objectius.

    El curs s'avaluarà mitjançant la lliurament de tres treballs, amb ponderació proporcional. Un d'aquests treballs serà en equip, i almenys un serà individual. Aquests treballs integraran els aprenentatges del curs i permetran a cada participant demostrar la seva capacitat per aplicar els conceptes a un cas pràctic o a un problema del món real.

    Els temes dels treballs s'actualitzaran en cada edició del curs per garantir-ne la rellevància i l'adaptabilitat al desenvolupament de la IA i les seves aplicacions.

    Els estudiants rebran una retroalimentació detallada de cada treball lliurat, destacant-ne els punts forts i les àrees de millora.

    Es posaran a disposició sessions breus de consulta o tutoria per resoldre dubtes i donar suport als participants en l'elaboració dels seus treballs.

    Transparència i comunicació:
    Abans d'iniciar el curs, s'explicarà el sistema d'avaluació a tots els estudiants.

    Bibliografia

    Bàsic

    Capacitats prèvies

    El curs no té requisits previs, sinó elements sòlids d'IA i lògica.

    La lectura de l'ètica nicomaquea d'Aristòtil és recomanada