Els grans reptes de la IA
Fa uns dies van saltar totes les alarmes quan Dario Amodei, cofundador d’Anthropic, una empresa especialitzada en intel·ligència artificial, va fer un comunicat públic en què alertava dels perills d’aquesta tecnologia i demanava posar-hi fre. Poc després, un enginyer català, extreballador d’Anthropic, va dir que la IA pot ser més perillosa del que la gent s’imagina. Tot plegat ha obert un debat intens, que posa sobre la taula diferents qüestions. Les repassem?
Font: Angel Colmenares / EFE (a través de RAC1)
Si voleu treballar la notícia des de l’àmbit científic i tecnològic…
1 Per començar: qui és Amodei i quina importància tenen les seves declaracions? Llegeix aquesta notícia i fes les activitats. Si cal, busca informació addicional.
- Explica quina importància té Anthropic (l’empresa propietària dels models de llenguatge informàtic avançat que s’inclouen dins del conjunt Claude) en el context tecnològic actual i digues per què és tan rellevant el que Dario Amodei ha dit.
- Fes una llista dels perills concrets de què parla Amodei i digues si algú més hi està d’acord. Quines accions proposa per aturar aquestes amenaces? Quins inconvenients poden tenir aquestes mesures, sobretot des del punt de vista de polítics com Donald Trump?
Font: Viquipèdia
2 Ara, fixa’t en les declaracions que va fer poc després Arnau Marin-Llobet, enginyer de telecomunicacions i extreballador d’Anthropic, sobre els riscos assenyalats per Amodei.
Font: RAC1
“És necessari i molt encertat. No és excessiu. La gent que no ha treballat amb aquests models i no sap de què són capaços no es pot imaginar les barbaritats que poden arribar a fer”.
Llegeix la notícia sencera i respon les preguntes (si ho necessites, amplia la informació amb altres fonts):
- On rau, segons Marin-Llobet, el perill de la intel·ligència artificial?
- Què en pensa, de les propostes d’abaixar el ritme i regular la IA que apuntava Amodei?
- Per què, segons ell, pot servir fer una pausa en el desenvolupament de la intel·ligència artificial?
3 Després de les declaracions d’Arnau Marin-Llobet, Cristina Pitarch, responsable d’Anthropic a Espanya, va matisar les preocupacions expressades sobre la IA. Llegeix les seves declaracions i respon les preguntes:
Font: zonamobilidad
“Crec que existeix un risc que passin alguna mena de coses, però això d’acabar amb la humanitat em sembla totalment catastròfic i no crec que estiguem en aquest escenari ni que hagi de passar”.
- Llegeix la notícia sencera i digues: quin incident relacionat amb la seguretat de la IA s’havia conegut en aquells mateixos dies?
- A què et sembla que es pot referir Pitarch quan diu que hi ha un risc que “passin alguna mena de coses”?
- Fes una valoració de totes les declaracions que has llegit i posa-les en comú amb el conjunt de la classe. Què en penseu, de tots els temes que han anat sortint? Per a què utilitzeu vosaltres la IA? Quins avantatges hi veieu? I quins perills?
4 El Departament d’Educació i Formació Professional de la Generalitat de Catalunya ha elaborat un document que recull les oportunitats d’ús i els desafiaments de la IA en l’àmbit educatiu: La intel·ligència artificial en l’educació.
Font: Departament d’Educació i Formació Professional
En el capítol dedicat als “Límits i desafiaments de la IA”, parla de:
- Privacitat
- Vigilància
- Falta d’autonomia
- Biaixos
- Confiança excessiva
- Bretxa digital
- Amb el conjunt de la classe i amb l’ajuda d’aquest document o altres fonts d’informació que pugueu trobar, definiu a què fa referència cada terme. Poseu un exemple concret de cada cas.
- Després, contesteu, de manera individual o col·lectiva, aquesta enquesta sobre l’ús que feu de la IA. Mireu de ser tan honestos com pugueu, per valorar amb la màxima objectivitat possible quina relació teniu amb la IA, i quins avantatges i desavantatges suposa això per a vosaltres.
Si voleu treballar la notícia des de l’àmbit lingüístic…
5 La IA o la tecnologia intel·ligent (el terme “intel·ligència artificial” no va aparèixer fins al 1956) és la protagonista de diverses obres de ciència-ficció. Una de les més conegudes és Jo, robot, d’Isaac Asimov (1950), que, a través de nou relats curts de ciència-ficció, explora les relacions entre els humans i els robots, i els límits ètics que hi ha d’haver en el desenvolupament de les màquines intel·ligents.
Llegeix aquest fragment d’aquesta obra i comenta’l amb la resta de companys i companyes de la classe.
La veu de Powel, a través de la ràdio, sonà tensa a l’orella de Donovan.
—Ara escolta, comencem per les Tres Lleis fonamentals de la Robòtica; les Tres Lleis que estan fixades en el més profund del cervell positrònic d’un robot. —En la foscor, els seus dits enguantats van anar marcant cada punt—. Tenim, en primer lloc: un robot no pot mai causar dany a un ésser humà, o, per inacció seva, deixar que li passi res de mal.
—Exacte!
—Segon —continuà Powel—: un robot ha d’obeir les ordres que li donin els éssers humans, fora dels casos en què aquestes ordres entrin en conflicte amb la Primera Llei.
—D’acord!
—I tercer: un robot ha de protegir la seva pròpia existència, sempre que això no signifiqui entrar en conflicte amb la Primera i Segona Lleis.
—Molt bé! I ara on som?
—Exactament a l’explicació. El conflicte entre diverses lleis es resol mitjançant diferents potencials positrònics de dins el cervell. Posem que un robot es troba en perill i que ho sap. El potencial automàtic que estableix la Tercera Llei el fa recular. Però suposa que li ordenes d’anar cap a aquell perill. En aquest cas la Segona Llei estableix un contra-potencial més alt que no pas l’anterior, i el robot segueix les ordres posant en risc la seva existència.
- Intenteu crear un petit text literari que reflecteixi el món dominat per la IA que imagineu a partir de la informació que heu llegit en les activitats anteriors. Quines tres lleis fonamentals de la intel·ligència artificial establiríeu, vosaltres, per assegurar la convivència de la IA amb els éssers humans?
Teniu suggeriments, dubtes, crítiques? Com heu resolt les activitats? Si voleu contactar amb l’equip de “La Notícia de la Setmana” escriviu-nos amb el títol “Comentaris sobre La Notícia de la Setmana” a aquesta adreça: editorial@texteducacio.cat.
Vols rebre la versió descarregable d'aquesta notícia?
