#165 - Impacte de la Intel·ligència Artificial en la nostra vida quotidiana: Entrevista amb un investigador científic

Comencem la segona hora de la Rambla al magazine de matins de ràdio d'Esbern i ho fem com sempre amb l'entrevista del dia, que també podeu seguir pel canal de YouTube de l'emissora. El convidat d'avui és el Sant Justenc Jordi Levy, investigador científic a l'Institut d'Investigació en Intel·ligència Artificial del CSIC, ubicat a Cerdanyola del Vallès. El 21 de febrer estarà a l'ateneu fent una segona xerrada sobre l'impacte que provocarà la intel·ligència artificial en les nostres vides, ara i en un futur pròxim. El saludem. Bon dia Jordi. Hola, bon dia. Bé, comencem parlant una mica de la intel·ligència artificial, perquè la seva aplicació ens pot sonar com una realitat força recent, però sens dubte no és així. Precisament a l'Institut d'Investigació d'Intel·ligència Artificial es va crear 30 anys, fa 30 anys, el 1994. Per què, Jordi, ara estem més interessats o vés a parlar més sobre els reptes de futur, sobre les oportunitats d'introduir-la en diferents àmbits, què és que ha canviat alguna cosa? Primer, l'Institut es va crear abans. Abans del 94? Ostres! Sí, estic a l'Institut des del 89, abans era un grup sense entitat pròpia, però era un grup també dins del CSIC, es va crear als 85, si no m'equivoco. Ah, a Blanes, pot ser? Sí, a Blanes. Estava ok. Per què es parla tant abans? Bueno, en realitat es parla d'un sector de la intel·ligència artificial, que són les xarxes neuronals, que ara ha arribat un punt en què es confon amb el tot, amb tota la intel·ligència artificial, però és només una branca, un aspecte de la intel·ligència artificial i un aspecte bastant antic. La tecnologia de les xarxes neuronals és una tecnologia dels anys 80. Si mirem internament com funciona és una cosa relativament senzilla. És simplement ajustar uns models amb unes dades, a nivell d'una sola neurona funciona com una regressió lineal, que és una cosa que estudiem al Batxillerat. Per què ara es parla tant? Perquè, sent una tecnologia molt antiga, l'escalat d'aquesta tecnologia és una cosa bastant recent. Arrel de tindre màquines més potents, se permet crear models bastant molt més grans. Amb això és que ajustem paràmetres per ajustar un model amb unes dades, podem ajustar amb uns quants paràmetres o amb un ordinador milers de paràmetres, ara estem parlant de milions de milions de paràmetres. Ha sigut aquest escalat que, a partir de la tecnologia, s'ha permès desenvolupar unes tècniques que a nivell teòric ja existien als anys 80. I quins són els sectors els que més s'apliquen a la intel·ligència artificial? Cada dia ens sorprèn una mica més. En realitat, estem parlant d'una tecnologia. La tecnologia és crear un model a partir d'unes dades. Per crear aquest model necessitem ordinadors grans, i necessitem sobretot dades. L'altre factor que ha permès desenvolupar aquesta tecnologia, o que ara es parla tant, és el desenvolupament d'internet. Internet, que era una cosa que no existia als anys 80, ens permet tindre moltes dades. Quan nosaltres diem que el xat GPT s'ha entrenat amb textes, s'ha entrenat amb tots els textes de la literatura clàssica. Això als anys 80 no es podia fer perquè no estaven disponibles electrònicament. Un dels sectors seria l'educació, parlant ara amb el xat GPT, on s'aplica sobretot la intel·ligència artificial. Sí, ens podria, en quant a aplicacions, en molts àmbits. Nosaltres sempre pensem que al xat GPT li pots dir que escriu un text per un alumne de Batxillerat, però una altra cosa que fa molt bé el xat GPT i la gent no ho té en compte és programar, per exemple. Tu li pots dir que programa una aplicació que faci això, i també ho fa, i a més ho fa bastant millor que els textes humans, perquè ho fa amb un llenguatge pensat per les màquines, no per als humans. Per tant, la repercussió és molt més... En aquest cas estem parlant de repercussió que afecta tota una professió. Jordi, parla'ns també una mica de l'Institut d'Investigació, en intel·ligència artificial. Tu exactament en quin departament estàs, quines línies d'investigació, quins camps segueixes, perquè la intel·ligència artificial és un concepte molt ampli. Sí, és molt ampli i engloba diferents tècniques. En el nostre institut hi ha tres departaments. Jo estic amb el de lògic i raonament, que seria potser el departament més teòric, o sigui, enxadiem per comptes de preguntes sobre les aplicacions, però seria el departament que treballem amb els aspectes que justament estarien menys desenvolupats amb les ceses neuronals, que seria el tema del raonament. Les ceses neuronals el que fan és reproduir patrons molt marcats, molt automatitzables, i el que farien pitjor seria la part aquesta de raonar les capacitats cognitives superiors dels humans. Precisament el mes de gener, Jordi, vas estar a l'Ateneu fent una primera tertúlia, xerrada, sobre les diferències o els avantatges i desavantatges que hi havia entre la intel·ligència artificial i la intel·ligència humana. De fet, vas ser parlant de les tecnologies d'intel·ligència artificial, perquè d'intel·ligència humana, de neurociència, no en sé. És difícil comparar. I normalment les comparacions que es fan entre la humana i l'artificial no són només per fer-se una idea o com a mètodes d'explicació de com funcionen, no perquè estigui una inspirada en l'altra o viceversa. O sigui, hi ha poques semblances, realment. I ens pots dir, per exemple, fruit d'aquella tertúlia, una mica les idees principals amb les que es va quedar el públic o no sé si després hi va haver algun torn de preguntes o preocupacions que la gent o inquietuds... En aquella primera xerrada ho vaig enfocar més en les parts més tècniques, o sigui, intentava explicar internament si miressis amb lupa a confusió en aquests models que hi ha dintre, perquè ens poguéssim fer una opinió pròpia cadascun. I les preguntes, òbviament, van anar més cap a l'altra banda, el que espero que sigui la segona xerrada, que és els futurs impactes que pot tindre tota aquesta tecnologia. O sigui, no només conèixer-la, que seria la primera xerrada, sinó això és què ens espera o què es pot aconseguir amb això. Que aquí ja és molt difícil, fins i tot per, a la gent que treballa a Malària, fer-nos una idea. Tens moltes sorpreses. Podem saber com funciona, què és capaç de fer, però els possibles impactes és difícil de dir. Queda una mica obert. És com si ara, si fa 40-50 anys, algú que sapgués com funciona un ordinador li preguntessis i això és quin impacte tindrà? Inimaginable, realment. Un sector molt inquiet amb la intel·ligència artificial, ho hem comentat, és el món educatiu. Professors, mestres... Està bé que els docents preparin activitats, avaluïn i ensenyin alumnes a fer servir la intel·ligència artificial? Per exemple, l'ús de xat GPT... No sé si hi ha alguna forma en què els professors poden controlar o no, si els alumnes fan servir aquesta seia. Jo, com a professor, m'he trobat corregint pràctiques d'alumnes amb el grau d'intel·ligència artificial que es fa a l'autònoma. Sóc professor que utilitza xat GPT per programar les seves pràctiques. Per què em dius? Afortunadament són fàcils de detectar. Amb aplicacions? No, no, perquè tenen certs viatges. Un programa fet en xat GPT si té certa experiència es nota. Igual que per un professor de primària si ve un text escrit en xat GPT el sap distingir del d'un alumne. Té certes característiques diferents. Què s'ha de fer amb aquestes tècniques? Jo diria que el mateix amb una calculadora. És imprescindible que els alumnes aprenguin a sumar i a restar a mà. Un cop ho saben fer a mà, poden fer servir la calculadora. És imprescindible que aprenguin a escriure, a redactar, a estructurar un text. Una vegada el sapiguin fer, ja poden utilitzar xat GPT. Igual que jo si li dic als meus estudiants que primer han de saber programar i després han d'utilitzar autopilot o xat GPT que són les eines que s'utilitzen per generar els programes automàticament. Si no saps fer-ho a mà, difícilment utilitzant aquestes eines ho sabràs fer bé. Per tant, s'han d'anar a introduir en el moment adequat. Igual que la calculadora. No ens ha de fer més por ni menys por. Quins problemes ens pot ajudar a solucionar la intel·ligència artificial? En els aspectes, o no la intel·ligència artificial, sinó les xarxes neuronals, el que poden fer, si pensem que són models que necessites moltes dades per entrenar-los i que el que fan és crear un model, ajustar uns paràmetres, han de ser tasques on tinguis, primer, moltes dades que siguin molt repetitives. Per tant, hauríem de pensar en tasques d'aquelles que un humà podria fer de forma automàtica sense pensar-hi gaire. Per exemple, jo què sé, una queixena al supermercat, quan veu els productes que van pensant per aquella cinta, els pot identificar fàcilment sense pensar. Pot estar parlant i identificant aquests productes. Aquestes serien les coses que realment saben fer bé. Per tant, són tasques repetitives que amb un ordinador, amb la informàtica convencional fins fa pocs anys, no sabíem resoldre i que ara és el punt en què podem resoldre. En coses inimaginables, per exemple, estic pensant fins i tot jugar al tenis, en què un reacciona, li dona a la pilota i no pensa gaire, té mil·lèsimes de segon per reaccionar. Aquests tipus de coses. Per exemple, és normal que la ciutadania tinguin por o desconfiança davant la intel·ligència artificial per això que has dit, situacions o casos en què s'automatitzen alguns processos que les màquines puguin arribar a reemplaçar algunes professions o perquè s'ha vist de tot amb la intel·ligència artificial des que imiten veus de locutors de ràdio o això que dius, per exemple, del tema dels caixers de supermercat o en altres llocs de feina. Sí, òbviament. Quan parlem que són models en què podem adaptar una funció, aquesta funció pot ser la funció que no tradueix uns números amb uns altres, com pensem quan parlem de funcions en matemàtiques, sinó que tradueix un text amb un altre. Això també és una funció. En molts àmbits. L'impacte social que pot tenir en substitució de feines és òbvi. L'impacte més ètic amb tot això que es parla de si realment tenen consciència, si realment haurem de parlar en algun moment de les implicacions de parar una d'aquestes màquines o coses més complexes, això és més difícil de predir i crec que en aquests aspectes estem molt més lluny. El tipus de coses que realment ara podem dir que sabem resoldre són encara bastant automatitzables, ens recometes, i per tant bastant automàtiques per un humà. Sabem que potser no és de la teva àrea d'investigació, Jordi, tot el tema de l'ètica, de lleis i de més que s'estiguin proposant a la Unió Europea i de més, però sí que s'està gestant com alguna mena de paràmetre o de normativa en tot aquest camp de la intel·ligència artificial. Jo me'n recordo quan vaig començar a estudiar informàtica que el primer professor de programació en deia els ordinadors reprodueixen amb exactitud els teus errors. I és una mica el que passa amb aquestes xarxes neuronals. El primer punt seria, si estem parlant de la més simple d'entrenar aquests models, hem de parlar de quines dades entrenem aquests models. Si aquestes dades estan esviaixades doncs els models que obtindrem seran esviaixats. En aquest sentit, per exemple, dels casos prototípics si s'han entrenat amb dades de persones blanques doncs les persones negres estan menys representades i cometran més errors. Si s'ha entrenat un sistema per concedir crèdits reproduirà els mateixos viajos que tenen les persones quan això ho feien les persones per fer aquestes avaluacions. Per tant, cal regular quines dades s'utilitzen per fer aquests entrenaments. A nivell de les implicacions més potents que s'utilitzen ara doncs, òbviament, s'hauran de regular moltes coses. Fins fa poc a Sant Francisco s'utilitzaven i hi havia cotxes conduïts sense ningú, anaven sols, en fase d'experimentació. Ara també es parla si chat GPT s'havien reanat utilitzant informació que no era d'ús públic o que estava regulada. òbviament això se'ns ha agafat una mica per sorpresa i hi ha aspectes que s'han de regular. Un d'ells per exemple és el possible ús d'aquestes dades. Si aquestes dades s'han concedit només per fer utilitzades per humans o també utilitzades per màquines o també per entrenar aquestes màquines tot això fins ara no era un debat que es tenia, ara s'ha de regular. La intel·ligència artificial pot suplantar la identitat d'algú o quan es creen imatges, la intel·ligència artificial pot crear imatges. Sí, òbviament, pot crear imatges pot crear veus de persones on existeixen, pot imitar la veu de persona si s'ha entrenat amb suficients dades sobre la veu d'aquella persona. Tot això és possible gràcies a que es treballen amb dades, no? Sí, òbviament. Si no tenen les dades de la veu d'una persona no la pot reimitar o si tenen poques dades. S'ha de dir també que necessiten quantitats ingents de dades segurament una persona humana amb una bona veu, un bon humorista escoltant-te una estona s'haurà d'imitar la teva veu. En el cas d'aquests models són bastant més ineficients i necessiterien hores i hores de la teva locució per poder imitar la teva veu. Encara estem un pas enrere del que serien capaços de fer els humans. Quines? No sé si has comentat que ets professor del Grau d'Intell·ligència Artificial. No sé si en aquests últims anys hi ha hagut un creixement o una demanda d'aquests estudis de gent que s'interessa per estudiar tots aquests processos i aquestes xarxes. No sé si ho heu notat a la Universitat. Sí, hi ha una certa demanda. De fet, aquest grau es va crear fa un parell d'anys, una a l'UPC i una a l'Autònoma i només tenim un grup a l'UPC i un grup d'uns 50 persones a l'Autònoma. Per tant, hi ha una certa demanda i fa molts anys que existeix el Master d'Intell·ligència Artificial a l'UPC que té bastants alumnes. I institucions o administracions us demanen opinió, us demanen consell, us demanen participació o col·laboració amb alguns processos? Sí, òbviament, cada vegada té més interès. Hem passat a l'hivern de l'Intell·ligència Artificial on en els anys 60 es prometien grans avanços que no van arribar i per tant vam passar en una etapa de sequera al que es coneix com a l'hivern de l'Intell·ligència Artificial en què hi havia una certa decepció que sense fer grans avanços teòrics però tenint els mitjans disponibles hem aconseguit coses com estem veient ara. Quines professions implica l'Intell·ligència Artificial? Hi ha molta gent del món de la informàtica o d'altres camps també de l'enginyeria? Quines professions? Per exemple, la gent que va fer o que fa el Master de quines carreres? Normalment és gent informàtica. O sigui, potser hi ha gent que m'ho critica i sobretot m'estic ficant en un terreny una mica delicat perquè és un grau d'aïllament al que dono classes i no és un grau d'informàtica però jo ho descriuria com un subconjunt o uns estudis molt relacionats amb la informàtica, òbviament. I Jordi, ja per acabar tornarem a escoltar el dia 21 de febrer a l'Ateneu de Sant Just per parlar no tant d'aquest aspecte potser tan teòric o com funcionen internament sinó quines coses són capaces de fer. Sí, sí, a nivell de futur una mica les conseqüències i això que ja ens has dit que és difícil de predir. Sí, és el que torno a dir. Com si amb un informàtic fa 50 anys li haguessis dit i quin impacte té entre això hi havia informàtics que deien que hi havia més de 3-4 ordinadors en el món i ara tothom portem una a la butxaca qui volia de dir. Això és molt difícil de dir. És difícil. Doncs Jordi, ens quedem amb la informació que ens has donat avui a aquesta estoneta que has estat a Ràdio Desvern i res més, la gent interessada que et vingui a escoltar a l'Ateneu de Sant Just. Encantat i us espero allà. Molt bé, fins la propera. Gràcies, adeu. Fins aquí el programa d'avui.