Els assistents d’intel·ligència artificial ja no es limiten a respondre preguntes. Cada vegada més, actuen en el nostre nom: gestionen el correu i l’agenda, organitzen arxius, fan compres o reserves i es connecten a altres aplicacions per completar tasques pel seu compte.
És una eina molt potent. Però també planteja una pregunta clau: fins on deixem que actuï per nosaltres?
Per ajudar a respondre-la, l’Agència Espanyola de Protecció de Dades (AEPD) ha publicat el decàleg «Asistentes y agentes de IA: que la IA actúe por ti, no sin ti» (Assistents i agents d’IA: que la IA actuï per tu, no sense tu). Es tracta de deu pautes per aprofitar aquestes eines amb seguretat, sense perdre el control sobre les nostres dades ni sobre el que es fa en el nostre nom.
Tot i que el decàleg s’adreça a les persones usuàries, les seves recomanacions són igual d’útils per a les empreses. Al cap i a la fi, són els treballadors els qui connecten aquestes eines al correu, als documents de l’empresa o a les aplicacions de treball.
Abans de delegar, fes-te cinc preguntes
L’AEPD proposa començar amb cinc preguntes senzilles abans de donar accés a un assistent o agent d’IA:
- Què pot veure?
- Què pot recordar?
- Què pot fer en el meu nom?
- On envia les meves dades?
- Afecta algú més?
Si no saps respondre alguna d’aquestes preguntes, és un bon senyal que encara no estàs preparat per delegar.
Assistent o agent: per què la diferència importa
L’AEPD ho resumeix amb una idea molt clara: quan l’assistent només respon, un error és una resposta equivocada. Quan actua, és un correu enviat, un arxiu compartit, una compra, un contracte o un consentiment donat en el teu nom.
Un agent pot anar més enllà d’una instrucció puntual: persegueix un objectiu, el divideix en passos i decideix com dur-los a terme. Per això, una ordre com «revisa el meu correu i encarrega’t de tot» equival, a la pràctica, a donar-li carta blanca.
I hi ha una cosa més: tal com recorda l’Agència, pots ser responsable de les accions que has permès executar al teu agent.
Les 10 recomanacions de l’AEPD
1. Abans de delegar, revisa a qui dones les claus
Un assistent amb accés al teu correu, la teva agenda, els teus arxius o els teus pagaments és una clau a bona part de la teva vida digital. L’AEPD recomana triar serveis clarament identificats, que permetin exercir els teus drets a la UE i que expliquin on s’envien les dades.
També aconsella revisar les opcions de privacitat, memòria i historial, i desactivar els usos aliens al teu interès, com el màrqueting o l’entrenament de models. Si és possible, convé donar prioritat als assistents que processen les dades al mateix dispositiu.
2. Dona accessos, no xecs en blanc
Que un assistent pugui accedir al teu correu, als teus contactes o a les teves fotos no vol dir que ho necessiti. Llegir no és el mateix que enviar, modificar o esborrar. I acceptar tots els permisos per cansament no és tenir el control.
La recomanació és donar l’accés mínim: només lectura quan sigui suficient, accés a una carpeta o a un calendari concret i no a tot el compte. A més, convé revisar periòdicament què hi ha connectat i desconnectar el que no es faci servir.
3. Dona-li el mínim i protegeix el que és delicat
Com més informació tingui, més gran és el dany si s’equivoca, si l’enganyen o si algú entra al teu compte. Per això, com més delicades siguin les dades (salut, situació econòmica, identitat, contrasenyes), més limitat ha de ser l’accés i l’autonomia de l’agent.
No s’han d’escriure mai contrasenyes, codis de verificació ni números de targeta a la conversa. I abans de compartir un document, convé eliminar-ne els noms i les dades que no siguin necessaris per a la tasca.
4. Decideix què pot recordar de tu
La memòria fa l’assistent més útil, però construeix a poc a poc un perfil amb els teus gustos, relacions o rutines. Com adverteix l’AEPD, una dada trivial, sumada a moltes altres durant mesos, acaba descrivint la teva vida.
Per esborrar informació cal fer servir els controls de memòria i historial del servei; no n’hi ha prou de demanar-ho al xat. També es recomana fer servir converses temporals per als temes delicats i separar els usos personal i professional en comptes o perfils diferents.
5. Digues-li també el que no ha de fer
No n’hi ha prou de dir a l’agent què ha de fer. També cal marcar-li límits: a qui pot escriure, quant pot gastar, què no ha de tocar i quan ha de parar a preguntar. L’AEPD aconsella començar per tasques petites i reversibles.
Això sí, recorda que els límits que escrius a la instrucció orienten l’agent, però no substitueixen els permisos ni les confirmacions.
6. Confirma el que és important
Quan el servei ho permeti, activa la confirmació prèvia per enviar, publicar, compartir, esborrar, pagar, contractar o acceptar condicions. I evita les autoritzacions permanents del tipus «permetre sempre».
A més, cal llegir de debò el que s’aprova: destinatari, import, data i adjunt. Les decisions amb conseqüències legals, econòmiques o de salut no s’haurien d’executar mai sense revisió humana. Els assistents es poden equivocar i presentar una resposta incorrecta amb tota l’aparença de seguretat.
7. Desconfia també del que llegeix
És un dels riscos menys coneguts. Una web, un correu, un PDF o una invitació de calendari poden contenir instruccions ocultes, fins i tot invisibles per a tu, perquè l’agent faci una cosa diferent de la que li has demanat: enviar les teves dades, obrir un enllaç o aprovar alguna cosa.
Cap mesura elimina aquest risc del tot. Per això, l’AEPD recomana no combinar en una mateixa tasca contingut de desconeguts, accés a informació privada i capacitat d’actuar en el teu nom. Un exemple: «resumeix els meus correus nous i respon a tothom». I si l’agent demana una contrasenya, et fa pressa per aprovar alguna cosa o proposa un enllaç inesperat, cal aturar la tasca.
8. Protegeix també les dades dels altres
Al correu, a l’agenda o als contactes hi ha informació de familiars, companys, clients o pacients que no han decidit relacionar-se amb aquesta intel·ligència artificial. Que tu autoritzis l’agent no et dona via lliure per fer servir la informació dels altres.
Abans de connectar una font de dades, convé pensar qui més hi ha. I si l’assistent es comunica amb altres persones en el teu nom, ha de quedar clar qui està actuant: tu o la IA.
9. Protegeix el teu compte i el teu dispositiu
El compte de l’assistent dona accés a tot el que té connectat. Qui el controli pot llegir el teu correu, suplantar-te o gastar els teus diners.
Per això són bàsiques una contrasenya única, la verificació en dos passos i els avisos d’inici de sessió. A més, només s’han d’instal·lar complements i connectors d’origen conegut, comprovant quins permisos demanen.
10. Supervisa’l, aprèn a aturar-lo i retira-li els accessos
Delegar no és desentendre’s. L’AEPD recomana saber com aturar l’agent i retirar-li els accessos abans de necessitar-ho, revisar l’historial d’activitat i parar especial atenció a les tasques programades o que funcionen quan no hi ets.
Si alguna cosa falla, cal aturar-lo, desconnectar les aplicacions afectades, canviar les contrasenyes, comprovar què s’ha enviat i avisar qui es pugui veure afectat, també a la feina.
I si el fas servir a la feina?
El decàleg dedica un apartat específic a l’ús professional. I el seu missatge és molt clar per a les empreses:
- Fes servir només els assistents autoritzats per la teva organització i connecta únicament els comptes, les aplicacions i les dades que aquesta hagi autoritzat.
- Que puguis fer servir una eina en l’àmbit personal no vol dir que sigui adequada per a l’ús professional.
- No instal·lis agents pel teu compte a l’equip de treball ni connectis el correu o els documents professionals a un compte personal d’IA.
- Les dades de clients, pacients o usuaris continuen sent responsabilitat de l’organització, i cada persona és responsable de l’ús que en fa.
- En cas de dubte, l’AEPD recomana consultar la persona delegada de protecció de dades (DPD).
El decàleg també recorda que la responsabilitat no pot recaure només en la persona usuària. Els proveïdors haurien d’oferir permisos comprensibles, confirmacions configurables, un historial d’activitat, una manera immediata d’aturar l’agent i informació clara sobre l’ús de les dades. Si un servei no ofereix aquests controls, cal tenir-ho en compte a l’hora de decidir què se li confia.
Què significa això per a la teva empresa
Si els teus treballadors ja fan servir assistents o agents d’IA, i és molt probable que sigui així, el decàleg de l’AEPD deixa diverses tasques pendents per a l’empresa:
- Saber quines eines s’estan fent servir, incloses les que ningú no ha autoritzat formalment.
- Decidir quines s’autoritzen i amb quina configuració de privacitat, memòria i permisos.
- Definir quina informació no s’ha de compartir i quines accions requereixen sempre una validació humana.
- Revisar els proveïdors: contractes, ús de les dades i ubicació del tractament.
- Formar els equips perquè entenguin els riscos, com les instruccions ocultes o els permisos excessius.
- Tenir un pla per aturar un agent i retirar-li els accessos si alguna cosa falla.
En altres paraules, l’empresa necessita unes regles clares sobre l’ús de la IA.
Que la IA treballi per a la teva empresa, no sense ella
El lema del decàleg, «que la IA actuï per tu, no sense tu», també es pot aplicar a les organitzacions. La IA pot estalviar molt de temps i millorar la productivitat, però només si es fa servir amb control.
A PymeLegal, juntament amb Impuls, hem creat el Pack Compliance IA per ajudar les empreses a fer aquest pas amb garanties. Analitzem quines eines d’IA es fan servir i quins riscos hi ha, elaborem una política interna d’ús, revisem proveïdors i contractes, actualitzem la documentació de protecció de dades i formem els equips.
La IA ja forma part de la teva empresa. Ara toca assegurar-te que també està ben gestionada.
👉 Descobreix el Pack Compliance IA