Què s’entén per IA o Intel·ligència Artificial?
La Intel·ligència Artificial és una funcionalitat que estan adquirint les noves tecnologies, que permet que un dispositiu o mitjà (ordinador, màquina, mòbil, cotxe, aplicació, altaveu intel·ligent, web, etc.) pugui entaular una comunicació fluida amb una persona. Fins al punt de contestar preguntes, portar una conversa o resoldre problemes, amb un nivell d’enteniment equivalent o fins i tot superior al que pogués tenir un cervell humà.
Hi ha ciberatacs associats a l’ús d’IA?
Lamentablement sí. Per exemple, la tecnologia d’IA més utilitzada avui dia és ChatGPT, amb 400 milions d’usuaris actius mensuals a nivell mundial (120 milions més que el 2024). Pel que per als ciberdelinqüents és “un nou mar ple de peixos per pescar”. I això és perquè no tots els programes i les aplicacions dotats d’aquestes funcionalitats són igual d’assegurances. Per exemple, ja s’han detectat vulnerabilitats als assistents d’ordinador de cotxes, altaveus intel·ligències del tipus Alexa i fins i tot el ChatGPT mateix o cercadors similars (exemple, Copilot de Microsoft).
Quines precaucions hem de tenir?
Especialment si utilitzem aquestes tecnologies no només a nivell personal, sinó també professional, hem de tenir en compte el següent:
- Regla d’or: desconfiar de tot i preguntar experts. Això implica que, a nivell personal posem cura del que utilitzem i descarreguem, i en cas de dubte, és preferible preguntar a una persona de perfil tècnic, perquè ens aconselli. Però a més a nivell professional, si volem utilitzar una tecnologia d’IA en l’àmbit laboral, perquè ens ajuda a ser més eficaços o millorar la qualitat de la nostra feina, primer hem de sol·licitar autorització al responsable directe i al Dept. d’IT. Si la fem servir sense haver-ho comunicat internament, en cas de ciberatac, tindríem com a Usuari responsabilitat directa sobre aquest incident i la possible fuita d’informació.
- Aquestes tecnologies registren i emmagatzemen les transcripcions de les converses. És molt habitual que a les Polítiques de Privadesa o Condicions d’Ús de la tecnologia s’estableixi que aquesta pot recopilar informació dels nostres missatges, arxius i qualsevol comentari que compartim. A més, les converses poden ser revisades pels entrenadors d’IA per desenvolupar el xat i millorar el sistema. Per tant, les dades personals o corporatives que introduïm no només es veuen compromeses, sinó que s’utilitzen en benefici de l’empresa que es troba darrere. Creant un risc sancionable de Ciberseguretat i Privadesa, tant per a l’Usuari que els introdueix, com per a l’empresa a què pertanyen.
- Falses webs i aplicacions de IA. Aprofitant la popularitat de ChatGPT, s’han creat pàgines i aplicacions no oficials per distribuir programari maliciós (malware) o dur a terme ciberatacs sobre la base de la informació recopilada. Ja s’han detectat més de 90 aplicacions malicioses el darrer any, dotades d’una IA falsa. Per això certes respostes que ens doni la IA, tant si és legal com si no, poden contenir enllaços que ens redirigeixin a aquestes webs o apps falses (Phishing/Pharming), perquè la IA d’origen no comprova si ho són, simplement les troba a internet i ens la reenvia com a resposta a la nostra sol·licitud.
- Demana sempre fonts per verificar la informació. La informació que proporciona la IA no indica la font d’on l’obté, per la qual cosa la veracitat i la precisió d’aquesta pot ser falsa o incompleta. Per evitar-ho podem fer preguntes que necessitin fonts o formular-les de manera que ens hagi de proporcionar respostes més llargues, així tindrà més informació de base, i evitem que acabi inventant text.
- Atent al copyright de la informació que et proporciona el chatbot. Les respostes generades per IA no estan protegides per la llei de drets d’autor, per la qual cosa es poden fer servir lliurement sense sol·licitar permís o obtenir una llicència.
NOTA IMPORTANT: Si encara complint totes aquestes mesures, us trobeu amb situacions que no s’ajusten al nivell de seguretat requerit o establert en polítiques internes, no dubteu a comunicar-ho al vostre responsable directe, al Responsable de Seguretat CIS i al departament d’IT, perquè us puguin aconsellar adequadament. I a nivell personal denuncia el ciberatac davant de l’ autoritat policial.
*Data d’enviament: 21 d’abril de 2025