Però, som realment conscients dels perills i amenaces que això comporta? Si has començat a explorar com la IA pot transformar el teu negoci, és possible que desconeguis alguns dels riscos que s’amaguen darrere. Des del compliment normatiu fins als ciberatacs, la IA és una eina poderosa, però també pot ser perillosa si no es gestiona adequadament.

Vols saber com minimitzar els riscos en implementar-la? Continua llegint.

Què és la intel·ligència artificial?

La IA és una tecnologia que permet a les màquines aprendre, prendre decisions i fer tasques de manera intel·ligent. Mitjançant la recopilació i l’anàlisi de dades, la IA pot millorar processos en moltes àrees: des de l’automatització de tasques repetitives fins a l’anàlisi avançada de dades i la millora de l’experiència del client.

Segons un informe del Ministeri d’Assumptes Econòmics i Transformació Digital, els sectors que lideren l’ús de la intel·ligència artificial són el d’informació i comunicacions, amb un 41,9%, i el de tecnologies de la informació i la comunicació (TIC), amb un 41,3%.

4 grans riscos de la IA en la protecció de dades

La IA ofereix múltiples avantatges, però també planteja reptes que les empreses han de tenir en compte, especialment pel que fa a la protecció de dades. A continuació, repassem quatre riscos clau:

1 | Compliment del RGPD i altres normatives

La IA processa grans quantitats de dades personals, fet que obliga a complir el Reglament General de Protecció de Dades (RGPD). És essencial garantir la legitimitat del processament, la minimització de dades i la transparència amb els usuaris. Una incorrecta gestió d’aquestes normatives pot resultar en sancions i danyar la reputació empresarial.

Et pot interessar: Adecuación al RGPD de tratamientos que incorporan Inteligencia Artificial

2 | Biaixos i discriminació

Els models d’IA poden heretar biaixos de les dades amb els quals s’entrenen, la qual cosa genera decisions injustes o discriminatòries. Aquest risc és especialment rellevant en processos automatitzats que afecten persones, com en processos de contractació, campanyes de màrqueting o anàlisi de riscos.

3 | Privacitat i risc de reidentificació

Encara que s’utilitzin tècniques de seudonimització o anonimització, sempre existeix el risc que les dades puguin reidentificar-se si no es protegeixen adequadament. Això exposa a les empreses a vulneracions de la privacitat i possibles sancions.

4 | Decisions automatitzades sense supervisió humana

El RGPD estableix limitacions sobre les decisions automatitzades que afectin les persones. És fonamental que les empreses garanteixin la supervisió humana en aquests processos i que els usuaris tinguin l’opció d’impugnar aquestes decisions.

Et pot interessar: Evaluación de la intervención humana en las decisiones automatizadas

A quines amenaces pots exposar-te treballant amb IA?

A més dels riscos legals i ètics, la IA està exposada a amenaces tècniques que poden comprometre la integritat dels sistemes. Algunes de les més comunes són:

• Manipulació de dades d’entrenament: Els atacants poden alterar les dades d’entrenament de les eines per generar errors en les seves prediccions.
• Inserció de troians o portes posteriors: Durant el desenvolupament de sistemes d’IA, es poden introduir vulnerabilitats que permetin els atacants accedir a informació confidencial o manipular decisions.
• Atacs adversarials: Petites modificacions en les dades d’entrada poden enganyar els sistemes d’IA, fent-los cometre errors en les seves prediccions.
• Explotació de vulnerabilitats en APIs: Les interfícies de programació dels sistemes d’IA poden ser vulnerables a atacs que manipulen els resultats o extreuen informació confidencial.

Com mitigar els riscos?

Per a protegir-se davant els desafiaments i amenaces de la IA, les empreses han d’adoptar un enfocament estratègic i proactiu. Et deixem algunes recomanacions:

• Anàlisi de riscos i avaluacions d’impacte: Abans d’implementar IA, és fonamental dur a terme una anàlisi exhaustiva de riscos i una avaluació d’impacte sobre la protecció de dades.
• Minimització de dades: Processar només les dades estrictament necessàries ajuda a reduir els riscos relacionats amb la privacitat i seguretat.
• Transparència i control: Les empreses han de ser capaces d’explicar com funcionen els seus sistemes d’IA i assegurar que les decisions automatitzades siguin comprensibles i supervisades.
• Auditories i seguretat: Realitzar auditories periòdiques i reforçar les mesures de seguretat, com ara la protecció de APIs i el xifratge de dades, és essencial per garantir el correcte funcionament i compliment normatiu.

Et pot interessar:: ¿Cómo aplicar la inteligencia artificial en tu empresa?

La intel·ligència artificial ofereix múltiples beneficis a les empreses, però també comporta riscos considerables, especialment pel que fa a la protecció de dades. El compliment del RGPD, la transparència en les decisions automatitzades i la seguretat dels sistemes són aspectes crítics que no es poden ignorar. Per a maximitzar el potencial de la IA, les empreses han d’adoptar una estratègia integral que combini la innovació amb la seguretat i el respecte als drets dels usuaris.

Si t’interessa aquest tema, l’Institut Nacional de Ciberseguretat (INCIBE) comparteix consells sobre IA i ciberseguretat i algunes eines per a identificar contingut fals generat per la IA.

La entrada Riscos de la intel·ligència artificial: Protegeix la teva empresa i les teves dades s'ha publicat primer a On4.

Ara bé, tot i que costa una mica de trobar, Meta té una opció perquè puguis oposar-te al fet que s’utilitzin les teves dades per entrenar la IA i nosaltres et mostrem com fer-ho.

Quines dades es volen utilitzar per Meta AI?

Meta pretén recopilar tota la informació que has compartit en qualsevol de les seves aplicacions i productes per entrenar la seva IA, com ara:

• Publicacions i comentaris
• Fotos i peus de foto
• Els missatges que li envies a la IA

Totes aquestes dades s’utilitzaran per millorar els algorismes d’IA, permetent a Meta oferir experiències personalitzades, anuncis més dirigits i millorar els seus productes i serveis. Segons Meta, no s’utilitzarà el contingut dels teus missatges privats amb amics i familiars per entrenar la IA.

Quines són les principals preocupacions dels usuaris?

L’ús de dades personals per entrenar les noves eines d’IA no és nou, però l’abast de Meta ha aixecat banderes vermelles. Les principals preocupacions inclouen:

1. Privadesa de les dades: Hi ha el risc que informació delicada pugui ser accessible o utilitzada de manera inapropiada.
2. Seguretat: Amb més dades recopilades i emmagatzemades, augmenta la possibilitat de bretxes de seguretat.
3. Consentiment: Molts usuaris no són conscients de fins a quin punt s’utilitzen les seves dades ni han donat el seu consentiment explícit.

Com evitar que Meta utilitzi les teves dades?

Per als usuaris de Meta als EUA, no hi ha manera d’evitar que la IA de Meta aprengui de les teves publicacions en les xarxes socials, ja que no hi ha lleis de privacitat específiques per a això. Per tant, l’única opció de no participar en aquesta estratègia de Meta seria configurar el compte com a privat.

En el cas d’Europa, encara no està tot perdut: existeix una forma perquè no s’utilitzin les teves dades. A través d’un formulari, pots denegar el teu consentiment, encara que això no garanteix que la teva cara no sigui utilitzada per la IA, ja que, si apareixes a les imatges o textos d’altres usuaris que no enviïn el formulari, Meta podrà utilitzar la informació per entrenar la seva IA.

Com evitar que Meta utilitzi les teves dades per entrenar la IA: FACEBOOK

1. Prem la icona ≡ del menú.
2. Selecciona “configuració i privacitat” > “configuració”.
3. Llisca fins a “normes comunitàries i polítiques legals”.
4. Entra en “política de privacitat”.
5. Prem sobre l’enllaç “dret a oposar-te”.
6. Emplena el formulari i denega l’autorització perquè Meta utilitzi les teves dades per entrenar la IA.

Com evitar que Meta utilitzi les teves dades per entrenar la IA: INSTAGRAM

1. Ves al teu perfil.
2. Toca la icona ≡ del menú i entra en la configuració.
3. Ves a l’apartat “més informació i ajuda” i clica a “Informació”.
4. Selecciona l’opció “política de privacitat”.
5. En el primer missatge que apareix en pantalla, prem sobre l’enllaç “dret a oposar-te”.
6. Emplena el formulari i denega l’autorització perquè Meta utilitzi les teves dades per entrenar la IA.

Als apartats de com t’afecta el tractament d’aquestes dades, has d’omplir-los amb aquest text o similar:

“No vull que la informació del meu compte s’utilitzi per a entrenar la IA de Meta en considerar-ho una falta de privacitat de les meves dades. A més, vulnera l’article 18 de la Constitució Espanyola del dret a la intimitat personal i a la pròpia imatge.”

Després d’omplir els formularis, tant a Facebook com a Instagram, t’arribarà un codi per confirmar el correu electrònic i poder enviar la teva sol·licitud.

Com a novetat, recentment ha sortit una altra notícia que informa que Meta ha paralitzat el projecte d’entrenar la IA amb publicacions de Facebook i Instagram a Europa. Tot i que aquests grans monstres sempre troben la via per aconseguir els seus objectius i, per si de cas, hem d’estar preparats.

Ja veus que no necessitaràs ni 5 minuts per protegir les teves dades personals. Val la pena fer-ho, no creus?

La entrada Com evitar que Meta utilitzi les teves dades per entrenar la IA? s'ha publicat primer a On4.

Mitjançant una aplicació basada en intel·ligència artificial (IA) anomenada EPIK, aquesta dinàmica et permet penjar diverses fotografies del teu rostre i aconseguir un àlbum de fotos a l’estil d’un estudiant dels EUA dels anys 90. Ara bé, més enllà de la diversió de veure’t com una autèntica cheerleader o jugador de futbol americà, quins són els riscos d’usar aquesta IA?

Cal ser conscient que, en pujar fotografies a l’aplicació, estàs compartint imatges teves a tercers i permets que la IA tingui accés les teves dades i característiques facials.

Per què aplicacions com EPIK comprometen la teva seguretat?

Per utilitzar l’aplicació EPIK, a més de pagar entre 3,99 i 6,99 euros depenent de la rapidesa amb la qual vulguis les imatges de l’anuari, has de pujar entre 8 i 12 selfies i acceptar les condicions d’ús i la política de privacitat. Quan acceptes tots els permisos de l’aplicació estàs compartint diverses dades personals, com per exemple:

• Informació de compra: adreça IP, codi d’identificació únic del dispositiu, número d’ordre, temps de la transacció, categoria i preu del producte.
• Informació analítica: recopila informació enviada pel dispositiu, com els anuncis que es veuen o es fan clic.
• Geolocalització: recopila informació sobre la ubicació general.
• Informació de registre: activitat del sistema, tipus de navegador web, idioma, etc.
• Reconeixement facial: l’app utilitza una tecnologia de reconeixement facial per reconèixer les cares de les persones en fotos i retrats.
• Emmagatzematge local: pot accedir a les metadades i a altres arxius emmagatzemats al dispositiu, el que pot incloure, entre d’altres, imatges, vídeos i contactes.

Queda clar que, amb el teu consentiment, l’aplicació EPIK podrà recollir dades com la teva adreça IP, el tipus de dispositiu que fas servir i també tindrà accés a les imatges que tinguis guardades o als teus contactes. A més, podrà recopilar informació quan no estigui l’app en marxa, saber la teva ubicació actual i compartir aquesta informació amb tercers per a finalitats publicitàries.

Si consideres que aquest és un preu massa alt a pagar, et recomanem que llegeixis totes les condicions atentament i valoris si realment vols compartir tantes dades personals per seguir una tendència a les xarxes socials.

Et pot interessar: Ciberseguretat: 9 consells per a protegir les teves dades en l’era digital

FaceApp: un dels casos pioners

L’aplicació EPIK no és l’única que retoca el nostre físic o entorn per oferir-nos imatges curioses o gracioses. FaceApp es va fer viral el 2019 i ja va generar dubtes sobre la seguretat personal quan oferia imatges dels usuaris amb el rostre envellit.

Com podem evitar que facin ús de les nostres dades personals?

La manera més fàcil per evitar compartir dades personals és simplement no acceptar les condicions que imposa l’aplicació. En altres paraules: si volem mantenir la nostra privacitat, NO hem d’utilitzar aquesta mena d’aplicacions.

Si, per contra, estàs d’acord amb aquestes condicions, has de ser conscient que estàs donant accés a les teves dades a tercers i l’empresa les conservarà fins que tanquis el perfil.

Encara que sovint som conscients del que acceptem quan emprem una aplicació coneguda, no sempre som tan crítics amb les noves aplicacions que es tornen virals. Per això, cal prendre consciència i dedicar prou temps a llegir les condicions i valorar si realment ens convé acceptar-les.

La entrada IA i privacitat de dades: el cost de seguir tendències virals s'ha publicat primer a On4.