Categorias
PUNTS CLAU PER A L'ÚS D'UN SISTEMA DE IA EN LA TEVA EMPRESA CONFORME EL RGPD
TRES PUNTS CLAU PER A IMPLEMENTAR UN SISTEMA DE IA EN LA TEVA EMPRESA
La intel·ligència artificial (IA) ofereix un avantatge significatiu per a aquelles empreses que desitgen optimitzar els seus processos operatius, transformar la seva atenció al client i augmentar la seva productivitat.
Encara que algunes empreses opten per desenvolupar els seus propis sistemes de IA, l'ús d'eines desenvolupades per tercers (proveïdors) sol ser l'opció més atractiva, en suposar menys inversió de temps i recursos. Així i tot, la seva implementació requereix una planificació acurada i una comprensió clara de diversos factors clau.
En aquest article s'aborden tres qüestions fonamentals que has de considerar en implementar un sistema de IA en la teva empresa:
Atès que l'ús de sistemes de IA sol comportar el tractament de dades personals, l'empresa que contracta aquests sistemes ha de triar únicament proveïdors de serveis de IA que ofereixin garanties suficients en matèria de seguretat i privacitat. Abans de triar a un proveïdor, informa't sobre els estàndards de compliment als quals s'adhereix.
Així mateix, serà essencial examinar detingudament els termes i condicions establerts per cada proveïdor, especialment les clàusules relatives a l'ús d'informació de l'empresa com a dades d'entrenament per a altres models de IA.
Tingues en compte que les empreses que creguin models de IA han de mantenir registres del desenvolupament i les proves del seu sistema i, com a empresa interessada a utilitzar la seva IA, han de facilitar-te aquesta informació dins dels límits de la seva propietat intel·lectual.
El Reglament Europeu d'Intel·ligència Artificial (AIA, per les seves sigles en anglès) estableix obligacions aplicables, no sols als desenvolupadors de sistemes de IA, sinó també a les empreses que utilitzen o proporcionen als seus clients serveis basats en aquesta tecnologia.
Perquè la teva empresa pugui complir amb aquesta normativa, que va entrar en vigor l'1 d'agost de 2024 i començarà a aplicar-se progressivament a partir de 2025, serà primordial determinar el tipus de risc del sistema de IA en el teu cas d'ús. Això es deu al fet que el AIA estableix diferents requisits i obligacions en funció del tipus de risc associat al teu IA, per la qual cosa la clau per a complir amb aquesta normativa serà saber en quin nivell de risc s'enquadra el sistema que pretenem desplegar.
Per exemple, si una empresa està interessada a deixar en mans de la IA la contractació dels seus empleats (risc considerat com a “alt” pel AIA), estarà subjecta al compliment de les obligacions corresponents a aquest nivell de risc, entre elles: garantir que les dades d'entrada siguin pertinents i supervisar el funcionament del sistema, assignar supervisió humana, informar immediatament el proveïdor i a les autoritats competents sobre riscos detectats, conservar els registres generats pel sistema de IA, informar els treballadors, etc.
D'altra banda, si el que es pretén és integrar un bot en la web, per a oferir un servei automatitzat d'atenció al client, (risc “limitat”), quedarà sotmesa a una altra mena d'obligacions, adaptades al seu nivell de risc, com el deure d'informar els usuaris que interactuen amb un sistema d'intel·ligència artificial, i no amb una persona.
La protecció de dades té afectació directa en els sistemes de IA, atès que, si un component IA tracta dades personals, elabora perfils sobre una persona física o pren decisions sobre aquesta, haurà de sotmetre's a les exigències normatives aplicables en la matèria (RGPD i LOPDGDD).
En aquest cas, l'AEPD considera que, en contractar un sistema de IA, l'empresa, que actua com a responsable del tractament, encarrega a qui ostenta la propietat del sistema de IA l'execució d'un tractament de dades personals sota les seves instruccions; pel que el seu ús implicarà, entre altres aspectes:
- Acreditar que existeix una base legal que justifiqui el tractament de les dades.
- Portar un Registre d'Activitats del Tractament (RAT).
- Complir amb els principis de l'article 5 RGPD i garantir els drets dels interessats.
- Regular la relació Responsable – Encarregat mitjançant un contracte per encàrrec de tractament.
- Si és el cas, nomenar un Delegat de Protecció de Dades.
- Aplicar mesures tècniques i organitzatives apropiades per a garantir un nivell de seguretat adequat al risc i notificar violacions de Seguretat a l'Agència Espanyola de Protecció de Dades (AEPD).
Hem de recordar que infringir les normes de protecció de dades pot comportar la imposició de sancions econòmiques quantioses, que fins i tot poden aconseguir els 20 milions d'euros, o un 4% del volum de negoci total anual mundial. Per part seva, infringir les normes del AIA pot donar lloc a multes de fins a 35 milions d'euros o el 7% del volum de negocis anual.
En definitiva, la implementació dels sistemes d'intel·ligència artificial ha d'anar de bracet de l'assessorament d'advocats experts que estiguin al dia de les novetats normatives, que puguin guiar-te durant el procés i garantir que actues respectant les obligacions legals i protegint la privacitat de les dades de la teva empresa.
