Il regolamento europeo sull'intelligenza artificiale ha prodotto una quantità di allarmi commerciali sproporzionata rispetto a quello che comporta per un'impresa di venti persone che usa strumenti di terzi.
La struttura è però semplice da capire, perché classifica gli usi in base al rischio e non le tecnologie. Sapere in quale categoria si sta risolve la maggior parte dei dubbi.
La logica del rischio
Ci sono usi vietati, usi ad alto rischio con obblighi precisi, usi con obblighi di trasparenza, e tutto il resto, che è la grande maggioranza e non ha obblighi particolari.
Scrivere testi, riassumere documenti, cercare nell'archivio, preparare offerte: sono tutti nell'ultima categoria. Chi vi dice il contrario sta vendendo qualcosa.
Gli usi che riguardano le persone
È qui che una piccola impresa può trovarsi in una categoria più impegnativa: selezione del personale, valutazione delle prestazioni, decisioni su promozioni o cessazioni.
Se uno strumento partecipa a queste decisioni servono supervisione umana effettiva, informazione alle persone e documentazione di come funziona. È quello che succede quando si prova a leggere i curriculum con l'intelligenza artificiale, assegnando un punteggio e scartando sotto una soglia.
L'obbligo di dirlo
Quando una persona interagisce con un sistema automatico deve saperlo. Vale per gli assistenti che rispondono ai clienti, e si risolve con una riga all'inizio della conversazione.
Vale anche per i contenuti generati che potrebbero essere scambiati per autentici, ed è una scelta che ha conseguenze commerciali, perché dirlo ai clienti oppure no, è una scelta prima ancora che un obbligo.
La competenza delle persone
C'è un obbligo generale di assicurarsi che chi usa questi strumenti abbia una preparazione adeguata. È formulato in modo ampio e si soddisfa con poco: una formazione documentata e regole scritte.
È anche una cosa che conviene fare indipendentemente dalla norma, perché formare le persone prima di comprare gli strumenti, è la condizione perché le licenze vengano usate.
Che cosa succede se comprate uno strumento
Nella maggior parte dei casi l'impresa è un utilizzatore e non un fornitore, e gli obblighi più pesanti stanno in capo a chi il sistema lo produce e lo mette sul mercato.
La cosa da chiedere a chi vende è una dichiarazione su in quale categoria ricade il prodotto e quali obblighi restano a voi. Se non sa rispondere, è un'informazione utile su quel fornitore.
Il rapporto con le regole sui dati personali
Sono due discipline diverse che si sommano. La norma sui dati continua a valere per intero, e nella pratica di una piccola impresa è quella che pone i vincoli più frequenti.
Le regole minime restano quelle di i dati dei clienti che non devono uscire dall'azienda, e vanno rispettate a prescindere da qualsiasi classificazione di rischio.
Che cosa serve avere per iscritto
Un elenco degli strumenti in uso e a che cosa servono. Una pagina di regole. Una nota su chi controlla che cosa prima che esca. La prova della formazione fatta.
Quattro documenti brevi, che nella maggior parte delle imprese piccole coprono quello che serve. A questi si aggiungono le cautele di che cosa si può fare con contratti e documenti, che riguardano impegni e non adempimenti.
Che cosa è vietato
Un elenco corto e lontano dalla pratica di un'impresa italiana di venti persone: sistemi che manipolano il comportamento in modo dannoso, punteggi sociali, riconoscimento delle emozioni sul posto di lavoro.
L'ultimo è l'unico che potrebbe sfiorare qualcuno, perché compare in certe proposte commerciali su assistenza e selezione. Va guardato con attenzione se qualcuno ve lo propone.
Che cosa significa alto rischio
Non che sia pericoloso: che l'uso riguarda ambiti in cui una decisione automatica incide sulle persone. Selezione, valutazione, accesso a servizi essenziali, sicurezza dei prodotti.
Gli obblighi che ne derivano sono di trasparenza, supervisione e documentazione. Non impediscono l'uso: chiedono che sia governato e che qualcuno risponda delle decisioni.
Gli obblighi che restano a chi usa
Usare il sistema come previsto, assicurare una supervisione umana effettiva, informare le persone coinvolte, conservare i registri quando ci sono, e segnalare i malfunzionamenti gravi.
Nella pratica di un'impresa piccola si traducono in tre cose: una persona che controlla, un documento che dice che cosa si usa e per che cosa, e una comunicazione alle persone interessate.
Le sanzioni
Sono state comunicate con enfasi commerciale e riguardano nella loro parte più alta le pratiche vietate e i fornitori di sistemi. Per un utilizzatore di buona fede lo scenario è molto diverso.
Il rischio reale per un'impresa piccola non è la sanzione: è il danno di un errore verso un cliente o un dipendente, e da quello ci si protegge con le stesse regole.
Che cosa chiedere a un fornitore
Una dichiarazione scritta su in quale categoria ricade il sistema e quali obblighi restano in capo a voi. Chi vende sistemi seri ha questa documentazione pronta.
Chi non sa rispondere, o risponde che non serve, sta dando un'informazione sulla propria preparazione che vale la pena registrare prima di firmare qualcosa.
Il registro degli strumenti
Un foglio con quattro colonne: quale strumento, per quale attività, chi lo usa, chi controlla quello che esce. È il documento che risolve la maggior parte delle domande possibili.
Va aggiornato quando cambia qualcosa, e riletto una volta all'anno. Serve per la norma e serve all'impresa, che è il modo giusto di guardare qualsiasi adempimento.
Che cosa succede adesso
Le regole entrano in vigore per gradi e verranno precisate dall'esperienza applicativa. Per gli usi comuni di una piccola impresa non c'è nessuna urgenza.
Quello che conviene fare adesso non è un adempimento: è sapere quali strumenti girano in azienda e chi controlla che cosa. Da quel foglio, qualsiasi obbligo futuro diventa un lavoro di ore invece che di settimane.
Che cosa cambia per chi vende ad altre imprese
Nei capitolati cominciano a comparire domande sull'uso di questi strumenti. Avere pronte tre righe di risposta è un vantaggio pratico, e a volte una condizione per partecipare.
Le tre righe sono quelle del registro: quali strumenti, per quali attività, chi controlla. Chi le ha già risponde in due minuti a una richiesta che agli altri costa una settimana.
Il rapporto con le certificazioni di qualità
Chi ha un sistema certificato ha già l'abitudine a documentare processi e responsabilità. Gli stessi documenti coprono buona parte di quello che serve qui, senza duplicare niente.
È il caso in cui un adempimento che sembrava un peso diventa un vantaggio, e vale la pena farlo notare a chi in azienda ha sempre considerato la certificazione una formalità.
I tempi
Gli obblighi entrano in vigore per gradi, e le date cambiano a seconda della categoria. Per gli usi comuni di un'impresa piccola non c'è nessuna scadenza imminente da temere.
La fretta venduta come necessità normativa è un argomento commerciale, e va trattata come tale: chiedendo quale articolo, per quale uso, entro quando.
Domande frequenti
La norma europea cambia molto per una piccola impresa?
Per la maggior parte degli usi non cambia quasi niente. Per due o tre cambia parecchio, e conviene sapere quali sono.
Come è strutturata?
Classifica gli usi in base al rischio, non le tecnologie: usi vietati, usi ad alto rischio con obblighi precisi, usi con obblighi di trasparenza, e tutto il resto senza obblighi particolari.
Scrivere testi e preparare offerte rientra negli obblighi?
No, sta nell'ultima categoria insieme a riassumere documenti e cercare nell'archivio. Chi dice il contrario sta vendendo qualcosa.
Quali usi sono più impegnativi?
Quelli che riguardano le persone: selezione del personale, valutazione delle prestazioni, decisioni su promozioni o cessazioni. Servono supervisione umana effettiva, informazione e documentazione.
C'è un obbligo di dire che si usa un sistema automatico?
Sì, quando una persona interagisce con un sistema automatico deve saperlo. Si risolve con una riga all'inizio della conversazione.
Che cosa dice sulla preparazione delle persone?
C'è un obbligo generale di assicurarsi che chi usa questi strumenti abbia una preparazione adeguata. Si soddisfa con una formazione documentata e regole scritte.
Chi ha gli obblighi più pesanti?
Chi produce e mette sul mercato il sistema. Nella maggior parte dei casi un'impresa piccola è un utilizzatore, e la cosa da chiedere a chi vende è in quale categoria ricade il prodotto.
Che rapporto ha con le regole sui dati personali?
Sono discipline diverse che si sommano. La norma sui dati continua a valere per intero, e nella pratica è quella che pone i vincoli più frequenti.
Che cosa conviene avere per iscritto?
Quattro documenti brevi: elenco degli strumenti in uso, una pagina di regole, una nota su chi controlla che cosa prima che esca, e la prova della formazione fatta.
Scritto da
Cristian Andreatini
Elettricista, poi marketing digitale, poi direzione d'azienda. Oggi affianco imprese e imprenditori su strategia, organizzazione e posizionamento, con un team di specialisti dei diversi rami aziendali.
Chi sono