Pubblicato il rapporto della Commissione europea sul requisito di cybersecurity previso dall’Artificial intelligence (AI) Act per i sistemi di intelligenza artificiale ad alto rischio.
Il requisito di cybersecurity è infatti previsto nell’articolo 15 della proposta di legge sull’intelligenza artificiale (AI) della Commissione europea, secondo cui i sistemi AI ad alto rischio sono progettati e sviluppati in modo tale da conseguire, alla luce della loro finalità prevista, un adeguato livello di accuratezza, robustezza e cibersicurezza e da operare in modo coerente con tali aspetti durante tutto il loro ciclo di vita.
Il requisito di cybersecurity dell’AI Act si applica al sistema di intelligenza artificiale nel suo complesso e non direttamente ai suoi componenti interni.
Per garantire la conformità, è necessario condurre una valutazione del rischio di sicurezza tenendo conto della progettazione del sistema al fine di identificare i rischi e implementare le misure di mitigazione necessarie.
Questo processo richiede un approccio integrato e continuo che utilizzi pratiche e procedure di cybersecurity collaudate, combinate con controlli specifici per l’intelligenza artificiale.
Sebbene lo stato dell’arte della protezione dei modelli di AI presenti dei limiti, i sistemi di AI possono comunque raggiungere la conformità ai requisiti di cybersecurity dell’AI Act, a condizione che i loro rischi di cybersecurity siano efficacemente mitigati attraverso altre misure non esclusivamente implementate a livello di modello di AI.
Tuttavia, ciò potrebbe non essere sempre possibile e, in effetti, per alcuni sistemi di AI ad alto rischio che utilizzano tecnologie di AI emergenti, potrebbe non essere possibile raggiungere la conformità con i requisiti di cybersecurity dell’AI Act.