Lintroduzione della GenAI porta con sé nuovi rischi. A rivelarlo è un documento della compagnia assicurativa americana Progressive che ha affrontato le preoccupazioni legate allutilizzo di questa e altre tecnologie come lapprendimento automatico, i modelli predittivi e lintelligenza artificiale tradizionale. Tutte novità che introdurrebbero secondo il modulo 10-K 2023 dellazienda nuove sfide che rientrerebbero nella cosiddetta sezione rischi operativi.

Come per molte innovazioni tecnologiche si legge nel documento il crescente sviluppo e utilizzo della GenAI presenta rischi aggiuntivi che potrebbero influire negativamente sulla nostra attività. La GenAI potrebbe, infatti, produrre o rivelare set di dati imperfetti o insufficienti o contenere informazioni distorte, il che potrebbe comportare risultati discriminatori involontari e ingiusti nei nostri processi aziendali. Queste carenze potrebbero anche minare le previsioni, le analisi o le decisioni associate prodotte dalle applicazioni GenAI o le decisioni aziendali che prendiamo sulla base di queste informazioni.

Secondo gli esperti di Progressive inoltre i diritti di proprietà intellettuale, inclusi quelli associati a copyright correlati, di GenAI e altri output di IA, non sarebbero stati completamente interpretati da norme e/o regolamenti. Ad esempio -spiega la società la National Association of Insurance Commissioners (Naic) ha adottato principi guida sullIA, nonché un bollettino modello, per informare e articolare le aspettative generali per aziende, professionisti e stakeholder nel settore assicurativo mentre implementano strumenti di IA per facilitare le operazioni. Ognuno di questi impatti normativi e non potrebbe comportare significative difficoltà operative relativamente alluso di queste tecnologie nonchè danni alla reputazione aziendale e contenziosi con gli enti regolatori.

I punti chiave su cui lavorare secondo quanto si legge nel documento di Progressive sono diversi. Tra questi vi è il fatto che luso della GenAI potrebbe produrre set di dati difettosi, insufficienti o distorti, portando potenzialmente a risultati indesiderati e ingiustamente discriminatori nei loro processi aziendali. Inoltre i principali utilizzatori di queste soluzioni tech potrebbero utilizzare la GenAI in modi che non soddisfano gli standard normativi esistenti o in rapida evoluzione. Intanto mentre si discute sul tema sono sempre di più i player assicurativi ed insurtech che iniziano ad utilizzare questa nuova tecnologia.