Utilizzo dell’IA in azienda: le nuove sfide della compliance

Affidabilità
In breve:

  • Le aziende si impegnano nel “whitewashing dell’intelligenza artificiale”, facendo affermazioni fuorvianti sulle loro capacità di intelligenza artificiale.
  • La SEC sta ammonendo le aziende che esagerano nell’uso dell’intelligenza artificiale, soprattutto per finalità di marketing.
  • Gli esperti raccomandano scetticismo e valutazione approfondita delle affermazioni sui prodotti IA.
  • Tuttavia, secondo alcuni esperti, la mancanza di consenso su ciò che effettivamente conta come intelligenza artificiale rende difficile la regolamentazione contro le affermazioni fraudolente delle aziende.
  • Una convalida rigorosa, non una campagna pubblicitaria, creerà fiducia nei prodotti di intelligenza artificiale.

Iniziano le multe per “riciclaggio di intelligenza artificiale”.

Rara è l’azienda che non è saltata sul treno pubblicitario dell’intelligenza artificiale (IA), e le ragioni sono comprensibili: nulla ora attira più l’attenzione del pubblico dell’IA.

Questo ricorda un po’ la bolla delle Dotcom alla fine degli anni ’90, quando qualsiasi azienda con un URL e un potenziale piano aziendale, veniva accolta con sopravvalutazione e investimenti speculativi.

Quindi non sorprende in fatto che oggi siamo letteralmente inondati di annunci di brand che promuovono un prodotto di intelligenza artificiale o un altro: parole come “abilitato dall’intelligenza artificiale, assistito dall’intelligenza artificiale, alimentato dall’intelligenza artificiale” appaiono ora nelle pubblicità di tutto il mondo.

La situazione non sarebbe un problema se non avesse alcune tendenze ingannevoli.

Ecco perché la Securities and Exchange Commission (SEC) degli Stati Uniti, sta iniziando a reprimere le organizzazioni che pubblicizzano soluzioni IA oltre le loro capacità o che affermano di utilizzare modelli di intelligenza artificiale per guidare la propria attività quando in realtà non lo fanno.

A dimostrazione della sua serietà, la SEC ha multato due società di consulenza sugli investimenti, Delphia e Global Predictions, per “riciclaggio di intelligenza artificiale“, accusandole di aver affermato di utilizzare l’intelligenza artificiale per potenziare le loro attività, cosa che alla fine è risultata tutt’altro che vera.

Le due società hanno ora concordato di risolvere la questione pagando una sanzione di circa 400.000 dollari.

Il messaggio è chiaro: se vuoi inserire l’intelligenza artificiale nella tua pubblicità, devi essere in grado di supportarla.

Cos’è AI Washing?

All’inizio di quest’anno, in un comunicato stampa la SEC ha lanciato un severo avvertimento alle piattaforme di investimento contro il falso marketing basato sull’intelligenza artificiale che può influenzare le decisioni di investimento.

Per evitare che questo ammonimento non venisse preso in considerazione seriamente, due società sono finite bel mirino dell’ente statunitense.

Come ha affermato il presidente della SEC Gary Gensler:

“Abbiamo scoperto che Delphia e Global Predictions pubblicizzavano ai propri clienti attuali e potenziali l’utilizzo dell’intelligenza artificiale nei loro processi aziendali quando, in realtà, non era così. Abbiamo constatato più e più volte che l’apparizione di nuove tecnologie può creare entusiasmo tra gli investitori, così come false affermazioni da parte di coloro che intendono utilizzare queste nuove tecnologie. I consulenti per gli investimenti non dovrebbero ingannare il pubblico dicendo che stanno utilizzando un modello IA quando non lo fanno, perché questo comportamento danneggia seriamente gli investitori”.

Secondo l’ordinanza contro Delphia, tra il 2019 e il 2023, la società con sede a Toronto ha rilasciato dichiarazioni false e fuorvianti nei suoi documenti depositati presso la SEC, in un comunicato stampa e sul suo sito web riguardo al presunto utilizzo dell’intelligenza artificiale e dell’apprendimento automatico.

Nell’ordinanza contro Global Predictions, la SEC ha stabilito che la società con sede a San Francisco ha rilasciato dichiarazioni false e fuorvianti nel 2023 sul suo sito Web e sui social media riguardo al suo presunto utilizzo dell’intelligenza artificiale.

Ad esempio, la società ha falsamente affermato di essere il “primo consulente finanziario regolamentato a implementare l’IA” e ha travisato il fatto che la sua piattaforma fornisse “previsioni di esperti basate sull’intelligenza artificiale”.

Senza ammettere né negare le conclusioni della SEC, entrambe le società hanno acconsentito a essere dichiarate colpevoli di aver violato l’Advisers Act, di essere censurate e di cessare e desistere dal violare le disposizioni addebitate.

Delphia ha accettato di pagare una sanzione civile di $ 225.000, mentre Global Predictions ha accettato di pagare una sanzione civile di $ 175.000.

Il termine “AI washing” si riferisce alla tattica ingannevole impiegata da alcune aziende o inserzionisti in cui fanno affermazioni false, fuorvianti o grossolanamente esagerate sull’uso o sullo sviluppo di tecnologie di intelligenza artificiale.

L’obiettivo è quello di pubblicizzare prodotti e servizi in un modo da fuorviare il pubblico sulle loro reali capacità.

Anche se questa volta la sanzione della SEC ha preso di mira le piattaforme di investimento, tutte società che offrono prodotti o servizi potrebbero essere ugualmente colpevoli.

Per le aziende l’uso del termine “intelligenza artificiale” nei comunicati stampa dei prodotti, nelle demo e negli annunci pubblicitari è un aggancio istantaneo e convincente che lascia il pubblico con l’impressione che i loro prodotti di intelligenza artificiale siano migliori di altri e capaci di soddisfare le loro esigenze specifiche meglio della concorrenza.

Si tratta, ovviamente, di messaggio che potrebbe trarre in inganno i consumatori, inducendoli inducendoli ad acquistare qual prodotto/servizio perché basato sulle ultime tecnologie IA.

Secondo un recente rapporto di NBC News, un esame delle previsioni sugli utili ha rivelato che quasi la metà delle società quotate nell’indice S&P 500 parla di intelligenza artificiale dal maggio dello scorso anno, ma poche la applicano in modo da avvantaggiare i clienti.

Il rapporto suggerisce che, per ora, l’adozione e l’implementazione tangibile dell’IA rimangono limitate nel panorama aziendale complessivo.

Leggi anche: I timori dei lavoratori sull’intelligenza artificiale sono giustificati? Gli ultimi sondaggi rivelano la verità

Gli esperti mettono in discussione l’hype sull’intelligenza artificiale

Sebbene l’intelligenza artificiale stia avendo un impatto radicale sul mondo, l’hype che la circonda ha preso il sopravvento sull’industria tecnologica, sollevando lo scetticismo di alcuni esperti, che la vedono più come una pubblicità che come una realtà effettiva.

Vaclav Vincalek, fondatore di 555vCTO, ha paragonato la mania dell’IA al concetto precedentemente pubblicizzato del Metaverso, affermando che si tratta di:

“Un termine vago, senza definizione esatta e dalle proprietà mistiche: sostituire l’umanità è il sogno di ogni professionista del marketing.”

Inoltre, ha accusato le aziende di “pubblicizzare prodotti mediocri con nuove parole d’ordine” per far sembrare le loro offerte più innovative e dirompenti di quanto non siano in realtà.

Stanno cercando di dire più parole d’ordine della concorrenza”, ha detto Vincalek riferendosi al marketing aggressivo dell’iIA da parte di intermediari di investimento e società tecnologiche.

A tal proposito, il CEO di Oii.ai, Bob Rogers, ha dichiarato:

“Il washing dell’intelligenza artificiale è ormai onnipresente perché l’IA stessa non è ancora ben definita, quindi chiunque può integrare un algoritmo nei propri prodotti e chiamarlo semplicemente ‘alimentato dall’intelligenza artificiale’. Vediamo aziende che pubblicizzano la loro capacità di comunicare a un utente il proprio inventario totale in base a una richiesta vocale o di testo come “Qual è il mio inventario? Non si tratta di valore aggiunto quando l’IA si limita a estrarre un valore da una dashboard a cui ha già accesso. Il valore deriva da una capacità analitica più ampia in grado di rispondere a domande come “Dove sono le mie scorte troppo elevate e come posso adattare la mia catena di fornitura per risolvere questo specifico problema?”

Per Dane Sherrets, Solutions Architect di HackerOne , questa tendenza non è esclusiva dell’intelligenza artificiale, ma riguarda qualsiasi nuova tecnologia.

“L’X-washing non è affatto esclusivo dell’intelligenza artificiale. Man mano che emergono nuove tecnologie o tendenze, le aziende sono incentivate a utilizzare i termini correlati nel modo più vago possibili per apparire all’avanguardia”.

In conclusione

È importante che le aziende sostengano le loro affermazioni sull’intelligenza artificiale con trasparenza e una convalida rigorosa per evitare potenziali controlli normativi da parte della SEC e di altri enti regolatori per pratiche di marketing ingannevoli o “washing IA”.

Ciò può comportare audit indipendenti, dati aperti, pubblicazione di risultati di benchmark, test di casi d’uso reali in vari ambiti e valutazione sistematica da parte di esperti.

Solo attraverso processi così rigorosi e trasparenti è possibile stabilire le reali capacità e i limiti dei sistemi di intelligenza artificiale.

Antonio Pirolo
Esperto Crypto & Blockchain

Antonio è un editor affermato nel campo delle criptovalute e del settore del gioco online, con un ampio portfolio di oltre 2.000 articoli, guide e approfondimenti di mercato. Con la sua esperienza in argomenti specializzati come la valutazione e l'analisi dei più importanti asset crypto e dei migliori siti di gioco online, Antonio si è costruito una reputazione per aver fornito delucidazioni chiare su argomenti complessi. Autore di grande esperienza, si confronta continuamente con nuove aree tematiche, anche spinto dall'obiettivo di non rimanere mai troppo a lungo nella sua confort zone professionale. Che si tratti di ambiti complessi o delle ultime tendenze in…