Nuovi record ottenuti dall'EFF rivelano ulteriori problemi del programma di autorizzazione preventiva basato sull'IA di Medicare e dimostrano perché abbiamo bisogno di limiti legali più stringenti sull'uso da parte del governo didecisioni automatizzate.
EFFcitato in giudizioil governo a marzo per informazioni sulModello Wasteful and Inappropriate Service Reduction (WISeR), un nuovo programma Medicare che utilizza l'IA per valutare le richieste di autorizzazione preventiva per determinati servizi medici. Noiabbiamo precedentemente pubblicato documentiche dimostrano che WISeR ha portato a ritardi e negazioni di assistenza, a caos operativo e a segnalazioni di danni ai pazienti. Oggi, pubblichiamo oltre 800 nuove pagine di documenti, tra cui:
- Richieste di informazioni (RFIs) o piani di azione correttiva (CAPs) inviati dal Centers for Medicare & Medicaid Services (CMS) a quattro dei sei fornitori WISeR, insieme alle risposte dei fornitori.
- Richieste di 66 aziende al modello WISeR, inclusi quelle delle 6 aziende selezionate.
- Ordini e contratti per la valutazione, l'implementazione e il monitoraggio del modello WISeR.
I documenti ottenuti tramite la causa intentata da EFF sono disponibiliqui.
Questi nuovi documenti dimostrano che il lancio del WISeR è stato affrettato e problematico fin dall'inizio, evidenziando i pericoli che derivano quandotrattare l'IA come una soluzione magicaper problemi complessi. I documenti evidenziano anche la necessità di maggiore trasparenza riguardo alle misure di sicurezza contro le decisioni inappropriate basate sull'IA. Il pubblico manca ancora delle informazioni necessarie per valutare se la revisione da parte dei medici fornisce una supervisione significativa dei sistemi di IA e se vengono utilizzati i dati appropriati per valutare le richieste di autorizzazione preventiva.
EFF hada tempo sostenutoche l'IA non ha posto nelle decisioni governative importanti riguardanti i diritti o l'accesso ai benefici delle persone, comeapplicazione delle leggi sull'immigrazioneepoliziadecisioni. Questo perché l'uso del processo decisionale automatizzato in questi contesti rischia di portare a decisioni che violano i diritti delle persone o le privano dei benefici a cui hanno diritto, sulla base di considerazioni distorte o inappropriate, senza un adeguato processo e responsabilità in caso di errore.
Affidando il processo decisionale a società private di IA senza sufficiente trasparenza, test o limiti legali, WISeR mette a rischio l'accesso degli anziani alle cure mediche. Il Congresso dovrebbe intervenire per imporre limiti legali più stringenti sull'uso del processo decisionale automatizzato in Medicare.
Il lancio di WISeR è stato affrettato e problematico
CMS ha lanciato il programma WISeR solo sei mesi dopoaver annunciatoil programma, ignorando le richiesteda parte dei fornitori di assistenza sanitariaper ritardare la sua implementazione. Nei documenti precedentemente rilasciati dall'EFF, CMS ha riconosciuto questo "cronogramma estremamente compresso.”
Nuovi documenti suggeriscono che l'implementazione rapida e insolita di WISeR ha contribuito a problemi diffusi nei primi mesi del programma. CMS non ha divulgato l'entità di questi problemi al pubblico, anche se i dipendenti dell'agenzia hanno contattato privatamente i fornitori per discutere di potenziali non conformità ai requisiti del programma.
Nei primi tre mesi del programma, CMS ha inviato richieste di informazioni o CAP a almeno quattro dei sei fornitori di WISeR. Queste richieste, che descrivono ritardi, guasti tecnici e mancanza di comunicazione con i fornitori, suggeriscono che i problemi diffusi durante l'implementazione del programma non erano limitati a un singolo fornitore o stato.
Queste lettere sottolineano la gravità dei problemi con il programma. Ad esempio, CMS ha richiesto informazioni a un fornitore, Virtix, su numerosi problemi segnalati, tra cui "determinazione dei tempi di elaborazione che superano le linee guida stabilite,” “rifiuti che appaiono inaccurati o incoerenti con i criteri applicabili, e "servizio clienti inadeguato. RFI di CMS a Zyter – un fornitore cheutilizza l'infrastruttura software di Palantir–ha osservato che l'agenzia aveva ricevuto segnalazioni secondo cui “Zyter non rilascia in modo tempestivo le lettere di determinazione” e comunicazioni che indicano che “potrebbe non avere processi adeguati per rispondere e gestire le preoccupazioni dei fornitori/provider"L'azienda Innovaccer ha ricevuto due richieste CAP e un "Avviso di non conformità" per il mancato implementazione di un portale completamente funzionale per i fornitori e i clienti di WISeR.
Estratti dalle lettere del CMS ai fornitori descrivono i problemi durante il lancio di WISeR:
Estratto dalRFI per Virtix17 marzo 2026
Estratto daRFI per Zyter27 febbraio 2026
Estratto daAvviso di non conformità per Innovaccer, 20 febbraio 2026
Le risposte dei fornitori al CMS forniscono ulteriori prove che il rapido lancio di WISeR abbia contribuito ai suoi problemi.Innovaccer ha affermatoha avvertito il CMS mesi prima, che potrebbe non essere pronto a fornire la piena funzionalità del portale alla data di lancio, anche prima di aver firmato un Accordo di Partecipazione. Un altro fornitore ha affermato che "sono stati riscontrati problemi di stabilità tecnica e di flusso di lavoro a causa del tempo di implementazione compresso" che ha affrontato dopo aver aderito al programma WISeR un mese dopo gli altri fornitori.
Estratto daLa proposta di Innovaccer per CAP16 gennaio 2026
I problemi riflessi nelle lettere del CMS ai fornitori e nelle risposte dei fornitori, illustrano i rischi dell'implementazione di sistemi di processo decisionale automatizzati senza adeguati test o misure di sicurezza. Mentrele risposte dei fornitori descrive risolveper i problemi identificati dal CMS, le soluzioni successive non possono annullare glieffetti negativiche i pazienti e i fornitori hanno già sperimentato durante il rapido lancio del WISeR.
È necessaria maggiore trasparenza riguardo alle misure di sicurezza dell'IA.
Il pubblico sa ancora troppo poco riguardo a eventuali misure di sicurezza adottate dai fornitori di WISeR – in parte perché il governo ha scelto di nascondere alcune di queste informazioni. La trasparenza riguardo a queste misure è fondamentale per proteggere i pazienti, soprattutto perché WISeR’sstruttura dei pagamentioffre ai fornitori, come ha indicato il governo, "un incentivo per negare il maggior numero possibile di richieste.”
Le informazioni fornite da un fornitore riguardo alle misure di sicurezza che afferma "assicurano l'applicazione responsabile e clinicamente appropriata dell'automazione" sembrano essere state eliminate daidocumenti rilasciati all'EFF
Il pubblico ha mezzi limitati per valutare l'efficacia anche delle misure di sicurezza chenonsono state eliminate dai documenti rilasciati all'EFF. Ad esempio, una delle applicazioni di un fornitore promuove misure di sicurezza come "Flussi di lavoro con intervento umano,” “Monitoraggio continuo del modello, e "Tracce di audit trasparenti. Tuttavia, non è ancora chiaro se queste misure prevengano efficacemente il rifiuto improprio di autorizzazioni precedenti. Alcune evidenze suggeriscono che potrebbero non farlo: l'aziendaha negato più richieste di quante ne abbia approvatenei primi mesi del programma, e la CMS ha chiesto informazioni su "negazioni che appaiono inaccurate o incoerenti con i criteri applicabili.”
In definitiva, i documenti ottenuti da EFF sollevano più domande che risposte riguardo alle misure di sicurezza utilizzate dai fornitori di WISeR.
Avere un intervento umano probabilmente non è sufficiente
CMS ha sottolineato l'importanza di avere un intervento umano come misura chiave per prevenire negazioni inappropriate, basate sull'intelligenza artificiale.Pagina FAQ di WISeRsul sito di CMS afferma che "Le non-approvazioni richiederanno la revisione di un medico e non possono essere eseguite esclusivamente dalla tecnologia". Ma se la revisione umana fornisce una protezione significativa dipende dalledettagli della sua implementazione, come se i revisori umani abbiano abbastanza tempo per valutare le richieste e l'autorità pratica per sovrascrivere le raccomandazioni dell'IA. Al momento, mancano molti di questi dettagli per i fornitori di WISeR.
Ain crescita del corpodiborsa di studioevidenzia le notevoli limitazioni delle politiche "uomo nel ciclo" come misure di controllo per i sistemi di IA. Le raccomandazioni generate dall'IA possono influenzare eccessivamente le decisioni umane, portando i revisori a fare eccessivo affidamento sui giudizi automatizzati e a confermarli come corretti. Ancora peggio, almeno una compagnia di assicurazioni sanitarie ha attivamenteesercitato pressione sui revisori cliniciper accettare le raccomandazioni dei propri sistemi di IA.Un'altra aziendaha sviluppato un sistema che permetteva ai revisori clinici di respingere le richieste senza dover aprire i file dei pazienti; i revisori clinici che utilizzavano questo sistema impiegavano in media solo 1,2 secondi per caso.
I dati appropriati stanno influenzando le decisioni delle aziende?
Alcune applicazioni dei fornitori di WISeR offrono descrizioni generali dei tipi di dati che informano le loro decisioni. Tuttavia, sono necessari molti più dettagli per consentire ai professionisti sanitari di valutare se i dati di input di questi sistemi di IA siano appropriati per valutare le richieste di autorizzazione preventiva.
Dati di addestramento o dati di input inappropriati possono portare a decisioni distorte, ingiuste o inaccurate.Linee guida di CMSper le organizzazioni Medicare Advantage che utilizzano l'IA per prendere decisioni di copertura, sottolinea l'importanza di basare le decisioni sulle circostanze individuali dei pazienti. Avverte contro l'uso di "un algoritmo che determina la copertura in base a un set di dati più ampio invece della storia medica del singolo paziente, delle raccomandazioni del medico o delle note cliniche".
Fonti di dati di riferimento per le applicazioni dei fornitori WISeR, come:comportamento del fornitore,” “dati demografici dei pazienti,” “set di dati di gestione dell'utilizzo,” “metriche di performance dei fornitori e dei pagatori,” e “dati relativi a pretese storiche.” Se queste fonti potrebbero introdurre pregiudizi o dare troppo peso ai modelli a livello di popolazione dipende da come i fornitori le utilizzano per informare le decisioni individuali. Ma al momento non abbiamo questi importanti dettagli sui dati e sugli algoritmi dei fornitori. Affidando le decisioni a sistemi di intelligenza artificiale di aziende private, il governo ha reso più difficile al pubblico valutare se le decisioni siano prese in modo equo.
Prossimi Passi
Man mano che il governo amplia l'uso del processo decisionale automatizzato, il potenziale di errori gravi aumenta rapidamente. I documenti che abbiamo ottenuto finora sollevano interrogativi sull'implementazione rapida e sulla mancanza di controlli per il processo decisionale automatizzato da parte del governo statunitense. EFF chiede trasparenza, supervisione elimiti legaliper proteggere le persone dai rischi derivanti dal processo decisionale automatizzato nei sistemi ad alto rischio.