EFF tarafından elde edilen yeni rekorlar, Medicare'in yapay zeka destekli ön onay programındaki ek sorunları ortaya koyarken, hükümetin karar verme süreçlerindeki kullanımına ilişkin daha güçlü yasal sınırlamaların neden gerekli olduğunu de gösteriyor.otomatik karar verme.
EFFdava açıldıhükümete Mart ayındaİsraf ve Uygunsuz Hizmet Azaltma (WISeR) modeliMedicare programı, belirli tıbbi hizmetler için ön onay taleplerini değerlendirmek için yapay zeka kullanır.daha önce yayınlanan kayıtlarWISeR'in gecikmelere, reddedilmelere, operasyonel karmaşaya ve hasta zararına yol açtığını gösteren kayıtlar, bugün 800'den fazla yeni sayfa içeren kayıtları yayınlıyoruz, bunlar arasında:
- Medicare & Medicaid Hizmetleri'nden (CMS) WISeR'in altı tedarikçisine gönderilen bilgi talepleri (RFIs) veya düzeltici eylem planları (CAPs) talepleri ve tedarikçilerin yanıtları.
- 66 şirketin WISeR modeline başvuruları, bunlardan 6'sının seçilen şirketler dahil.
- WISeR modelinin değerlendirilmesi, uygulanması ve izlenmesi için görev emirleri ve sözleşmeler.
EFF'nin dava yoluyla elde edilen belgeler burada mevcutturburada.
Bu yeni yayınlanan belgeler, WISeR'in erken aşamada aceleci ve sorunlu olduğunu, hükümetlerinyapay zekayı bir mucize gibi kullanmakkarmaşık sorunlar için. Belgeler ayrıca, uygunsuz, yapay zeka tarafından yönlendirilen reddetmelere karşı önlemler hakkında daha fazla şeffaflığın gerekliliğini de vurgulamaktadır. Halk, yapay zeka sistemlerinin klinik incelemesinin anlamlı bir denetim sağlama ve uygun verilerin ön izin taleplerini değerlendirmek için kullanılıp kullanılmadığını değerlendirmek için gerekli bilgileri henüz edinmemektedir.
EFF,uzun sürediryapay zekanın insanların hakları veya faydalara erişimi ile ilgili önemli hükümet kararları için yeri olmadığını savunmaktadır, örneğingöçmenlik uygulamasıvepolislikkararlar. Bunun nedeni, bu bağlamlarda otomatik karar verme kullanımının, insanların haklarını ihlal etme veya öngörülemeyen veya önyargılı hususlara dayanarak, uygun bir süreç veya hesap verebilirlik olmadan, insanlara faydaları elinden alma riskidir.
Yetersiz şeffaflık, test veya yasal sınırlamalar olmadan özel yapay zeka şirketlerine karar verme yetkisini devretmek, WISeR'ın yaşlıların tıbbi bakıma erişimini tehlikeye atıyor. Kongre, Medicare'de otomatik karar verme kullanımına daha fazla yasal sınırlama getirmek için harekete geçmelidir.
WISeR'ın lansmanı hızlı ve sorunlu bir şekilde yapılmış
CMS, sadece 6 ay sonra WISeR programını başlattıAçıklamaOnu, çağrıları dikkate almadantıbbi hizmet sağlayıcılarprogramın uygulanmasını erteleme. Daha önce EFF tarafından yayınlanan belgelerde, CMS bununla ilgili olarak "son derece yoğun bir zaman çizelgesi.”
Yeni belgeler, WISeR'in olağanüstü hızlı uygulanmasının, programın ilk birkaç ayındaki yaygın sorunlara katkıda bulunduğunu göstermektedir. CMS, bu sorunların kapsamını halka açıklamadı, hatta ajans çalışanları, program gerekliliklerine uyulmaması potansiyeli hakkında potansiyel olarak tedarikçilerle özel olarak iletişim kurdu.
Programın ilk üç ayında, CMS, WISeR'in altı tedarikçisinden en az dörtüne RFIs veya CAP'lara yönelik istekler gönderdi. Bu istekler, gecikmeler, teknik arızalar ve sağlayıcılarla iletişim eksikliği hakkında bilgi vererek, programın uygulanması sırasında ortaya çıkan yaygın sorunların tek bir tedarikçi veya eyalete özgü olmadığını göstermektedir.
Bu mektuplar, programdaki sorunların ciddiyetini vurgulamaktadır. Örneğin, CMS, Virtix adlı bir tedarikçiden, "belirlenen yönergelere aşan sonuçlandırma sürelerini belirleme,” “geçerli kriterlerle tutarsız veya yanlış görünan reddetmeler, ve "yetersiz müşteri hizmeti. CMS'in Zyter'e yönelik RFI'si – bir tedarikçiPalantir yazılım altyapısı kullanır–ajansın "raporlar aldığını" gözlemlediZyter, uygun zamanda karar mektupları düzenlemiyor"ve sağlayıcı/tedarikçi endişelerine yanıt vermek ve yükseltmek için yeterli süreçleri olmayabileceğini" gösteren iletişimlersağlayıcı/tedarikçi endişelerine yanıt vermek ve yükseltmek için yeterli süreçleri olmayabilir"Tedarikçi Innovaccer, WISeR sağlayıcıları ve tedarikçiler için tamamen işlevsel bir portal uygulayamamasının neden olduğu iki CAP talebi ve "İşlevsellik Eksikliği Bildirimi" aldı.
CMS'in tedarikçilere yazdığı mektuplardan, WISeR'in lansmanındaki sorunlar hakkında örnekler:
Ekstrak bir haberdenVirtix için RFI17 Mart 2026
Ekstrak bir haberdenRFI, Zyter27 Şubat 2026
Ekstrak bir haberden:Innovaccer için Uygunsuzluk Bildirimi20 Şubat 2026
Tedarikçilerin CMS'e verdiği yanıtlar, WISeR'ın aceleci lansmanının sorunlarına katkıda bulunduğunu daha da kanıtlıyor.Innovaccer iddiasındaCMS'e aylarca önceden, lansman tarihine kadar tam portal işlevselliği sağlayamayacağını bildirdi, hatta Katılım Anlaşması imzalamadan önce. Başka bir tedarikçi, "WISeR programına diğer tedarikçilerden bir ay sonra katıldığında, sıkıştırılmış bir uygulama zaman çerçevesi nedeniyle "teknik ve iş akışı istikrarı zorluklarının ortaya çıktığını" iddia etti.
AlıntılarInnovaccer'ın Önerilen CAP16 Ocak 2026
CMS'nin tedarikçilere yazdığı mektuplarda ve tedarikçilerin yanıtlarında yansıyan sorunlar, uygun test veya önlemler olmaksızın otomatik karar verme sistemlerinin uygulanmasının risklerini göstermektedir.tedarikçilerin yanıtları açıklama düzeltmelerCMS tarafından tespit edilen sorunlar için, sonradan uygulanan çözümler,ortaya çıkan zararları telafi edemez.WISeR'in aceleci lansmanında hastalar ve sağlayıcılar zaten yaşadığı zararları.
Yapay Zeka Güvenlik Önlemleri Hakkında Daha Fazla Şeffaflık Gerekli
Halk, WISeR tedarikçilerinin uyguladığı herhangi bir güvenlik önlemi hakkında hala çok az bilgiye sahip—kısmen, çünkü hükümet bu bilgilerin bazılarını gizlemeye karar verdi. Bu güvenlik önlemleri hakkında şeffaflık, özellikle WISeR'inödeme yapısıtedarikçilere, hükümetin ifade ettiği gibi, "mümkün olduğunca çok talebi reddetme konusunda bir teşvik sağlıyor".”
Bir tedarikçinin, "otomasyonun sorumlu ve klinik olarak uygun şekilde uygulanmasını sağlamak" dediği güvenlik önlemleriyle ilgili sağladığı bilgiler, EFF'e yayınlanan kayıtlardan kaldırıldığına dair görünmektedir.EFF'e yayınlanan kayıtlardan.
Kamu, hatta "olmayan" güvenlik önlemlerinin etkinliğini değerlendirmek için sınırlı araçlara sahiptir. Örneğin, bir tedarikçinin uygulaması, "şunları" gibi güvenlik önlemlerini vurgulamaktadır:redacted from records released to EFF. For example, one vendor’s application touts safeguards like “redacted from records released to EFF. For example, one vendor’s application touts safeguards like “İnsan odaklı iş akışları,” “Sürekli model izleme, ve “Şeffaf denetim kayıtları. Ancak, bu önlemlerin uygun ön izin reddetmelerini etkili bir şekilde önleyip önlemediği hala belirsizdir. Bazı kanıtlar, bunun tersini düşündüğünü gösteriyor: şirketonayladığı kadar talebi reddettiprogramın ilk birkaç ayında ve CMS, "geçerli kriterlerle tutarsız veya hatalı görünen reddetmeler.”
Sonuç olarak, EFF tarafından elde edilen kayıtlar, WISeR satıcılarının kullandığı önlemler hakkında daha fazla soru ortaya çıkarır.
İnsanların Katılımı Yeterli Değil
CMS, uygunsuz, yapay zeka tarafından yapılan reddelere karşı önemli bir koruma olarak, insan kontrolünün sağlanmasını vurgulamıştır.WISeR SSS sayfasıCMS web sitesinde "Onaylamalar olmadan, bir sağlık uzmanının incelemesi gereklidir ve yalnızca teknoloji tarafından yapılamaz" denmektedir. Ancak, insan incelemesinin ne kadar anlamlı bir koruma sağladığı, bununuygulanmasının detaylarına bağlıdır.Örneğin, insan inceleyicilerin talepleri değerlendirmek için yeterli zamanı olup olmadığı ve yapay zeka önerilerini geçersiz kılma konusunda pratik yetkiye sahip olup olmadığı gibi. WISeR sağlayıcıları için hala birçok detayı bilmiyoruz.
Abüyüyen vücutofbursAI sistemleri için bir güvenlik önlemi olarak "insan katılımı" politikalarının önemli sınırlamalarına işaret ediyor. AI tarafından üretilen öneriler, insan kararlarını orantısız bir şekilde etkileyebilir, bu da incelemecilerin otomatik yargılara aşırı güvenmesine ve bunları doğru olarak onaylamasına yol açabilir. Daha da kötüsü, en azından bir sağlık sigortası şirketi, aktif olarakklinik inceleyicileri,AI sistemlerinin önerilerini kabul etmeye zorladı.Başka bir şirketklinik inceleyicilerin hasta dosyalarını açmadan iddiaları reddetmesine olanak tanıyan bir sistem oluşturdu; bu sistemi kullanan klinik inceleyiciler, her bir durum için ortalama olarak yalnızca 1,2 saniye harcadı.
Şirketlerin Kararlarını Bilgilendiren Doğru Veriler Var mı?
Bazı WISeR sağlayıcılarının uygulamaları, kararlarını etkileyen veri türleri hakkında genel açıklamalar sunmaktadır. Ancak, tıbbi profesyonellerin, bu yapay zeka sistemlerine giren verilerin, önceki onay taleplerini değerlendirmek için uygun olup olmadığını değerlendirmelerine izin vermek için çok daha fazla ayrıntıya ihtiyaç vardır.
Uygun olmayan eğitim verileri veya giriş verileri, önyargılı, adaletsiz veya yanlış kararlara yol açabilir.CMS rehberliğiMedicare Advantage kuruluşlarının yapay zeka kullanarak kapsam kararları alması konusunda, bireysel hastaların koşullarına dayanarak kararların önemini vurgulamaktadır. "Büyük bir veri kümesine dayalı bir algoritma kullanmak yerine, bireysel hastanın tıbbi geçmişi, doktorun önerileri veya klinik notlarına dayalı kararların kullanılmasını" önermektedir.
WISeR tedarikçilerinin referans veri kaynakları, örneğin "sağlayıcı davranışları,” “hasta demografik bilgileri,” “kullanım yönetimi veri kümeleri,” “sağlayıcı ve ödeme yapıcı performans metrikleri,” ve “tarihsel iddia verileri.” Bu kaynakların bireysel kararları etkileme veya popülasyon düzeyindeki kalıplara aşırı ağırlık verme potansiyeli, sağlayıcıların bunları nasıl kullandığına bağlıdır. Ancak, sağlayıcıların verileri ve algoritmaları hakkında henüz bu önemli ayrıntıları bilmiyoruz. Hükümet, kararları özel şirketlerin yapay zeka sistemlerine devir ederek, halkın kararların adil bir şekilde verilip verilmediğini değerlendirmesini zorlaştırmıştır.
Son Adımlar
Hükümetin otomatik karar verme kullanımını genişletmesiyle birlikte, sonuçlı hataların potansiyeli hızla artmaktadır. Daha önce elde ettiğimiz kayıtlar, ABD hükümetinin otomatik karar verme süreçlerinin hızlı bir şekilde uygulanması ve güvenlik önlemlerinin olmaması hakkında sorular ortaya çıkarmaktadır. EFF, şeffaflık, denetleme veyasal sınırlaryüksek riskli sistemlerde otomatik karar verme süreçlerinin zararlarından insanları korumak.