Com cenários apocalípticos de IA dominando as notícias, os legisladores estão justamente preocupados com relatórios sobre violações de segurança em grandes laboratórios de IA dos EUA, como o incidente OpenAI-Hugging Face e os muitos outros relatados após o evento. Ao considerar a potencial regulamentação da IA de vanguarda, eles devem concentrar qualquer nova legislação noriscos imediatos e demonstradosA partir daqueles incidentes.
Pós-incidente relatosO incidente da Hugging Face demonstra que poderia ter sido mitigado ou evitado seguindo práticas de segurança cibernética de longa data, como sandboxing mais robusto e monitoramento. Qualquer nova legislação deve focar em fechar lacunas na lei existente para impedir que empresas de IA assumam riscos desrazonáveis com a segurança pública.
Quando um desenvolvedor ou implementador de IA executa um teste ou uma tarefa que tem alta probabilidade de causar danos a terceiros — por exemplo, ao invadir computadores de outras pessoas —, devem haver requisitos mínimos claros de segurança. Tais testes devem ser realizados em um ambiente de teste devidamente arejado, desconectado de outros sistemas, e monitorado e registrado. Seguir essas práticas recomendadas fundamentais teria evitado ou mitigado substancialmente todos os incidentes em laboratórios de IA que conhecemos atualmente.
Dito isso, qualquer proposta deve ser flexível o suficiente para evoluir com a tecnologia em mudança. Requisitos mínimos de segurança específicos apenas para as tecnologias de IA atuais provavelmente se tornarão obsoletos; padrões legais vinculados às melhores práticas de cibersegurança bem estabelecidas são muito mais propensos a resistir ao teste do tempo. Vincular quaisquer novos mandamentos a protocolos de segurança respaldados por evidências também protege o público sem impedir o desenvolvimento futuro da IA.
Uma legislação forte também deve mandatare e financiar investigações independentes de terceiros em qualquer incidente de segurança sério que possa ocorrer durante os testes de novas ferramentas nos laboratórios de IA, e tornar públicos os relatórios dessas investigações. Esta importante medida de transparência iria muito longe para fornecer supervisão pública da indústria.
Assim como qualquer regulamentação tecnológica, as que visam as práticas de cibersegurança nos laboratórios de IA devem ser cuidadosas, precisas e práticas.Cuidadoso, preciso e prático.