A recém-formada Coalizão para IA Segura (CoSAI), liderada pela Google e incluindo gigantes como Microsoft e OpenAI, surge com o objetivo de abordar os riscos de segurança associados à inteligência artificial. A coalizão pretende estabelecer um “framework de defesa” e um conjunto de regras para garantir o desenvolvimento seguro de IA. Com foco na segurança da cadeia de suprimentos de software e em estratégias de mitigação, a CoSAI busca assegurar que o código de IA seja construído com software seguro e confiável, rastrear como o software de IA é desenvolvido e identificar problemas precocemente.
A formação da CoSAI foi anunciada no Aspen Security Forum em 18 de julho, com um ano de esforços para reunir a equipe. Além dos líderes mencionados, a coalizão inclui membros fundadores como Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, NVIDIA, PayPal e Wiz. Segundo um post no blog da Google, a CoSAI pretende criar salvaguardas, ou um “framework de defesa”, com ferramentas para identificar e combater ameaças à segurança da IA conforme surgem. Este trabalho visa desenvolver um framework que ajude a identificar investimentos e técnicas de mitigação para abordar o impacto da segurança do uso de IA, escalando estratégias de mitigação com o avanço da cibersegurança ofensiva nos modelos de IA.
A CoSAI também planeja elaborar um conjunto de regras que definam como desenvolver IA e garantir seu uso seguro, com checklists e scorecards para guiar os profissionais em avaliações de prontidão. A iniciativa da CoSAI, embora necessária, pode ser redundante devido à existência de organizações prévias como o Frontier Model Forum e o Partnership on AI, que já possuem funções que se sobrepõem aos planos da nova coalizão.
Além disso, a presença de todos os grandes players na CoSAI pode ser uma faca de dois gumes. Embora a coalizão possa contar com recursos abundantes para agir conforme seus planos, pode também levantar questões sobre viés, com a CoSAI favorecendo seus membros e protegendo seus próprios interesses em IA. A transparência nas decisões é essencial para minimizar essas questões, mas será necessário acompanhar os próximos passos para avaliar a eficácia da CoSAI.
