Um Desafio de Governança
Em um cenário em que a inteligência artificial (IA) é cada vez mais amplamente adotada, as empresas enfrentam um desafio significativo: mapear os riscos associados ao uso dessas ferramentas. De acordo com o estudo AI at the Core 2025 da IBM, cerca de 74% das organizações pesquisadas relatam cobertura moderada ou limitada em seus frameworks corporativos de governança e risco de IA.
Um Descompasso entre Adoção e Controle
Esses dados confirmam o descompasso entre a adoção acelerada de ferramentas de IA e a maturidade de controle e segurança dentro das organizações. Em outras palavras, as vulnerabilidades criadas pela IA não aparecem claramente nos mapas de risco, e precisamos entender o porquê disso. A resposta mais imediata é que os líderes ainda não estão totalmente cientes dos impactos trazidos pelo uso dessas ferramentas.
Um Risco Adicional: A Terceirização
Outro grande risco é o fato de que as plataformas de inteligência artificial são todas terceirizadas. Isso significa que as empresas não têm controle total sobre como as ferramentas são utilizadas e como os dados são tratados. Além disso, o mapeamento de riscos é outro ponto que precisa ser considerado: em que e de que forma a IA está sendo aplicada?
Um Exemplo: A Saúde
O caso da Saúde é exemplar. Após o Conselho Federal de Medicina (CFM) ter emitido uma resolução normatizando o uso da IA, as empresas do setor precisaram se adequarem à norma. No entanto, boa parte delas não sabia exatamente onde a inteligência artificial estava sendo usada. Isso demonstra a necessidade de mapear o uso da IA e os impactos dela para os agentes de cada setor e seus clientes finais.
A Importância do Mapeamento
Um exemplo concreto é a resolução do CFM, que delibera que a palavra final sobre as decisões diagnósticas, terapêuticas e prognóstica sempre será do médico. Isso significa que o elemento humano tem a decisão, mas também a responsabilidade exclusiva de se relacionar com o cliente final. Pense em quantas empresas usam chatbots no contato com seus clientes e imagine o tamanho do impacto sobre elas se uma decisão semelhante fosse tomada por órgãos reguladores.
A Urgência do Mapeamento
Com a crescente sofisticação e disseminação da ferramenta, não é delírio acreditar que alguém possa alimentar uma IA com informações sensíveis da organização, que passem a ser, então, incorporadas em buscas feitas pelos usuários dessas plataformas. Esse, sim, seria um risco de inteligência artificial, onde ela efetivamente é a geradora de prejuízo. Isso ainda não aconteceu, mas pode estar muito próximo de acontecer. Por isso, mapear os riscos é urgente.
Um Chamado à Ação
É hora de que as empresas e profissionais regidos pelo CFM tomem medidas concretas para mapear os riscos associados ao uso da IA. Isso exigirá um patrocínio da alta direção e a atuação do CIO será crucial nesse processo. Ele precisa apresentar ao e à diretoria os argumentos que vão suportar esse patrocínio e mostrar que os riscos, quando não devidamente endereçados, vão comprometer a estratégia de longo prazo e os resultados financeiros da organização.
