Por: Alberto Porras, sócio-gerente da Baker Tilly Costa Rica.
Durante algum tempo, as conversas de negócios sobre inteligência artificial (IA) pareciam pertencer exclusivamente às equipes de tecnologia. Isso está mudando agora.
À medida que a IA se torna mais presente nos processos, gerencia informações, automatiza decisões e interage com os clientes, ela deixa de ser apenas uma ferramenta tecnológica. Passa a ser uma questão de gestão de negócios, risco e governança corporativa.
Isso levanta uma questão que as organizações terão que responder com cada vez mais clareza: Quem é o responsável pela inteligência artificial dentro da empresa?
A resposta não pode ser simplesmente "o departamento de tecnologia".
A governança da inteligência artificial consiste precisamente em estabelecer políticas, estruturas, processos e controles que permitam a gestão e a supervisão de sua utilização dentro do nível de risco que a organização esteja disposta a assumir. Seus componentes fundamentais incluem a definição de responsabilidades, o estabelecimento de políticas de uso, o inventário e a classificação dos sistemas de acordo com seu risco, a gestão ao longo de todo o seu ciclo de vida e o monitoramento contínuo.
É exatamente isso que torna a IA uma questão que deve chegar à alta administração.
Isso não significa que o conselho de administração precise aprovar todas as ferramentas que os funcionários usam. Significa que deve haver clareza sobre quem toma as decisões, quais usos representam os maiores riscos e quais mecanismos permitem a intervenção quando um aplicativo puder ter consequências significativas para a organização.
Uma estrutura adequada pode incorporar os responsáveis pelos negócios, tecnologia, risco, conformidade e assuntos jurídicos, com a capacidade não só de aprovar iniciativas, mas também de interromper aquelas cujo nível de risco seja inaceitável.
Essa discussão ganha ainda mais importância devido às mudanças regulatórias. Por exemplo, o Regulamento Europeu de Inteligência Artificial — a Lei de IA da UE — prevê penalidades que podem chegar a € 35 milhões ou 7% do faturamento global para determinadas infrações e podem afetar organizações fora da Europa quando seus sistemas ou resultados forem utilizados nesse mercado.
A Costa Rica também faz parte dessa discussão. O país possui uma Estratégia Nacional de Inteligência Artificial para o período 2024-2027, e a Assembleia Legislativa debateu iniciativas voltadas à regulamentação dessa tecnologia, incluindo os projetos de lei 23.771, 23.919 e 24.484.
A meu ver, esperar por uma obrigação regulatória definitiva para começar a ordenar o uso de IA seria um erro.
Na Baker Tilly Costa Rica, trabalhamos para conscientizar as pessoas de que a governança não deve ser entendida apenas como uma resposta à conformidade, mas também como uma forma de proteger o investimento.
Uma organização que estabelece critérios para a seleção de projetos, monitora seus resultados, controla fornecedores e mensura riscos tem maior probabilidade de identificar quais iniciativas estão funcionando e quais devem ser interrompidas. Além disso, constrói confiança.
Clientes, funcionários, parceiros comerciais e, eventualmente, órgãos reguladores terão cada vez mais dúvidas sobre como seus dados são usados, como certas decisões são tomadas e quais controles estão em vigor por trás dos sistemas automatizados. Uma empresa que conseguir responder a essas perguntas terá uma clara vantagem sobre uma organização que simplesmente usa ferramentas sem ser capaz de explicar como elas funcionam dentro de seus processos.
Vários níveis de controle
Será necessário também aceitar que nem todos os sistemas exigem o mesmo nível de controle.
É exatamente por isso que é importante classificá-las de acordo com o risco que representam. Uma ferramenta usada para auxiliar em uma tarefa administrativa não deve necessariamente receber o mesmo tratamento que uma solução envolvida em decisões relevantes para clientes ou funcionários.
Na Baker Tilly, acreditamos que o desafio reside em integrar a implementação da inteligência artificial e sua governança desde o início, por meio de diagnósticos, políticas, classificação de sistemas, controles, auditorias e treinamento.
Sem dúvida, a IA continuará a evoluir muito mais rapidamente do que muitas estruturas empresariais. Portanto, talvez a questão mais importante para um conselho de administração não seja mais apenas quanto a organização está investindo em IA, mas sim se realmente sabemos como a estamos governando.