Especialistas orientam investir em capacitações, criar processos de validação e preparo ao gerir a crises
À medida que decisões baseadas em inteligência artificial passam a impactar operações e resultados, cresce a necessidade de lidar com erros que as empresas ainda não sabem como administrar. De informações imprecisas em conteúdos públicos a decisões automatizadas com impacto financeiro ou operacional, as falhas da tecnologia expõem a ausência de estrutura para prevenir, identificar e responder rapidamente quando algo dá errado.
Dados da McKinsey & Company mostram que 51% das empresas que utilizam IA já enfrentaram algum tipo de consequência negativa associada à tecnologia, sendo que quase um terço dos casos está ligado à imprecisão dos sistemas. Ao mesmo tempo, barreiras como falta de conhecimento interno (33%), complexidade de dados (25%) e preocupações éticas (23%), indicam que a dificuldade está no uso e na gestão desses riscos, é o que aponta o Índice Global de Adoção de IA da IBM.
Ou seja, o erro se tornou um um cenário esperado, sem que as empresas tenham definido, com clareza, como agir diante dele. Carlos Perobelli, fundador do theGarage IA, voltado à implementação estruturada de inteligência artificial, explica que estruturar pessoas, processos e tomada de decisão se torna prioridade enquanto ainda não há uma regulação específica para lidar com decisões equivocadas baseadas na IA.
“Existe uma tendência das empresas se tornarem IA-first, com a tecnologia cada vez mais integrada às operações, mas isso precisa ser feito com responsabilidade. O ponto é garantir que o erro esteja dentro de um ambiente controlado. Isso exige critérios claros de uso, definição de responsabilidade e mecanismos de validação antes que a decisão escale dentro do negócio”, afirma.
Abaixo, especialistas orientam como as empresas podem se preparar diante de problemas gerados pela IA.
Crie processos de validação
Com o avanço de golpes digitais cada vez mais sofisticados, impulsionados por inteligência artificial, cresce também a preocupação das empresas com fraudes baseadas em conteúdos manipulados, clonagem de voz e informações falsas aparentemente legítimas. Para a Tempest Security Intelligence, referência em cibersegurança no Brasil, um dos principais desafios está no fato de que a IA produz respostas cada vez mais convincentes, o que reduz a percepção de risco por parte das equipes.
Segundo Aldo Albuquerque, vice-presidente da Tempest Security Intelligence, as empresas precisam criar protocolos claros de conferência antes de executar ações críticas ou compartilhar informações estratégicas. “A tendência é que as pessoas confiem cada vez mais no que veem, ouvem ou recebem por sistemas baseados em IA. O problema é que a tecnologia também pode gerar interpretações equivocadas, informações imprecisas ou até conteúdos manipulados com aparência legítima. Por isso, criar etapas adicionais de validação é indispensável dentro das operações”, afirma.
O especialista destaca ainda que processos simples podem evitar impactos relevantes no dia a dia corporativo. “Confirmar solicitações sensíveis por outro canal, estabelecer fluxos de aprovação e incentivar uma cultura de questionamento ajudam a reduzir erros e evitar decisões precipitadas baseadas exclusivamente na IA”, conclui.
Invista em capacitação
A capacidade de lidar com falhas da IA está diretamente relacionada ao nível de preparo das equipes e à forma como os processos são estruturados dentro da empresa. Para Carlos Perobelli, o primeiro passo está na capacitação. Segundo ele, a adoção da inteligência artificial ainda costuma começar pela escolha de ferramentas, quando o mais eficaz é entender o nível de preparo das pessoas e como elas conseguem aplicar a tecnologia no dia a dia. “O treinamento, nesse contexto, precisa considerar as diferenças entre áreas e funções, com abordagens específicas para cada perfil, evitando modelos genéricos que não se sustentam na prática”, afirma.
Além disso, o executivo acredita que a capacitação só gera resultado quando está conectada aos processos do negócio, com aplicação direta em rotinas e objetivos claros. O especialista também destaca que o aprendizado deve ser contínuo, acompanhando a evolução da tecnologia para garantir o ROI (Retorno sobre o Investimento) em cada implementação. “Não existe mais capacitação pontual. A empresa precisa estruturar uma cultura de aprendizado constante, porque é isso que vai determinar não apenas o uso da IA, mas a capacidade de lidar com os erros que ela inevitavelmente vai gerar”, conclui.
Prepare-se para gerenciar crises
Independentemente do setor, erros envolvendo inteligência artificial tendem a exigir respostas rápidas e estruturadas para evitar impactos maiores, como danos reputacionais e jurídicos. Para Renan Caixeiro, CMO do Reportei, empresa de relatórios e dashboards de marketing, a gestão desses cenários começa antes mesmo do erro, com processos de validação bem definidos. Segundo ele, toda informação gerada por IA, especialmente dados e estatísticas, deve passar por conferência manual e ter sua fonte original verificada.
Caso a falha chegue ao público, a recomendação é agir rapidamente, com correção explícita e comunicação transparente. “Não basta corrigir sem explicar. A forma como a empresa responde ao erro é o que define o impacto. Em alguns casos, é necessário sinalizar que o problema está em apuração antes de apresentar uma conclusão, para evitar retratações sucessivas”, garante.
Descubra mais sobre MTI Tecnologia
Assine para receber nossas notícias mais recentes por e-mail.
