O desafio da confiança na IA: como lidar com segurança e ética

A utilização da inteligência artificial (AI) nas operações empresariais tem se tornado cada vez mais comum, trazendo benefícios como automação de processos, aumento da eficiência operacional, além de ser um importante ativo para a tomada de decisões mais assertivas. Contudo, a confiança no uso dessa tecnologia ainda é um desafio para muitas empresas, que se questionam sobre a segurança e a ética envolvidas.

Para ajudar a esclarecer essas questões, a Docket, empresa SaaS e maior legaltech do País, promoveu um webinar sobre Due Diligence e Auditoria na Era da AI, abordando a importância da credibilidade no uso da tecnologia nas operações. Carlos Eduardo Eliziario, sócio da Deloitte e especialista em proteção de dados, e Flávio Castaldi, co-founder e VP de Clientes da Docket, discutiram temas como a regulamentação da AI, ética e compliance.

Uma pesquisa recente realizada pela Deloitte, chamada “Now decides next: Getting real about Generative AI”, revela que muitas empresas ainda estão nas fases iniciais de adoção da inteligência artificial e não conseguiram escalar o uso das funcionalidades. A percentagem de entrevistados que afirmaram que as iniciativas de AI generativa das suas organizações já estavam alcançando os benefícios esperados numa escala “grande” ou “muito grande” é de 18% a 36%, dependendo do tipo de impacto pretendido.

“Um dos grandes desafios que as empresas têm para sair dessa escala piloto e ir para uma escala maior é justamente o fator confiança, tanto no resultado que a AI traz, bem como o impacto da ferramenta para a força de trabalho. E é justamente nesse momento que temos um aumento potencial de riscos, mas também a concretização dos benefícios. Nesse contexto, empresas como a Docket podem ser um pilar importante para trazer um histórico de atuação bem-sucedida e desmistificar o funcionamento da AI”, avalia Eliziario.

Atuando com AI desde 2018, a Docket adotou o Intelligent Document Processing (IDP) para classificar automaticamente documentos utilizando diversas tecnologias, a exemplo da visão computacional e inteligência artificial, para interpretar os documentos de fontes manuscritas, impressas ou digitalizadas. Analistas monitoram o desempenho da tecnologia para garantir a credibilidade das informações e ajudar o sistema a melhorar, conforme explica Castaldi.

“A inteligência artificial é capaz de produzir muitos ganhos em eficiência e produtividade, mas ela só funciona propriamente com um sistema de aprendizado contínuo alimentado por especialistas, que participam ativamente do desenvolvimento e treinamento dos algoritmos, garantindo a qualidade e confiabilidade dos resultados. Um dos maiores trunfos da AI é o data driven, ou seja, a capacidade de orientar as empresas a partir dos dados. E a gente precisa garantir que isso seja feito de acordo com regras de governança e regulamentações”, defende Castaldi. Para Eliziario, sócio da Deloitte, é necessário entender os riscos e benefícios do uso da AI e adotar assim uma governança corporativa compatível.

“A gente, enquanto sociedade, sofre um pouco com temas mais novos como de AI por falta de conhecimento, pela existência de muitos mitos e porque as pessoas não entendem como isso funciona. É preciso incorporar o pilar de governança e mitigação de risco para o uso seguro da AI, pontua Eliziario.

ADS Comunicação Corporativa