Desafios na estruturação e governança da inteligência artificial
A implementação da inteligência artificial (IA) nas empresas enfrenta obstáculos que vão além da tecnologia em si. De acordo com um relatório global da Hitachi Vantara, os principais desafios estão relacionados à estruturação dos dados, governança e infraestrutura. Esses elementos são cruciais para garantir a segurança cibernética, especialmente após a popularização das versões generativas da IA. A ausência desses pilares eleva os riscos, um problema que tende a se intensificar com a chegada dos agentes de IA.
Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, alerta que os agentes de IA podem agir de forma inesperada se não forem monitorados constantemente. “Eles podem tomar ações com consequências não intencionais, e há um grande mal-entendido sobre o funcionamento dessas ferramentas”, explica. Segundo ele, a confiança excessiva nas soluções de IA e a pressa para adotá-las criam vulnerabilidades que comprometem a segurança das organizações.
Dados não estruturados e o cenário brasileiro
O relatório revela que aproximadamente 91% dos agentes ainda apresentam alucinações, enquanto 76% dos dados corporativos são não estruturados — justamente o tipo mais explorado por aplicações de IA. Essa realidade torna o panorama da segurança ainda mais delicado para as empresas que apostam na tecnologia.
No Brasil, a situação apresenta particularidades. O país passa por uma digitalização acelerada, muitas vezes em ambientes legados e heterogêneos. Entretanto, os executivos brasileiros são vistos como mais conservadores na adoção da IA. Joshua Wick, líder global de riscos e compliance da Hitachi Vantara, observa que o mercado nacional demonstra cautela, buscando uma análise detalhada antes de investir na tecnologia. “Existe uma apreensão quanto ao valor inicial, com base nos estudos divulgados até agora”, afirma.
Leia também: OpenAI revela GPT-6 Astra: o modelo que marca a chegada da Inteligência Artificial Geral
Fonte: cidaderecife.com.br
Leia também: OpenAI lança GPT-6 Astra e marca o início da Inteligência Artificial Geral
Fonte: novaimperatriz.com.br
Educação e prudência como caminhos para mitigar riscos
Os especialistas consideram essa postura brasileira positiva, enfatizando que a IA deve ser uma ferramenta empregada com moderação. Wick sugere que as empresas reflitam sobre a real necessidade da IA para resolver determinados problemas antes de adotá-la. Para isso, a educação dos usuários é fundamental. Eles precisam entender o funcionamento da tecnologia e as implicações de seu uso.
Gibson destaca que a pressa para colocar a IA em produção pode ser prejudicial. “É necessário saber o que se espera da IA, conhecer os perigos envolvidos e realizar testes antecipados”, orienta. A capacitação adequada, embora demandante de tempo, é vista como essencial para oferecer segurança e eficácia no uso das ferramentas.
Segurança de dados assume papel central na adoção da IA
A preocupação com a segurança cresce nas organizações. O relatório indica que 56% dos líderes consideram a segurança de dados o maior desafio na implementação da IA, um aumento de 19 pontos percentuais em relação ao ano anterior. Esse cenário reflete diretamente na utilização dos modelos de linguagem de grande escala (LLMs).
Leia também: Segurança de Dados é o Maior Desafio na Adoção da IA, Indica Estudo da Hitachi Vantara
Fonte: edemossoro.com.br
Ferramentas de IA generativa, como ChatGPT e Copilot, tiveram queda na percepção de sucesso, de 95% para 81%. Paralelamente, a atenção à governança e à qualidade dos dados aumenta. Empresas que aprimoram os dados usados em treinamento subiram de 39% para 49%, enquanto a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho passaram de 36% para 44%, e a proporção de organizações sem estratégias de explicabilidade dos modelos caiu de 42% para 24%.
O futuro da inteligência artificial e a necessidade de preparação
Para Gibson, os desafios enfrentados evidenciam que a IA pode representar riscos para os negócios, especialmente pela falta de determinismo em seus resultados. Ainda assim, ele e Wick ressaltam que governança e segurança não devem frear a inovação, mas permitir que ela seja usada com segurança e máxima eficiência.
Gibson projeta que, no futuro, haverá interfaces únicas que entregarão resultados solicitados de forma simples e intuitiva. No entanto, para alcançar esse estágio, é imprescindível que as organizações se preparem e estruturarem adequadamente suas bases de dados e processos.