O SAS acaba de divulgar uma pesquisa que analisa o uso, o impacto e a confiabilidade da IA. O relatório do IDC “Impacto dos Dados e da IA: o imperativo da confiança”, encomendado pelo SAS, revela que os líderes de TI e de negócios afirmam ter mais confiança na IA generativa do que em qualquer outra forma de IA.
A pesquisa global que explora o uso e a adoção da IA também descobriu que apenas 40% estão investindo para tornar os sistemas de IA confiáveis por meio de governança, explicabilidade e mecanismos de segurança éticos, embora as organizações que priorizam a IA confiável tenham 60% mais chances de dobrar o ROI dos projetos de IA. Paradoxalmente, dentre aqueles que relataram o menor investimento em sistemas de IA confiáveis, a IA generativa (como o ChatGPT) foi considerada 200% mais confiável do que a IA tradicional (aprendizado de máquina), apesar dela ser a forma mais estabelecida, confiável e explicável de IA.
“Nossa pesquisa mostra uma contradição: as formas de IA com interatividade semelhante à humana e familiaridade social parecem inspirar mais confiança, independentemente da confiabilidade ou precisão reais”, afirma Kathy Lange, diretora de pesquisa da Prática de IA e Automação do IDC. “Como fornecedores de IA, usuários profissionais e pessoais, devemos perguntar: a IA generativa é confiável, mas será que ela é sempre digna de confiança? E os líderes estão aplicando as proteções necessárias e as práticas de governança de IA a essa tecnologia emergente?”
O relatório baseia-se em uma pesquisa global com 2.375 entrevistados realizada na América do Norte, América Latina, Europa, Oriente Médio, África e Ásia-Pacífico. Os participantes incluem uma combinação equilibrada de profissionais de TI e líderes de áreas de negócios, oferecendo perspectivas tanto da área técnica quanto de negócios.
De modo geral, o estudo constatou que as implementações de IA mais confiáveis são as tecnologias emergentes, como a IA generativa e a IA agêntica, em detrimento das formas mais estabelecidas da IA. Quase metade dos entrevistados (48%) relatou ter “confiança total” na IA generativa, enquanto um terço disse o mesmo sobre a IA agêntica (33%). A forma menos confiável da IA é a IA tradicional: menos de um em cada cinco (18%) indicou ter confiança total nela. Embora os participantes tenham relatado um alto nível de confiança na IA generativa e na IA agêntica, eles expressaram preocupações, incluindo privacidade de dados (62%), transparência e explicabilidade (57%), e uso ético (56%).
Enquanto isso, a IA quântica está ganhando confiança rapidamente, mesmo que a tecnologia para executar a maioria dos casos de uso ainda não esteja totalmente concretizada. Quase um terço dos tomadores de decisão globais afirma estar familiarizado com IA quântica, e 26% relatam ter confiança total na tecnologia, apesar de as aplicações no mundo real ainda estarem em estágio inicial.
BARREIRAS DE PROTEÇÃO
O estudo mostrou um crescimento acelerado no uso da IA, especialmente da IA generativa, que rapidamente superou a IA tradicional tanto em visibilidade quanto em aplicação (81% versus 66%). Esse avanço trouxe consigo uma nova dimensão de riscos e preocupações éticas.
Em todas as regiões, os pesquisadores do IDC identificaram um desalinhamento entre o grau de confiança das organizações na IA e o grau de confiabilidade real da tecnologia. De acordo com o estudo, embora quase 8 em cada 10 (78%) organizações afirmem confiar plenamente na IA, apenas 40% investiram para tornar os sistemas comprovadamente confiáveis por meio de governança, explicabilidade e mecanismos éticos da IA.
A pesquisa também demonstrou baixa priorização na implementação de medidas para garantir a confiabilidade da IA na operacionalização de projetos de inteligência artificial. Entre as três prioridades organizacionais dos entrevistados, apenas 2% selecionaram o desenvolvimento de uma estrutura de governança de IA, e menos de 10% relataram o desenvolvimento de uma política de IA responsável. No entanto, não priorizar essas medidas pode impedir que as organizações aproveitem plenamente seus investimentos em IA no futuro.
Os pesquisadores dividiram os participantes da pesquisa em líderes em IA confiável e seguidores. Os líderes investiram mais em práticas, tecnologias e estruturas de governança para tornar seus sistemas de IA confiáveis e parecem estar colhendo os frutos. Esses mesmos líderes foram 1,6 vezes mais propensos a relatar um retorno sobre o investimento (ROI) duas vezes maior ou superior em seus projetos de IA.
BASES DE DADOS
À medida que os sistemas de IA se tornam mais autônomos e profundamente integrados a processos críticos, as bases de dados também se tornam ainda mais importantes. A qualidade, a diversidade e a governança dos dados influenciam diretamente nos resultados da IA, tornando as estratégias de dados inteligentes essenciais para obter benefícios (como ROI e ganhos de produtividade) e mitigar riscos.
O estudo identificou três grandes obstáculos que impedem o sucesso das implementações de IA: infraestrutura de dados deficiente, governança inadequada e falta de habilidades em IA. Quase metade (49%) das organizações citam as bases de dados não centralizadas ou ambientes de dados em nuvem não otimizados como a principal barreira. Em seguida aparece a falta de processos robustos de governança de dados (44%) e a escassez de especialistas qualificados na organização (41%).
Os entrevistados relataram que a principal dificuldade no gerenciamento dos dados usados nas implementações de IA é a dificuldade de acesso a fontes de dados relevantes (58%). Outras preocupações importantes incluem questões relacionadas à privacidade e conformidade dos dados (49%) e à qualidade dos dados (46%).
“Para o bem da sociedade, das empresas e dos funcionários, é fundamental confiar na IA”, afirma Bryan Harris, CTO do SAS. “Para alcançar esse objetivo, o setor de IA precisa aumentar a taxa de sucesso das implementações, as pessoas devem analisar criteriosamente os resultados da IA e os líderes devem capacitar a força de trabalho com a IA”. Para saber mais sobre a pesquisa, acesse o site.
O estudo está disponível em http://sas.com/ai-impact
Para continuar por dentro das principais notícias do mundo da indústria 4.0, acesse o nosso site.
