Como as organizações podem mitigar os riscos da IA

Dando continuidade aos posts sobre o uso da inteligência artificial no mundo dos negócios, segue este conteúdo com foco em governança que enfatiza as questões relacionadas ao risco, além de apresentar nove passos no desenvolvimento de um modelo de IA.

A IA responsável atingiu o pico?

Não é segredo que a pandemia acelerou a adoção e, mais criticamente, o desejo das organizações de adotar recursos de inteligência artificial (IA). No entanto, é notavelmente difícil fazer a IA funcionar. Apenas 6% das organizações conseguiram operacionalizar a IA, de acordo com a recente pesquisa global de IA responsável da PwC com mais de 1.000 participantes de organizações líderes nos EUA, Reino Unido, Japão e Índia. Mais da metade das empresas na pesquisa disseram que ainda estão experimentando e não se comprometem com grandes investimentos em recursos de IA.

Mas as empresas que têm uma estratégia de IA incorporada podem implantar aplicativos em escala de maneira mais confiável, com adoção mais ampla em toda a empresa, do que aquelas que não têm. Empresas maiores (mais de US$ 1 bilhão), em particular, são significativamente mais propensas a explorar novos casos de uso para IA (39%), aumentando seu uso de IA (38%) e treinando funcionários para usar IA (35%).

IA responsável

Embora alguns desafios à operacionalização sejam técnicos ou limitados por conjuntos de habilidades, uma lacuna de confiança continua sendo um inibidor.

Uma grande tendência é incorporar práticas de “IA responsável” para preencher essa lacuna de confiança. A IA responsável compreende as ferramentas, processos e pessoas necessárias para controlar os sistemas de IA e governá-los adequadamente de acordo com o ambiente em que gostaríamos de operar e é implementado usando recursos técnicos e processuais para abordar preconceitos, explicabilidade, robustez, segurança e proteção preocupações (entre outras coisas). A intenção da IA ​​responsável, que às vezes é chamada ou confundida com IA confiável, ética da IA ​​ou IA benéfica, é desenvolver sistemas de IA e análise metodicamente, permitindo sistemas documentados e de alta qualidade que reflitam as crenças e valores de uma organização e minimizando danos não intencionais

IA responsável na empresa

A apreciação das novas preocupações que a IA pode representar para uma organização levou a um aumento significativo nas atividades de mitigação de riscos. As organizações estão buscando estratégias para mitigar os riscos de aplicativos individuais, bem como os riscos mais amplos impostos aos negócios ou à sociedade, que os clientes e os reguladores estão cada vez mais exigentes (Figura 1). Esses riscos são experimentados no nível do aplicativo, incluindo instabilidade de desempenho e viés na tomada de decisões de IA; o nível de negócios, como risco empresarial ou financeiro; e o nível nacional, como deslocamento de empregos da automação e desinformação. Para lidar com esses riscos e muito mais, as organizações estão usando uma variedade de medidas de mitigação de riscos, começando com medidas ad hoc e avançando para um processo de governança mais estruturado. Mais de um terço das empresas (37%) têm estratégias e políticas para lidar com o risco de IA, um forte aumento em relação a 2019 (18%).

[Figura 1 – Taxonomia do risco

Apesar dessa ênfase crescente na mitigação de riscos, as organizações ainda estão debatendo como governar a IA. Apenas 19% das empresas da pesquisa têm um processo formal documentado que é reportado a todos os stakeholders; 29% possuem um processo formal apenas para tratar de um evento específico; e o saldo tem apenas um processo informal ou nenhum processo claramente definido.

Parte dessa discrepância se deve à falta de clareza em torno da propriedade da governança da IA. A quem pertence este processo? Quais são as responsabilidades dos desenvolvedores, da função de conformidade ou gerenciamento de riscos e da auditoria interna?

Bancos e outras organizações já sujeitas à supervisão regulatória de seus algoritmos tendem a ter funções robustas (equipes de “segunda linha”) que podem validar modelos de forma independente. Outros, no entanto, precisam contar com equipes de desenvolvimento separadas, porque a segunda linha não possui as habilidades apropriadas para revisar sistemas de IA. Algumas dessas organizações estão optando por reforçar suas equipes de segunda linha com mais conhecimento técnico, enquanto outras estão criando diretrizes mais robustas para garantia de qualidade na primeira linha.

Independentemente da responsabilidade, as organizações exigem uma metodologia de desenvolvimento padrão, completa com estágios em pontos específicos, para permitir o desenvolvimento e monitoramento de IA de alta qualidade (Figura 2). Essa metodologia também se estende às equipes de compras, já que muitos sistemas de IA entram nas organizações por meio de um fornecedor ou plataforma de software.

Figura 2 – Estágios em um processo de desenvolvimento de um modelo em IA

A conscientização sobre os riscos da IA ​​complementa outra tendência de considerar a ética da tecnologia – adotar práticas para desenvolvimento, aquisição, uso e monitoramento de IA orientados por uma mentalidade de “o que você deve fazer” em vez de “o que você pode fazer”.

Embora haja uma série de princípios éticos para IA, dados e tecnologia, a justiça continua sendo um princípio fundamental. Trinta e seis por cento dos entrevistados da pesquisa identificam o viés algorítmico como uma área de foco principal de risco e 56% acreditam que podem lidar adequadamente com os riscos de viés. À medida que as empresas amadurecem na adoção da IA, elas também tendem a adotar o viés algorítmico como foco principal, dada a experiência no desenvolvimento de IA e a conscientização sobre os problemas relacionados aos riscos da IA. A justiça é classificada como o quinto princípio mais importante para empresas maduras em IA versus estar em oitavo lugar para organizações menos maduras. Outros princípios incluem segurança, proteção, privacidade, responsabilidade, explicabilidade e agência humana. As abordagens organizacionais para implementar a IA e a ética de dados tendem a se concentrar em iniciativas restritas que são consideradas isoladamente e utilizam ferramentas pontuais, como avaliações de impacto e códigos de conduta. Grandes empresas com uso maduro de IA são significativamente mais propensas a investir em uma variedade de iniciativas, incluindo a realização de avaliações de impacto (62%), a criação de um conselho ético (60%) e o fornecimento de treinamento ético (47%). Esse impulso sinaliza um reconhecimento de que várias iniciativas internas seriam necessárias para operacionalizar a IA responsável.

O que as organizações podem fazer

Estabeleça princípios para orientar: Um conjunto de princípios éticos adotados e apoiados pela liderança fornece uma estrela norte para a organização. Os princípios por si só, no entanto, não são suficientes para incorporar práticas responsáveis ​​de IA. As partes interessadas precisam considerar os princípios no contexto de seu trabalho diário para projetar políticas e práticas que toda a empresa possa apoiar.

Considere a propriedade da governança: Felizmente, muitos líderes nas organizações estão interessados ​​em estabelecer práticas de governança para IA e dados. No entanto, sem especificar um proprietário para essa governança, é provável que uma organização se depare com um problema diferente – práticas discretas que podem estar em conflito umas com as outras. Identifique quais equipes devem projetar abordagens de governança e concorde com um proprietário e um processo para identificar atualizações nas políticas existentes.

Desenvolva um processo bem definido e integrado para dados, modelo e ciclo de vida de software: implemente processos padronizados para desenvolvimento e monitoramento, com etapas específicas para indicar onde as aprovações e revisões são necessárias para prosseguir (Figura 2). Esse processo deve se conectar aos mecanismos de governança de dados e privacidade existentes, bem como ao ciclo de vida de desenvolvimento de software.

Quebre os silos: alinhe os grupos de partes interessadas necessários para conectar as equipes com o objetivo de compartilhar ideias e práticas de liderança. Crie inventários comuns para IA e dados para o processo de governança e use este exercício como uma oportunidade para considerar mudanças estruturais ou realinhamentos que possam permitir que os negócios funcionem melhor.

Fique de olho no clima regulatório em rápida mudança: não são apenas clientes, investidores e funcionários que exigem práticas responsáveis. Os reguladores estão tomando conhecimento e propondo legislação nos níveis estadual, regulador, nacional e supranacional. Algumas regulamentações decorrem de esforços expandidos de proteção de dados e privacidade, algumas de reguladores específicos em áreas restritas de casos de uso (como bancos) e algumas de um desejo mais geral de melhorar a responsabilidade (como Estratégia Brasileira de Inteligência Artificial -EBIA- do MTIC e legislação atual sobre IA). Manter o ritmo dessas regulamentações é fundamental para identificar futuras atividades de conformidade.

Com essas ações, as organizações estarão melhor posicionadas para lidar com os riscos de IA de maneira ágil.

Se gostou, por favor, compartilhe! Um abraço, @neigrando

Conte comigo em seus projetos. Sobre mim: aqui. Contato: aqui.

Referência

Este artigo trata-se da adaptação, redução e tradução, do artigo, em inglês, da Havard Business Review: “How Organizations Can Mitigate the Risks of AI“, pela PwC (2021).

Artigos relacionados

A adoção da Inteligência Artificial pelas Empresas

Recentemente, buscando informações atualizadas sobre o a utilização da Inteligência Artificial (IA) pelas organizações como pesquisa adicional de um trabalho do Núcleo Decide (FEA-USP e CNPq) sobre o Uso da IA na Tomada de Decisões Organizacionais, e para a disciplina Fundamentos de IA que estarei ministrando em MBA da ESPM, me deparei com diversos artigos e relatórios sobre o tema, mas em especial este me chamou a atenção e desejei compartilhar neste blog, mantendo a referência ao relatório original.

Em dezembro de 2021 e janeiro de 2022, a O’Reilly pediu aos destinatários de seus boletins informativos de dados e IA que participassem de uma pesquisa anual sobre adoção de IA. Estavam particularmente interessados ​​no que mudou desde o ano passado.

  • As empresas estão adiantadas na adoção da IA?
  • Elas têm aplicativos de trabalho em produção?
  • Elas estão usando ferramentas como o AutoML para gerar modelos e outras ferramentas para otimizar a implantação de IA?

Também queriam ter uma ideia de para onde a IA está indo. O hype claramente mudou para blockchains e NFTs. A IA está nas notícias com bastante frequência, mas o ritmo constante de novos avanços e técnicas ficou muito mais silencioso.

Em comparação com o ano passado, um número significativamente menor de pessoas respondeu. Isso é provavelmente um resultado do tempo. A pesquisa deste ano foi realizada durante a temporada de festas (8 de dezembro de 2021 a 19 de janeiro de 2022, embora tenham recebido muito poucas respostas no ano novo); o ano passado foi de 27 de janeiro de 2021 a 12 de fevereiro de 2021. Pandemia ou não, os horários de feriados sem dúvida limitaram o número de entrevistados.

Os resultados foram uma surpresa maior, no entanto. Apesar do número menor de entrevistados, os resultados foram surpreendentemente semelhantes a 2021. Além disso, se você voltar mais um ano, os resultados de 2021 foram surpreendentemente semelhantes a 2020. Isso mudou pouco na aplicação da IA ​​aos problemas corporativos? Talvez. Consideramos a possibilidade de que os mesmos indivíduos respondessem em 2021 e 2022. Isso não seria surpreendente, já que ambas as pesquisas foram divulgadas por meio de listas de e-mail – e algumas pessoas gostam de responder a pesquisas. Mas não foi esse o caso.

Quando nada muda, há espaço para preocupação: certamente não estamos em um espaço “para cima e para a direita”. Mas isso é apenas um artefato do ciclo do hype? Afinal, independentemente do valor ou importância de qualquer tecnologia a longo prazo, ela só pode receber atenção exagerada da mídia por um tempo limitado. Ou há problemas mais profundos que corroem os fundamentos da adoção da IA?

Adoção de IA em geral

Perguntaram aos participantes sobre o nível de adoção de IA em sua organização. Estruturam as respostas a essa pergunta de maneira diferente dos anos anteriores, nos quais ofereceram quatro respostas: não usar IA, considerar IA, avaliar IA e ter projetos de IA em produção (que chamaram de “maduras”). Este ano foi combinado “avaliar IA” e “considerar IA”; achávaram que a diferença entre “avaliar” e “considerar” era, na melhor das hipóteses, mal definida e, se não sabiam o que isso significava, os entrevistados também não saberiam. Mantiveram a pergunta sobre projetos em produção e usaram as palavras “em produção” em vez de “prática madura” para falar sobre os resultados deste ano.

Apesar da mudança na pergunta, as respostas foram surpreendentemente semelhantes às do ano passado. A mesma porcentagem de entrevistados disse que suas organizações tinham projetos de IA em produção (26%). Significativamente mais disseram que não estavam usando IA: isso passou de 13% em 2021 para 31% na pesquisa deste ano. Não está claro o que essa mudança significa. É possível que seja apenas uma reação à mudança nas respostas; talvez os entrevistados que estavam “considerando” a IA pensassem que “considerar realmente significa que não a estamos usando”. Também é possível que a IA esteja se tornando parte do kit de ferramentas, algo que os desenvolvedores usam sem pensar duas vezes. Os profissionais de marketing usam o termo IA; desenvolvedores de software tendem a dizer aprendizado de máquina. Para o cliente, o importante não é como o produto funciona, mas o que ele faz. Já existe muita IA incorporada em produtos nos quais nunca pensamos.

Desse ponto de vista, muitas empresas com IA em produção não possuem um único especialista ou desenvolvedor de IA. Qualquer pessoa que use o Google, Facebook ou Amazon (e, presumo, a maioria de seus concorrentes) para publicidade está usando IA. Como serviço inclui-se a IA empacotada de maneiras que podem não se parecer com redes neurais ou aprendizado profundo. Se você instalar um produto de atendimento ao cliente inteligente que usa GPT-3, nunca verá um hiperparâmetro para ajustar, mas implantou um aplicativo de IA. Não esperamos que os entrevistados digam que têm “aplicativos de IA implantados” se sua empresa tiver uma relação de publicidade com o Google, mas a IA está lá e é real, mesmo que seja invisível.

Esses aplicativos invisíveis são o motivo da mudança? A IA está desaparecendo nas paredes, como nosso encanamento (e, aliás, nossas redes de computadores)? Teremos motivos para pensar nisso ao longo deste artigo.

Independentemente disso, pelo menos em alguns setores, as atitudes parecem estar se solidificando contra a IA, e isso pode ser um sinal de que estamos nos aproximando de outro “inverno da IA”. Acredita-se que não, dado que o número de entrevistados que relataram IA em produção é constante e ligeiramente superior. No entanto, é um sinal de que a IA passou para o próximo estágio do ciclo de hype. Quando as expectativas sobre o que a IA pode oferecer estão no auge, todos dizem que estão fazendo isso, estejam ou não realmente. E uma vez que você chega ao vale, ninguém diz que está usando, mesmo que agora esteja.

Adoção e Maturidade da IA

A borda de fuga do ciclo de hype tem consequências importantes para a prática da IA. Quando era notícia todos os dias, a IA não precisava provar seu valor; foi o suficiente para ser interessante. Mas uma vez que o hype acabou, a IA precisa mostrar seu valor na produção, em aplicativos reais: é hora de provar que pode fornecer valor comercial real, seja economia de custos, aumento de produtividade ou mais clientes. Isso sem dúvida exigirá melhores ferramentas para colaboração entre sistemas de IA e consumidores, melhores métodos para treinar modelos de IA e melhor governança para dados e sistemas de IA.

Adoção pelos setores econômicos

A distribuição dos entrevistados por setor foi quase a mesma do ano passado.
As maiores porcentagens de entrevistados eram dos setores de hardware de computador e serviços financeiros (ambos com cerca de 15%, embora o hardware de computador tenha uma ligeira vantagem), educação (11%) e saúde (9%). Muitos entrevistados relataram seu setor como “Outro”, que foi a terceira resposta mais comum. Infelizmente, essa categoria vaga não é muito útil, pois apresentava setores que iam da academia ao atacado, e incluíam algumas coisas exóticas, como drones e vigilância – intrigantes, mas difíceis de tirar conclusões com base em uma ou duas respostas. (Além disso, se você estiver trabalhando em vigilância, você realmente vai contar às pessoas?) Houve mais de 100 respostas únicas, muitas das quais se sobrepuseram aos setores da indústria que listamos.
Observa-se uma história mais interessante quando analisa-se a maturidade das práticas de IA nesses setores. Os setores de varejo e serviços financeiros tiveram as maiores porcentagens de entrevistados relatando aplicativos de IA em produção (37% e 35%, respectivamente). Esses setores também tiveram o menor número de entrevistados relatando que não estavam usando IA (26% e 22%). Isso faz muito sentido intuitivo: quase todos os varejistas estabeleceram uma presença online, e parte dessa presença está fazendo recomendações de produtos, um aplicativo clássico de IA. A maioria dos varejistas que usam serviços de publicidade online dependem muito da IA, mesmo que não considerem usar um serviço como o Google “IA em produção”. A IA certamente está lá e está gerando receita, estejam eles cientes disso ou não. Da mesma forma, as empresas de serviços financeiros foram as primeiras a adotar a IA: a leitura automatizada de cheques foi um dos primeiros aplicativos corporativos de IA, datando muito antes do atual aumento no interesse da IA.

Educação e governo foram os dois setores com o menor número de entrevistados relatando projetos de IA em produção (9% para ambos). Ambos os setores tiveram muitos entrevistados relatando que estavam avaliando o uso da IA ​​(46% e 50%). Esses dois setores também tiveram a maior porcentagem de entrevistados relatando que não estavam usando IA. Esses são setores em que o uso apropriado de IA pode ser muito importante, mas também são áreas em que muitos danos podem ser causados ​​por sistemas de IA inadequados. E, francamente, ambas as áreas são atormentadas pela infraestrutura de TI desatualizada. Portanto, não é de surpreender que vejamos muitas pessoas avaliando a IA, mas também não é de surpreender que relativamente poucos projetos tenham entrado em produção.

Adoção da IA pelos Setores

Como seria de esperar, os entrevistados de empresas com IA em produção relataram que uma parcela maior de seu orçamento de TI foi gasta em IA do que os entrevistados de empresas que estavam avaliando ou não usando IA. 32% dos entrevistados com IA em produção relataram que suas empresas gastaram mais de 21% de seu orçamento de TI em IA (18% relataram que 11% a 20% do orçamento de TI foi para IA; 20% relataram 6% a 10%). Apenas 12% dos entrevistados que avaliaram a IA relataram que suas empresas estavam gastando mais de 21% do orçamento de TI em projetos de IA. A maioria dos entrevistados que avaliaram a IA veio de organizações que estavam gastando menos de 5% de seu orçamento de TI em IA (31%); na maioria dos casos, “avaliar” significa um compromisso relativamente pequeno. (E lembre-se de que aproximadamente metade de todos os entrevistados estava no grupo de “avaliação”.)

A grande surpresa foi entre os entrevistados que relataram que suas empresas não estavam usando IA. Você esperaria que sua despesa de TI fosse zero e, de fato, mais da metade dos entrevistados (53%) selecionaram 0%–5%; supõe-se que isso significa 0. Outros 28% marcaram “Não aplicável”, também uma resposta razoável para uma empresa que não está investindo em IA. Mas um número mensurável teve outras respostas, incluindo 2% (10 entrevistados) que indicaram que suas organizações estavam gastando mais de 21% de seus orçamentos de TI em projetos de IA. 13% dos entrevistados que não usam IA indicaram que suas empresas estavam gastando de 6% a 10% em IA, e 4% desse grupo estimaram despesas de IA na faixa de 11% a 20%. Portanto, mesmo quando nossos entrevistados relatam que suas organizações não estão usando IA, descobrimos que eles estão fazendo algo: experimentando, considerando ou “chutando os pneus”. Essas organizações avançarão para a adoção nos próximos anos? Isso é uma incógnita, mas a IA pode estar penetrando em organizações que estão na retaguarda da curva de adoção (a chamada “maioria tardia”).

Orçamento de TI alocado para IA

Gargalos

Questionaram os entrevistados quais eram os maiores gargalos para a adoção da IA. As respostas foram surpreendentemente semelhantes às do ano passado. Em conjunto, os entrevistados com IA em produção e os entrevistados que estavam avaliando a IA dizem que os maiores gargalos foram a falta de pessoas qualificadas e a falta de dados ou problemas de qualidade de dados (ambos em 20%), seguidos por encontrar casos de uso apropriados (16%).

Observar as práticas “em produção” e “avaliando” separadamente fornece uma imagem mais sutil. Os entrevistados cujas organizações estavam avaliando a IA eram muito mais propensos a dizer que a cultura da empresa é um gargalo, um desafio que Andrew Ng abordou em uma edição recente de seu boletim informativo. Eles também eram mais propensos a ver problemas na identificação de casos de uso apropriados. Isso não é surpreendente: se você tem IA em produção, você superou pelo menos parcialmente os problemas com a cultura da empresa e encontrou pelo menos alguns casos de uso para os quais a IA é apropriada.

Os entrevistados com IA em produção eram significativamente mais propensos a apontar a falta de dados ou a qualidade dos dados como um problema. Suspeitamos que este seja o resultado de uma experiência duramente conquistada. Os dados sempre parecem muito melhores antes de você tentar trabalhar com eles. Quando você suja as mãos, vê onde estão os problemas. Encontrar esses problemas e aprender a lidar com eles é um passo importante para desenvolver uma prática de IA verdadeiramente madura. Esses entrevistados eram um pouco mais propensos a ver problemas com a infraestrutura técnica – e, novamente, entender o problema de construir a infraestrutura necessária para colocar a IA em produção vem com a experiência.

Os entrevistados que estão usando IA (os grupos “avaliando” e “em produção” – ou seja, todos que não se identificaram como “não usuários”) concordaram com a falta de pessoas qualificadas. A escassez de cientistas de dados treinados foi prevista há anos. Na pesquisa de adoção de IA do ano passado, notamos que finalmente vimos essa escassez acontecer e esperamos que ela se torne mais aguda. Este grupo de respondentes também estava de acordo sobre questões legais. Apenas 7% dos entrevistados em cada grupo listaram isso como o gargalo mais importante, mas está na mente dos entrevistados.

E ninguém está se preocupando muito com o ajuste de hiperparâmetros.

Gargalos de Adoção da IA

Analisando um pouco mais a dificuldade de contratar para IA, descobrimos que os entrevistados com IA em produção viram as lacunas de habilidades mais significativas nessas áreas: modelagem de ML e ciência de dados (45%), engenharia de dados (43%) e manutenção de um conjunto de casos de uso de negócios (40%). Podemos reformular essas habilidades como desenvolvimento principal de IA, construção de pipelines de dados e gerenciamento de produtos. O gerenciamento de produtos para IA, em particular, é uma especialização importante e ainda relativamente nova que requer a compreensão dos requisitos específicos dos sistemas de IA.

Governança de IA

Entre os entrevistados com produtos de IA em produção, o número daqueles cujas organizações tinham um plano de governança para supervisionar como os projetos são criados, medidos e observados foi aproximadamente o mesmo daqueles que não tinham (49% sim, 51% não) . Entre os entrevistados que estavam avaliando a IA, relativamente poucos (apenas 22%) tinham um plano de governança.

O grande número de organizações sem governança de IA é preocupante. Embora seja fácil supor que a governança de IA não seja necessária se você estiver apenas fazendo alguns experimentos e projetos de prova de conceito, isso é perigoso. Em algum momento, sua prova de conceito provavelmente se transformará em um produto real e, então, seus esforços de governança serão atualizados. É ainda mais perigoso quando você depende de aplicativos de IA em produção. Sem formalizar algum tipo de governança de IA, é menos provável que você saiba quando os modelos estão ficando obsoletos, quando os resultados são tendenciosos ou quando os dados foram coletados de forma inadequada.

Embora não foi perguntado sobre governança de IA na pesquisa do ano passado e, consequentemente, não possamos fazer comparações ano a ano, perguntamos aos entrevistados que tinham IA em produção quais riscos eles verificaram. Não vimos quase nenhuma mudança. Alguns riscos aumentaram um ou dois pontos percentuais e alguns diminuíram, mas a ordenação permaneceu a mesma. Os resultados inesperados continuaram sendo o maior risco (68%, abaixo dos 71%), seguidos de perto pela Interpretabilidade do modelo e degradação do modelo (ambos 61%). Vale a pena notar que resultados inesperados e degradação do modelo são problemas de negócios. Interpretabilidade, privacidade (54%), justiça (51%) e segurança (46%) são questões humanas que podem ter um impacto direto nos indivíduos. Embora possa haver aplicativos de IA em que privacidade e justiça não sejam problemas (por exemplo, um sistema incorporado que decide se os pratos da sua máquina de lavar louça estão limpos), as empresas com práticas de IA claramente precisam dar maior prioridade ao impacto humano da IA .

Também surpreende-se ao ver que a segurança permanece no final da lista (42%, inalterada em relação ao ano passado). A segurança está finalmente sendo levada a sério por muitas empresas, mas não pela IA. No entanto, a IA tem muitos riscos exclusivos: envenenamento de dados, entradas maliciosas que geram previsões falsas, modelos de engenharia reversa para expor informações privadas e muito mais. Após os muitos ataques caros do ano passado contra empresas e seus dados, não há desculpa para ser negligente em relação à segurança cibernética. Infelizmente, parece que as práticas de IA demoram a se recuperar.

Governança e consciência de risco certamente são questões que observaremos no futuro. Se as empresas que desenvolvem sistemas de IA não adotam algum tipo de governança, estão arriscando seus negócios. A IA estará controlando você, com resultados imprevisíveis – resultados que incluem cada vez mais danos à sua reputação e grandes julgamentos legais. O menor desses riscos é que a governança será imposta pela legislação, e aqueles que não praticam a governança de IA precisarão se atualizar.

Ferramentas

Quando analisamos as ferramentas utilizadas pelos entrevistados que trabalham em empresas com IA em produção, nossos resultados foram muito semelhantes aos do ano passado. TensorFlow e scikit-learn são os mais usados ​​(ambos 63%), seguidos por PyTorch, Keras e AWS SageMaker (50%, 40% e 26%, respectivamente). Todos eles estão dentro de alguns pontos percentuais dos números do ano passado, normalmente alguns pontos percentuais abaixo. Os entrevistados foram autorizados a selecionar várias entradas; este ano, o número médio de entradas por respondente pareceu ser menor, explicando a queda nas porcentagens (embora não saibamos por que os entrevistados verificaram menos entradas).

Parece haver alguma consolidação no mercado de ferramentas. Embora seja ótimo torcer pelos azarões, as ferramentas na parte inferior da lista também caíram um pouco: AllenNLP (2,4%), BigDL (1,3%) e Ray da RISELab (1,8%). Novamente, as mudanças são pequenas, mas cair um por cento quando você está apenas em 2% ou 3% para começar pode ser significativo – muito mais significativo do que a queda do scikit-learn de 65% para 63%. Ou talvez não; quando você tem apenas 3% dos entrevistados, pequenas flutuações aleatórias podem parecer grandes.

Ferramentas usadas pelos entrevistados com IA em produção

Automatizando ML

Foi dada uma atenção adicional nas ferramentas para gerar modelos automaticamente. Essas ferramentas são comumente chamadas de “AutoML” (embora esse também seja um nome de produto usado pelo Google e pela Microsoft). Eles existem há alguns anos; a empresa que desenvolve o DataRobot, uma das ferramentas mais antigas para automatizar o aprendizado de máquina, foi fundada em 2012. Embora construir modelos e programar não sejam a mesma coisa, essas ferramentas fazem parte do movimento “low code”. As ferramentas AutoML atendem a necessidades semelhantes: permitir que mais pessoas trabalhem efetivamente com IA e eliminar o trabalho penoso de fazer centenas (se não milhares) de experimentos para ajustar um modelo.

Até agora, o uso do AutoML era uma parte relativamente pequena do cenário. Esta é uma das poucas áreas em que vemos uma diferença significativa entre este ano e o ano passado. No ano passado, 51% dos entrevistados com IA em produção disseram que não estavam usando ferramentas AutoML. Este ano, apenas 33% responderam “Nenhuma das opções acima” (e não escreveram uma resposta alternativa).

Os entrevistados que estavam “avaliando” o uso de IA parecem estar menos inclinados a usar ferramentas AutoML (45% responderam “Nenhuma das opções acima”). No entanto, houve algumas exceções importantes. Os entrevistados que avaliaram o ML eram mais propensos a usar o Azure AutoML do que os entrevistados com ML em produção. Isso se encaixa em relatos anedóticos de que o Microsoft Azure é o serviço de nuvem mais popular para organizações que estão migrando para a nuvem. Também vale a pena notar que o uso do Google Cloud AutoML e do IBM AutoAI foi semelhante para os entrevistados que estavam avaliando IA e para aqueles que tinham IA em produção. Para os entrevistados, pequenas flutuações aleatórias podem parecer grandes.

Uso de ferramentas de AutoML

Implantação e monitoramento de IA

Também parece haver um aumento no uso de ferramentas automatizadas para implantação e monitoramento entre os entrevistados com IA em produção. “Nenhuma das opções acima” ainda foi a resposta escolhida pela maior porcentagem de entrevistados (35%), mas caiu em relação aos 46% de um ano atrás. As ferramentas que eles estavam usando eram semelhantes às do ano passado: MLflow (26%), Kubeflow (21%) e TensorFlow Extended (TFX, 15%). O uso de MLflow e Kubeflow aumentou desde 2021; O TFX caiu um pouco. Amazon SageMaker (22%) e TorchServe (6%) foram dois novos produtos com uso significativo; A SageMaker, em particular, está pronta para se tornar líder de mercado. Não vimos mudanças significativas ano a ano para Domino, Seldon ou Cortex, nenhum dos quais tinha uma participação de mercado significativa entre nossos entrevistados. (BentoML é novo em nossa lista.)

Ferramentas usadas para implantar e monitorar a IA

Viu-se resultados semelhantes quando foram analisadas ferramentas automatizadas para controle de versão de dados, ajuste de modelo e rastreamento de experimentos. Novamente, vimos uma redução significativa na porcentagem de entrevistados que selecionaram “Nenhuma das opções acima”, embora ainda fosse a resposta mais comum (40%, abaixo dos 51%). Um número significativo disse que estava usando ferramentas caseiras (24%, acima dos 21%). O MLflow foi a única ferramenta sobre a qual perguntamos que parecia estar conquistando os corações e mentes de nossos entrevistados, com 30% relatando que a usaram. Todo o resto estava abaixo de 10%. Um mercado saudável e competitivo? Talvez. Certamente há muito espaço para crescer, e não acreditamos que o problema de versionamento de dados e modelos tenha sido resolvido ainda.

IA em uma encruzilhada

Agora que analisamos todos os dados, onde está a IA no início de 2022 e onde estará daqui a um ano? Você poderia argumentar bem que a adoção da IA ​​parou. Não acredita-se que seja o caso. Nem os capitalistas de risco; um estudo da OCDE, Investimentos de Capital de Risco em Inteligência Artificial, diz que em 2020, 20% de todos os fundos de capital de risco foram para empresas de IA. Apostaríamos que esse número também permanece inalterado em 2021. Mas o que estamos perdendo? A IA corporativa está estagnada?

Andrew Ng, em seu boletim The Batch, pinta um quadro otimista. Ele aponta para o Relatório de Índice de IA de Stanford para 2022, que diz que o investimento privado quase dobrou entre 2020 e 2021. Ele também aponta o aumento da regulamentação como evidência de que a IA é inevitável: é uma parte inevitável da vida do século XXI. Concorda-se que a IA está em todos os lugares e, em muitos lugares, nem é vista. Como mencionado, as empresas que usam serviços de publicidade de terceiros quase certamente usam IA, mesmo que nunca escrevam uma linha de código. Está incorporado no aplicativo de publicidade. A IA invisível – IA que se tornou parte da infraestrutura – não vai desaparecer. Por sua vez, isso pode significar que estamos pensando na implantação da IA ​​da maneira errada. O importante não é se as organizações implantaram IA em seus próprios servidores ou nos de outra pessoa. O que devemos realmente medir é se as organizações estão usando IA de infraestrutura incorporada em outros sistemas fornecidos como serviço. A IA como serviço (incluindo a IA como parte de outro serviço) é uma parte inevitável do futuro.

Mas nem toda IA ​​é invisível; alguns são muito visíveis. A IA está sendo adotada de algumas maneiras que, até o ano passado, consideravam-se inimagináveis. Estamos familiarizados com chatbots, e a ideia de que a IA pode nos dar chatbots melhores não foi exagerada. Mas o Copilot do GitHub foi um choque: não esperávamos que a IA escrevesse software. Vimos (e escrevemos sobre) a pesquisa que levou ao Copilot, mas não acreditávamos que se tornaria um produto tão cedo. O que é mais chocante? Ouvimos dizer que, para algumas linguagens de programação, até 30% do novo código está sendo sugerido pela ferramenta de programação de IA Copilot da empresa. No início, muitos programadores pensaram que o Copilot não era mais do que um truque inteligente de festa da IA. Isso claramente não é o caso. O Copilot se tornou uma ferramenta útil em pouco tempo e, com o tempo, só ficará melhor.

Outras aplicações de grandes modelos de linguagem – atendimento automatizado ao cliente, por exemplo – estão sendo lançadas (nossa pesquisa não deu atenção suficiente a elas). Resta saber se os humanos se sentirão melhor em interagir com o atendimento ao cliente orientado por IA do que com humanos (ou bots horrivelmente com scripts). Há uma dica intrigante de que os sistemas de IA são melhores em fornecer más notícias aos humanos. Se precisarmos ouvir algo que não queremos ouvir, preferimos que venha de uma máquina sem rosto.

Começa-se a ver mais adoção de ferramentas automatizadas para implantação, juntamente com ferramentas para controle de versão de dados e modelos. Isso é uma necessidade; se a IA for implantada na produção, é necessário ser capaz de implantá-la de forma eficaz, e as modernas lojas de TI não veem com bons olhos os processos artesanais artesanais.

Há muitos outros lugares em que esperamos ver a IA implantada, tanto visível quanto invisível. Algumas dessas aplicações são bastante simples e de baixa tecnologia. Alguns carros de quatro anos mostra o limite de velocidade no painel. Há várias maneiras de fazer isso, mas depois de algumas observações, ficou claro que se tratava de um simples aplicativo de visão computacional. (O carro relataria velocidades incorretas se um sinal de limite de velocidade fosse desfigurado e assim por diante.) Provavelmente não é a rede neural mais sofisticada, mas não há dúvida de que teríamos chamado isso de IA alguns anos atrás. Onde mais? Termostatos, lava-louças, geladeiras e outros aparelhos? Frigoríficos inteligentes eram uma piada não muito tempo atrás; agora você pode comprá-los.

Também viu-se a IA chegando a dispositivos menores e mais limitados. Carros e geladeiras têm energia e espaço aparentemente ilimitados para trabalhar. Mas e quanto a pequenos dispositivos como telefones? Empresas como o Google se esforçaram muito para executar a IA diretamente no telefone, fazendo trabalhos como reconhecimento de voz e previsão de texto e realmente treinando modelos usando técnicas como aprendizado federado – tudo sem enviar dados privados de volta à nuvem. As empresas que não podem fazer pesquisas de IA na escala do Google estão se beneficiando desses desenvolvimentos? ainda não sabemos. Provavelmente não, mas isso pode mudar nos próximos anos e representaria um grande passo à frente na adoção da IA.

Se gostou, por favor, compartilhe! Um abraço, @neigrando

Conte comigo em seus projetos. Sobre mim: aqui. Contato: aqui.

Referência

Este artigo trata-se da adaptação, redução e tradução, do relatório original, em inglês, da O’Reilly: “AI Adoption in the Enterprise 2022“, por Mike Loukides.

Artigos relacionados

A Transmídia e o Metaverso

Transmídia, do inglês transmedia, significa conteúdo que se sobressai a uma mídia única. Na prática, significa que as diferentes mídias transmitirão variados conteúdos para o público de forma que os meios se complementem, pois se o público utilizar apenas um canal terá apenas a mensagem parcial do assunto em questão, já que a transmídia induz ao ato de contar histórias através de várias mídias, com um conteúdo específico para cada uma.” – Wikipedia

Introdução

De sã consciência resolvi escrever esse artigo de modo diferente. Comecei a rascunhá-lo em minha mente enquanto caminhava ouvindo uma trilha musical do Surpertramp e outra de Pink Flloyd. Ao mesmo tempo fui refletindo e preparando palavras que pudessem descrever não só o que eu pensava, mas também meus sentimentos e emoções entrelaçados. Enfim, escrevi com o coração.

Estou vivendo um estágio de vida interessante e minha caminhada me fez lembrar momentos incríveis e algumas decisões importantes que me levaram a atravessar portais para universos paralelos, ou melhor, viver transições significativas em minha vida pessoal, carreira acadêmica e profissional. Momentos estes em que munido de coragem, desejo e vontade decidi mudar radicalmente meu ambiente e conforto, e partir para algo novo e desafiador, transcendendo a mim mesmo.

Para não perder a objetividade deste post, contarei sobre a travessia destes portais e os universos paralelos que vivi em outro post.

Cheguei neste fim de semana do Gramado Summit 2022, onde encontrei e abracei amigos da Tecredi que eu só conhecia virtualmente e que me encantaram com a receptividade e consideração. Foi então que eu encontrei o quadro, cuja arte acompanha este artigo e o conteúdo que segue.

O quadro (arte) foi um presente que recebi pelas mãos do amigo Rodrigo, em maio de 2012, logo após a Convenção EraTransmidia em Paraty. No encontro, além de proferir uma palestra, fui convidado a trabalhar em conjunto com um grande grupo o modelo de negócios EraTrasmídia, que acabou se transformando em dois modelos separados, porém complementares, pois um proporcionaria valor ao outro.

Assim, mais importante que o quadro que ganhei e que de certa forma representava os dois elementos unidos e complementares, foram as palavras de agradecimento do meu amigo em nome do EraTransmídia.

Hoje, 10 anos depois, quem está agradecendo ao Rodrigo e ao grupo EraTransmídia sou eu, com este artigo dedicado a eles.

A Transmídia

No meu modo de entender, a Transmídia é algo que transcende a mídia tradicional de marketing de conteúdo, ela vai além do uso particular de cada mídia, além da multimídia e do crossmídia, pois o storytelling do conteúdo contado se adequa a cada uma das mídias utilizadas que referenciam as outras contribuindo com o todo da mensagem. Além disso, com a mídia social a transmídia tornou possível a interação com o público, gerando ainda mais valor para aquele que anuncia a mensagem, ou conta a história.

O Metaverso

“Metaverso é um ambiente digital persistente e imersivo de redes independentes, mas interconectadas, que usarão protocolos ainda a serem determinados para comunicações.” – Gartner

Ele permite conteúdo digital persistente, descentralizado, colaborativo e interoperável que se cruza com o conteúdo em tempo real, espacialmente orientado e indexado do mundo físico.”

Com criatividade as marcas podem testar seus produtos em formato digital no tal “metaverso”, inclusive fazendo vendas neste mundo virtual e se o produto fizer o devido sucesso, lançá-lo no mundo físico e fornecer desconto para quem o comprou virtualmente, por exemplo.

Indo além, pode-se contar com os novos recursos de realidade virtual e realidade aumentada, e mundos virtuais em 3D em um contexto metaverso – sendo este último um tema em destaque (hype) no momento – provocando possibilidades às marcas estarem presentes junto a seus clientes e prospects não só no mundo físico, mas também no mundo virtual.

As possibilidades do uso de transmídia com “metaverso” são tantas que vão além da minha imaginação e com certeza vale a pena às marcas começarem a conhecer melhor esses temas, essas novas mídias e as novas possibilidades de trabalhar seus conteúdos, produtos e serviços.

Falarei mais sobre Metaverso em um dos próximos artigos.

Se gostou, por favor, compartilhe! Um abraço, @neigrando

Conte comigo em seus projetos. Sobre mim: aqui. Contato: aqui.