Fonte: Midjourney: in the middle of the universe and multiverse of AI imagination

“Os próximos 2 a 3 anos de IA definitivamente definirão as próximas 2 a 3 décadas do mundo. Para aqueles em tecnologia: você vive uma vida inteira por um momento como este – não o desperdice. Há décadas em que nada acontece, e semanas quando décadas acontecem.” – Alexandr Wang (Fundador e CEO, SCALE)

Acabou de sair o resultado de uma pesquisa sobre inteligência artificial generativa, 2023 AI Readiness Report da Scale, uma survey com mais de 1.600 executivos e profissionais de aprendizado de máquina (ML) para descobrir o que está funcionando, o que não está e as melhores práticas para as organizações implantarem IA para um impacto real nos negócios. Segue abaixo um texto sobre a parte inicial do relatório, visite o site da Scale para mais informações.

IA generativa dá um salto gigantesco

Grandes saltos nas capacidades da IA Generativa definiram 2022. Em meados de 2022, os modelos de difusão de imagem Dall-E 2 (OpenAI) e Stable Diffusion (Stability AI) conquistaram as manchetes. Muitas novas startups correram para construir seus negócios com base nessas poderosas ferramentas de criação de imagens.

Fonte: Sequoia Capital, via CBinsights

No final de novembro, a OpenAI lançou o modelo de linguagem grande GPT-3.5 e a interface de bate-papo ChatGPT, que rapidamente se tornou um dos lançamentos de tecnologia de maior impacto de todos os tempos. A chave para o impacto desse modelo foi o uso do Aprendizado por Reforço com Feedback Humano (RLHF), uma técnica para alinhar o desempenho do modelo com a intenção humana.

Em março de 2023, a OpenAI lançou o GPT-4, o modelo de linguagem grande mais capaz já criado.

Também alinhado com o RLHF, o GPT-4 passou de forma impressionante em muitos exames projetados para testar a capacidade humana no percentil 90 ou superior, incluindo vários exames AP e o exame da barra. Em dezembro de 2022, a Anthropic anunciou um beta fechado de Claude, um LLM com recursos de bate-papo semelhantes ao ChatGPT e uma abordagem de alinhamento humano baseada em “IA Constitucional”, em que a supervisão humana é fornecida por meio de uma lista de regras ou princípios. Em março de 2023, o Google lançou o Bard, sua IA de conversação baseada no modelo LaMDA do Google. Várias outras empresas também estão construindo grandes modelos de linguagem, incluindo AI21 labs, Carper AI, Stability AI e Cohere. Modelos específicos de domínio também serão desenvolvidos no próximo ano, como o BloombergGPT, um modelo desenvolvido especificamente para casos de uso financeiro. Um número cada vez maior desses modelos será treinado e lançado no próximo ano.

Fonte: Momentum Works report – The future by ChatGPT

Os modelos generativos estão sendo integrados ao Google Workspace e ao Microsoft Office, permitindo grandes ganhos de produtividade para usuários corporativos. Essas ferramentas ajudam você a escrever o primeiro rascunho de um documento, gerar apresentações completas a partir de um único prompt ou analisar e visualizar automaticamente os dados financeiros em uma planilha.

Plataformas de software corporativo como Salesforce estão permitindo que analistas e executivos obtenham novas perspectivas sobre dados usando IA Generativa.

O que é IA generativa?

– Grandes quantidades de dados são coletadas de várias fontes, principalmente dados da Internet. Um modelo é treinado em GPUs, produzindo um modelo básico altamente capaz, mas não alinhado às preferências humanas. – O modelo básico é então ajustado por meio do Aprendizado por Reforço de Feedback Humano (RLHF) para alinhá-los mais de perto com as preferências humanas e, no caso de LLMs, interagir em um formato de conversação ou “chat”. – Os modelos generativos são então capazes de produzir imagens ilimitadas e infinitamente criativas, envolver-se em conversas com usuários, resumir documentos e escrevem código.

As capacidades significativamente aprimoradas dos modelos generativos em 2022 impactaram enormemente as estratégias de IA das empresas, com 65% acelerando suas estratégias existentes ou criando uma estratégia de IA pela primeira vez.

Enquanto a maioria dos entrevistados (60%) está experimentando modelos generativos ou planeja trabalhar com eles no próximo ano, apenas 21% têm esses modelos em produção.

As empresas veem o potencial dos modelos generativos para melhorar seus negócios, mas colocá-los em produção é um desafio.

Para liberar o poder de seus dados e aproveitar ao máximo esses modelos, as empresas precisam de experiência em aprendizado de máquina, infraestrutura de ajuste fino e recursos para executar RLHF em escala.

A maioria das empresas não possui os recursos necessários ou mandato para criar seus próprios modelos generativos, portanto, deve depender de terceiros. Das empresas que planejam trabalhar com modelos generativos, a grande maioria procura alavancar modelos generativos de código aberto (41%) ou modelos generativos de API de nuvem (37%), enquanto muito poucas procuram construir seus próprios modelos generativos (22%).

Além disso, 28% estão usando exclusivamente modelos de código aberto, enquanto 26% usam APIs de nuvem (modelos disponíveis comercialmente, como Claude da Anthropic, GPT-4 da OpenAI e Command da Cohere) e apenas 15% estão construindo seus próprios exclusivamente.

Existem vários fatores que as empresas devem considerar ao decidir sobre sua infraestrutura de IA generativa, incluindo sua experiência interna em aprendizado de máquina, orçamento, requisitos de segurança e necessidade de recursos específicos de domínio. Aproveitar um provedor de nuvem é o caminho mais fácil e rápido para obter recursos generativos, mas apresenta maior risco de segurança, menos controle sobre os modelos subjacentes, desempenho de qualidade inferior em tarefas específicas do domínio e pode ser caro.

Os modelos de código aberto fornecem mais controle e são mais baratos, mas exigem mais experiência interna para implantar e ajustar. Empresas que buscam construir seus próprios modelos geradores se beneficiam de maior controle, mas incorrem em maiores custos de coleta de dados, computação e contratação de especialistas em aprendizado de máquina para treiná-los e implantá-los.

61% das empresas estão buscando a IA para ajudar a melhorar a experiência do cliente, 56% para melhorar a eficiência operacional e 50% para aumentar a lucratividade. O foco no foco no cliente beneficia imensamente as organizações, com maior boa vontade do cliente no curto prazo e maior lucratividade no longo prazo.

89% das empresas que adotam IA se beneficiam da capacidade de desenvolver novos produtos ou serviços, 78% delas buscam experiências aprimoradas do cliente e 76% de melhor colaboração entre as funções de negócios. Essas empresas também obtêm maior eficiência e lucratividade nos processos organizacionais. Apesar dos resultados positivos para os adotantes de IA, resultados ainda maiores são possíveis à medida que as empresas aceleram suas estratégias de IA e aumentam seus investimentos em IA.

Os objetivos de uma organização também moldam a eficácia de sua implementação de IA.

As empresas que listam a demanda dos acionistas/investidores como o principal objetivo para a adoção da IA também apresentam os piores resultados em experiência do cliente, receita e lucratividade. Para garantir o sucesso de uma implementação de IA, as organizações devem evitar a implementação de IA apenas para implementar a IA, mas, em vez disso, garantir que os objetivos de uma implementação de IA estejam alinhados com as prioridades da empresa e que a IA seja uma boa solução para um determinado problema.

Uma nova era

Os modelos generativos já estão transformando a forma como criamos arte, entendemos nosso mundo e conduzimos negócios.

Modelos de linguagem grandes nos ajudam a escrever conteúdo como blogs, e-mails ou textos de anúncios de forma mais rápida e criativa. Eles resumem o conteúdo de formato longo para que possamos entender rapidamente as informações mais críticas de relatórios e artigos de notícias. Os modelos de difusão simplificam os fluxos de trabalho de marketing, permitindo que os profissionais de marketing gerem imagens de produtos ilimitadas e infinitamente criativas. Os desenvolvedores usam LLMs para escrever código com mais eficiência e ajudá-los a identificar e corrigir bugs rapidamente. Os chatbots avançados permitem que as empresas melhorem o atendimento ao cliente a um custo menor. Por fim, as organizações estão liberando o poder de suas bases de conhecimento personalizando LLMs com seus dados proprietários para melhor desempenho em tarefas exclusivas de seus negócios.

Agora, veremos alguns termos e tendências importantes para entender essa nova era da IA generativa.

Modelos estão aumentando de tamanho

Com o tempo, os modelos generativos tornaram-se mais capazes à medida que aumentaram de tamanho. O tamanho do modelo geralmente é determinado pelo tamanho do conjunto de dados de treinamento medido em tokens (partes de palavras) ou pelo número de parâmetros (o número de valores que o modelo pode alterar à medida que aprende).

• BERT (2018) foi de 3,7 bilhões de tokens e 240 milhões de parâmetros.
• GPT-2 (2019) foi de 9,5 bilhões de tokens e 1,5 bilhão de parâmetros.
• GPT-3 (2020) tem 499B tokens e 175 bilhões de parâmetros.
• PaLM (2022) foi de 780B de tokens e 540 bilhões de parâmetros.

À medida que esses modelos aumentam de tamanho, eles se tornam cada vez mais capazes, fornecendo mais incentivo para as empresas criarem aplicativos de ponta.

Os modelos generativos estão agora mais amplamente disponíveis, pois muitos desenvolvedores de modelos grandes fornecem APIs ou os tornam de código aberto, e as empresas estão adotando rapidamente esses modelos grandes para seus casos de uso de negócios específicos.

Os modelos generativos são treinados em uma grande quantidade de dados da Internet, tornando-os generalistas competentes. Esses modelos podem escrever poesia, resolver quebra-cabeças lógicos e identificar bugs no código.

Embora os modelos generativos sejam ótimos generalistas, eles são péssimos especialistas ao resolver problemas fora de sua distribuição de dados. Como uma parte significativa dos dados é proprietária de organizações individuais, os modelos de linguagem de base ampla não são bem adaptados a esses domínios específicos.

Para melhorar o desempenho nas tarefas específicas de, digamos, uma seguradora, uma empresa de comércio eletrônico ou uma empresa de logística, esses modelos devem ser ajustados e alinhados para se destacar nessas tarefas específicas e fornecer respostas úteis para clientes e funcionários.

Fonte: Sequoia Capital

Aprendizagem por Reforço com Feedback Humano (RLHF) – Embora o Aprendizado por Reforço com Feedback Humano (RLHF) não seja novo para a comunidade de pesquisa, em 2022, ele ganhou popularidade, pois foi um ingrediente crítico para o sucesso do ChatGPT. Em vez de tentar escrever uma função de perda com a qual treinar um modelo, o RLHF envolve solicitar feedback de usuários humanos e treinar um modelo de recompensa nesse feedback. Esse modelo de recompensa definido por humanos é então usado para treinar um modelo básico. Isso também permite o treinamento com muito mais dados, pois o feedback humano é imitado pelo modelo de recompensa, portanto, o tamanho do conjunto de dados agora é limitado apenas por quantos prompts você pode criar. O ajuste de RLHF resulta em modelos mais bem alinhados às preferências humanas, produzindo respostas mais detalhadas e factuais. RLHF também define a “personalidade” e o “humor” do modelo, tornando-o mais útil, amigável e factual do que o modelo base seria de outra forma. Isso significa que obtemos respostas do modelo que parecem mais humanas e menos como falar com uma máquina. O RLHF é um componente crítico para o sucesso dos LLMs recentes e também é fundamental para garantir que as empresas que usam IA generativa obtenham respostas de modelo alinhadas com suas políticas e marcas.

ChatGPT – ChatGPT é uma aplicação que usa um grande modelo de linguagem que foi ajustado especificamente para a tarefa de geração de texto conversacional. O ChatGPT foi treinado com RLHF e dados em formatos de diálogo para permitir que ele atue como um chatbot conversacional. O ChatGPT rapidamente se tornou um dos lançamentos de produtos mais impactantes de todos os tempos, alcançando 1 milhão de usuários em apenas cinco dias e atualmente com mais de 100 milhões de usuários. O ChatGPT foi lançado inicialmente com GPT-3.5, mas agora também inclui GPT-4 para assinantes do ChatGPT plus. Esses modelos são altamente capazes de responder perguntas, gerar conteúdo e resumir. Embora esses modelos forneçam respostas mais robustas, informativas e criativas do que seus antecessores, o verdadeiro avanço para a adoção foi sua capacidade de manter conversas com humanos. A capacidade de interagir com os modelos de forma intuitiva aumentou a acessibilidade dos modelos para que qualquer pessoa possa utilizá-los.

Engenharia de Prompt – 2022 também viu a proliferação de uma nova função para as equipes de aprendizado de máquina, o “engenheiro de Prompt”. Embora os modelos generativos sejam competentes em gerar a saída desejada para casos de uso de negócios, o prompt certo é necessário para otimizar a eficácia do modelo. Os engenheiros de prompt criam cuidadosamente as entradas de linguagem natural para obter respostas mais consistentes e confiáveis dos modelos, para que as saídas do modelo possam ser usadas em aplicativos de negócios. Em vez de escrever uma consulta SQL, esses engenheiros elaboram prompts de linguagem natural refinados. Por exemplo, ao integrar aplicativos com LLMs, as respostas variadas do modelo podem interromper a integração se não forem formatadas corretamente. Digamos que você esteja criando um aplicativo que lida com dados financeiros. A entrada de um usuário pode estar relacionada aos ganhos do quarto trimestre de uma determinada empresa. Os engenheiros de prompt ajudam a modelar respostas para resolver desafios de negócios com maior precisão, eficiência e qualidade. Eles também garantem que as respostas estejam alinhadas com as diretrizes e a voz da marca de uma organização. Eles também são essenciais para encontrar vulnerabilidades em modelos usando técnicas de injeção imediata e ajudando a resolver essas vulnerabilidades antes que um funcionário ou cliente o faça. Essa função é altamente valiosa para garantir a implementação bem-sucedida de modelos generativos nas organizações.

O que esperar em 2023

Maior investimento em IA

Como a IA generativa agora é mais capaz e amplamente disponível, as empresas a estão incorporando rapidamente em suas operações. 72% das empresas aumentarão significativamente seus investimentos em IA a cada ano nos próximos três anos.

Capacidades crescentes de modelos generativos

Muitas organizações agora estão construindo seus próprios grandes modelos generativos. Esses modelos estão sendo incorporados aos mecanismos de pesquisa e combinados com outras ferramentas, incluindo bases de conhecimento internas, para se tornarem poderosas ferramentas de negócios. Esses modelos também se tornarão multimodais, o que significa que poderão consumir e gerar textos, imagens e vídeos, tornando-os ainda mais úteis do que são hoje.

Você pode fazer upload de um catálogo de produtos com imagens e texto para um modelo multimodal, e ele reconhecerá produtos específicos, escreverá descrições de produtos, preencherá atributos ausentes e gerará novas imagens para enriquecer seu catálogo de produtos automaticamente.

Acessibilidade generalizada de modelos generativos

Assim como a nuvem, os modelos generativos amplamente acessíveis representam uma mudança de paradigma para as empresas.

Incorporar esse tipo de IA rapidamente se tornará o status quo, e aqueles que demoram a adotar serão deixados para trás.

Dados proprietários revelarão o poder dos modelos generativos

Por si só, os modelos generativos básicos são ferramentas valiosas. Emparelhados com os dados proprietários de uma empresa, eles se tornam fortes diferenciadores, melhorando a experiência do cliente, o desenvolvimento de produtos e a lucratividade.

Tendências de adoção

Os líderes empresariais identificaram que a IA é fundamental para o futuro de suas empresas e procuram adotá-la o mais rápido e com o maior impacto possível. Examinamos essa tendência e fornecemos insights sobre as melhores práticas.

59% das empresas consideram a IA crítica ou altamente crítica para seus negócios no próximo ano e 69% nos próximos três anos. Os recursos e a disponibilidade crescentes da IA generativa acelerarão a adoção da IA.

Como as empresas veem a IA como mais crítica para o sucesso futuro de seus negócios, elas estão aumentando os investimentos em IA nos próximos três anos. 72% das empresas planejam aumentar seus investimentos em IA a cada ano nos próximos três anos.

As empresas estão gastando menos tempo e esforço em aplicativos tradicionais de visão computacional e, em vez disso, concentrando-se em LLMs e IA generativa. Das empresas que fazem investimentos significativos em IA, 52% estão investindo pesadamente em LLMs, 36% em modelos visuais generativos e 30% em aplicativos de visão computacional.

Com os recursos recentemente popularizados dos LLMs, as empresas mudaram rapidamente suas estratégias de IA para aproveitar o poder da IA generativa.

Conforme mencionado anteriormente, as empresas que adotam a IA estão obtendo resultados positivos de experiências aprimoradas do cliente, a capacidade de desenvolver novos produtos ou serviços e melhorar os produtos existentes e a colaboração aprimorada entre as funções de negócios.

Em geral, as empresas que adotam a IA estão alcançando resultados positivos em quase todas as categorias. Como qualquer programa de tecnologia, o sucesso dos programas de IA depende da capacidade de implementar IA e alinhar os esforços de implementação com metas organizacionais mensuráveis.

Quais recursos as empresas acham que têm o suficiente para implementar com sucesso suas estratégias de IA? Quais recursos estão faltando?

As empresas que consideram a IA crítica para seus negócios indicam que têm o suporte executivo, a estratégia, a visão e o orçamento necessários para implementar com sucesso a estratégia de IA de sua empresa. No entanto, essas empresas geralmente carecem do conhecimento, software e ferramentas necessárias para alcançar o sucesso.

Embora os líderes tenham identificado a necessidade de adotar a IA, a execução dessas estratégias é difícil, sutil e fortemente dependente de experiência. O campo está se movendo tão rapidamente que é difícil acompanhar o ritmo do avanço. Pessoas altamente talentosas com experiência em IA generativa simplesmente não estão disponíveis para a maioria das organizações. Da mesma forma, selecionar, padronizar e atualizar o software e as ferramentas associadas à IA generativa, MLOps e até DevOps é um desafio para empresas sem equipes dedicadas para acompanhar essas mudanças, pois as pilhas de tecnologia necessárias estão em constante evolução.

Considerações finais

O relatório mostra claramente a importância da IA para as organizações, apresenta um panorama da situação atual e do que nos espera em 2023 e nos próximos anos. Além do que foi apresentado aqui, o relatório completo mostra diversos casos de uso por setor econômico e o ciclo de vida de aprendizado de máquina nas empresas.

Sobre mim: aqui. Contato: aqui.

Abraços, @neigrando

Artigos relacionados

• Cuidado com informações empresariais no ChatGPT
• O que é GPT-4 e como ele difere do ChatGPT?
• Tecnologias que transformam Empresas e Negócios
• Tendências para 2023 previstas pela Inteligência Artificial
• Novidades em Inteligência Artificial, segundo o Gartner (2022)
• A Inteligência Artificial e o Futuro da Tomada de Decisões Estratégicas
• Artigos sobre o uso da  Inteligência Artificial em Negócios