Mês: junho 2021

por

Canvas para IA centrado no Humano

O pensamento estratégico e a modelagem de negócios inovadores, bem como a transformação organizacional com ênfase no digital há muitos anos fazem parte da minha vida profissional.

No trabalho de pesquisa acadêmica com foco em negócios que fazemos no Núcleo Decide da FEA-USP, atualmente estamos pesquisando sobre o Uso da Inteligência Artificial na Tomada de Decisões Organizacionais e algo que sempre vem a nossas mentes e diálogos entre os pesquisadores são as questões éticas do uso da IA e a preocupação com o lado humano, que deve ser sempre considerado ao se pensar em soluções IA para quaisquer problemas apresentados.

Para minha surpresa, encontrei e li recentemente um artigo de Albéric Maillet que traz estas questões sobre projetos e soluções de IA apresentando um canvas para facilitar o pensar e praticar soluções centradas no humano.

Uma ferramenta para ajudá-lo a navegar em sua transformação digital usando a Inteligência Artificial (IA) com o contexto humano em mente.

Segue uma versão traduzida e adaptada do texto do artigo original:

O potencial da IA para empresas em crescimento é irrevogável. Com nuvem, segurança cibernética e big data, a IA é considerada a principal prioridade para investimentos em tecnologia nos últimos anos. Convergindo cada vez mais com outras tecnologias em vigor, a IA está impulsionando a próxima geração de negócios por estar na vanguarda de quase toda transformação digital. Com 9 entre 10 executivos de todo o mundo descrevendo a IA como uma ferramenta importante para resolver os desafios estratégicos de suas organizações, a corrida em direção à promessa de ouro de crescimento exponencial é real.

Apesar de ser um dos defensores mais ativos, o próprio pioneiro da IA, Yoshua Bengio, emitiu recentemente um alerta contra a busca cega dessa nova tecnologia brilhante. O pensamento de curto prazo no desenvolvimento da IA ​​sem qualquer forma de regulamentação e consideração de seus potenciais efeitos sistêmicos pode levar a implicações imprevistas nas arenas sociais, éticas e políticas.

Como a tecnologia ainda está em sua infância, é difícil prever o impacto em termos de perda de empregos ou deslocamento – o McKinsey Global Institute sugere que, em 2030, agentes inteligentes e robôs poderiam eliminar até 30 por cento do trabalho humano mundial em um recente estudo de dois anos. Seja qual for a extensão, é responsabilidade dos líderes empresariais garantir que seu desenvolvimento seja pautado, a cada etapa, pela preocupação com seus efeitos sobre os seres humanos. Antes de abraçá-lo sem pensar como se fosse uma “bala de prata“, os iniciadores da mudança precisam ter certeza de que estão resolvendo os problemas certos onde as máquinas podem trazer valor real, e fazendo isso de uma forma que eleve as capacidades humanas em vez de deslocá-las. Em vez de olhar para a IA como uma parte isolada da organização cuja função central é otimizar o processo em vigor, precisamos abordá-la como a nova base de um conjunto interconectado de elementos que precisam ser equilibrados de forma coerente para realmente agregar valor significativo.

Esse pensamento de longo prazo e mentalidade sistêmica não são apenas bons em uma época em que agilidade e velocidade são os fundamentos dos negócios modernos, eles são fatores de sucesso. De fato, outro estudo recente da McKinsey relatou a falta de estratégia, antes da falta de recursos, como o maior desafio para a adoção de IA.

“Prefiro ter perguntas que não podem ser respondidas do que respostas que não podem ser questionadas”, disse o físico e ganhador do prêmio Nobel Richard Feynman.

Um processo de estratégia sempre começa com o questionamento: 1) para nos ajudar a ganhar perspectiva, 2) para superar potenciais vieses cognitivos, 3) para ter certeza de não pular para a solução antes de realmente entender o problema. Algumas questões:

  • Como a IA pode ajudá-lo com o problema que você está tentando resolver?
  • Quais são os limites do que podemos fazer com IA?
  • Quais tarefas os humanos fazem melhor em comparação com as máquinas?

Nesta época de pressa e mudanças rápidas, nunca foi tão importante fazer uma pausa. Considerando o que os efeitos da introdução da IA ​​aos humanos fariam, é um bom lugar para começar a ajudar a definir uma visão abrangente e os primeiros passos para a implementação.

Por que esse canvas?

Identificar como usar IA para provocar mudanças na sua organização ou a experiência do consumidor, é um desafio complexo para quem está começando neste campo sem ferramentas ou roteiro estabelecido. As oportunidades de aplicabilidade são amplas e priorizar onde agir primeiro pode parecer opressor sem um ponto de partida claro.

Quer sejam funcionários, clientes ou partes interessadas externas, a intenção desta ferramenta é convidar os envolvidos a refletir sobre a transformação da IA ​​do ponto de vista das pessoas que serão afetadas primeiro. O Canvas IA deve ser usado como uma bússola e guia nesta jornada, revelando os efeitos em cascata da transformação no contexto mais amplo da organização, provocando conversas sobre as implicações de projetar um sistema de IA autopreservável, resiliente e bem equilibrado.

A IA está trazendo mudanças estruturais na forma como as empresas operam, que vai muito além das considerações tecnológicas. O desenvolvimento de uma mentalidade de design com este canvas deve ajudar a prever como a digitalização movida a IA impactará as partes de construção da organização. Esperançosamente, este canvas também facilitará a abordagem da IA ​​como um campo interdisciplinar, criando uma linguagem comum e servindo como um ponto de partida para a discussão que vai além das disciplinas de ciência da computação e engenharia.

Com os desafios culturais e comportamentais no topo da lista das barreiras mais significativas para a eficácia digital, inclusão, transparência e abertura são requisitos indispensáveis ​​ao projetar novos modelos digitais. As empresas têm a responsabilidade de educar e envolver seus funcionários para evitar qualquer forma de ignorância que possa aumentar a incerteza ou mal-entendido sobre o valor da IA, o que se espera que esta ferramenta facilite.

“Design é muito mais do que simplesmente montar, encomendar ou mesmo editar; é agregar valor e significado, iluminar, simplificar, esclarecer, modificar, dignificar, dramatizar, persuadir e talvez até divertir” – Paul Rand

Como usar o Canvas IA

Este canvas é composto por 10 blocos de construção. Começa-se definindo quem será o público para o qual está tentando resolver um problema (“Projetado para”). Pode ser o cliente ou um departamento específico da organização. Depois de escolher as pessoas trabalha-se no canvas, da parte superior direita para a esquerda, terminando com as três caixas na parte inferior.

1. Tarefas a serem realizadas

Da mesma forma que a teoria Jobs-To-Be-Done de Clayton Christensen, que inspirou esta ferramenta, um dos objetivos é garantir uma compreensão profunda do problema que se propõe resolver, mesmo antes de considerar a IA. Nesta primeira seção, a intenção é identificar o problema que deseja abordar para o seu público-alvo.

Pergunta:

  • O que você está tentando realizar?

2. Promessa da IA

Nesta seção, lista-se os benefícios de usar IA em sua organização para a tarefa que você está tentando realizar. É um processo que será simplificado? Os dados inativos serão limpos e aproveitados? Ou uma etapa específica da jornada do cliente será aprimorada? Considera-se os ganhos de introduzir a automação para o público para o qual se está projetando.

Para começar o pensamento:

  • Como a IA pode ajudá-lo com o problema que você está tentando resolver?
  • Quais benefícios o uso de IA pode trazer para sua organização?
  • Como o uso de IA pode ajudá-lo a atingir seu objetivo ou completar sua tarefa?

3. Benefícios para humanos

Com base no que você escreveu na seção anterior, agora liste as dores que serão aliviadas para os agentes humanos graças à introdução da IA. Sejam funcionários ou clientes, considere os pontos de dor que irão embora ou serão aliviados para permitir que sejam “mais humanos”.

Para começar o pensamento:

  • Como os agentes humanos que fazem parte do seu processo podem se beneficiar do uso de IA?
  • O que a IA está liberando nas capacidades de seus agentes humanos?
  • Quais tarefas repetitivas que seus agentes humanos estão executando podem ser eliminadas?

4. Atividades de máquina

Na mesma linha da seção anterior, lista-se as atividades exclusivas da máquina que tirarão o máximo proveito da introdução de algoritmos para resolver seus problemas. São atividades perigosas demais para serem realizadas por humanos? É detectar padrões ocultos em conjuntos de dados complexos que estão fora do alcance das capacidades analíticas humanas? Ou está trazendo velocidade e precisão para realizar uma atividade repetitiva em escala?

Para começar o pensamento:

  • Quais tarefas em seu processo são mais adequadas para máquinas em vez de humanos?
  • Como você pode fazer o melhor uso da precisão e exatidão da máquina?
  • Quais limitações das habilidades humanas podem ser tomadas por máquinas em seu processo?

5. Atividades humanas

Agora, liste as atividades humanas exclusivas que os funcionários continuarão fazendo. Considere as tarefas que são mais adequadas para humanos em vez de máquinas, exigindo julgamento, criatividade ou experiência. Se os humanos desaparecerem totalmente do processo por causa do uso da automação, considerar atividades como interrogar a saída da máquina ou supervisionar o desempenho do algoritmo. Sempre há espaço para a humanidade.

Para começar o pensamento:

  • Qual tecnologia de IA permite que seus agentes humanos se concentrem?
  • Como você pode fazer o melhor uso do julgamento, flexibilidade e criatividade dos agentes humanos?
  • Quais atividades em que a IA não pode ser usada devem ser superadas por seus agentes humanos?

“Seu trabalho em um mundo de máquinas inteligentes é garantir que eles façam o que você deseja, tanto na entrada (estabelecendo as metas) quanto na saída (verificando se você obteve o que pediu).” – Pedro Domingos

6. Colaboração

Nesta seção, queremos examinar as atividades híbridas em que humanos e máquinas trabalharão juntos para resolver seu problema. Considera-se as oportunidades em que os humanos ajudam as máquinas e as máquinas ajudam os humanos. Eles trabalham lado a lado e interagem, em última análise, a nova tecnologia aumenta a produtividade dos funcionários.

Para começar o pensamento:

  • Qual é o papel de seus agentes humanos em supervisionar o desempenho da máquina e refinar o modelo?
  • Como você pode usar as informações de seus agentes humanos para melhorar a eficácia de sua máquina?
  • Qual é a relação entre seus agentes humanos e sua máquina?

7. Reforço humano

Em última análise, não se quer que a máquina execute tarefas desconectada do resto da sua organização. Os benefícios devem ser transversais e permitir ampliar as capacidades dos agentes humanos para desencadear novos níveis de produtividade ao mesmo tempo. Procura-se oportunidades de aproveitar todo o potencial de uma organização homem-máquina, onde o pessoal é capaz de aumentar as capacidades (ou “humanidade”) aprendendo com a produção da máquina.

Para começar o pensamento:

  • Como a IA pode influenciar o trabalho de seus agentes humanos?
  • Como a IA pode aprimorar seus agentes humanos, adicionando às suas capacidades e melhorando seu processo de tomada de decisão?
  • Que ciclo de feedback você vai construir entre a máquina e seus agentes humanos para aumentar sua inteligência e habilidades?

8. Pensamento crítico e preconceitos (vieses cognitivos)

O pensamento crítico é uma das muitas habilidades cognitivas humanas que nunca serão dominadas pelas máquinas e que nos torna verdadeiramente únicos. Nesta seção, deve-se considerar as medidas que implementará para lidar com os potenciais pontos cegos em seu modelo de IA. Identifique onde o pessoal precisa continuar desempenhando um papel influente, porque isso não pode ser totalmente entregue às máquinas. Precisa-se ter certeza de que está realmente sintonizado com o funcionamento de sua IA para evitar o problema da “caixa preta”.

Para começar o pensamento:

  • Quais são os limites do que você pode fazer com IA em seu processo?
  • Quais decisões importantes ou complexas não podem ser assumidas por máquinas em seu processo?
  • Como você pode aplicar o pensamento crítico ao desempenho de sua máquina e superar seus potenciais preconceitos?

9. Considerações e implicações

A IA é uma oportunidade promissora, mas também apresenta riscos se cair em mãos erradas. Como nossas vidas se tornarão ainda mais dependentes da IA ​​em rede em sistemas digitais complexos, é importante prestar atenção às possíveis preocupações éticas, morais e sociais que podem surgir. Nesta seção, lista-se as considerações que precisam ser abordadas para garantir que você projete uma IA responsável que corresponda aos seus valores.

Para começar o pensamento:

  • Como você pode garantir que sua IA seja desenvolvida de maneira responsável, segura e confiável?
  • Como você pode abordar as questões sociais que a maneira como você está usando IA trazem?
  • Quais normas morais, éticas ou filosóficas devem ser levadas em consideração?

10. Gestão de mudanças

Conforme discutido anteriormente, implementar IA em uma organização pode provocar mudanças profundas e não pode acontecer sem um plano de ação claro. Para construir confiança e facilitar a aceitação da nova tecnologia, é fundamental reservar um tempo para considerar como os processos serão reinventados, como será comunicado a proposta de valor do uso de máquinas – para os funcionários ou clientes – e desenvolver os talentos das equipes. Liste as medidas que serão implementadas para dar o passo em direção ao futuro da organização com tecnologia de IA.

Para começar o pensamento:

  • Como você gerenciará as ansiedades de seus funcionários que podem estar preocupados com a interrupção de suas funções?
  • Como você treinará novamente sua força de trabalho para garantir uma transição tranquila de sua empresa para a era da inteligência artificial?
  • Como você comunicará aos clientes a diferença entre suas experiências humanas e mecânicas?

Conclusão

Transformar organizações usando novas tecnologias é uma tarefa desafiadora, especialmente quando planos claros ainda não existem. Este canvas não fornecerá todas as respostas, mas espera-se que possa desempenhar o papel de um ponto de partida em sua jornada. Como humanos, é nosso dever projetar sistemas que celebrem e elevem nossas qualidades.

Criar a legitimidade da IA ​​exige que desaceleremos e nos envolvamos em uma discussão aberta sobre suas implicações. As apostas são muito altas para abraçar a retórica “mova-se rápido, quebre as coisas“. Em última análise, incluir seu pessoal e obter seus feedbacks sobre sua visão ajudará a mudar as percepções negativas da IA ​​alimentada pela cultura pop, mas também ajudará você a explicar os resultados potenciais de adotar a nova tecnologia. É hora de mudar o tópico do qual os trabalhos serão eliminados para como a IA deve ser implementada para aprimorar as capacidades humanas. Parar de pensar em robôs como substitutos humanos, mas começar a pensar neles como parceiros com um conjunto de habilidades diferentes.

Nesses empreendimentos, o design centrado no ser humano – e sua promessa de construir novas soluções feitas sob medida para atender às necessidades das pessoas para as quais está sendo criado – é uma ferramenta essencial para os criadores de mudanças que desejam criar bases saudáveis ​​para um futuro viável onde os humanos são realmente apreciados, e não escravos das máquinas.

“Pensamos muito e sentimos muito pouco. Mais do que máquinas, precisamos de humanidade. Mais do que inteligência, precisamos de bondade e gentileza. Sem essas qualidades, a vida será violenta e tudo estará perdido.” ―Charlie Chaplin

Clique aqui em Human-Centered AI Canvas para baixar uma versão em PDF do canvas.

Referências

Observação: Este artigo trata-se de uma versão traduzida e adaptada do artigo original: “Introducing the Human-Centered AI Canvas“, por Albéric Maillet.

Artigos Relacionados