Para melhores decisões: Use Algoritmos

Iniciando com um resumo: O surgimento da tomada de decisão algorítmica é uma coisa boa? Parece haver um quadro crescente de autores, acadêmicos e jornalistas que responderia negativamente. No cerne deste trabalho está a preocupação de que os algoritmos são frequentemente ferramentas opacas, tendenciosas e inexplicáveis ​​utilizadas no interesse do poder institucional. Essas críticas e investigações costumam ser perspicazes e esclarecedoras, e fizeram um bom trabalho em nos desiludir da noção de que algoritmos são puramente objetivos. Mas há um padrão entre esses críticos, que raramente perguntam se os sistemas que analisam funcionariam bem sem algoritmos. E essa é a questão mais relevante para profissionais e formuladores de políticas: como o viés e o desempenho dos algoritmos se comparam aos dos seres humanos? Não é segredo que os algoritmos são tendenciosos. Mas os humanos que eles estão substituindo são significativamente mais tendenciosos. Afinal, de onde vêm os preconceitos institucionais se não dos humanos que tradicionalmente estiveram no comando?

Uma revolução silenciosa está ocorrendo

Em contraste com grande parte da cobertura da imprensa sobre inteligência artificial, essa revolução não é sobre a ascensão de um exército androide consciente. Em vez disso, é caracterizado por um aumento constante na automação de processos de decisão tradicionalmente baseados em humanos em todas as organizações em todo o país. Embora avanços como AlphaGo Zero tornem as manchetes cativantes, é o aprendizado de máquina bastante convencional e as técnicas estatísticas – mínimos quadrados comuns, regressão logística, árvores de decisão – que estão agregando valor real aos resultados financeiros de muitas organizações. As aplicações do mundo real variam de diagnósticos médicos e sentenças judiciais a recrutamento profissional e alocação de recursos em órgãos públicos.

Esta revolução é uma coisa boa? Parece haver um quadro crescente de autores, acadêmicos e jornalistas que responderia negativamente. Os títulos de livros desse gênero incluem “Weapons of Math Destruction“, “Automating Inequality” e “The Black Box Society“. Também houve uma enxurrada de artigos de formato longo, como “Machine Bias“, “Austerity Is an Algorithm” e “Are Algorithms Building the New Infrastructure of Racism?” No cerne deste trabalho está a preocupação de que os algoritmos são frequentemente ferramentas opacas, tendenciosas e inexplicáveis ​​utilizadas no interesse do poder institucional. Então, até que ponto devemos nos preocupar com a ascensão moderna dos algoritmos?

Essas críticas e investigações são frequentemente perspicazes e esclarecedoras, e fizeram um bom trabalho em nos desiludir da noção de que algoritmos são puramente objetivos. Mas há um padrão entre esses críticos, que raramente perguntam se os sistemas que analisam funcionariam bem sem algoritmos. E essa é a questão mais relevante para profissionais e formuladores de políticas: como o viés e o desempenho dos algoritmos se comparam ao status quo? Em vez de simplesmente perguntar se os algoritmos têm falhas, devemos perguntar como essas falhas se comparam às dos seres humanos.

O que a pesquisa diz?

Há um grande número de pesquisas sobre tomada de decisão algorítmica que remonta a várias décadas. E todos os estudos existentes sobre esse tópico têm uma conclusão notavelmente semelhante: os algoritmos são menos tendenciosos e mais precisos do que os humanos que estão substituindo. Abaixo está uma amostra da pesquisa sobre o que acontece quando algoritmos recebem o controle de tarefas tradicionalmente realizadas por humanos:

  • Em 2002, uma equipe de economistas estudou o impacto dos algoritmos de subscrição automatizados no setor de empréstimos hipotecários. Suas principais descobertas foram “que os sistemas [de subscrição automatizada] preveem com mais precisão a inadimplência do que os subscritores manuais” e “que essa maior precisão resulta em taxas de aprovação de mutuários mais altas, especialmente para candidatos mal atendidos”. Em vez de marginalizar os compradores residenciais tradicionalmente mal atendidos, o sistema algorítmico, na verdade, beneficiou mais esse segmento de consumidores.
  • Uma conclusão semelhante foi alcançada por Bo Cowgill, da Columbia Business School, quando estudou o desempenho de um algoritmo de seleção de empregos em uma empresa de software (pesquisa futura). Quando a empresa implementou o algoritmo para decidir quais candidatos deveriam obter entrevistas, o algoritmo na verdade favoreceu os candidatos “não tradicionais” muito mais do que os rastreadores humanos. Em comparação com os humanos, o algoritmo exibiu significativamente menos preconceito contra candidatos que estavam sub-representados na empresa (como aqueles sem referências pessoais ou diplomas de universidades de prestígio).
  • No contexto das audiências de fiança pré-julgamento da cidade de Nova York, uma equipe de proeminentes cientistas da computação e economistas determinou que os algoritmos têm o potencial de alcançar decisões significativamente mais equitativas do que os juízes que atualmente tomam decisões sobre fiança, com “reduções nas taxas de prisão [de ] até 41,9% sem aumento nas taxas de criminalidade.” Eles também descobriram que em seu modelo “todas as categorias de crime, incluindo crimes violentos, mostram reduções [nas taxas de prisão]; e esses ganhos podem ser alcançados ao mesmo tempo em que reduz as disparidades raciais”.
  • A revista New York Times publicou recentemente uma longa história para responder à pergunta: “Um algoritmo pode dizer quando as crianças estão em perigo?” Acontece que a resposta é “sim” e que os algoritmos podem realizar essa tarefa com muito mais precisão do que os humanos. Em vez de exacerbar os preconceitos raciais perniciosos associados a alguns serviços do governo, “a experiência de Allegheny sugere que sua ferramenta de triagem é menos ruim para avaliar preconceitos do que os rastreadores humanos”.
  • Por fim, examinando dados históricos sobre empresas de capital aberto, uma equipe de professores de finanças começou a construir um algoritmo para escolher os melhores membros do conselho para uma determinada empresa. Os pesquisadores não apenas descobriram que as empresas teriam um desempenho melhor com membros do conselho selecionados por algoritmos, mas em comparação com o algoritmo proposto, eles “descobriram que as empresas [sem algoritmos] tendem a escolher conselheiros que têm muito mais probabilidade de serem homens, têm uma grande rede , tem muita experiência em conselhos, atualmente serve em mais conselhos e tem experiência em finanças”.

Em cada um desses estudos de caso, os cientistas de dados fizeram o que parece uma coisa alarmante: eles treinaram seus algoritmos em dados passados ​​que certamente são influenciados por preconceitos históricos. Então, o que está acontecendo aqui? Como é possível que em tantas áreas diferentes – aplicativos de crédito, triagens de empregos, justiça criminal, alocação de recursos públicos e governança corporativa – os algoritmos possam reduzir o preconceito, quando muitos comentaristas nos dizem que os algoritmos deveriam fazer o oposto?

Seres humanos são tomadores de decisão notavelmente ruins

Um segredo não tão oculto por trás dos algoritmos mencionados acima é que eles realmente são tendenciosos. Mas os humanos que eles estão substituindo são significativamente mais tendenciosos. Afinal, de onde vêm os preconceitos institucionais se não dos humanos que tradicionalmente estiveram no comando?
Mas os humanos não podem ser tão ruins, certo? Sim, podemos ser tendenciosos, mas certamente há alguma medida de desempenho em que somos bons tomadores de decisão. Infelizmente, décadas de pesquisa psicológica em julgamento e tomada de decisão demonstraram repetidamente que os humanos são notavelmente maus julgadores de qualidade em uma ampla gama de contextos. Graças ao trabalho pioneiro de Paul Meehl (e trabalho de acompanhamento de Robyn Dawes), sabemos desde pelo menos os anos 1950 que modelos matemáticos muito simples superam supostos especialistas em prever resultados importantes em ambientes clínicos.

Em todos os exemplos mencionados acima, os humanos que costumavam tomar decisões eram tão ruins que substituí-los por algoritmos aumentava a precisão e reduzia os preconceitos institucionais. Isso é o que os economistas chamam de melhoria de Pareto, em que uma política vence a alternativa em todos os resultados com que nos importamos. Embora muitos críticos gostem de sugerir que as organizações modernas buscam a eficiência operacional e maior produtividade em detrimento da equidade e justiça, todas as evidências disponíveis nesses contextos sugerem que não existe tal compensação: os algoritmos oferecem resultados mais eficientes e mais equitativos. Se algo deveria alarmar você, deveria ser o fato de que tantas decisões importantes estão sendo tomadas por seres humanos que sabemos serem inconsistentes, tendenciosos e extremamente ruins.

Melhorando o Status Quo

É claro que devemos fazer todo o possível para erradicar o preconceito institucional e sua influência perniciosa nos algoritmos de tomada de decisão. As críticas à tomada de decisão algorítmica geraram uma rica nova onda de pesquisas em aprendizado de máquina que leva mais a sério as consequências sociais e políticas dos algoritmos. Existem novas técnicas emergentes em estatística e aprendizado de máquina que são projetadas especificamente para abordar as preocupações em torno da discriminação algorítmica. Há até uma conferência acadêmica todos os anos em que os pesquisadores não apenas discutem os desafios éticos e sociais do aprendizado de máquina, mas também apresentam novos modelos e métodos para garantir que os algoritmos tenham um impacto positivo na sociedade. Este trabalho provavelmente se tornará ainda mais importante à medida que algoritmos menos transparentes, como o aprendizado profundo, se tornarem mais comuns.

Mas mesmo que a tecnologia não consiga resolver totalmente os males sociais do preconceito institucional e da discriminação preconceituosa, as evidências analisadas aqui sugerem que, na prática, ela pode desempenhar um papel pequeno, mas mensurável, na melhoria do status quo. Este não é um argumento para absolutismo algorítmico ou fé cega no poder das estatísticas. Se descobrirmos em alguns casos que os algoritmos têm um grau inaceitavelmente alto de viés em comparação com os processos de tomada de decisão atuais, então não há mal nenhum em seguir as evidências e manter o paradigma existente. Mas o compromisso de seguir as evidências tem um viés e devemos estar dispostos a aceitar que – em alguns casos – os algoritmos farão parte da solução para reduzir os vieses institucionais.

Portanto, da próxima vez que você ler uma manchete sobre os perigos do viés algorítmico, lembre-se de olhar no espelho e lembre-se de que os perigos do viés humano são provavelmente ainda piores.

Para uma visão mais ampla sobre IA, não deixe de ver os artigos relacionados abaixo.

Se gostou, por favor, compartilhe. Abraço, @neigrando

Sobre mim: aqui, Contato: aqui.

Referências

Observação: Este artigo trata-se de uma versão traduzida e adaptada do artigo original:

  • Want Less-Biased Decisions? Use Algorithms, by Alex P. Miller (HBR, July 2018)

Alguns livros interessantes sobre IA:

  • LEE, Kai-Fu. AI Super-Powers: China, Silicon Valley, New World Order.
  • BOSTROM, Nick. Superinteligência: Caminhos, perigos e estratégias para um novo mundo.

Artigos Relacionados

Economia de Tokens e Organizações Descentralizadas Autônomas

Blockchain e contratos inteligentes são tecnologias de governança que têm o potencial de fornecer níveis mais altos de transparência enquanto reduzem a burocracia com código auto-impositivo. Eles podem minimizar os principais dilemas existentes das organizações e os riscos morais subsequentes. Os tokens de redes distribuídas fornecem incentivos para alinhar interesses automaticamente na ausência de terceiros.

As DAOs (Descentralized Autonomous Organizations) enfrentam um antigo problema de governança, ao qual cientistas e economistas políticos se referem como o dilema do agente principal. Isso ocorre quando o agente de uma organização tem o poder de tomar decisões impactando outra pessoa ou entidade na organização. Alguns exemplos podem ser gerentes que agem em nome de acionistas ou políticos que agem em nome de cidadãos. Nessas configurações, o risco moral ocorre quando uma pessoa corre mais riscos do que normal, porque outras arcam com o custo desses riscos. Mais geralmente, ocorre quando o agente age em seu próprio interesse, e não no interesse de quem representa, porque o representado não pode controlar completamente as ações do agente. Esse dilema geralmente aumenta quando há assimetria de informações subjacente em jogo.

Organizações tradicionais VS. DAOs

Nas empresas tradicionais, todos os agentes de uma empresa possuem contratos de trabalho que regulam seu relacionamento com a organização e entre si. Seus direitos e obrigações são regulados por contratos legais e aplicados por um sistema legal que está sujeito às leis que regem o país em que residem. Se algo der errado ou se alguém não cumprir sua parte na barganha, o contrato legal definirá quem pode ser processado e por que, em um tribunal.

As DAOs, por outro lado, envolvem um conjunto de pessoas interagindo entre si de acordo com um protocolo de código aberto autoaplicável. Manter a rede segura e executar outras tarefas de rede é recompensado com os tokens de rede nativos. Blockchains e contratos inteligentes reduzem os custos de transação do gerenciamento com níveis mais altos de transparência, alinhando os interesses de todas as partes interessadas pelas regras de consenso vinculadas ao token nativo. O comportamento individual é incentivado com um token para contribuir coletivamente para um objetivo comum. Os membros de uma DAO não são vinculados por uma entidade legal, nem firmam contratos legais formais. Em vez disso, são orientados por incentivos vinculados aos tokens da rede e regras totalmente transparentes que são escritas na peça de software, que é imposta pelo consenso da máquina. Não há acordos bilaterais. Existe apenas uma lei em vigor – o protocolo ou contrato inteligente – que regula o comportamento de todos os participantes da rede.

Ao contrário das empresas tradicionais, estruturadas de maneira descendente, com muitas camadas de coordenação administrativa e burocrática, as DAOs fornecem um sistema operacional para pessoas e instituições que não se conhecem nem confiam umas nas outras, que podem viver em diferentes áreas geográficas, falam idiomas diferentes e, portanto, estão sujeitos a jurisdições diferentes. Em vez de contratos legais que gerenciam as relações das pessoas, na Rede Bitcoin, todos os acordos são na forma de código aberto que é auto-imposto pelo consenso majoritário de todos os atores da rede. As DAOs não têm uma estrutura hierárquica, exceto o código. Uma vez implantada, essa entidade é independente de seu criador e não pode ser censurada por uma única entidade, mas por uma maioria predefinida dos participantes da organização. As regras da maioria exata são definidas no protocolo de consenso ou no contrato inteligente e variam de caso de uso para caso de uso. Em alguns países, como a Áustria, por exemplo, há tendências na literatura jurídica de ver as DAOs como uma parceria de direito civil.

Uma DAO pode ser formalizada por um contrato inteligente. Os casos de uso variam de simples a complexos. A complexidade depende do número de partes interessadas, bem como do número e da complexidade dos processos dentro dessa organização que serão regidos pelo contrato inteligente. Dependendo do objetivo e das regras de governança da organização, esses casos de uso podem ter uma semelhança com empresas ou estados-nação. Quanto mais regras de governança centralizadas, mais se assemelha a uma empresa tradicional. Em uma configuração mais descentralizada, as regras de governança podem se parecer com estados-nação, direcionando automaticamente o comportamento com incentivos e desincentivos simbólicos. Nesses casos, as regras de governança de tokens incentivam e dirigem uma rede de atores sem intermediários centralizados, substituindo assim a necessidade de organizações de cima para baixo gerenciadas por um grupo de pessoas por um código auto-impositivo. Tais organizações descentralizadas podem usar o sistema legal para alguma proteção da propriedade física, mas esse uso é secundário aos mecanismos de segurança preventivos que os contratos inteligentes oferecem. Uma pilha complexa de tecnologias, orientada por protocolos de consenso, deve ser implementada para criar uma infraestrutura autônoma em funcionamento. Seus tokens de protocolo nativo permitem que surjam tribos distribuídas da Internet.

As DAOs são de código aberto, portanto transparentes e, em teoria, incorruptíveis. Todas as transações da organização são registradas e mantidas em uma blockchain. Os interesses dos membros da organização são – se projetados corretamente – alinhados pelas regras de incentivo vinculadas ao token nativo. As propostas seguem o caminho principal para a tomada de decisões em uma DAO, que são votadas pelo consenso majoritário dos atores envolvidos da rede. Dessa forma, as DAOs podem ser vistas como organismos distribuídos, ou tribos distribuídas da Internet, que vivem na Internet e existem de forma autônoma, mas também dependem fortemente de indivíduos especializados ou organizações menores para executar determinadas tarefas que não podem ser substituídas pela automação. Provavelmente veremos muito mais DAOs, com uma ampla variedade de propósitos, evoluindo sobre a tecnologia que o Bitcoin foi pioneiro. Em combinação com a “Internet das Coisas“, a governança de propriedade inteligente também pode ser integrada diretamente a blockchain, potencialmente permitindo que organizações descentralizadas controlem veículos, cofres e edifícios.

A Rede Bitcoin pode ser considerada a primeira organização verdadeira descentralizada e autônoma, coordenada por um protocolo de consenso que qualquer pessoa é livre para adotar. Ela fornece um sistema operacional para dinheiro sem bancos e gerentes de banco e permanece resistente a ataques e tolerante a falhas desde que o primeiro bloco foi criado em 2009. Nenhuma entidade central controla o Bitcoin, o que significa que enquanto as pessoas continuarem participando da rede, apenas uma falta de energia em todo o mundo poderia desligar o Bitcoin. O protocolo blockchain subjacente permite uma rede de incentivos, alimentada pelas regras de governança vinculadas ao seu token criptográfico. Esses conjuntos de regras de governança de tokens da camada de consenso permitem a coordenação automatizada e transparente de um grupo díspar de pessoas que não se conhecem ou confiam umas nas outras. A Rede Bitcoin mostrou que os tokens podem ser usados ​​como um meio de comportamento de programação, conhecido como direcionador do comportamento econômico dos nós da rede. Esse mecanismo de incentivo provou ser um motivador na execução de serviços para uma rede.

Com o surgimento da Ethereum Network, o conceito de DAOs subiu a pilha de tecnologia do protocolo blockchain para o contrato inteligente. Enquanto antes era necessário uma rede blockchain com um protocolo de consenso resistente a ataques para criar um DAO, contratos inteligentes tornavam a criação de DAOs facilmente programáveis, com apenas algumas linhas de código e sem a necessidade de configurar sua própria infraestrutura blockchain.

Outlook

Argumenta-se que não existe uma organização totalmente descentralizada e autônoma. Dependendo das regras de governança, existem diferentes níveis de descentralização. Embora a rede possa ser geograficamente descentralizada e ter muitos atores independentes, mas iguais, as regras de governança escritas no contrato inteligente ou no protocolo blockchain sempre serão um ponto de centralização e perda de autonomia direta. Os DAOs podem ser arquitetonicamente descentralizados (atores independentes executam Nós diferentes) e são geograficamente descentralizados (sujeitos a diferentes jurisdições), mas eles são logicamente centralizados (o protocolo). A questão de como atualizar o código – quando e se necessário – é muitas vezes delegada a um conjunto de especialistas que entendem os meandros técnico-legais do código e, portanto, representam um ponto de centralização.

Referências

Observação: Este artigo trata-se de uma versão traduzida e adaptada do artigo original:

  • Tokenized Networks: What is a DAO?, by Shermin Voshmgir (autor do livro: Token Economy)

Para ir um pouco mais a fundo, recomento estes dois livros de negócios

O primeiro para que deseja conhecer mais da filosofia e visão do blockchain, sem precisar entrar em detalhes técnicos:

  • Blockchain Revolution: How the Technology behind Bitcoin and other Cryptocurrencies is Changing the World, by Don Tapscott and Alex Tapscott

Este outro livro de negócios, tem um foco maior na Economia de Tokens:

  • Token Economy: How blockchain and Smart Contracts Revolutions the Economy, by Shermin Voshmgir

E este é para quem quer conhecer a parte técnica do blockchain:

  • Mastering Blockchain: Distributed ledger technology, descentralization and smart contracts explained, by Imran Bashir

Outro artigo sobre Processos de Negócios:

Contratos Inteligentes: os capacitadores de Processos de Negócios para BLOCKCHAIN

A tecnologia tem o risco de ser mal interpretada pelo público em geral, pois alguns a apresentam como a solução para todos os problemas. Assim, procurando desmistificar o hype comum em torno do blockchain, podemos simplesmente afirmar que é um banco de dados (similar a um livro-razão) criptográfico ou codificado de transações na forma de blocos organizados em uma cadeia.

Nosso foco neste artigo não é explorar como funciona o blockchain, mas sim nos aprofundar em como ele pode ser adotado no modelo de negócios da empresa para aproveitar os muitos benefícios que esta tecnologia interessante tem a oferecer.

Como uma empresa é uma configuração complexa, ela envolve processos para conectar pessoas e seu uso de informações para vários fins do dia-a-dia. Um processo é um procedimento formal usado para cumprir uma ação ou transação específica. Às vezes, os processos podem precisar apenas de coordenação com pessoas dentro da organização e, em outras ocasiões, esses processos podem exigir colaboração e parceria com outras organizações para vários objetivos de negócios.

Este “Processo de Negócio”, como é comumente denominado em um ambiente organizacional, pode ser um pedido, uma fatura ou um pagamento – todas as transações que envolvem pessoas e dados. E o blockchain pode ajudar as organizações a proteger todas essas transações.

Mas, as transações podem ser protegidas usando um banco de dados? Não, elas não podem!

É preciso haver uma camada de “lógica”, mais precisamente lógica de negócios, para mesclar esses dados com as ações que as pessoas podem realizar ao usá-los. E os contratos inteligentes (smart sontracts) são essa camada de lógica de negócios, que permite que o blockchain dê suporte ao cumprimento de um processo de negócios.

Resumindo, Contratos Inteligentes gerenciam as transações de maneira pré-programada e automatizada.

A lógica comum usada para completar uma transação é ‘Se-isso-então-aquilo’ ou ‘depois-disso-então-aquilo’. Portanto, é uma orquestração lógica entre assuntos (ou coisas) envolvidos na transação.

Você pode definir os termos, os eventos e a assinatura necessária para cumprir o processo. Se o produto não for tangível, você pode escolher Digital Rights Management (DRM) para gerenciar o acesso ou controlar os direitos sobre os ativos digitais no contrato inteligente.

Os Contratos Inteligentes são executados de forma automatizada e não precisam de intervenção humana ou trilhas em papel. Eles são descentralizados e, ao mesmo tempo, protegidos.

Eles podem ser divididos em duas categorias amplas: Contratos jurídicos inteligentes e baseados em códigos.

Os Contratos Inteligentes Baseados em Código, que são baseados em aplicativos, podem ser divididos em três subtipos – DAO (Organizações Autônomas Descentralizadas), DApps (Aplicativos Distribuídos) e contratos combinados de IoT.

Os Smart Legal Contracts combinam um modelo jurídico com uma lógica de negócios e visam digitalizar contratos jurídicos.

As subcategorias Code-Based Smart Contracts – DAO, DApps e IoT – combinados – são para gerenciar processos de negócios dentro ou entre associações.

DAO (Organização Autônoma Descentralizada)

O DAO visa codificar as regras de uma organização em um programa de computador para obter transparência. Uma vez que tal organização é controlada por acionistas e não é influenciada por um governo central, os registros de transações são facilitados usando o sistema Contratos Inteligentes .

DApps (aplicativos distribuídos ou descentralizados)

Esses aplicativos de software são disponíveis em um ambiente P2P e não são hospedados em um servidor central. Eles usam blockchain para armazenar dados e, como tal, o programa é projetado de uma forma que não é controlado por nenhuma entidade única. Os Contratos Inteligentes precisam de uma rede para funcionar e os DApps integrar seu uso de maneira eficiente.

Contratos combinados de IoT

Os Contratos Inteligentes combinados de IoT permitem transações comerciais por meio de produtos habilitados para IoT e são usados ​​para controlar e gerenciar interações entre vários dispositivos, atendendo à necessidade de monetização ou segurança para a Internet das Coisas.

Referências

Observação: Este artigo trata-se de uma versão traduzida e adaptada do artigo original:

  • Smart Contracts: The Business Process Enablers for Blockchain, by Antonio Grasso

Para ir um pouco mais a fundo, recomento estes dois livros de negócios

O primeiro para que deseja conhecer mais da filosofia e visão do blockchain, sem precisar entrar em detalhes técnicos:

  • Blockchain Revolution: How the Technology behind Bitcoin and other Cryptocurrencies is Changing the World, by Don Tapscott and Alex Tapscott

Este outro livro de negócios, tem um foco maior na Economia de Tokens:

  • Token Economy: How blockchain and Smart Contracts Revolutions the Economy, by Shermin Voshmgir

E este é para quem quer conhecer a parte técnica do blockchain:

  • Mastering Blockchain: Distributed ledger technology, descentralization and smart contracts explained, by Imran Bashir

Outro artigo sobre Processos de Negócios: