Como as pessoas e a inteligência artificial podem trabalhar juntas para criar melhores negócios

Eis um paradoxo: quando empresas tentam otimizar seus negócios usando a inteligência artificial para tomar decisões críticas, elas podem inadvertidamente se tornar menos eficientes. O tecnólogo de negócios Sylvain Duranton defende uma abordagem "Pessoas mais IA" - usando sistemas de IA junto com pessoas, e não no lugar delas - e compartilha a fórmula específica que as empresas podem adotar para empregar a IA com sucesso, mantendo as pessoas nesse processo.

Permitam-me compartilhar um paradoxo.

Nos últimos dez anos,

muitas empresas vêm tentando
se tornar menos burocráticas,

ter menos procedimentos
e regras principais,

mais autonomia para que
suas equipes locais sejam mais ágeis.

Agora estão pressionando
a inteligência artificial, IA,

sem saber que essa tecnologia legal

pode torná-las mais
burocráticas do que nunca.

Por quê?

Porque a IA funciona como as burocracias.

A essência da burocracia

é favorecer regras e procedimentos
mais que o julgamento humano.

A IA decide apenas com base em regras,

muitas delas deduzidas
a partir de dados anteriores,

mas apenas em regras.

Se o julgamento humano
não for mantido nesse processo,

a IA trará uma forma aterrorizante
de nova burocracia,

que chamo de "algocracia",

na qual a IA tomará decisões
cada vez mais críticas segundo as regras

fora de qualquer controle humano.

Existe um risco real?

Sim.

Lidero uma equipe
de 800 especialistas em IA.

Implementamos mais de 100
soluções de IA personalizadas

para grandes empresas em todo o mundo.

Vejo muitos executivos de empresas
se comportando como burocratas do passado.

Eles querem tirar pessoas
dispendiosas e antiquadas do processo

e confiar apenas na IA
para tomar decisões.

Chamo isso de "mentalidade sem pessoas".

Por que é tão tentador?

Porque o outro caminho,
"Pessoas mais IA", é longo,

dispendioso e difícil.

Equipes de negócios, de tecnologia
e de ciência de dados

precisam repetir um processo por meses

para criar exatamente um modo como pessoas
e IA possam trabalhar melhor juntas.

Longo, dispendioso e difícil.

Mas a recompensa é enorme.

Uma pesquisa recente do BCG e do MIT

mostra que 18% das empresas do mundo

são pioneiras em IA,

ganhando dinheiro com ela.

Essas empresas concentram
80% de suas iniciativas de IA

em eficácia e crescimento,

tomando melhores decisões

sem substituir pessoas por IA
para economizar custos.

Por que é importante
manter as pessoas nesse processo?

Simplesmente porque, sozinha,
a IA pode fazer coisas muito idiotas.

Às vezes, sem consequências,
como nesta mensagem:

"Prezada Amazon,

comprei um assento sanitário,
por necessidade, não por vontade.

Não os coleciono, nem sou viciado
em assentos sanitários.

Não importa quantos e-mails tentadores
você me envie, não vou pensar:

'Ah, tudo bem, vou me presentear
com mais um assento'".

(Risos)

Às vezes, com mais consequências,
como nesta outra mensagem:

"Passei pela mesma situação
com a urna para cinzas de minha mãe".

(Risos)

"Por meses após a morte dela,

recebi mensagens da Amazon
dizendo: 'Se você gostou...'"

(Risos)

Às vezes, com consequências piores.

Vamos considerar que a IA rejeite
a inscrição de um aluno para a faculdade.

Por quê?

Porque ela "aprendeu",
por dados anteriores,

características de alunos
que serão aprovados e reprovados.

Alguns são óbvios,
como notas do vestibular.

Mas se, no passado, todos os alunos
de um determinado local foram reprovados,

é muito provável
que a IA torne isso uma regra

e rejeite todos os alunos desse local,

sem dar a ninguém a chance de provar
que a regra está errada.

Ninguém pode verificar todas as regras,

porque a IA avançada
está aprendendo constantemente.

Se as pessoas forem deixadas de fora,

vem o pesadelo "algocrático".

Quem é responsável por rejeitar o aluno?

Ninguém, a IA rejeitou.

É justo? Sim.

O mesmo conjunto de regras objetivas
foi aplicado a todos.

Conseguiríamos reconsiderar
esse garoto genial do local errado?

Não, os algoritmos não mudam de ideia.

Temos uma escolha aqui:

continuar com a algocracia

ou decidir por "Pessoas mais IA".

Para isso,

precisamos parar de pensar
primeiro na tecnologia

e começar a aplicar a fórmula secreta.

Para implantar "Pessoas mais IA",

10% do esforço
é para codificar algoritmos;

20% para criar tecnologia
em torno dos algoritmos,

coletar dados, criar interface do usuário,
integrar-se a sistemas legados;

mas 70%, a maior parte do esforço,

consiste em combinar IA
com pessoas e processos

para maximizar resultados reais.

A IA fracassa ao reduzir os 70%.

O preço disso pode ser pequeno,

desperdiçando muitos milhões
de dólares em tecnologia inútil.

Alguém se importa?

Ou tragédias reais:

346 vítimas

dos acidentes recentes
de 2 aeronaves B-737,

em que os pilotos não conseguiram
interagir adequadamente

com um sistema de comando computadorizado.

Para 70% de sucesso,

o primeiro passo é garantir
que os algoritmos sejam codificados

por cientistas de dados
e especialistas no assunto juntos.

Considerem, por exemplo,
a assistência médica.

Uma de nossas equipes
trabalhou em um novo medicamento

que apresentava um pequeno problema.

Ao tomar a primeira dose,

alguns pacientes, muito poucos,
têm ataques cardíacos.

Assim, todos os pacientes,
quando tomam a primeira dose,

precisam passar um dia no hospital,

para monitoramento, apenas por precaução.

Nosso objetivo era identificar pacientes
com risco zero de ataques cardíacos,

que não precisariam
passar o dia no hospital.

Utilizamos a IA para analisar
dados de ensaios clínicos,

para correlacionar eletrocardiograma,
composição sanguínea, biomarcadores,

com o risco de ataque cardíaco.

Em um mês,

nosso modelo conseguiu sinalizar
62% de pacientes com risco zero.

Eles não precisariam
passar o dia no hospital.

Vocês ficariam à vontade em casa
para sua primeira dose

se o algoritmo dissesse isso?

(Risos)

Os médicos não ficaram.

E se tivéssemos falsos negativos,

ou seja, pessoas que a IA
permite ficar em casa e que morrem?

(Risos)

Nossos 70% começavam por aí.

Trabalhamos com uma equipe de médicos

para verificar a lógica médica
de cada variável de nosso modelo.

Por exemplo, usamos a concentração
de uma enzima hepática

como um indicador,

para o qual a lógica médica não era óbvia.

O sinal estatístico era bastante forte.

Mas e se fosse um viés em nossa amostra?

Esse indicador foi retirado do modelo.

Também retiramos indicadores
para os quais os especialistas disseram

que não podem ser rigorosamente medidos
por médicos na vida real.

Após quatro meses,

tínhamos um modelo e um protocolo médico.

Ambos foram aprovados

por autoridades médicas dos EUA
na primavera passada,

resultando em muito menos estresse
para metade dos pacientes,

melhor qualidade de vida

e um aumento esperado nas vendas

acima de 100 milhões
para esse medicamento.

Setenta por cento combinando IA
com equipe e processos

também significa construir
interfaces poderosas

para pessoas e IA resolverem juntas
os problemas mais difíceis.

Uma vez, fomos desafiados
por uma loja de roupas.

"Temos os melhores compradores do mundo.

Você poderia criar um mecanismo de IA
que os superasse em prever vendas?

Em informar quantas camisas masculinas GG
verde-claras de alta qualidade

precisamos comprar para o ano seguinte?

Em prever melhor o que venderá ou não

do que nossos estilistas?"

Nossa equipe treinou um modelo
em poucas semanas,

com dados de vendas anteriores,

e a competição foi organizada
com compradores humanos.

O resultado?

A IA vence, reduzindo
erros de previsão em 25%.

Campeões sem pessoas poderiam ter
tentado implementar esse modelo inicial

e criar uma briga com todos
os compradores humanos.

Divirtam-se.

Mas sabíamos

da percepção de compradores humanos
sobre tendências da moda,

que não poderia ser encontrada
em dados anteriores.

Nossos 70% começavam por aí.

Fizemos um segundo teste,

em que compradores humanos
reviam quantidades,

sugeridas pela IA,

e poderiam corrigi-las se necessário.

O resultado?

Pessoas usando IA...

perde.

Setenta e cinco por cento
das correções feitas por uma pessoa

reduziram a precisão.

Era hora de se livrar
de compradores humanos?

Não.

Estava na hora de recriar um modelo

em que as pessoas não tentassem
adivinhar quando a IA estava errada,

mas em que a IA recebesse
informações reais de compradores humanos.

Reconstruímos totalmente o modelo

e nos afastamos
de nossa interface inicial,

que era mais ou menos:

"Ei, pessoas! É isso que prevejo,

corrijam o que quiserem",

e passamos para uma interface
muito mais rica, mais como:

"Ei, pessoas!

Não conheço as tendências do próximo ano.

Poderiam compartilhar comigo
suas apostas mais criativas?"

"Ei, pessoas!

Poderiam me ajudar a quantificar
esses poucos grandes itens?

Não consegui encontrar um bom
comparativo no passado para eles."

O resultado?

"Pessoas mais IA" vence,

reduzindo erros de previsão em 50%.

Levou um ano para finalizar a ferramenta.

Longo, dispendioso e difícil.

Mas os lucros e os benefícios

excederam 100 milhões
de economia por ano para essa loja.

Setenta por cento
em assuntos muito confidenciais

também significam que as pessoas
precisam decidir o que é certo ou errado

e definir regras para o que a IA
pode fazer ou não,

como estabelecer limites de preços
para impedir mecanismos de precificação

de cobrar preços absurdamente altos
para clientes sem instrução

que os aceitariam.

Somente as pessoas
sabem definir esses limites.

A IA não consegue encontrá-los
em dados anteriores.

Algumas situações se encontram
na região intermediária.

Trabalhamos com um plano de saúde

que desenvolveu um mecanismo de IA
para identificar, entre seus clientes,

pessoas que estão prestes
a serem internadas

para lhes vender serviços diferenciados.

O problema é que prováveis clientes
foram contatados pela equipe comercial

embora ainda não soubessem

que seriam internados em breve.

Você é o CEO dessa empresa.

Você interromperia esse programa?

Não é uma pergunta fácil.

Para resolver essa questão,
algumas empresas criam equipes,

definem regras e padrões éticos

para ajudar equipes de tecnologia
e negócios a estabelecerem limites

entre personalização e manipulação,

personalização de ofertas e discriminação,

segmentação e invasão.

Estou convencido
de que, em todas as empresas,

utilizar a IA onde realmente importa
oferece um enorme retorno financeiro.

Líderes de negócios precisam ser ousados

e selecionar alguns assuntos

e, para cada um deles, mobilizar 10, 20,
30 pessoas de suas melhores equipes,

de tecnologia, IA,
ciência de dados e ética,

e passar pelo ciclo completo
de 10, 20, 70%

de "Pessoas mais IA",

se quiserem colocar a IA efetivamente
em suas equipes e processos.

Não há outra maneira.

Cidadãos de economias desenvolvidas
já temem a algocracia.

Sete mil foram entrevistados
em uma pesquisa recente.

Mais de 75% expressaram preocupações reais

sobre o impacto da IA
na força de trabalho, na privacidade

e no risco de uma sociedade desumanizada.

Pressionar a algocracia cria um risco real
de reação grave contra a IA

nas empresas ou na sociedade em geral.

"Pessoas mais IA" é nossa única opção

para trazer os benefícios da IA
para o mundo real.

No final, as organizações vencedoras
investirão em conhecimento humano,

não apenas em IA e dados.

Recrutando, treinando,
recompensando especialistas humanos.

Dizem que os dados são o novo petróleo,

mas, acreditem, o conhecimento
humano fará a diferença,

porque é a única torre disponível

para bombear o petróleo oculto nos dados.

Obrigado.

(Aplausos)