-
Apesar do enorme
potencial da IA generativa,
-
é extremamente importante
conhecermos
-
as suas limitações e desafios.
-
Toda IA tem uma margem
de erro, tem limitações,
-
tem custo computacional
envolvido,
-
e compreender bem essas limitações
é de extrema importância
-
para construirmos sistemas
robustos e confiáveis
-
que poderão ser usados em larga
escala por pessoas ou empresas.
-
Um dos principais desafios
é quanto ao custo.
-
Embora para nós, usuários,
-
pareça que o custo ainda
é relativamente baixo
-
para se usar uma IA
generativa hoje,
-
quando você coloca isso em larga
escala, a gente pode perceber
-
que esse custo vai aumentar
exponencialmente.
-
E esse custo está
muito atrelado
-
à quantidade de poder
computacional necessária
-
para rodar modelos do tipo.
-
Então, esse gráfico
mostra a evolução
-
do consumo de energia utilizado
para se rodar uma IA generativa,
-
começando desde modelos mais
simples até modelos mais complexos,
-
com base na quantidade
de parâmetros desses modelos.
-
O que seria a quantidade de parâmetros?
-
A quantidade de parâmetros seria a quantidade de pesos de uma rede
-
neural, por exemplo.
-
Então, quanto mais eu aumento a quantidade de parâmetros, eu aumento
-
exponencialmente a quantidade de energia necessária para colocar um
-
modelo desse em produção.
-
Atualmente, já estamos falando de modelos na casa de trilhões de
-
parâmetros e esse gráfico continua a crescer com base no consumo de
-
energia também.
-
Então, um grande desafio é como a gente pode escalar a IA generativa
-
de uma forma responsável e sustentável, tanto pensando em custo, mas
-
também pensando em meio ambiente e diversas outras questões que estão
-
envolvidas nesse processo.
-
Um outro fator muito importante é com relação à assertividade das
-
IAs.
-
Embora pareça que, quando a gente utiliza o Shared GPT, parece que
-
ele pode responder sobre tudo, mas ele também tem uma certa margem de
-
assertividade e de erros, porém tem uma dificuldade, um fator que
-
dificulta um pouco mais de identificar esses erros, que é o fato de
-
que, como ele é um modelo de geração de respostas, mesmo que ele gere
-
uma resposta errada, ele vai gerar uma resposta.
-
E se a gente não tiver conhecimento ou domínio sobre o assunto,
-
muitas vezes a gente pode assumir essa resposta errada como verdade.
-
Então, um fator muito importante para quando começamos a aplicar esse
-
tipo de sistema, sistemas que utilizam IA generativa, é pensar em
-
como eu posso eliminar ou, pelo menos, mitigar o risco de se ter
-
respostas erradas.
-
No mundo de IA generativa, a gente chama essas respostas erradas de
-
alucinações.
-
Como que eu posso criar sistemas cada vez mais robustos com relação a
-
alucinações?
-
Com todas essas possibilidades de aplicações, é de extrema
-
importância conhecermos essas limitações e desafios para que possamos
-
mitigá-la e possamos extrair o máximo do potencial da IA generativa
-
em aplicações reais, que realmente geram valor e que realmente são
-
seguras, confiáveis e sustentáveis.
