-
Apesar do enorme potencial da IA generativa, é extremamente
-
importante conhecermos as suas limitações e desafios.
-
Toda IA tem uma margem de erro, tem limitações, tem custo
-
computacional envolvido e compreender bem essas limitações é de
-
extrema importância para construirmos sistemas robustos e confiáveis
-
que poderão ser usados em larga escala por pessoas ou empresas.
-
Um dos principais desafios é quanto ao custo.
-
Embora para nós, usuários, pareça que o custo ainda é relativamente
-
baixo para se usar uma IA generativa hoje, quando você coloca isso em
-
larga escala, a gente pode perceber que esse custo vai aumentar
-
exponencialmente e esse custo está muito atrelado à quantidade de
-
poder computacional necessária para rodar modelos do tipo.
-
Então, nesse gráfico, ele mostra a evolução do consumo de energia
-
utilizado para se rodar uma IA generativa, começando desde modelos
-
mais simples até modelos mais complexos, com base na quantidade de
-
parâmetros desses modelos.
-
O que seria a quantidade de parâmetros?
-
A quantidade de parâmetros seria a quantidade de pesos de uma rede
-
neural, por exemplo.
-
Então, quanto mais eu aumento a quantidade de parâmetros, eu aumento
-
exponencialmente a quantidade de energia necessária para colocar um
-
modelo desse em produção.
-
Atualmente, já estamos falando de modelos na casa de trilhões de
-
parâmetros e esse gráfico continua a crescer com base no consumo de
-
energia também.
-
Então, um grande desafio é como a gente pode escalar a IA generativa
-
de uma forma responsável e sustentável, tanto pensando em custo, mas
-
também pensando em meio ambiente e diversas outras questões que estão
-
envolvidas nesse processo.
-
Um outro fator muito importante é com relação à assertividade das
-
IAs.
-
Embora pareça que, quando a gente utiliza o Shared GPT, parece que
-
ele pode responder sobre tudo, mas ele também tem uma certa margem de
-
assertividade e de erros, porém tem uma dificuldade, um fator que
-
dificulta um pouco mais de identificar esses erros, que é o fato de
-
que, como ele é um modelo de geração de respostas, mesmo que ele gere
-
uma resposta errada, ele vai gerar uma resposta.
-
E se a gente não tiver conhecimento ou domínio sobre o assunto,
-
muitas vezes a gente pode assumir essa resposta errada como verdade.
-
Então, um fator muito importante para quando começamos a aplicar esse
-
tipo de sistema, sistemas que utilizam IA generativa, é pensar em
-
como eu posso eliminar ou, pelo menos, mitigar o risco de se ter
-
respostas erradas.
-
No mundo de IA generativa, a gente chama essas respostas erradas de
-
alucinações.
-
Como que eu posso criar sistemas cada vez mais robustos com relação a
-
alucinações?
-
Com todas essas possibilidades de aplicações, é de extrema
-
importância conhecermos essas limitações e desafios para que possamos
-
mitigá-la e possamos extrair o máximo do potencial da IA generativa
-
em aplicações reais, que realmente geram valor e que realmente são
-
seguras, confiáveis e sustentáveis.
