-
Apesar do enorme
potencial da IA generativa,
-
é extremamente importante
conhecermos
-
as suas limitações e desafios.
-
Toda IA tem uma margem
de erro, tem limitações,
-
tem custo computacional
envolvido,
-
e compreender bem essas limitações
é de extrema importância
-
para construirmos sistemas
robustos e confiáveis
-
que poderão ser usados em larga
escala por pessoas ou empresas.
-
Um dos principais desafios
é quanto ao custo.
-
Embora para nós, usuários,
-
pareça que o custo ainda
é relativamente baixo
-
para se usar uma IA
generativa hoje,
-
quando você coloca isso em larga
escala, a gente pode perceber
-
que esse custo vai aumentar
exponencialmente.
-
E esse custo está
muito atrelado
-
à quantidade de poder
computacional necessária
-
para rodar modelos do tipo.
-
Então, esse gráfico
mostra a evolução
-
do consumo de energia utilizado
para se rodar uma IA generativa,
-
começando desde modelos mais
simples até modelos mais complexos,
-
com base na quantidade
de parâmetros desses modelos.
-
O que seria a quantidade
de parâmetros?
-
A quantidade de parâmetros
seria a quantidade de pesos
-
de uma rede neural,
por exemplo.
-
Então, quanto mais eu aumento
a quantidade de parâmetros,
-
eu aumento exponencialmente
a quantidade de energia necessária
-
para colocar um modelo
desse em produção.
-
Atualmente, já estamos
falando de modelos
-
na casa de trilhões
de parâmetros,
-
e esse gráfico
continua a crescer
-
com base no consumo
de energia também.
-
Então, um grande desafio é
como a gente pode escalar
-
a IA generativa de uma forma
responsável e sustentável,
-
tanto pensando em custo, mas
também pensando em meio ambiente
-
e diversas outras questões que
estão envolvidas nesse processo.
-
Um outro fator muito importante é
com relação à assertividade das IAs.
-
Embora pareça que, quando
a gente utiliza o ChatGPT,
-
parece que ele pode
responder sobre tudo,
-
mas ele também tem uma certa
margem de assertividade e de erros.
-
Porém, tem um fator
que dificulta um pouco mais
-
identificar esses erros,
que é o fato de que,
-
como ele é um modelo
de geração de respostas,
-
mesmo que ele gere uma resposta
errada, ele vai gerar uma resposta,
-
e se a gente não tiver conhecimento
ou domínio sobre o assunto,
-
muitas vezes, a gente pode assumir
essa resposta errada como verdade.
-
Então, um fator
muito importante
-
para quando começamos
a aplicar esse tipo de sistema,
-
sistemas que utilizam
IA generativa,
-
é pensar em como eu posso
eliminar ou, pelo menos, mitigar
-
o risco de se ter
respostas erradas.
-
No mundo de IA generativa,
-
a gente chama essas respostas
erradas de "alucinações".
-
Como eu posso criar sistemas
cada vez mais robustos
-
com relação a alucinações?
-
Com todas essas possibilidades
de aplicações,
-
é de extrema importância conhecermos
essas limitações e desafios
-
para que possamos mitigá-las
-
e possamos extrair o máximo
do potencial da IA generativa
-
em aplicações reais,
que realmente geram valor
-
e que realmente são seguras,
confiáveis e sustentáveis.
