Loops de Feedback podem fazer LLMs sofrerem um “Colapso de Modelo” semelhante à Doença da Vaca Louca

Um problema curioso surgiu no mundo da inteligência artificial generativa. O problema é tão potente e complexo que pode comprometer o alcance da IA generativa. Antes de aprofundar a compreensão desse problema, vamos dar uma rápida olhada em por que um obstáculo antecipado na curva ascendente da IA é considerado tão significativo.

Como a IA supostamente torna o mundo mais eficiente

Nos últimos anos, o benefícios que a IA generativa ofereceu ao mundo aumentaram significativamente sua adoção. 92% das empresas da Fortune 500 adotaram IA generativa, enquanto 70% da GenZ experimentaram essas ferramentas.

A cobertura da IA generativa é tão ampla que quase 90% dos empregos nos EUA poderiam ser impactados por ela, e 95% das interações com clientes podem envolvê-la até 2025. Enquanto o mercado atual vale quase US$45 bilhões, a IA só tende a crescer e gerar até 97 milhões de empregos no próximo ano.

O potencial da IA tem sido incomparável, para dizer o mínimo. Mais de dois milhões de desenvolvedores de software estão construindo sobre a API da OpenAI, e a maioria desses desenvolvedores são de empresas da Fortune 500 que poderiam ter acesso aos melhores recursos disponíveis para seu trabalho. Ainda assim, eles escolheram desenvolver na API.

Esse sentimento afirmativo em relação ao potencial da IA generativa também se reflete em uma pesquisa realizada pela Deloitte, que afirmou que 94% dos executivos de negócios acreditam que a IA é fundamental para o sucesso futuro.

De todos esses dados e fatos, fica evidente que muitas pessoas ao redor do mundo aguardam a IA generativa para o crescimento futuro. No entanto, surgiu um problema que pode desafiar o potencial de crescimento da IA: Loops de Feedback. Nos segmentos a seguir, exploraremos esse problema em maior detalhe, examinando todas as suas possíveis ramificações e implicações.

O que são Loops de Feedback

Em sua forma mais básica, os Loops de Feedback não são ruins ou nocivos. É o processo de aproveitar a saída de um sistema de IA e as ações correspondentes dos usuários finais para re‑treinar e melhorar os modelos ao longo do tempo.

Devido à sua natureza, são chamados de circuito fechado, e o processo é conhecido como aprendizado de circuito fechado. Aqui, ocorre uma comparação consistente entre a saída gerada pela IA e a decisão final para fornecer feedback ao modelo, permitindo que ele aprenda com seus erros.

No entanto, um problema com esse aprendizado de loop de feedback surge quando dados sintéticos são colocados em ação. Treinar modelos de IA generativa requer enormes quantidades de dados, que são limitados em oferta e escassos a ponto de esses modelos esgotarem totalmente seus recursos de treinamento.

É por isso que as grandes empresas de tecnologia estão ansiosas para aproveitar dados sintéticos para treinar futuras gerações de modelos de IA. No entanto, os dados sintéticos têm sua parcela de benefícios e desvantagens.

Vantagens e Desvantagens dos Dados Sintéticos

Dados sintéticos ou gerados por IA têm muitos benefícios. Por exemplo, são mais baratos que dados do mundo real e — mais importante — o suprimento desses dados é ilimitado.

Como os dados são sintetizados, não provêm de um indivíduo real e apresentam muito poucos riscos de privacidade. Caso contrário, dados reais, especialmente os usados nas áreas de tecnologia médica e saúde, correm risco de violações de privacidade. Além disso, há casos em que o uso de dados sintéticos ajudou a melhorar o desempenho da IA.

No entanto, por outro lado, modelos de IA alimentados com dados sintéticos em excesso podem ficar limitados em suas funcionalidades e potencial, causando impactos negativos nas iterações futuras dos modelos de IA generativa. A antecipação desse risco não é infundada, como demonstra um trabalho recente realizado pelo grupo de Processamento Digital de Sinais da Rice University confirma.

De acordo com Richard Baraniuk, professor C. Sidney Burrus de Engenharia Elétrica e de Computação da Rice:

“Os problemas surgem quando esse treinamento com dados sintéticos é, inevitavelmente, repetido, formando uma espécie de loop de feedback ⎯ o que chamamos de autófago ou ‘loop auto‑consumidor’.”

O Desafio dos Loops de Feedback Induzidos por Dados Sintéticos

Agora, para entender a natureza completa do problema, devemos analisar o caso dos loops de feedback e dados sintéticos juntos. O professor Baraniuk resumiu adequadamente o problema dizendo o seguinte,  “Nosso grupo trabalhou extensivamente nesses loops de feedback, e a má notícia é que mesmo após algumas gerações desse treinamento, os novos modelos podem ficar irremediavelmente corrompidos. Isso tem sido denominado ‘colapso de modelo’ por alguns ⎯ , mais recentemente por colegas da área no contexto de grandes modelos de linguagem (LLMs). Nós, porém, achamos o termo ‘Distúrbio de Autofagia de Modelo’ (MAD) mais adequado, por analogia à doença da vaca louca.”

Para explicar a relevância dessa comparação, a doença da vaca louca é uma enfermidade neurodegenerativa fatal que afeta vacas e tem um equivalente humano causado pelo consumo de carne infectada. Ela é comparada ao desafio do loop de feedback que os modelos de IA generativa enfrentam porque a doença se propaga através da prática de alimentar vacas com os restos processados de seus pares abatidos. O ato de alimentar com dados residuais ou dados que surgem do próprio processo como subproduto é a ‘infecção’ que perpetua os modelos de IA generativa do futuro.

O estudo que investigou essa questão foi intitulado ‘Self-Consuming Generative Models Go MAD.’ O que também é significativo sobre a pesquisa é que é o primeiro trabalho revisado por pares sobre autofagia de IA que trata de modelos visuais de IA populares e bem conhecidos como DALL‑E, Midjourney e Stable Diffusion. Embora a equipe tenha trabalhado com IA Visual, como o professor Baraniuk apontou, “os mesmos problemas de corrupção da vaca louca ocorrem com LLMs”.

Agora que analisamos o problema e os fatores que o impulsionam, devemos examinar seu impacto e as maneiras como pode afetar o desenvolvimento futuro dos modelos de IA generativa.

Falta de Dados Frescos Resultando em IA Não Saudável

O problema central decorrente de um LLM afetado ou infectado é um modelo de IA empobrecido. Com deficiências em dados reais frescos, as saídas tornam‑se distorcidas e carecem de qualidade e diversidade.

Para explicar esse cenário de forma mais compreensível e visual, podemos usar o caso da geração de rostos humanos com IA. Com dados alimentados por loops iterativos progressivos, surge a possibilidade de todos os rostos se tornarem iguais, cada vez mais parecidos com a mesma pessoa.

A intensidade de tais possibilidades danosas é severa, para dizer o mínimo. A intensidade pode ser medida a partir de um comentário de Baraniuk, que diz:

“Algumas ramificações são claras: sem dados reais frescos suficientes, os futuros modelos generativos estão condenados à loucura (MAD).”

Existe alguma cura para essa situação apocalíptica que parece pairar sobre o mundo do desenvolvimento de IA? Por enquanto, os pesquisadores introduziram um parâmetro de viés de amostragem que leva em conta a tendência dos usuários de favorecer a qualidade dos dados em detrimento da diversidade. Essa tendência é chamada de ‘Cherry Picking’. O lado positivo é que ajuda a preservar a qualidade dos dados ao longo de um maior número de iterações do modelo. No entanto, a compensação se manifesta como um declínio maior na diversidade.

Já vimos o tipo de impacto que a IA pode ter em nosso futuro. Com tanto potencial pronto para ser liberado, esse problema pode afetar muitos stakeholders, especialmente empresas novas e inovadoras que têm trabalhado nele.

O Google é uma das empresas pioneiras a impulsionar LLMs para um conjunto amplo e diversificado de stakeholders. E a falta de diversidade nos feeds gerados por IA é algo que o Google terá de enfrentar nos próximos dias. Aqui, analisamos brevemente as capacidades do Google AI no que diz respeito ao fornecimento de LLMs.

#1. Google AI

No campo da IA, duas áreas operacionais que ajudam Google alcança seus objetivos são Google DeepMind e Google Cloud. Para explicar a colaboração de forma mais específica, o Google Cloud traz inovações desenvolvidas e testadas pelo Google DeepMind para sua plataforma de IA pronta para empresas, permitindo que os clientes comecem a usá‑las para construir e oferecer capacidades de IA generativa.

O Google Cloud oferece três serviços de LLM.

• O primeiro é Generative AI no Vertex AI, que permite aos usuários acessar os grandes modelos de IA generativa do Google para testar, ajustar e implantar em suas aplicações alimentadas por IA.
• O segundo é o Vertex AI agent builder, que é destinado a buscas empresariais e aplicações de chatbot. Ele vem com fluxos de trabalho pré‑construídos para tarefas usuais como integração, ingestão de dados, personalização, etc.
• O último é o Contact Center AI, uma solução inteligente de centro de contato que inclui o Dialog Flow, a plataforma de IA conversacional do Google com recursos baseados em intenção e LLM.

No entanto, o Google também enfrentou sua parcela de problemas com o uso adequado da IA. Em maio deste ano, o CEO do Google, Sundar Pichai, deixou claro que a empresa estava errada ao gerar resultados de imagens racialmente tendenciosos em resposta a consultas de usuários.

O Google teve que pausar os recursos de geração de imagens do Gemini após usuários das redes sociais reclamarem que a solução perpetuava imagens erradas, incluindo a representação de pessoas de cor ao retratar nazistas.

Ecoando grande parte da pesquisa que citamos aqui, a empresa reconheceu que o problema surgiu das “limitações nos dados de treinamento usados para desenvolver o Gemini”.

Aprofundando ainda mais onde reside o problema, Sundar Pichai também disse o seguinte:

“Há certos momentos em que você responde [a perguntas como] ‘Qual é a população dos Estados Unidos?’ Sim, é uma pergunta respondível. [Mas] há momentos em que você quer apresentar uma variedade de opiniões disponíveis na web, que é o que a busca faz e faz bem.”

De acordo com Pichai, o trabalho que o Google tem feito ao longo dos anos garante que — do ponto de vista da Busca — a empresa oferece informações confiáveis e de alta qualidade.

Financeiramente, a Alphabet Inc. (GOOG ) (empresa controladora do Google) registrou receitas de US$307,4 bilhões em 2023, um aumento de 9% em relação a US$282,8 bilhões em 2022. O lucro operacional chegou a US$84,3 bilhões, um aumento significativo em relação a US$74,8 bilhões no ano anterior. Apesar das despesas operacionais terem subido para US$223,1 bilhões, o lucro líquido foi de US$73,8 bilhões, comparado a US$60 bilhões em 2022.

#2. Cohere

Outra entidade que tem realizado um excelente trabalho nesta área é a Cohere, com sede em Toronto. Uma de suas iniciativas que merece menção especial é o ‘Cohere for AI‘, um laboratório de pesquisa sem fins lucrativos que busca resolver problemas complexos de aprendizado de máquina. Diferente de um grupo de pesquisa tradicional, o Cohere for AI funciona como um laboratório híbrido com equipe de pesquisa dedicada e apoio a iniciativas de ciência aberta. A empresa colabora abertamente com pesquisadores independentes de todo o mundo para conduzir pesquisas de ML de alto nível.

A comunidade de pesquisa de ciência aberta da Cohere é um espaço interseccional que reúne pesquisadores, engenheiros, linguistas, cientistas sociais e aprendizes ao longo da vida. O espaço prospera com contribuintes de mais de cem países ao redor do mundo.

Alguns dos modelos da Cohere incluem Aya 23 – 8B e Aya 23 – 35B, LLMs de pesquisa acessíveis de última geração, C4AI Command R – 104B e C4AI Command R – 35B, pesos de modelo para democratizar o acesso à pesquisa, e Aya, o LLM de pesquisa massivamente multilíngue.

Recentemente, a Cohere e a Fujitsu anunciaram uma parceria estratégica para desenvolver e fornecer serviços de IA corporativa com capacidades de idioma japonês líderes na indústria. Nos termos da colaboração, as empresas construirão poderosos modelos de linguagem de grande escala (LLMs) de nível empresarial para atender às necessidades de negócios globais.

Em março deste ano, a Cohere anunciou que buscava uma avaliação de US$5 bilhões em seus mais recentes esforços de captação de recursos. Ela pretendia levantar aproximadamente US$250 milhões por meio desta rodada de financiamento, segundo uma fonte familiarizada com o assunto.

Considerações Finais

LLMs e os modelos de IA generativa que eles alimentam estão surgindo e evoluindo rapidamente. Esse espaço envolve tecnologia de ponta que é extremamente ambiciosa e intensamente aspiracional. Portanto, pode‑se esperar razoavelmente um influxo significativo de pesquisas nesse campo nos próximos anos.

Organizações de pesquisa, grandes empresas de tecnologia, instituições educacionais — todos os possíveis stakeholders estão ansiosos para intensificar sua alocação de recursos neste campo. Essa enxurrada de atividades significaria mais desvantagens surgindo. Mas também significaria correções de curso, pensar fora da caixa e reinventar soluções existentes da maneira mais otimizada possível.

Clique aqui para aprender tudo sobre investir em inteligência artificial.