Conversion AI pode ser a chave para evitar um platô tecnológico

A demanda por conteúdo está apresentando crescimento constante e acentuado. Para obter uma ideia realista da taxa de crescimento, a Adobe realizou uma pesquisa abrangendo mais de 2,600 profissionais de experiência do cliente e marketing em grandes economias globais. 

Os resultados da pesquisa, publicados pela Adobe em março de 2023, indicaram um crescimento na demanda por conteúdo de pelo menos duas vezes nos últimos dois anos. Cerca de dois terços estavam ainda mais otimistas quanto ao futuro do conteúdo. Eles disseram que esperavam que a demanda crescesse entre cinco e vinte vezes nas próximas vinte horas. 

Atender a essa demanda forçou as empresas a adotarem novos modelos de produção de conteúdo. Segundo a World Federation of Advertisers, mais da metade das grandes empresas internacionais desenvolveram capacidades de produção de conteúdo internas. Mas isso é suficiente? Bem, a Conversion AI tem se mostrado à altura do desafio. 

O que é Conversion AI?

Conversion AI trata de usar inteligência artificial para ajudar as empresas a se comunicarem melhor com seus clientes e aumentarem as vendas. Ela faz isso ajudando a criar, melhorar e gerenciar conteúdo como textos, imagens e sons. Isso facilita para as empresas capturar a atenção do público, produzir conteúdo que realmente converse com eles e melhorar a experiência, tudo por meio de tecnologia de IA inteligente.

Hoje, as empresas podem usar Conversion AI para atender a uma variedade de metas de marketing de conteúdo, incluindo cópias de anúncios no Facebook e Google, conteúdo de sites, postagens sociais e muito mais. Mas como a Conversion AI torna tudo isso possível? Qual é a tecnologia que a alimenta? Para isso, precisamos conhecer os Modelos de Linguagem de Grande Escala, ou LLMs. 

O que é um Modelo de Linguagem de Grande Escala?

É um tipo de IA que pode aprender a partir de grandes quantidades de texto e dados. Existem casos de uso em que esses modelos de IA podem lidar com centenas de bilhões de pontos de dados para gerar insights, estratégias e projeções significativas. 

A Gênese dos LLMs em Breve

Os LLMs modernos surgiram há seis anos, em 2017. Esses LLMs utilizam modelos transformer que podem lidar com um grande número de parâmetros para compreender e gerar respostas precisas rapidamente. 

Quatro anos depois, em 2021, o Stanford Institute for Human-Centered Artificial Intelligence criou o termo e o conceito de modelos de base. O nome surgiu do fato de que esses modelos, grandes e impactantes, serviam como fundação para otimizações e casos de uso posteriores. Com o desenvolvimento dos LLMs, a geração de conteúdo, especialmente na forma escrita, passou por mudanças significativas. 

O Impacto dos LLMs

A pesquisa da ARK Invest mostra que, nos últimos dois anos, a qualidade de escrita dos LLMs experimentou melhorias significativas. Isso levou a maior confiança e implantação de soluções alimentadas por LLM para gerar conteúdo. 

Como resultado, o custo de produção de conteúdo escrito caiu drasticamente. Ele permanecia relativamente constante em termos reais ao longo do século passado, próximo a US$100 por 1.000 palavras escritas. Nos últimos dois anos, porém, essa taxa caiu para US$0,10 e até menos. 

O desempenho e a produtividade devem melhorar ainda mais à medida que o desempenho de treinamento de IA avança rapidamente. Pesquisadores de IA estão inovando em treinamento e inferência, hardware e designs de modelos, aprimorando o desempenho enquanto reduzem custos. Espera‑se que isso gere mais de cinco vezes os ganhos de desempenho em 2024, usando 2023 como ano base.

Houve várias inovações algorítmicas que resultaram em capacidade de escrita superior e melhor produtividade e desempenho dos LLMs. Aprendizado por reforço a partir de feedback humano, por exemplo, ajudou bastante. Os prompts foram otimizados para superar os prompts humanos em mais de 50%. 

Os recursos de Decodificação Especulativa aceleraram a inferência de duas a três vezes em modelos específicos. Os pesquisadores também têm sido proativos ao priorizar os custos de inferência. E seus esforços estão mostrando resultados, com os custos de inferência caindo a uma taxa anual de cerca de 86%, mais rápido que os custos de treinamento. Os modelos GPT tiveram quase 3 vezes mais rapidez de treinamento com o Flash Attention 2. 

Com todas essas melhorias e aprimoramentos ocorrendo em velocidade de foguete, investigações também estão em andamento para determinar se um possível platô é iminente no uso dos LLMs e se tal situação poderia ser evitada. 

Clique aqui para saber por que 2023 foi o ano de destaque para a inteligência artificial.

Platô Potencial dos LLMs e sua Evitação

Os pesquisadores estão investigando um cenário possível em que os LLMs ficarão sem dados, resultando em desempenho limitado. Os LLMs precisam ser alimentados com grandes volumes de dados de treinamento de forma consistente para continuar aprendendo e melhorando. No entanto, poder de computação e a potencial falta de dados de treinamento parecem ser uma preocupação. 

De acordo com estimativas da Epoch AI, fontes de linguagem/dados de alta qualidade, incluindo livros e artigos científicos, podem se esgotar até 2024. E é então que será necessário recorrer a um conjunto maior de dados de visão inexplorados. Esses dados de visão não explorados que podem ajudar os LLMs a evitar o platô incluem palavras faladas e outros tipos de dados do mundo físico. 

Pesquisas mostram que, anualmente, são faladas trinta quadrilhões de palavras. Geradores de fala para texto e ferramentas semelhantes capturam mais de 80 trilhões de palavras faladas diariamente. Além disso, há táxis, caminhões, drones e outros veículos robóticos que geram grandes volumes de dados do mundo físico e dados sintéticos que complementam os dados primários. Todos esses dados inexplorados podem representar uma riqueza incomparável de recursos e melhorar os LLMs. 

No entanto, aprimoramentos em desempenho, produtividade e qualidade não se limitam apenas à localização de minas de dados inexploradas. Várias empresas inovadoras estão fazendo esforços abrangentes para melhorar o cenário de forma holística. 

#1. Replit AI

Quando se trata de aumentar a produtividade, a Replit AI tem sido uma das principais histórias de sucesso. Como assistente de codificação, ela aumentou os níveis de produtividade e satisfação no trabalho dos desenvolvedores de software. Ela ajuda a eliminar as partes iterativas da codificação, permitindo que o usuário se concentre nas partes criativas do trabalho. 

A Replit AI simplifica a codificação integrando um gerador de código de IA que elimina a necessidade de trocar de aba, oferecendo sugestões de autocompletar código para um progresso mais rápido. Ela aprimora a compreensão do projeto com sua funcionalidade Code Context para escrever linhas subsequentes relevantes e detecta proativamente problemas, sugerindo correções diretamente dentro de uma interface de editor fluida.

No conjunto, a Replit AI é um conjunto eficiente de recursos de geração de código por IA, incluindo Complete Code, Generate Code, Edit Code e Explain Code. 

O que alimenta a Replit AI são LLMs. Ela devolve resultados gerados a partir de grandes modelos de linguagem treinados com código publicamente disponível e ajustados pela Replit. Ela considera o prompt conversacional e a linguagem de programação que está sendo usada para fazer sugestões e explicações sobre os códigos gerados. 

Os recursos da Replit AI estão disponíveis gratuitamente para todos os usuários. Tudo o que se precisa é de uma conta Replit. A Replit AI tem melhor desempenho com código JavaScript e Python, mas suporta 16 linguagens, incluindo Bash, C, C#, C++, CSS, Go, Java, JavaScript, HTML, PHP, Perl, Python, R, Ruby, Rust e SQL. 

De acordo com as informações mais recentes disponíveis, a empresa levantou US$97,4 milhões com uma avaliação de US$1,16 bilhão para expandir seus serviços de nuvem e liderar o desenvolvimento de IA em abril de 2023. 

#2. Github Copilot

Outro serviço de assistência à codificação, semelhante à Replit AI, que ajudou a melhorar a produtividade dos desenvolvedores em tarefas de codificação em 2,2 vezes em 2023 é o Github Copilot. O Github Copilot oferece assistência contextualizada ao longo de todo o ciclo de vida do desenvolvimento de software. 

De acordo com números de pesquisas de satisfação do consumidor, desenvolvedores usuários do Github Copilot relatam até 75% mais satisfação com seus trabalhos do que aqueles que não utilizam e são até 55% mais produtivos na escrita de código sem comprometer a qualidade. 

O Github Copilot treina-se em texto de linguagem natural e código-fonte de fontes publicamente disponíveis, incluindo código em repositórios públicos no GitHub. Ele é treinado em todas as linguagens que aparecem em repositórios públicos. No entanto, linguagens com menor representação nesses repositórios podem ser menos eficazes. O Github Copilot pode ser usado por desenvolvedores individuais, freelancers, estudantes, educadores e mantenedores de código aberto.

De acordo com declarações publicamente disponíveis do vice‑presidente de Produto da Microsoft Mario Rodriguez, o GitHub Copilot está prosperando e gerando receita a uma taxa anual de US$100 milhões.

#3. MosaicML

A MosaicML ajuda a treinar LLMs, posicionando‑se como uma solução que traz IA generativa para todos, oferecendo tudo o que é necessário para treinar e implantar modelos em dados de usuários. Sua série MPT Foundation facilita a integração fácil de LLMs em aplicações que utilizam tanto modelos de código aberto quanto licenciados comercialmente.

O treinamento da MosaicML capacita desenvolvedores a pré‑treinar ou ajustar finamente modelos com controle total dos dados, simplificando o processo para um único comando direcionado a um bucket S3. A plataforma lida eficientemente com orquestração, falhas de nós e infraestrutura, exemplificado pelo uso da Mosaic ML pela Replit para treinar seu LLM Ghostwriter, apresentando resultados de destaque em uma semana.

A abordagem da MosaicML para treinamento em qualquer ambiente de nuvem enfatiza privacidade de dados, segurança e total propriedade do modelo, com recursos que suportam transições suaves entre nuvens. Ela oferece total propriedade dos dados, filtragem de conteúdo de acordo com as necessidades de negócios e integração plug‑and‑play com pipelines de dados existentes, sendo agnóstica em relação à nuvem e comprovada em nível empresarial.

Em junho do ano anterior, a aquisição da Mosaic ML pela Databricks em um acordo avaliado em US$1,3 bilhão destacou seu impacto significativo no mercado e sua proposta de valor.

#4. Anthropic

O produto principal da Anthropic, Claude, funciona em dois modelos: Claude e Claude Instant. 

Claude é o modelo mais poderoso da Anthropic que se destaca em uma variedade de tarefas, desde diálogos sofisticados e geração criativa de conteúdo até instruções detalhadas. Ele funciona bem em cenários que exigem raciocínio complexo, criatividade, diálogos reflexivos, codificação e criação detalhada de conteúdo. 

Claude Instant – a versão mais rápida e barata do Claude – auxilia em diálogos casuais, análise de texto, resumização e compreensão de documentos. Funciona bem onde o desempenho a baixo custo é necessário. Executa sua tarefa com latência reduzida. 

No geral, Claude é adequado para processar volumes de texto, ter conversas naturais, obter respostas e automatizar fluxos de trabalho. Desde atendimento ao cliente até áreas jurídicas, coaching, busca e tarefas de back‑office, Claude é adequado para uma variedade de cenários de uso. 

De acordo com relatos publicados no final de dezembro de 2023, a Anthropic, vista como rival da OpenAI, estava em negociações para levantar US$750 milhões em financiamento com uma avaliação de US$18,4 bilhões. 

#5. Humata

Com a Humata, é possível percorrer rapidamente artigos técnicos extensos. A Humata PDF AI ajuda a resumir descobertas, comparar documentos e buscar respostas. É compatível com arquivos ilimitados enviados, sem limites de tamanho. As respostas da IA de documentos vêm com citações, permitindo rastrear a origem da informação.

Como se fosse um ChatGPT para PDFs, pode reescrever o resumo até ficar satisfeito. Contudo, ao contrário do ChatGPT, a Humata pode trabalhar com arquivos, ler cada arquivo enviado e gerar respostas com base no conteúdo dos documentos. 

Em 2 de outubro de 2023, a Humata AI anunciou a conclusão bem‑sucedida de sua última rodada de financiamento, na qual arrecadou US$3,5 milhões da Gradient Ventures do Google, da ARK Invest de Cathie Wood, da M13 e de outros investidores‑anjo proeminentes para sua rodada semente. 

#6. OpenAI

Finalmente, nenhuma discussão sobre IA, seu aprendizado de LLMs e recursos de criação de conteúdo pode estar completa sem mencionar a OpenAI, a empresa que tem sido a mais conhecida por construir modelos generativos usando uma tecnologia chamada deep learning que aproveita um grande volume de dados para treinar sistemas de IA. 

A OpenAI oferece serviços de Chat, Imagem e Áudio. Seu GPT‑3, um modelo de linguagem autorregressivo, foi treinado com 175 bilhões de parâmetros. Contudo, ela treinou modelos de linguagem ainda melhores que o GPT‑3 em seguir as intenções dos usuários. 

Entre os produtos relacionados a imagens, a pesquisa da OpenAI sobre modelagem generativa de imagens resultou em modelos de representação como o CLIP, que cria um mapeamento entre texto e imagens para que a IA possa interpretá‑los, e o DALL‑E, uma ferramenta para criar imagens vívidas a partir de descrições textuais. 

Por fim, desenvolveu avanços no campo de áudio com Whisper, Jukebox e MuseNet. O Whisper oferece recursos robustos de reconhecimento de fala em inglês, enquanto o Jukebox ajuda a gerar música em diversos gêneros e estilos de artistas. O MuseNet é uma rede neural profunda que pode gerar composições musicais completas com uma variedade de instrumentos. 

De acordo com relatos publicados no final de dezembro de 2023, a OpenAI estava em discussões iniciais para levantar uma nova rodada de financiamento com avaliação igual ou superior a US$100 bilhões.

Além do Platô: O Caminho à Frente 

A Inteligência Artificial ajudou a geração de conteúdo a percorrer milhões de milhas em um período muito curto. O futuro será mais brilhante e próspero, onde sistemas computacionais e softwares que evolvem com os dados resolverão problemas intratáveis. 

Setores econômicos de todos os tipos poderão aproveitar melhor a tecnologia ao automatizar todo tipo de trabalho cognitivo que é repetitivo e consome tempo. Enquanto modelos como o GPT‑4 aumentarão a produtividade, modelos de IA de código aberto levarão a custos operacionais drasticamente reduzidos e eficiência radicalmente aprimorada. Pesquisadores estimam não apenas a evitação de um platô tecnológico, mas também a quadruplicação da produtividade dos trabalhadores do conhecimento até 2030. 

Isso reforça a importância dos Modelos de Linguagem de Grande Escala no ecossistema tecnológico, tendo desempenhado um papel crucial em tudo isso. Eles ajudaram produtos como o ChatGPT a consolidar a compreensão pública da IA, ao mesmo tempo em que oferecem uma interface de chat simples que qualquer pessoa que fale qualquer idioma pode usar em seu benefício.

Clique aqui para aprender tudo sobre investir em inteligência artificial (IA).