Dona do Facebook atualiza o Llama 3

A Meta, dona do Facebook, Instagram, Whatsapp e outros, lançou uma atualização do seu modelo de inteligência artificial Llama 3, com melhorias significativas em sua capacidade multilinguagem e desempenho geral. A empresa de Mark Zuckerberg pretende posicionar o Llama 3 como uma alternativa gratuita aos modelos pagos de rivais como a OpenAI, embora reconheça seu tamanho menor.

De acordo com o blog da Meta, o novo Llama 3 pode interagir em oito idiomas, produzir código de programação de maior qualidade e resolver problemas matemáticos mais complexos do que suas versões anteriores.

O modelo possui 405 bilhões de parâmetros, um aumento considerável em relação às versões anteriores, mas ainda inferior aos 1 trilhão de parâmetros do GPT-4 da OpenAI. A Reuters informa que a Amazon está desenvolvendo um modelo com 2 trilhões de parâmetros.

Dona do Facebook

O documento de apresentação destaca que os modelos Llama oferecem o menor custo por token da indústria. Mark Zuckerberg enfatiza a importância de manter o modelo como open source, garantindo acesso global aos benefícios da IA e evitando a concentração de poder computacional em poucas mãos. Ele acredita que a tecnologia deve ser disponibilizada de forma segura e aberta para que se torne o padrão da indústria.

Zuckerberg comparou a atual corrida da IA com os primeiros dias da computação de alto desempenho, quando as grandes empresas investiram em sistemas fechados baseados em Unix. Ele observa que o Linux, um sistema open source, acabou se tornando o padrão da indústria devido à sua acessibilidade e segurança, em contraste com os sistemas Unix fechados.

Além do Llama 3, a Meta também está atualizando seus modelos menores, de 8 bilhões e 80 bilhões de parâmetros, lançados na primavera. O benchmark MATH, que avalia a capacidade de resolver cálculos matemáticos, mostrou que o modelo da Meta obteve uma pontuação de 73,8, comparado aos 76,6 do GPT-4 da OpenAI, com o Claude 3.5 da Sonnet em terceiro lugar com 71,1 pontos. No benchmark MMLU, que abrange diversas áreas como matemática, ciência e humanidades, o modelo da OpenAI ficou apenas uma décima à frente do da Meta.