Seguem alguns modelos que você pode executar localmente em um computador sem a utilização de serviços de nuvem:

* **LLaMA**: LLaMA é um modelo de linguagem de bilhões de parâmetros que foi criado pela Meta para ajudar pesquisadores e cientistas a avançarem com estudos de inteligência artificial. Ele é um modelo Transformer somente decodificador que foi treinado em um grande conjunto de dados multilíngue. Ele supera o GPT-3 na maioria dos benchmarks, apesar de ser 13 vezes menor. Ele foi projetado para ser usado para fins de pesquisa apenas, e os checkpoints do modelo deveriam ser solicitados à Meta. No entanto, os pesos do modelo foram vazados, e agora qualquer um pode acessá-los. No entanto, o modelo ainda está sujeito a uma licença não comercial.

* **Alpaca**: Alpaca é um modelo de linguagem de bilhões de parâmetros que é uma versão refinada do LLaMA. Mais precisamente, ele é um modelo que segue instruções, que pode ser pensado como um “ChatGPT”. Ele foi criado por um grupo de cientistas da computação da Universidade de Stanford para fornecer um modelo de linguagem aberto e acessível que possa realizar diversas tarefas de linguagem natural. Ele foi refinado a partir do LLaMA 7B em milhares de demonstrações de instruções geradas pelo text-davinci da OpenAI. Ele mostra muitos comportamentos similares ao text-davinci, mas é surpreendentemente pequeno e fácil/barato de reproduzir (menos de $600). Ele está disponível no GitHub e também em uma demonstração interativa. No entanto, o modelo ainda tem muitas limitações e riscos, e não foi refinado para ser seguro e inofensivo. Ele é destinado apenas para pesquisa acadêmica e qualquer uso comercial é proibido.

* **GPT-J**: Esse é um modelo de bilhões de parâmetros que é uma replicação do GPT-3. Ele é treinado em um grande e diverso corpus de texto e pode gerar texto coerente e fluente. Ele está disponível no Hugging Face. Ele foi criado por um grupo chamado Eleuther AI, que tem o objetivo de democratizar os grandes modelos de linguagem.

* **RWKV**: Esse é um modelo de bilhões de parâmetros que é uma variante do GPT-2. Ele usa atenção relativa e memória chave-valor para melhorar a modelagem de dependências de longo prazo. Ele está disponível no GitHub. Ele foi desenvolvido por BlinkDL, que afirma que ele combina o melhor dos RNNs e dos transformadores - ótimo desempenho, inferência rápida, economia de VRAM, treinamento rápido, comprimento de contexto "infinito" e incorporação de sentenças gratuita (usando o estado oculto final).

* **Pythia**: Esse é um modelo de bilhões de parâmetros que é uma variante do T5. Ele é treinado em um grande corpus de código Python e comentários em linguagem natural. Ele pode gerar código, responder perguntas e resumir trechos de código. Ele está disponível no Hugging Face. Ele faz parte da Pythia Scaling Suite, uma coleção de modelos desenvolvidos para facilitar a pesquisa de interpretabilidade. Não confunda esse modelo com o Pythia, um framework de aprendizado profundo que suporta multitarefas no domínio da visão e da linguagem, ou com o Pythia, um modelo de restauração de texto antigo que recupera caracteres ausentes de uma entrada de texto danificada usando redes neurais profundas.

* **GPT-NeoX**: Esse é um modelo de bilhões de parâmetros que é uma replicação do GPT-3. Ele é treinado em um grande e diverso corpus de texto e pode gerar texto coerente e fluente. Ele suporta quantização de 4 bits e 8 bits e pode rodar no Google Colab. Ele está disponível no GitHub.

* **GPT-2**: Esse é um modelo de bilhões de parâmetros que é um predecessor do GPT-3. Ele é treinado em um grande corpus de texto da web e pode gerar texto coerente e fluente. Ele está disponível no Hugging Face.

* **Google Palm**: Esse é um modelo de bilhões de parâmetros que é o primeiro resultado do Pathways, a nova arquitetura de IA do Google, que visa lidar com muitas tarefas ao mesmo tempo, aprender novas tarefas rapidamente e refletir um melhor entendimento do mundo. Palm é um projeto enorme com objetivos ambiciosos. Ele é um modelo Transformer somente decodificador que foi treinado com o sistema Pathways, que permitiu treinar um único modelo em vários Pods TPU v4. Ele foi avaliado em centenas de tarefas de compreensão e geração de linguagem, e descobriu-se que ele alcança um desempenho de ponta em poucos tiros na maioria das tarefas, por margens significativas em muitos casos.

* **Bloom**: Esse é um modelo de bilhões de parâmetros que é o primeiro modelo de linguagem multilíngue de acesso aberto. Ele foi criado por mais de 1000 pesquisadores de IA para fornecer um modelo de linguagem grande e gratuito para todos que quiserem experimentar. Ele é capaz de gerar texto em 46 idiomas naturais e 13 idiomas de programação. Para quase todos eles, como espanhol, francês e árabe, Bloom será o primeiro modelo de linguagem com mais de 100B parâmetros já criado. Ele foi treinado no corpus ROOTS, um conjunto de dados composto por centenas de fontes em 46 idiomas naturais e 13 idiomas de programação (59 no total). Ele alcança um desempenho competitivo em uma grande variedade de benchmarks, com resultados mais fortes após passar por uma aprendizagem multitarefa.

Você também pode utilizar estes modelos no seguinte projeto de interface gráfica (suporta modos de "Playground", Chat e Chat estilo Character.ai):

https://github.com/oobabooga/text-generation-webui

Tenha em mente que geralmente modelos de linguagem possuem altos requisitos de hardware, e usualmente requerem uso de GPU com grande memória VRAM. Entretanto, há alguns projetos como o Llama.cpp que tentam viabilizar o uso de modelos de linguagem em CPUs, mas os resultados podem variar de acordo com o hardware utilizado. Consulte benchmarks online para obter a informação sobre a compatibilidade de modelos em seu hardware.
Seguem alguns modelos que você pode executar localmente em um computador sem a utilização de serviços de nuvem:

* **LLaMA**: LLaMA é um modelo de linguagem de bilhões de parâmetros que foi criado pela Meta para ajudar pesquisadores e cientistas a avançarem com estudos de inteligência artificial. Ele é um modelo Transformer somente decodificador que foi treinado em um grande conjunto de dados multilíngue. Ele supera o GPT-3 na maioria dos benchmarks, apesar de ser 13 vezes menor. Ele foi projetado para ser usado para fins de pesquisa apenas, e os checkpoints do modelo deveriam ser solicitados à Meta. No entanto, os pesos do modelo foram vazados, e agora qualquer um pode acessá-los. No entanto, o modelo ainda está sujeito a uma licença não comercial.

* **Alpaca**: Alpaca é um modelo de linguagem de bilhões de parâmetros que é uma versão refinada do LLaMA. Mais precisamente, ele é um modelo que segue instruções, que pode ser pensado como um “ChatGPT”. Ele foi criado por um grupo de cientistas da computação da Universidade de Stanford para fornecer um modelo de linguagem aberto e acessível que possa realizar diversas tarefas de linguagem natural. Ele foi refinado a partir do LLaMA 7B em milhares de demonstrações de instruções geradas pelo text-davinci da OpenAI. Ele mostra muitos comportamentos similares ao text-davinci, mas é surpreendentemente pequeno e fácil/barato de reproduzir (menos de $600). Ele está disponível no GitHub e também em uma demonstração interativa. No entanto, o modelo ainda tem muitas limitações e riscos, e não foi refinado para ser seguro e inofensivo. Ele é destinado apenas para pesquisa acadêmica e qualquer uso comercial é proibido.

* **GPT-J**: Esse é um modelo de bilhões de parâmetros que é uma replicação do GPT-3. Ele é treinado em um grande e diverso corpus de texto e pode gerar texto coerente e fluente. Ele está disponível no Hugging Face. Ele foi criado por um grupo chamado Eleuther AI, que tem o objetivo de democratizar os grandes modelos de linguagem.

* **RWKV**: Esse é um modelo de bilhões de parâmetros que é uma variante do GPT-2. Ele usa atenção relativa e memória chave-valor para melhorar a modelagem de dependências de longo prazo. Ele está disponível no GitHub. Ele foi desenvolvido por BlinkDL, que afirma que ele combina o melhor dos RNNs e dos transformadores - ótimo desempenho, inferência rápida, economia de VRAM, treinamento rápido, comprimento de contexto "infinito" e incorporação de sentenças gratuita (usando o estado oculto final).

* **Pythia**: Esse é um modelo de bilhões de parâmetros que é uma variante do T5. Ele é treinado em um grande corpus de código Python e comentários em linguagem natural. Ele pode gerar código, responder perguntas e resumir trechos de código. Ele está disponível no Hugging Face. Ele faz parte da Pythia Scaling Suite, uma coleção de modelos desenvolvidos para facilitar a pesquisa de interpretabilidade. Não confunda esse modelo com o Pythia, um framework de aprendizado profundo que suporta multitarefas no domínio da visão e da linguagem, ou com o Pythia, um modelo de restauração de texto antigo que recupera caracteres ausentes de uma entrada de texto danificada usando redes neurais profundas.

* **GPT-NeoX**: Esse é um modelo de bilhões de parâmetros que é uma replicação do GPT-3. Ele é treinado em um grande e diverso corpus de texto e pode gerar texto coerente e fluente. Ele suporta quantização de 4 bits e 8 bits e pode rodar no Google Colab. Ele está disponível no GitHub.

* **GPT-2**: Esse é um modelo de bilhões de parâmetros que é um predecessor do GPT-3. Ele é treinado em um grande corpus de texto da web e pode gerar texto coerente e fluente. Ele está disponível no Hugging Face.

* **Google Palm**: Esse é um modelo de bilhões de parâmetros que é o primeiro resultado do Pathways, a nova arquitetura de IA do Google, que visa lidar com muitas tarefas ao mesmo tempo, aprender novas tarefas rapidamente e refletir um melhor entendimento do mundo. Palm é um projeto enorme com objetivos ambiciosos. Ele é um modelo Transformer somente decodificador que foi treinado com o sistema Pathways, que permitiu treinar um único modelo em vários Pods TPU v4. Ele foi avaliado em centenas de tarefas de compreensão e geração de linguagem, e descobriu-se que ele alcança um desempenho de ponta em poucos tiros na maioria das tarefas, por margens significativas em muitos casos.

* **Bloom**: Esse é um modelo de bilhões de parâmetros que é o primeiro modelo de linguagem multilíngue de acesso aberto. Ele foi criado por mais de 1000 pesquisadores de IA para fornecer um modelo de linguagem grande e gratuito para todos que quiserem experimentar. Ele é capaz de gerar texto em 46 idiomas naturais e 13 idiomas de programação. Para quase todos eles, como espanhol, francês e árabe, Bloom será o primeiro modelo de linguagem com mais de 100B parâmetros já criado. Ele foi treinado no corpus ROOTS, um conjunto de dados composto por centenas de fontes em 46 idiomas naturais e 13 idiomas de programação (59 no total). Ele alcança um desempenho competitivo em uma grande variedade de benchmarks, com resultados mais fortes após passar por uma aprendizagem multitarefa.

Você também pode utilizar estes modelos no seguinte projeto de interface gráfica (suporta modos de "Playground", Chat e Chat estilo Character.ai):

https://github.com/oobabooga/text-generation-webui

Tenha em mente que geralmente modelos de linguagem possuem altos requisitos de hardware, e usualmente requerem uso de GPU com grande memória VRAM. Entretanto, há alguns projetos como o Llama.cpp que tentam viabilizar o uso de modelos de linguagem em CPUs, mas os resultados podem variar de acordo com o hardware utilizado. Consulte benchmarks online para obter a informação sobre a compatibilidade de modelos em seu hardware.