De acordo com Shen et al. (2023), a série Nós-Hermes, que foi desenvolvido por Pesquisa Nous e apoiado por Redmond AI, representa uma das gerações mais avançadas de modelos de linguagem. Esta série, composta por modelos com mais de 300.000 instruções, é baseada em Chamadas y Lhama-2. Eles oferecem um desempenho sólido em diversas tarefas e são notáveis por sua respostas extensas, baixa taxa de alucinações e o ausência de censura, o que os torna uma opção competitiva no campo de inteligência artificial.
Treinamento e Otimização dos Modelos Nous-Hermes
Os modelos Nós-Hermes Elas foram aperfeiçoadas por meio de treinamento rigoroso em máquinas. DGX 8x A100 80GB por longos períodos. O objetivo tem sido manter a consistência com o modelo original. Hermes e aprimorar suas capacidades. Dados sintéticos foram utilizados a partir de GPT-4 juntamente com várias fontes, como Professor GP, versões de jogos de RPG 1 e 2.2, instruções de código e conjuntos exclusivos como Nós Instruímos e PDACTL, bem como conjuntos específicos como Camel-AI y Airoboros (González-Santamarta et al., 2023).
Otimização para jogos de RPG e recomendações de hardware
A versão Lhama2-13b Foi projetado para usuários que preferem manter a consistência com o modelo. Hermes anterior. Além disso, um subconjunto dos modelos Nós-Hermes foi adaptado para jogos de RPG vestindo LIMARP Lora, com um conjunto de dados menor, porém de alta qualidade. Essa abordagem difere das estratégias convencionais que utilizam um grande número de exemplos de qualidade variável (González-Santamarta et al., 2023).
Shen et al. (2023) destacam que o desempenho de Nós-Hermes Depende do hardware utilizado. Eles fornecem recomendações específicas para as versões. GPTQ y GGML/GGUF, levando em consideração os requisitos de VRAM y BATER dependendo do tamanho do modelo. Eles também enfatizam a importância do largura de banda da RAM e o tamanho do modelo para otimizar o velocidade de inferência.
