Pular para o conteúdo

A Edge0 abre os pesos do Edge0-145B, modelo local de 145 bilhões de parâmetros

Arte editorial sobre o modelo local Edge0-145B
Arte editorial baseada no anúncio oficial da Edge0 · Ilustração editorial AiLETH · Arte editorial AiLETH baseada no anúncio oficial da Edge0 · Origem

01O fato

A Edge0 publicou código e pesos do Edge0-145B e do Edge0-120B, com um framework para rodar os modelos localmente em computador pessoal. A empresa afirma pico de 29 GB de memória e mais de 80 tokens por segundo em notebook compatível; esses números são da própria Edge0 e não foram verificados de forma independente.

02A análise

A proposta combina uma contagem de parâmetros de escala de data center com execução local. O ponto decisivo será a combinação entre quantização, memória, consumo de energia e compatibilidade do equipamento, não apenas o tamanho nominal do modelo.

03Por que importa

Se os resultados divulgados forem reproduzíveis, modelos locais maiores podem ficar acessíveis a mais desenvolvedores. Por enquanto, as medições devem ser tratadas como alegações da empresa.

Fontes e transparência

A análise é interpretação editorial da AiLETH a partir das fontes citadas. Resultados declarados por fornecedores devem ser atribuídos a eles.