A Edge0 abre os pesos do Edge0-145B, modelo local de 145 bilhões de parâmetros

01O fato
A Edge0 publicou código e pesos do Edge0-145B e do Edge0-120B, com um framework para rodar os modelos localmente em computador pessoal. A empresa afirma pico de 29 GB de memória e mais de 80 tokens por segundo em notebook compatível; esses números são da própria Edge0 e não foram verificados de forma independente.
02A análise
A proposta combina uma contagem de parâmetros de escala de data center com execução local. O ponto decisivo será a combinação entre quantização, memória, consumo de energia e compatibilidade do equipamento, não apenas o tamanho nominal do modelo.
03Por que importa
Se os resultados divulgados forem reproduzíveis, modelos locais maiores podem ficar acessíveis a mais desenvolvedores. Por enquanto, as medições devem ser tratadas como alegações da empresa.
Fontes e transparência
A análise é interpretação editorial da AiLETH a partir das fontes citadas. Resultados declarados por fornecedores devem ser atribuídos a eles.