Ferramentas · Inteligência artificial

Benchmark de IA

Quão rápido e quão certo é um modelo de IA no seu aparelho? Carregue um modelo no navegador, ou aponte para o seu servidor, e meça: tokens por segundo, tempo até o primeiro token e acurácia numa suíte de perguntas.

Pessoa de costas, com a mão numa caneca verde, olhando um notebook que mostra gráficos de pizza e de barras em tons de roxo
Medir é melhor que achar

Os resultados não saem do aparelho. Esta página não tem conta, envio de resultado nem contador. A única rede usada é a que você escolhe: o endereço do modelo ou do seu servidor. O histórico fica no armazenamento do seu navegador.

1. Como rodar

Onde o modelo roda
Prefira modelos pequenos e quantizados (Q4). Ele é lido aqui, não é enviado.

ou

O navegador baixa o arquivo direto desse endereço; o servidor dele precisa liberar acesso (CORS).
Opções da rodada

Antes de começar: limites honestos

  • No navegador cabem modelos de até uns 3 bilhões de parâmetros, quantizados. Maior que isso costuma estourar a memória da aba.
  • Rodar a rodada inteira usa a máquina no máximo por alguns minutos: gasta bateria e o celular esquenta. Se esquentar, a velocidade cai, e a página avisa.
  • Os números valem para este aparelho, neste momento, com este navegador. Outro navegador ou outro aparelho dá outro resultado.
  • Acurácia numa suíte pequena tem margem de erro grande: por isso mostramos o intervalo de confiança e a linha do acaso.

Histórico neste aparelho

Nenhuma rodada guardada ainda.

    Fontes e método

    Ferramentas relacionadas