Ollama Benchmark : Outil d'évaluation des LLMs
Ollama Benchmark est une extension Chrome gratuite qui permet de comparer les performances de divers modèles de langage (LLMs) tels que Mistral, LLaMA et Qwen. Cet outil est conçu pour effectuer des tests de performance basés sur des prompts, offrant ainsi une analyse détaillée des résultats. Les utilisateurs peuvent sélectionner un ou plusieurs modèles à tester simultanément, ce qui facilite la comparaison des performances entre différents LLMs.
Parmi ses fonctionnalités, Ollama Benchmark permet d'analyser le nombre de tokens, le temps de réponse et la vitesse en tokens par seconde. Les résultats des tests peuvent être exportés dans plusieurs formats, notamment .txt, .csv et .json, et l'outil prend en charge le stockage local des paramètres et des résultats. Avec une interface multilingue, cet outil fonctionne à la fois avec les API locales et distantes d'Ollama, tout en garantissant la confidentialité des données traitées dans le navigateur.