PROMPTIF_
Outils d'IA

basal-omni en local : Ollama, llama.cpp et Mac

promptif@ai:~$ cat news_1

› basal-omni est un modèle de décision polonais créé par Remek Kinas : il ne rédige pas de texte, mais choisit une réponse dans une liste et indique son degré de confiance.

promptif@ai:~$ cat news_2

› Depuis le 19 octobre, ses versions les plus petites peuvent fonctionner sans carte graphique de serveur, avec Ollama, llama.cpp ou sur Mac.

promptif@ai:~$ cat news_3

› Je l’ai installé sur ma RTX 4090 avec la version mini au format GGUF, puis je lui ai soumis le même jeu de tickets en polonais que celui utilisé auparavant pour tester Jev et d’autres modèles de décision.

promptif@ai:~$ cat news_4

› Voici la procédure qui a fonctionné chez moi, les besoins matériels et les résultats.En bref (test du 19.10.2026)basal-omni-1.0-mini Q8_0 : fichier de 7,9 Go, 5,1 Go de mémoire vidéo utilisés dans Ollama.Service : 42 tickets polonais correctement classés sur 47 ; urgence : 47 sur 50 ; choix d’outil : 10 sur 10.Médiane de 137 ms par décision ; test complet (60 requêtes) en 20 secondes.Ollama seul ne suffit pas : seul le moteur basal-serve renvoie des réponses avec leurs probabilités.Sur Mac : version mini MLX (8,6 Go) ou GGUF Q8_0 sur un Mac doté de 16 Go de mémoire.Quelle version choisir selon votre matériel ?Tous les fichiers sont disponibles sur le compte Hugging Face de Remek, sous licence Apache-2.0.

promptif@ai:~$ open --full
Lire la suite

basal-omni en local : Ollama, llama.cpp et Mac

Ouvrir l'article sur promptif.fr