Small models, big effects: AI that runs on your own machine
A model with a few billion parameters fits in the memory of an ordinary laptop once quantised. What it does well, what it does badly, and how to try it without installing anything exotic.
categorie
IA
Petits modèles, gros effets : l’IA qui tourne sur votre machine
Un modèle de quelques milliards de paramètres tient dans la mémoire d’un portable ordinaire, une fois quantifié. Ce qu’il fait bien, ce qu’il fait mal, et comment l’essayer sans rien installer d’exotique.
Open models or closed APIs: how to choose
Host a model yourself or pay for an API: the right answer depends on five criteria you can examine one by one. Real cost, privacy, latency, licence and dependency, without dogma.
Modèles ouverts ou API fermées : comment choisir
Héberger un modèle soi-même ou payer une API : la bonne réponse dépend de cinq critères que l’on peut examiner un par un. Coût réel, confidentialité, latence, licence et dépendance, sans dogme.