Tu télécharges un modèle avec ses weights, tu te dis : « Trop cool, je suis indépendant ! » Sauf que ces fameuses weights, ce sont juste des nombres. Des nombres qui répondent à tes questions… mais pas ceux qui racontent comment ils ont été fabriqués. Est-ce qu’on a utilisé des données privées ou protégées par copyright pour les entraîner ? Des jeux de données biaisés ? Sans accès au code, aux données brutes ou à la méthode d’entraînement, tu ne peux même pas vérifier si ton modèle ment un peu quand il te répond.
C’est comme recevoir une voiture avec le moteur et la boîte de vitesses… mais sans manuel, sans garantie, et surtout sans savoir qui a soudé les pièces ensemble. Oui, tu peux conduire, mais est-ce que tu sais vraiment où ça va te mener ? Et surtout : pourrais-tu transformer cette bagnole en Ferrari… ou bien es-tu condamné à rouler avec une voiture rouillée aux rêves de vitesse ?
