RenardCerveau Gratuit

-

FoxBrain est un grand modèle de langage de raisonnement (LLM) de qualité industrielle lancé par le Hon Hai Research Institute (Foxconn). Il est basé sur l'architecture Meta Llama 3.1-70B et couvre l'analyse des données, le raisonnement mathématique, la génération de code et d'autres fonctions. Il est orienté vers la fabrication intelligente, la gestion de la chaîne d'approvisionnement et les scénarios de prise de décision intelligente.

RenardCerveau Interface du produit

FoxBrain — Grand modèle de langage de raisonnement de qualité industrielle du Hon Hai Research Institute

Paramètres et statistiques de base

FoxBrain est le premier modèle de langage étendu (LLM) de raisonnement traditionnel chinois de qualité industrielle lancé par le Hon Hai Research Institute (une filiale de Foxconn). Il est basé sur l'architecture Meta Llama 3.1-70B et utilise 120 GPU NVIDIA H100 pour terminer la formation en quatre semaines. Ses principales capacités couvrent l'analyse des données, le raisonnement mathématique, la génération de code, la synthèse de texte et le dialogue questions/réponses, et sont orientées vers des scénarios industriels tels que la fabrication intelligente, la gestion de la chaîne d'approvisionnement et la prise de décision intelligente.

Élément de paramètre Valeur
Infrastructures Méta Lama 3.1-70B
Montant du paramètre 70B
Fenêtre contextuelle 128 000 jetons
Matériel de formation 120 × GPU NVIDIA H100
Temps de formation Environ 4 semaines (2 688 jours GPU)
Données de formation 98 milliards de jetons de données de pré-formation chinoises de haute qualité
Langues prises en charge Chinois traditionnel (principalement), anglais
Licence Licence communautaire Lama 3.1

FoxBrain adopte une stratégie de formation efficace et se concentre sur l'optimisation du processus de formation plutôt que sur l'empilement aveuglément de la puissance de calcul. Grâce à des méthodes d'amélioration des données thématiques et d'évaluation de la qualité de 24 catégories auto-développées, du matériel de pré-formation chinois de haute qualité composé de jetons 98B a été généré, et la technologie de réflexion sur le raisonnement adaptatif a été utilisée pour entraîner le modèle à apprendre le raisonnement autonome. Dans le test TMMLU+, FoxBrain a surpassé le Llama-3-Taiwan-70B de même taille dans la plupart des domaines, notamment en mathématiques et en raisonnement logique.

Reconnaissance des utilisateurs et du marché

En tant que premier grand modèle de langage chinois traditionnel de Taiwan doté de capacités de raisonnement, FoxBrain a reçu une large attention de la part de l'industrie et du monde universitaire depuis sa publication par l'Institut de recherche Hon Hai en mars 2025. Le modèle a obtenu de bons résultats au test de référence académique TMMLU+, surpassant Meta Llama 3.1-70B et Llama-3-Taiwan-70B de la même échelle dans les domaines des mathématiques et du raisonnement logique, démontrant ses puissantes capacités de compréhension et de raisonnement.

En juillet 2025, FoxBrain était officiellement open source sur la plateforme Hugging Face (autorisation requise) et intégré à l'architecture de microservices NVIDIA NIM pour permettre aux développeurs de créer des applications personnalisées basées sur le modèle. Lors de la conférence NVIDIA GTC 2026, FoxBrain a démontré son application dans le domaine des véhicules électriques intelligents et a annoncé une coopération stratégique avec SAP pour accélérer la mise en œuvre de l'IA d'entreprise dans la région Asie-Pacifique. Le produit en est encore à ses débuts et le nombre d'utilisateurs spécifiques et les données sur les entreprises clientes n'ont pas encore été divulgués.

Avantage de coût

Dimensions comparatives FoxBrain (LLM) Grands modèles commerciaux à source fermée (tels que GPT-4) Modèles open source d'auto-formation
Architecture modèle Méta Lama 3.1-70B Architecture propriétaire fermée Auto-sélection requise
Coût de la formation Open source limité, 2 688 jours GPU Extérieurement agnostique Dépend de l'investissement en puissance de calcul
Déploiement d'inférence 2 à 8 GPU H100 API avec paiement à l'utilisation Auto-exploitation et maintenance
Optimisation chinoise Spécialement optimisé pour le chinois traditionnel Multilingue universel Besoin d'affiner par vous-même
Licence Communauté Llama 3.1 (gratuite et open source) Payer par jeton Dépend du modèle de base

FoxBrain adopte une stratégie open source et est publié sur la base de la licence communautaire Llama 3.1. Les entreprises et les développeurs peuvent obtenir gratuitement des pondérations de modèle et effectuer le déploiement et le développement secondaire. Comparé au coût continu de la facturation par jeton pour les grands modèles commerciaux à code source fermé, le modèle de déploiement unique de FoxBrain présente des avantages de coût significatifs dans les scénarios d'utilisation à grande échelle à long terme. Dans le même temps, le modèle est spécialement optimisé pour les scénarios chinois traditionnels et industriels, et peut atteindre des performances proches du niveau de pointe mondial dans des tâches de terrain spécifiques.

Fonctions principales

  • Raisonnement en plusieurs étapes (Chaîne de pensée) : grâce à la technologie de réflexion de raisonnement adaptatif, le modèle peut effectuer un raisonnement en plusieurs étapes et une inférence logique, et fonctionne bien dans les problèmes mathématiques, les énigmes logiques et les tâches de prise de décision complexes. Sortie visuelle qui prend en charge les processus de réflexion étape par étape.
  • Analyse et compréhension des données : Capable de traiter des données structurées (tableau CSV) et du texte non structuré, et d'effectuer des tâches d'analyse telles que la classification des données, l'identification des tendances et la détection des anomalies. Convient pour l'analyse des rapports financiers, l'interprétation des données d'exploitation et d'autres scénarios.
  • Génération et interprétation de code : prend en charge la génération de code, la révision de code et l'interprétation du langage naturel dans plusieurs langages de programmation. Il peut aider les développeurs à localiser les bogues et à optimiser le code lors de la mise en œuvre des fonctions.
  • Optimisation du chinois traditionnel : affiné sur l'ensemble de données de chinois traditionnel taïwanais de haute qualité, il offre une meilleure compréhension des habitudes linguistiques et du contexte culturel taïwanais, et le texte généré est plus adapté au contexte local.
  • Traitement de contexte long : prend en charge une fenêtre contextuelle de 128 000 jetons, qui peut traiter des documents longs, plusieurs séries de conversations ou des bases de code à grande échelle en même temps, répondant aux besoins complexes des scénarios industriels.
  • Déploiement rapide VLLM : prend en charge un déploiement efficace via le cadre d'inférence VLLM, qui peut fonctionner avec 2 à 8 GPU H100 et dispose de capacités d'inférence à latence ultra faible.

Evolution du modèle et de la version

Version Date de sortie Changements majeurs
0.9 (version formation interne) 2025-03 Basé sur Meta Llama 3.1-70B, entraîné en 4 semaines avec 120 cartes H100
1.0 Aperçu (version actuelle) 2025-07 Open source dans Hugging Face, intégration NVIDIA NIM, prise en charge du déploiement VLLM

La version 0.9 a vérifié la faisabilité de la stratégie de formation efficace : il n'a fallu que 2 688 jours GPU pour terminer la formation du modèle de paramètres 70B, ce qui est bien inférieur à celui des modèles similaires. La version préliminaire 1.0 optimise davantage les capacités d'inférence en fonction des pondérations du modèle et fournit un plan de déploiement VLLM complet et un guide d'accès à l'API. Les feuilles de route suivantes incluent : La version 2.x améliore progressivement les connaissances industrielles, le raisonnement spécifique à un domaine et l'expertise en matière de fabrication intelligente. L’objectif à long terme est de créer un modèle de base d’IA qui comprend réellement l’écologie de la fabrication, de l’automatisation et des villes intelligentes.

Avantages techniques

Les avantages techniques de FoxBrain se reflètent dans sa stratégie de formation efficace et son optimisation spéciale pour les scénarios industriels :

  • Stratégie de formation efficace : en utilisant 120 GPU NVIDIA H100 via le réseau NVIDIA Quantum-2 InfiniBand pour une formation parallèle multi-nœuds, cela n'a pris qu'environ 4 semaines (2 688 jours GPU). Par rapport aux modèles 70B similaires qui consomment souvent des dizaines de milliers de jours GPU, FoxBrain présente des avantages significatifs en termes d'efficacité de la puissance de calcul. Grâce à la méthode d'amélioration des données thématiques en 24 catégories établie par une technologie indépendante, des données de pré-formation chinoises de haute qualité de 98 milliards de jetons ont été générées.
  • Réflexion de raisonnement adaptatif : technologie unique de réflexion de raisonnement, entraîne le modèle à apprendre le raisonnement autonome au lieu d'une simple correspondance de modèles. Cette technologie améliore considérablement les performances du modèle dans les tests de raisonnement mathématique et logique, lui permettant de surpasser les modèles de base de même taille sur TMMLU+.
  • Adaptation de scénarios industriels : le modèle est spécialement optimisé pour les domaines chinois traditionnels et industriels, et est supérieur aux modèles généraux en termes de compréhension sémantique des connaissances en matière de fabrication, de gestion de la chaîne d'approvisionnement, de prise de décision intelligente et d'autres scénarios. La fenêtre contextuelle de 128K tokens lui permet de gérer une documentation industrielle complète et des spécifications techniques.
  • Intégration NVIDIA NIM : Intégrés à l'architecture de microservices NVIDIA NIM, les développeurs peuvent rapidement créer des applications personnalisées basées sur des API standard sans avoir à gérer l'infrastructure d'inférence sous-jacente.

Ce parcours de formation efficace axé sur le domaine industriel permet à FoxBrain d'atteindre des performances quasiment parmi les meilleures au monde à des coûts de puissance de calcul inférieurs dans des scénarios spécifiques.

Comment utiliser

Entrée Adresse Instructions
Page modèle Visage câlin https://huggingface.co/FoxconnAI/Llama_3.1-FoxBrain-70B Téléchargez les poids du modèle à déployer après demande d'autorisation
Dépôt GitHub https://github.com/Foxconn-Research/FoxBrain Obtenez des scripts de déploiement et de la documentation
Annonce de l'Institut de recherche Hon Hai https://www.honhai.com/zh-tw/press-center/press-releases/latest-news/1548 Informations sur la sortie officielle

Étapes d'utilisation typiques (basées sur le déploiement VLLM) :

  1. Accédez à la page du modèle Hugging Face pour demander une autorisation (vous devez vous connecter et accepter le contrat de licence).
  2. Installez le framework d'inférence VLLM (pip install vllm==0.8.4).
  3. Utilisez VLLM pour démarrer le service API d'inférence et configurer le nombre de GPU et la longueur du contexte du chemin du modèle.
  4. Utilisez le modèle d'appel d'API standard compatible OpenAI pour effectuer la génération de texte, les questions et réponses, l'assistance au code et d'autres tâches.
  5. Le modèle peut également être intégré aux applications d'entreprise et déployé via l'architecture de microservices NVIDIA NIM.
  6. Consultez la documentation dans le référentiel GitHub et l'exemple de bloc-notes Google Colab pour démarrer rapidement.

Remarque : le modèle nécessite 2 à 8 GPU H100 pour fonctionner et il est recommandé d'utiliser un environnement prenant en charge CUDA.

Prix des produits

FoxBrain est publié en open source sur la base de la licence communautaire Llama 3.1, et les poids des modèles sont disponibles gratuitement (vous devez demander une autorisation auprès de Hugging Face). Les entreprises et les développeurs peuvent télécharger des modèles pour le déploiement et le développement secondaire sans payer de frais de licence.

Le coût d'utilisation se reflète principalement dans l'infrastructure : l'exécution de FoxBrain nécessite 2 à 8 GPU NVIDIA H100. Selon les tarifs du fournisseur de services cloud, le coût de location du GPU est d’environ plusieurs dizaines à plusieurs centaines de dollars par heure. Pour les scénarios nécessitant des appels d'API, vous pouvez déployer votre propre service VLLM et facturer en fonction de l'utilisation du jeton. Le coût est bien inférieur à celui d’un modèle commercial fermé doté des mêmes capacités.

Scénarios d'application

  • Optimisation intelligente de la fabrication : FoxBrain peut être appliqué à la planification et à l'ordonnancement de la production, à l'analyse des défauts de qualité, à la maintenance prédictive des équipements et à d'autres scénarios. En comprenant la terminologie professionnelle et le déroulement des processus dans le domaine de la fabrication, les ingénieurs peuvent localiser rapidement les anomalies de production.
  • Gestion intelligente de la chaîne d'approvisionnement : utilisez les capacités de raisonnement du modèle pour analyser les données de la chaîne d'approvisionnement, identifier les points de risque potentiels et optimiser la gestion des stocks et la planification logistique. L'intégration avec des systèmes d'entreprise tels que SAP amplifie encore cette valeur.
  • Enterprise Knowledge Q&A : basé sur la fenêtre contextuelle de 128 Ko, il peut traiter de longs documents industriels, des spécifications techniques et des manuels d'utilisation, et créer un système de questions-réponses de base de connaissances intelligent au sein de l'entreprise.
  • Assistance et automatisation du code : aider l'équipe de développement dans la génération, la révision et la refactorisation du code, en particulier pour améliorer l'efficacité des scripts automatisés liés à la fabrication et de la construction du pipeline d'analyse des données.

Personnes concernées

  • Équipe de recherche IA : chercheurs qui souhaitent effectuer des réglages secondaires ou étudier l'amélioration des capacités de raisonnement basées sur des modèles open source. Les stratégies de formation efficaces et les documents complets sur les méthodes de formation de FoxBrain ont une valeur de référence élevée.
  • Entreprises manufacturières : entreprises industrielles qui doivent déployer de grands modèles de langage privatisés pour traiter les données de fabrication et optimiser les processus de production. L'optimisation spécialisée de FoxBrain dans les scénarios industriels en fait un choix plus approprié que les modèles à usage général.
  • Intégrateurs système et éditeurs de logiciels : les développeurs qui créent des solutions d'IA pour les entreprises peuvent déployer rapidement des applications personnalisées grâce à l'intégration NVIDIA NIM de FoxBrain.
  • Institutions universitaires : universitaires et étudiants qui ont besoin du grand modèle linguistique chinois traditionnel pour l'enseignement ou la recherche. La version open source de FoxBrain abaisse les obstacles à la recherche.

Il convient de noter que FoxBrain est encore en phase de prévisualisation et que certaines fonctions sont encore en cours d'amélioration. Le modèle est principalement optimisé pour les scénarios chinois traditionnels et industriels, et ses performances dans les tâches générales d'anglais et dans d'autres domaines peuvent ne pas être aussi bonnes qu'un modèle général de même échelle. Le déploiement nécessite certaines infrastructures GPU et ne convient pas à une utilisation directe par des utilisateurs individuels.

Résumé et Outlook

FoxBrain est le premier modèle de langue chinoise traditionnelle de qualité industrielle doté de capacités de raisonnement à Taiwan. Sa valeur fondamentale réside dans la formation d'un modèle de paramètres 70B proche du meilleur niveau mondial dans les domaines des mathématiques et du raisonnement avec des coûts de puissance de calcul extrêmement faibles (2 688 jours GPU). Grâce à la stratégie open source et à l'intégration NVIDIA NIM, le seuil permettant aux entreprises et aux développeurs d'utiliser des modèles d'IA de qualité industrielle est abaissé. Les limitations actuelles incluent : il est encore en phase de prévisualisation et certaines fonctions sont encore en cours d'amélioration ; le modèle est principalement optimisé pour les scénarios chinois traditionnels et industriels, et la couverture des domaines généraux n'est pas aussi bonne que celle des modèles généraux de même échelle ; les droits d’accès nécessitent un examen de la demande et ne sont pas encore entièrement ouverts.

Les orientations dignes d'attention à l'avenir incluent : les connaissances industrielles progressivement améliorées et les capacités de raisonnement spécifiques à un domaine de la version 2.x, une intégration approfondie avec des systèmes d'entreprise tels que SAP et des variantes de modèles propriétaires pour des scénarios tels que la fabrication intelligente et les villes intelligentes. À mesure que FoxBrain passe de la version préliminaire à la version officielle, son influence dans les applications mondiales d’IA de fabrication devrait encore s’étendre.

Outils associés : ÉquipageAI, langchain

Informations de version

  • Aperçu :La version préliminaire, basée sur l'architecture Meta Llama 3.1-70B, possède des fonctionnalités telles que l'analyse de données, le raisonnement mathématique, la génération de code, le résumé de texte, etc., et est ouverte aux partenaires pour des tests.
  • Version formation interne :Pour la version de formation interne, l'Institut de recherche Hon Hai a utilisé 120 GPU NVIDIA H100 pour terminer la formation en quatre semaines, avec des capacités de raisonnement et d'analyse de données de base.

Avis des utilisateurs

  • Chargement des avis...