Lunaire Gratuit

-

Lunary est un et une plateforme LLMOps pour les équipes d'applications LLM. Il se concentre sur l'observabilité, les journaux, le suivi des liens, le modèle d'invite Prompt Playground, les ensembles de données, l'évaluation, les commentaires et la conformité en matière de sécurité pour aider les équipes à faire progresser les applications d'IA de « modèles appelables » à « surveillables, itérables et gérables ».

Lunaire Interface du produit

Texte de l'outil lunaire

Paramètres et statistiques de base

Paramètres Informations publiques actuelles Instructions de vérification
Positionnement du produit Plateforme d'observabilité et de gestion des invites pour les applications basées sur LLM Confirmation directe du titre et de la description du site officiel
Capacités de base Analyses, journaux, traçage, modèles d'invite, aire de jeu d'invite, évaluations, ensembles de données, commentaires Page de fonction de la documentation officielle et confirmation de l'index API
Méthode d'accès SDK Python, SDK JavaScript, OpenTelemetry, OpenAI, Anthropic, Azure OpenAI, LangChain, LiteLLM, Ollama, etc. Confirmation du répertoire officiel d'intégration des documents
Méthodes de déploiement Lunary Cloud + Enterprise Edition auto-hébergé Documentation officielle de sécurité et documentation Docker / Kubernetes confirmées
Conformité à la sécurité SOC 2 Type 2, ISO 27001:2022, directives RGPD/CCPA Confirmation officielle de la documentation sur la sécurité des données
Logo client du site officiel IBM, Zurich, Netomi, Close, DHL et autres logos de marques La page d'accueil du site officiel est affichée publiquement, la taille spécifique du contrat n'est pas divulguée
Limites des produits Applications LLM de surveillance, de débogage, d'évaluation et de gouvernance, et non de plates-formes de formation de modèles Résumé par structure fonctionnelle officielle et portée du document

La valeur fondamentale de Lunary n'est pas « d'inclure une autre couche d'API de modèle », mais de placer sur le même plan de travail plusieurs types de problèmes qui sont les plus difficiles à gérer en continu après le lancement de l'application LLM : qui appelle, combien d'argent est dépensé, où sont les retards et les erreurs, quelle version de l'invite prend effet, si le résultat expérimental peut être reproduit et comment les commentaires des utilisateurs sont répercutés pour l'évaluation et l'itération.

En termes de vérification, cet article est basé sur le site officiel « lunary.ai », les documents officiels « docs.lunary.ai », l'index des documents officiels « llms.txt » et les documents de sécurité publique/auto-hébergés ; aucune déduction n'est faite sur le nombre non divulgué de clients, les revenus, la fidélisation, les fondateurs et les données de financement.

Reconnaissance des utilisateurs et du marché

Lunary n'est pas destiné aux outils d'IA de jouets purement personnels, mais aux équipes qui ont déjà intégré des appels LLM dans les produits, le service client, les applications internes ou les flux de travail des agents. Le site officiel le présente comme une plate-forme de gestion observable et rapide pour les applications basées sur LLM, et affiche le logo du client d'entreprise et le logo de certification SOC 2, ISO 27001 sur la page d'accueil, indiquant que son récit commercial se concentre sur la disponibilité de la production, la collaboration en équipe et la confiance en matière de sécurité.

Du côté du développeur, la reconnaissance de Lunary se reflète principalement dans son chemin d'accès complet : il prend en charge à la fois le packaging SDK des fournisseurs de modèles courants et l'entrée standard OpenTelemetry. Pour les équipes utilisant déjà LangChain, LiteLLM, Ollama ou une passerelle de modèle personnalisée, cela facilite l'intégration dans les architectures existantes qu'un outil de surveillance « un seul fournisseur de modèle ».

Il convient de noter que le site officiel ne divulgue pas le nombre total vérifiable de clients, le volume d’appels mensuel ARR ou le taux de pénétration du secteur. Par conséquent, les capacités accessibles des produits, la documentation de sécurité, les exigences d'auto-hébergement et les données pilotes doivent être utilisées comme base principale pour l'évaluation des achats, plutôt que d'assimiler directement les logos des clients à un succès à grande échelle.

Avantage de coût

L'avantage de Lunary en termes de coût vient principalement de la « réduction des pertes invisibles » plutôt que de la simple réduction du prix unitaire des jetons modèles. Une fois les applications LLM entrées en production, les pièces les plus coûteuses sont souvent des anomalies non localisées, des versions rapides confuses d'expériences répétées, l'absence de commentaires des utilisateurs et le manque de données comparables lors du changement de modèle.

Hiérarchie des coûts Capacités exposées de Lunary Jugements de valeur
Projets personnels/premiers projets La page de tarification du site officiel fournit un point de départ gratuit Convient pour le journal de vérification à faible coût Gestion rapide et processus de surveillance de base
Équipe de développement Console Web + SDK + API + OpenTelemetry Faire avancer la qualité, le coût, les délais et la localisation des erreurs dans le processus de développement et de lancement
Déploiement en entreprise Scale/Enterprise, rapports d'audit, documentation Docker/Kubernetes auto-hébergée Pour les organisations avec des limites de données, des audits de conformité et des exigences de déploiement privé
Coûts cachés Frais d'appel des modèles, maintenance des échantillons d'évaluation, stratégie de conservation des données, gestion des autorisations Lunary réduit les coûts de dépannage et de gouvernance, mais n'élimine pas les coûts de modèle et d'ingénierie

Pour l'équipe, le retour sur investissement de Lunary doit être mesuré en « réduisant le temps de dépannage d'un incident en ligne », en « réduisant le risque de régression de Prompt », en « réduisant les appels de modèle invalides » et en « permettant aux membres non-ingénieurs de participer en toute sécurité aux itérations de Prompt ». Si le projet est encore au stade de démonstration, que le volume d'appels est très faible et qu'il n'y a pas besoin de collaboration, les avantages de la plateforme LLMOps complète seront sous-estimés.

Fonctions principales

  • Analytics : compte automatiquement les coûts d'appel LLM, l'utilisation des jetons de volume d'appels, la latence moyenne, le nombre d'erreurs et les tendances d'utilisation des utilisateurs, aidant ainsi l'équipe à passer du « se sentir cher » à l'attribution par modèle, utilisateur et dimensions temporelles.
  • Journaux : enregistrez et vérifiez les demandes et les réponses LLM, adaptés à l'examen des réponses aux exceptions, au dépannage des sorties vides, à la localisation des erreurs des fournisseurs de modèles et à l'analyse de la distribution réelle des entrées des utilisateurs.
  • Traçage : fournit un suivi des liens pour les appels complexes d'agent, de chaîne et d'outil. Le SDK officiel prend en charge le regroupement d'agents, de chaînes et d'outils, de sorte que les opérations en plusieurs étapes dans une demande utilisateur puissent être visualisées en série.
  • Modèles d'invite : séparez l'invite du code pour le stockage, la gestion des versions, la collaboration et les tests A/B, réduisant ainsi la friction liée au redéploiement du code lors du changement d'invite.
  • Prompt Playground : fournit un environnement de test Prompt interactif, qui peut comparer différents modèles, paramètres et variables, et peut également se connecter à des points de terminaison d'API personnalisés pour tester les systèmes RAG ou Agent.
  • Ensembles de données et évaluations : l'index officiel de l'API comprend des interfaces telles que l'ensemble de données v2, l'évaluation, le critère et le résultat, qui conviennent à la conversion d'échantillons de test et de processus d'évaluation en actifs reproductibles.
  • Suivi des commentaires : prend en charge l'enregistrement des préférences, des aversions, des commentaires ou des commentaires JSON personnalisés sur les réponses des utilisateurs, et peut être utilisé pour filtrer les appels et affiner la préparation des données ultérieure.
  • Accès OpenTelemetry : recevez des traces OTEL via /v1/otel, ce qui facilite l'accès aux systèmes observables multi-langues, multi-framework et existants.
  • Sécurité et gouvernance : fournit des instructions de sécurité des données, des directives RGPD/CCPA, des limites auto-hébergées, une adresse e-mail de contact sécurisée et des instructions SOC 2/ISO 27001.

Combinées, ces capacités font de Lunary davantage une « console de production d’applications IA » qu’un visualiseur de journaux autonome. Il place les invites, les appels, les commentaires des utilisateurs et les données d'examen dans le même contexte, réduisant ainsi le coût de regroupement des preuves entre les outils.

Evolution du modèle et de la version

L'évolution des versions de Lunary ne peut pas être comprise uniquement par les numéros de version clients traditionnels. La page publique présente un ensemble d'expansion continue des capacités de la plate-forme cloud : des journaux de base et observables au terrain de jeu de modèles Prompt, aux ensembles de données, à l'évaluation, aux commentaires OpenTelemetry et à l'auto-hébergement.

Les nœuds publics actuellement vérifiables incluent :

  • Version publique actuelle du site officiel : Le site officiel définit directement Lunary comme la plate-forme de gestion observable et rapide pour les applications LLM, et affiche la certification de sécurité, l'identification du client et l'entrée principale.
  • Système de fonction de document officiel : l'index des documents comprend déjà l'observabilité, les modèles d'invite, l'aire de jeu d'invite, les commentaires, l'analyse des produits, l'API, OpenTelemetry, l'auto-hébergement, la conformité en matière de sécurité et d'autres pages.
  • Exemple d'auto-hébergement d'entreprise : la documentation Docker montre la combinaison d'images lunary/backend:1.4.8 et lunary/frontend:1.4.8, indiquant que l'auto-hébergement de la version Enterprise a un chemin de déploiement indépendant.

Par conséquent, lors de l'évaluation de Lunary, vous devez vous concentrer davantage sur « si les capacités couvrent votre processus de production » plutôt que de rechercher une « dernière version de modèle » distincte. Il ne forme ni ne publie lui-même de grands modèles de base, mais sert de couche de gouvernance autour de l'exécution, du débogage et de l'évaluation des applications multimodèles.

Avantages techniques

Collecte automatique du SDK : le document officiel d'Observabilité indique clairement que les analyses et les journaux seront automatiquement capturés après l'intégration du SDK. Cela réduit les coûts d'accès anticipé, et l'équipe peut d'abord obtenir des informations sur les coûts, les retards, les erreurs et le volume d'appels, puis ajouter progressivement un suivi et des commentaires plus détaillés.

Link Level Tracing : pour les appels d'agents et d'outils, un seul journal de requêtes LLM n'est souvent pas suffisant. Les capacités de packaging d'agents, de chaînes et d'outils de Lunary peuvent regrouper des sous-étapes dans le même lien, ce qui convient au dépannage de problèmes en plusieurs étapes tels que « l'outil est appelé de manière incorrecte », « les résultats de la recherche sont incorrects » et « la réponse du modèle est affectée par l'étape précédente ».

Découplage de l'invite du code : les modèles d'invite permettent aux développeurs de restituer des modèles via le SDK tout en conservant le suivi des appels. De cette façon, les membres non-ingénieurs peuvent participer aux itérations de la version Prompt, tandis que l'équipe d'ingénierie conserve les limites de déploiement, d'autorisations et de restauration.

Compatible OpenTelemetry : OTEL est la norme d'observabilité universelle. Lunary prend en charge la réception de traces OTEL, ce qui signifie que les équipes peuvent intégrer des applications LLM dans des systèmes de traçage distribués plus vastes au lieu de s'appuyer entièrement sur des SDK propriétaires.

Chemin de conformité et d'auto-hébergement : le document de sécurité officiel décrit les limites de responsabilité entre le Cloud et l'auto-hébergement, et explique que l'auto-hébergement est adapté aux scénarios où un contrôle complet des données est requis. Pour les projets de données médicales, financières, gouvernementales ou hautement sensibles, cela est plus critique que la simple fonctionnalité de l’interface utilisateur.

Comment utiliser

Entrée Objets appropriés Comment utiliser
Web du nuage lunaire Équipe Produit, Ingénierie, Opérations Créez un projet après l'enregistrement, affichez les invites du journal, l'évaluation et l'analyse sur la console
SDK Python Backend Python, projet d'agent d'application de données Installez le SDK, packagez OpenAI / Anthropic / Azure OpenAI ou enregistrez manuellement l'exécution
SDK JavaScript Node.js, Next.js, collecte de commentaires front-end Connectez-vous au SDK JS, surveillez les appels de modèles et signalez les commentaires des utilisateurs
OpenTélémétrie Équipes d'ingénierie avec systèmes d'observabilité existants Envoyer les traces OTEL à https://api.lunary.ai/v1/otel
API Ingénierie de plateforme et outils internes Automatisation via des API telles que des exécutions, des modèles, des ensembles de données, des évaluations, des vues, etc.
Auto-hébergé Entreprise et équipe de conformité forte Déploiement de la documentation Docker/Kubernetes à l'aide de Enterprise Edition

Le chemin d'implémentation recommandé est le suivant : connectez-vous d'abord au SDK minimum pour collecter les journaux d'appels et les coûts, puis migrez les invites clés vers les modèles ; puis établir un petit ensemble de données d'évaluation pour effectuer une régression sur les scénarios de base ; et enfin intégrer les commentaires, les autorisations, l'auto-hébergement ou l'accès OTEL dans la gestion de la production. Cela permet d'éviter de rechercher dès le départ une approche « grande et globale », mais de conserver la voie de l'expansion du système de production.

Prix des produits

Le site Web officiel de Lunary propose une page de tarification publique, proposant des points de départ gratuits, des emplacements d'équipe payants et des plans d'entreprise pour des équipes de différentes tailles. Étant donné que les prix SaaS, les quotas d'événements, les sièges et les limites fonctionnelles seront ajustés de manière dynamique, l'approvisionnement formel doit être basé sur la page de tarification en temps réel et le contrat sur le site officiel.

Poste Statut public Jugement d'applicabilité
Gratuit / Point de départ gratuit Disponible publiquement sur le site officiel Convient pour vérifier l'accès au SDK, les journaux de base et le flux de travail d'invite
Forfaits payants tels que Pro / Team / Scale Site officiel Page de tarification pour affichage public Convient aux équipes de produits en croissance, en se concentrant sur la vérification du quota d'événements, du nombre de membres, de la conservation des données et des fonctions de collaboration
Entreprise Le site officiel donne accès aux capacités de communication commerciale et d'entreprise Convient pour le SSO, l'audit, l'auto-hébergement, les rapports de conformité, le support dédié et les exigences de sécurité plus élevées
Auto-hébergé La documentation officielle indique qu'elle n'est disponible que dans Enterprise Edition Convient aux équipes qui doivent conserver les données sur leur propre infrastructure

Ne vous contentez pas de regarder les frais mensuels lors de l’évaluation des coûts. Le plus important est de confirmer trois choses : si le volume mensuel de votre événement LLM dépassera votre quota ; combien de temps les données de journalisation et de mesure doivent être conservées ; si la conformité de l'entreprise nécessite un auto-hébergement, des rapports d'audit ou une assistance dédiée. Pour les produits d’IA haute fréquence, ces limites auront un impact plus important sur le coût total que sur le prix de l’abonnement de base.

Scénarios d'application

  • Service client IA et surveillance des chatbots : enregistrez les messages des utilisateurs, modélisez les réponses, les erreurs et les commentaires pour aider l'équipe à localiser les hallucinations, les refus, les longs retards et les problèmes coûteux.
  • Débogage du système RAG : testez le processus d'amélioration de la récupération dans Prompt Playground ou un point de terminaison personnalisé, et observez si le contexte entre correctement dans le modèle via les journaux/traces.
  • Dépannage du flux de travail des agents : utilisez le traçage des agents, des chaînes et des outils pour observer le raisonnement en plusieurs étapes, l'appel d'outils et les résultats de l'exécution des sous-tâches. Il convient aux assistants automatisés, aux agents d’opérations internes et aux flux de travail complexes.
  • Gestion des versions d'invite : extrayez l'invite dans un modèle pour prendre en charge la collaboration, l'enregistrement des versions, les tests et les expériences A/B, et réduire la dérive des invites en ligne.
  • Évaluation du modèle et des paramètres : utilisez des ensembles de données, des critères et des évaluations pour effectuer des comparaisons reproductibles de combinaisons d'invites de modèle, de températures, de jetons maximum, etc.
  • Surveillance des coûts et de l'expérience : observez le volume d'appels, le coût, la latence et les erreurs par modèle, utilisateur et projet pour fournir une base au routage du modèle, à la mise en cache ou à la limitation de courant.
  • Scénarios sensibles à la conformité : lorsque vous devez contrôler la limite des données, conservez les données sur votre propre territoire via la voie d'auto-hébergement d'entreprise.

Personnes concernées

Développeurs d'applications IA : ils appellent déjà des frameworks tels que OpenAI, Anthropic, Azure OpenAI, Gemini, Mistral, Ollama ou LangChain dans leur code et doivent mieux observer les demandes, les réponses, les erreurs et les coûts.

Équipe produit et opérations : vous devez participer aux itérations d'invite, consulter les commentaires des utilisateurs et comprendre l'utilisation des fonctions, mais vous ne souhaitez pas vous fier au redéploiement de l'ingénierie pour chaque changement.

Équipes d'ingénierie de plate-forme et LLMOps : nécessité d'établir une gouvernance unifiée de la journalisation, des métriques, des métriques et des autorisations pour plusieurs projets d'IA, en particulier pour les équipes cherchant à intégrer OpenTelemetry ou l'auto-hébergement dans leur architecture.

Équipe de sécurité et de conformité de l'entreprise : faites attention aux normes SOC 2, ISO 27001, RGPD, CCPA, aux limites du traitement des données et aux exigences d'auto-hébergement. Les responsabilités du fournisseur et les méthodes de déploiement doivent être confirmées avant la mise en ligne.

Les scénarios qui ne conviennent pas très bien sont les suivants : utilisation occasionnelle de chatbots, pas d'appels réels d'utilisateurs, pas de collaboration sur la version Prompt et pas besoin de révisions ou d'attribution de journaux. À ce stade, il suffit d’effectuer une validation précoce à l’aide du journal commun ou de la console du fournisseur de modèles.

Résumé et Outlook

Lunary convient aux équipes qui mettent en production des applications LLM. Il intègre l'observabilité, les journaux, la gestion des invites de suivi des liens, l'évaluation, les commentaires et la conformité en matière de sécurité dans un ensemble de flux de travail pour résoudre le problème de « comment continuer à améliorer et contrôler la fonction IA après sa mise en ligne ».

Son avantage réside dans sa large surface d'accès, ses fonctions complètes et sa documentation officielle couvrant le Cloud, l'OpenTelemetry auto-hébergé et l'intégration multi-modèles. Les limites actuelles qui nécessitent une attention particulière sont les suivantes : certains indicateurs commerciaux ne sont pas publics, les documents d'analyse des produits sont encore en cours de finalisation, l'auto-hébergement est une fonctionnalité de la version entreprise et une vérification pilote doit être effectuée avec le volume d'appels réel, la période de conservation des données et les exigences de sécurité avant l'achat.

Si votre équipe dispose déjà d'appels LLM stables et d'indicateurs de qualité clairs, Lunary peut être utilisé comme console LLMOps pour établir et surveiller les versions Prompt, les fonctions d'évaluation et de feedback ; s'il est encore en phase de démonstration, il est recommandé d'utiliser d'abord un plan gratuit ou à bas seuil pour se connecter à un lien principal afin de confirmer s'il peut réduire le temps de dépannage et les risques d'itération d'invite, puis de l'étendre à davantage de projets.

Outils associés : Copilote GitHub, Curseur

Informations de version

  • Version publique actuelle de Lunary Cloud :Le statut public actuel du site Web officiel et des documents officiels prévaudra, couvrant l'observabilité, les modèles d'invite, l'aire de jeu d'invite, les évaluations, les ensembles de données, les commentaires, l'OpenTelemetry, l'API et les documents auto-hébergés.
  • Auto-hébergement Docker de Lunary Enterprise Edition :L'exemple de documentation Docker officiel auto-hébergé utilise lunary/backend:1.4.8 et lunary/frontend:1.4.8, indiquant que la version entreprise prend en charge le déploiement combiné du backend, du frontend et de PostgreSQL.

Avis des utilisateurs

  • Chargement des avis...