Yokohama : ServiceNow passe (réellement) des assistants aux agents IA

Des agents préconfigurés pour l’IT

Ces agents ont accès à des outils et des informations pour accomplir leurs tâches.

Outre la mise à disposition des connecteurs et des outils de conception des agents, ServiceNow veut proposer des agents préconfigurés pour les RH, le support IT, le service client, les achats, les SecOps, les opérations.

Dorit Zilbershot, elle, met l’accent sur les agents conçus pour les DSI et leurs entités.

« Les agents SecOps AI sont conçus pour rationaliser le cycle de vie des incidents de sécurité, ce qui permet aux équipes SecOps de se concentrer sur les menaces prioritaires plutôt que sur des tâches répétitives et fastidieuses », illustre-t-elle. « Nous disposons d’experts en gestion du changement, d’agents IA capables de générer de manière autonome des implémentations personnalisées, des plans de test et de sauvegarde en analysant l’impact et les changements similaires », ajoute-t-elle.

Un troisième agent permet de détecter, de diagnostiquer et résoudre des problèmes réseau. Ces trois agents avaient déjà été présentés lors de la conférence annuelle de l’éditeur l’année dernière.

Des partenaires développent également des bots. Par exemple, Okta a conçu un assistant pour les administrateurs afin de valider l’identité des employés ou renouveler leurs accès.

L’AI Agent studio rassemble les agents de ServiceNow, ceux des partenaires et ceux que les clients peuvent créer eux-mêmes.

Un orchestrateur semi-autonome

Pour l’instant, l’orchestrateur ne peut pas choisir n’importe quel agent dans un large inventaire. Le studio permet aux développeurs de sélectionner arbitrairement les agents qui coopéreront pour accomplir une tâche. Ces agents sont pour l’instant ceux de ServiceNow ou ceux de ses clients créés à travers son studio.

Pour le reste, les instructions consistent en une suite de prompts spécifiques. Les outils peuvent être des flux d’action, l’accès à un système RAG basé sur SharePoint, par exemple. Dorit Zilbershot indique que la mise à jour Yokohama inclut plus de 50 intégrations avec des systèmes tiers.

Aux outils sont associés d’autres prompts afin de décrire au LLM ce qu’il peut en faire. L’exécution de l’outil peut être autonome, sans intervention humaine ou supervisée, à la manière des bots RPA. En revanche, lorsque certaines tâches réclament des interventions humaines, par exemple l’accomplissement d’un roll back dans une configuration réseau, l’agent le notifie à l’utilisateur.

Quant à l’accès par les agents aux données résidant dans des systèmes tiers, ServiceNow s’appuie sur un système de Data mapping similaire à ce que propose Salesforce avec Data Cloud. Avec ce système « Worfklow Data Fabric », il n’est pas nécessaire de copier les données pour réconcilier des enregistrements qui sont mis à jour à l’aide d’un dispositif CDC (Change Data Capture). Ce Data Fabric dispose de près de 130 connecteurs vers des systèmes comme Redshift, Snowflake, Databricks, Qualtrics, Sharepoint, S3, les services Oracle ou encore Google Cloud.

En outre, ServiceNow a renforcé la gouvernance des modèles d’IA, ainsi que la gestion des identités et des rôles. L’éditeur utilise principalement les modèles Llama 3.3 70B, Mistral Nemo 12B, T5 et StarCoder, mais il donne accès à des LLM tiers à travers les plateformes Amazon Bedrock, watsonxai, Vertex AI, Aleph Alpha, OpenAI ou encore Azure OpenAI.

Simplifier les interfaces

La version Yokohama introduit par ailleurs un tableau de bord afin d’observer l’exécution des tâches par les agents et leur usage, mais également des indicateurs clés de performance dans le but de mesurer leur efficacité en nombre de cas résolu et d’heures épargnées.

Cette mise à jour vise aussi à unifier les tableaux de bord d’observabilité liés aux outils ServiceNow. De même, ServiceNow Studio permet aux « développeurs de n’importe quel niveau – low-code, no-code, pro-code – de concevoir des applications, des flux et des agents IA », présente Amy Lokey, vice-présidente et chief experience officer chez ServiceNow. Ce studio embarque l’AI Agent Studio et l’ensemble des outils de conception en une seule interface. ServiceNow Studio contient également un assistant IA Now Assist pour construire ou aider à la conception des applications. Des apps qu’un autre assistant peut décrire en quelques phrases. En ce sens, la navigation dans les tables de la CMDB a été simplifiée pour relier des éléments connexes entre eux.

Bref, ServiceNow semble vouloir se mettre au niveau de Salesforce tout en ne déviant pas de sa feuille de route technique présentée l’été dernier.

Des bots GenAI pour créer… des bots RPA

Il y a tout de même quelques particularités chez l’entreprise dirigée par Bill McDermott. Un autre assistant Now Assist permet de créer des bots RPA à l’aide de prompts.

« Avant la génération automatique de bots, les développeurs RPA et les équipes d’automatisation devaient concevoir manuellement des automatisations basées sur des bots ou utiliser des modèles existants pour des cas d’usages courants », explique Amy Lokey. « Avec ce générateur de bots RPA, vous pouvez concevoir un bot spécifique en utilisant le langage naturel, accélérant ainsi considérablement le processus de développement ».

« Avec ce générateur de bots RPA, vous pouvez concevoir un bot spécifique en utilisant le langage naturel, accélérant ainsi considérablement le processus de développement ».

« Si l’aperçu de l’automatisation nécessite des modifications, nous pouvons ajuster les instructions et régénérer le bot jusqu’à obtenir le résultat souhaité », poursuit-elle. « Nous avons également l’option de créer l’automatisation en mode non supervisé ou supervisé ».

Chez Eaton, l’adoption des assistants est avérée, les gains de productivité moins

Si ServiceNow revendique plus 1 000 clients payants de ses produits GenAI (l’entreprise revendique plus de 8 400 clients au total), ceux-là utilisent majoritairement les assistants Now Assist. De fait, toutes les briques nécessaires au fonctionnement des agents n’étaient pas disponibles.

« Now Assist nous a aidés à automatiser des tâches manuelles, comme la création de conversations pour tous nos forums et notre portail, et à mieux interagir avec nos utilisateurs. Cela a été un succès immédiat dès la première année », témoigne Sunil Tulyani, Service Management Platform Leader chez Eaton, un fabricant de systèmes de gestion d’alimentation.

Eaton a mis en place un conseil de l’IA pour évaluer où l’IA générative peut aborder des gains. Ce conseil joue également un rôle dans le choix d’intégration de différents assistants d’IA du marché.

« Maintenant que cette première étape est franchie, nous sommes prêts à explorer ce que nous pouvons accomplir lors de la deuxième année, et nous sommes très enthousiastes à l’idée d’améliorer encore notre productivité », ajoute Sunil Tulyani. « L’objectif est d’intégrer ces agents pour […] réduire le temps de résolution des tickets ».

Pourtant, ServiceNow affirme que ses produits GenAI ont déjà un impact notable. Le temps de réponse des tickets passerait à 8 secondes, 80 % des cas IT seraient automatisés, la productivité augmenterait de 20 % et la délégation des demandes serait multipliée par trois.

Ces gains ne sont pas encore pleinement observés par Eaton.

« Du côté utilisateur et de notre portail employé, l’adoption de l’IA générative est significative. C’est moins le cas en matière de productivité ».

« Du côté utilisateur et de notre portail employé, l’adoption de l’IA générative est significative », note Sunil Tulyani. « C’est moins le cas en matière de productivité ».

« L’une de nos principales préoccupations est la qualité des données, et nous travaillons à leur nettoyage pour nous préparer à l’IA autonome », poursuit le responsable. Un problème qui affecte bon nombre d’entreprises.

Et la réponse à ce problème, selon Eaton, résiderait dans l’usage de l’IA elle-même. « Nous comptons intégrer l’IA dès le début du processus pour structurer les données et éviter de compter uniquement sur des corrections manuelles, afin de garantir une efficacité maximale plus tard », annonce Sunil Tulyani.

De gros investissements pour convaincre les clients (sans les brusquer)

De son côté, ServiceNow sait qu’il doit encore améliorer ses fonctionnalités et couvrir davantage les besoins liés au RH et au service client. Et de proposer davantage d’agents préconfigurés. D’où le rachat de MoveWorks pour 2,85 milliards de dollars. Les agents de MoveWorks s’intègrent déjà à ServiceNow, Salesforce, Workday, Zendesk, aux logiciels SAP et d’autres.

Les agents IA de ServiceNow et les outils pour les créer ServiceNow sont inclus dans les licences Pro Plus et Enterprise Plus, ainsi que dans l’offre Now Assist, selon Amit Zavery, president, chief product officer et COO chez ServiceNow. Les clients ayant souscrit au SKU Now Assist recevront un nombre de crédits limités pour appeler les agents IA.

« C’est un modèle d’abonnement avec des extensions basées sur la consommation », décrit-il, de manière plus générale. « Si vous épuisez ces crédits, vous pouvez acheter un SKU supplémentaire pour prolonger l’usage. C’est vraiment un moyen de permettre aux clients d’adopter le modèle à leur rythme, sans avoir à s’engager de manière importante dès le départ ».