Sandwish - stock.adobe.com
Cybersécurité : le réglage fin, pour aller au-delà du modèle brut
CrowdStrike a procédé au réglage fin du modèle Nemotron 3 Nano 30B-A3B de Nvidia pour développer une approche de raisonnement vérifiable et transformer le triage de menaces en cybersécurité.
Le triage des alertes de sécurité repose sur la distinction entre une menace réelle et un bruit de fond. Les modèles d'IA actuels répondent à cette question à vitesse machine, produisant un verdict de faux positif ou de vrai positif accompagné d'un score de confiance calibré.
Cependant, les analystes expérimentés ne se contentent pas d'un verdict : ils évaluent les preuves à travers les lignes de commande, le contexte comportemental et d'autres signaux pour comprendre non seulement ce qui s'est passé, mais surtout sa signification.
C'est avec ces contraintes à l'esprit que les équipes de CrowdStrike ont cherché, dans le cadre de l'Open Secure AI Alliance, à doter les classificateurs de triage, tels que le Charlotte AI, de cette capacité de raisonnement. Au lieu de demander au modèle de lire une détection et de produire directement une étiquette, le système est entraîné à parcourir la détection étape par étape. Il génère une chaîne de raisonnement transparente avant de s'engager dans un verdict. Ce processus transforme une étiquette opaque en une décision au raisonnement vérifiable que les analystes peuvent évaluer et approuver.
L'ingénierie du raisonnement : une méthodologie spécialisée
Pour permettre à un modèle de raisonner efficacement sur des détections réelles, une méthodologie d'entraînement en quatre étapes a été mise en œuvre.
Premièrement, l'optimisation des invites a consisté à rechercher automatiquement la meilleure invite de raisonnement possible. Un juge LLM a été utilisé pour récompenser le raisonnement multi-champs authentique, empêchant le modèle de se rabattre sur des raccourcis fragiles. Ensuite, l'auto-entraînement a permis au modèle d'apprendre de son propre travail optimal. Il générait des traces de raisonnement, conservait celles qui aboutissaient au verdict correct, et affinait son effort sur les détections les plus complexes.
Troisièmement, l'apprentissage par renforcement avec récompenses vérifiables a été utilisé. Étant donné qu'un verdict de triage est binaire, le modèle, Nemotron 3 Nano 30B-A3B de Nvidia, a été directement récompensé pour les réponses correctes et bien formées. Cette approche a permis au modèle de découvrir des stratégies de raisonnement plus concises et plus précises.
Enfin, le calibrage de la confiance a résolu un problème inhérent au raisonnement. Une fois qu'un modèle a argumenté sa conclusion, le jeton de l'étiquette finale est presque toujours proche de la certitude, rendant sa probabilité non fiable. Un calibreur séparé a été entraîné pour lire l'intégralité de la trace de raisonnement et estimer la probabilité que le verdict soit correct, rétablissant ainsi un score de confiance fiable essentiel au triage automatisé.
La performance par la spécialisation
Les résultats montrent que l'intégration du raisonnement améliore significativement les performances. Le système basé sur le raisonnement a permis de révéler un nombre nettement supérieur de détections exploitables par rapport à l'approche par étiquette directe.
Selon l'étude, le système de raisonnement a atteint une précision globale de 82,6 %, surpassant tous les modèles disponibles sur étagère, y compris les modèles généralistes de pointe beaucoup plus volumineux. En comparaison, les modèles généralistes de premier plan se sont regroupés autour de 55 % à 71 % de précision sur cette tâche.
Les gains opérationnels sont quantifiables : l'augmentation de 43,0 points de pourcentage de la récupération des faux positifs à haute confiance permet de fermer automatiquement et en toute sécurité un plus grand nombre d'alertes bénignes. Simultanément, un gain de 18,3 points de pourcentage dans la récupération des vrais positifs signifie que davantage de menaces authentiques peuvent être priorisées pour les analystes.
Les résultats de ce travail montrent comment le réglage fin de modèles génériques ouvrent des perspectives encore plus étendues au SOC agentique.
