À l’heure où j’écris ces mots, ce site contient environ 1 500 lignes de code et 1 000 lignes de styles. Il utilise Astro : je n’ai jamais utilisé Astro, je n’ai qu’une vague idée de son fonctionnement, et je n’ai pas écrit une seule de ces 2 500 lignes. La mise en page, la logique et les paramètres de build ont été écrits par un agent IA, et le résultat me convient parfaitement.
Une grande partie du travail de développement tourne autour du web, et ce genre d’expérience a suscité beaucoup de commentaires sur le thème « on n’a plus besoin de développeurs ». C’est un raccourci dangereux.
Si l’IA a fait ici un très bon travail, c’est qu’il s’agit d’un site statique quasiment sans logique : on affiche du texte mis en forme, on s’assure que les liens entre pages fonctionnent, et si quelque chose ne va pas, cela se voit à l’écran. Laisser le modèle travailler seul était le bon choix, pour une raison qui n’a rien à voir avec sa compétence : il y avait, dans ce projet, peu de risques d’erreur.
Mais j’ai écrit cet article moi-même : la version proposée par l’IA faisait très… IA.
Donnez maintenant au même modèle le code qui valorise une obligation convertible, ou celui qui vérifie qu’une position reste dans sa limite réglementaire, et le risque qu’une erreur subtile s’y glisse devient bien plus élevé.
Un métier fait d’exceptions
La finance a ceci de particulier que ses règles ont presque toujours des exceptions.
Un prix est positif — jusqu’au 20 avril 2020, où un contrat à terme sur le pétrole s’est réglé à −37,63 dollars. Un taux d’intérêt aussi, jusqu’à ce que la BNS le fixe à −0,75 % et l’y laisse sept ans. Une opération sur actions se dénoue à J+2, sauf aux États-Unis depuis le 28 mai 2024, et en Europe à partir d’octobre 2027. Un ISIN identifie un titre, mais pas ce que vous négociez : il arrive qu’un même ISIN se traite à New York et à Francfort, dans deux devises, sur deux calendriers — et, depuis mai 2024, sur deux cycles de règlement.
Toutes ces règles sont correctes quatre-vingt-dix-neuf fois sur cent, et le centième cas est celui qui coûte s’il n’a pas été prévu.
C’est le pire terrain qui soit pour un modèle de langage. Il a lu la règle des milliers de fois et l’exception presque jamais ; il l’inscrit donc dans le code sans prévenir — une validation qui refuse les valeurs négatives, un type qui ne sait pas les représenter.
L’inverse est vrai aussi : une exception rare ne s’applique pas forcément au projet en cours, et un agent risque de complexifier le code inutilement.
Un code plausible n’est pas nécessairement correct
C’est ce qui rend l’affaire pénible. Lorsque le code écrit par l’IA contient des erreurs, ce ne sont pas toujours des erreurs qui se repèrent facilement : même allure, mêmes noms de variables sensés, même structure que ce qu’écrirait un ingénieur expérimenté. Une fenêtre de dates décalée d’un jour, une valeur nulle traitée comme si elle ne l’était jamais : le code compile, les tests passent, le build est vert.
Sans relecture attentive, ces erreurs s’accumulent d’autant plus vite qu’on laisse au modèle davantage d’autonomie.
Dans d’autres domaines, un bug se traduit par un bouton qui ne répond plus ; quelqu’un finit par se plaindre, on corrige, on redéploie. Move fast and break things a pu devenir une devise parce que, dans ce monde-là, un bug ne coûte pas cher.
Un système de trading ou de risque n’offre pas cette marge. Un chiffre faux, ce n’est pas un écran cassé, c’est une position prise par erreur, ou un dépassement de limite qui peut aboutir à des pénalités financières.
Ce n’est pas la faute du modèle
Rien de tout cela ne dit que l’IA serait survendue. Mais il faut se rappeler que les modèles ont été entraîné à produire une réponse plausible et à se montrer accommodant : il fait son métier.
Lui confier en plus la vérification de sa propre justesse, dans une industrie où chaque règle traîne son exception, est une gageure.
Le gain de productivité est réel. Il ne vient pas de la liberté qu’on laisse au modèle, mais de ce qu’on installe autour : des contrôles qu’il ne peut pas contourner, et une équipe qui valide ce qu’il produit.
Les articles suivants décrivent le dispositif que nous avons mis en place chez plusieurs clients.