Depuis des années déjà, les ordres en bourse sont générés par des programmes d’ordinateurs, souvent complexes, qui reposent principalement sur une approche appelée «systèmes experts». Ces algorithmes permettent de mettre en œuvre des règles prédéfinies sur des faits pour produire des conséquences. Par exemple, si tels ou tels faits sont donnés, alors il faut acheter telles ou telles actions dans telles ou telles quantités. Dans cette hypothèse, une volonté humaine a bien fixé les règles à appliquer et, le plus souvent, délimité les données (faits) à considérer. Dès lors, la conclusion d’un achat d’actions de cette manière est le fruit d’une volonté, concrétisée au travers d’un programme algorithmique «expert». Pour le droit des contrats, il n’y a rien de très particulier.

Les enjeux du machine learning

La question juridique devient toutefois beaucoup plus délicate lorsque les faits ou données à prendre en compte ne sont plus délimités à l’avance ou que l’algorithme utilisé n’est plus un système expert, avec des règles prédéfinies, mais un système de machine learning. En effet, un tel algorithme repose sur une approche dynamique, en ce sens que les réseaux de neurones artificiels permettent d’identifier, de manière autonome, des tendances récurrentes (patterns) sur la base de l’analyse d’une très large quantité de données. Durant une phase d’apprentissage (si celle-ci est prévue ou nécessaire), les patterns reconnus sont validés ou invalidés par un être humain. Cela permet d’adapter le réseau neuronal artificiel afin de le rendre plus performant; cela permet surtout de donner le sens à attribuer aux patterns spécifiques («Oui, cette image représente bien un chien»). Certains systèmes de machine learning plus récents sont même auto-apprenants; par la répétition et surtout la rétroanalyse, ils peuvent ainsi auto-corriger leurs résultats en modifiant les poids des divers facteurs de manière autonome, ce qui améliore le résultat global. Dans ce cas également, il faut toutefois que des règles extérieures donnent du sens aux divers patterns. C’était l’un des principes d’AlphaGo Zero à qui l’on avait donné, en 2017, les règles du jeu de Go. Le programme avait alors joué contre lui-même de manière autonome plus de 4,9 millions de fois en trois jours, puis avait battu 100 parties à 0 la première version d’AlphaGo Lee, version entraînée par les humains. Et pourtant, AlphaGo Lee avait battu, en 2016, Lee Sedol, champion et grand maître sud-coréen du jeu de Go.

Quand le smart fridge décide

Imaginons maintenant une machine à café qui commande automatiquement la quantité et le type de capsules de café en fonction de l’usage de son utilisateur·trice, de ses habitudes de consommation et de nombreux autres facteurs ou un réfrigérateur intelligent qui gère lui-même les commandes de nourriture. En principe, l’utilisateur·trice doit entraîner le réfrigérateur intelligent pour lui indiquer, sur une période de quelques semaines ou mois, ce qu’elle ou il y entrepose, les produits utilisés, ainsi que d’autres indications déterminantes, comme la présence de personnes pour des repas spécifiques ou des fêtes, des vacances, voire la fréquence de son activité physique. Après cette phase d’apprentissage, durant laquelle le réfrigérateur intelligent procède à des commandes sous la supervision de celle ou celui qui l’utilise, il va pouvoir agir de manière autonome, anticipant les besoins sur la base des probabilités établies lors de la phase d’entraînement. L’IA a identifié des patterns et les a corrélés, tandis que la période d’apprentissage a permis de leur donner du sens – par ex. faire une commande de champagne, parce qu’il y a un anniversaire à fêter. Dès la fin de la période d’apprentissage, l’IA conclut des contrats d’achat et libère les paiements de manière autonome. Comment reconnaître alors une valeur juridique contraignante à ces contrats, dès lors qu’il n’y a pas de volonté humaine à la base de ces décisions? Que se passe-t-il si les commandes sont erronées par rapport aux besoins?

C’est pour répondre notamment à ces questions que le European Law Institute, un think tank indépendant, soutenu notamment par la Commission européenne, a décidé de consacrer l’un de ses projets aux contrats algorithmiques. L’idée est de poser des principes et des règles-modèles pour assurer une certaine prévisibilité dans le traitement des principales questions juridiques qui se posent.

Dans l’exemple du réfrigérateur intelligent, une question juridique débattue est celle de savoir comment attribuer une «décision algorithmique» (appelé en anglais, automated decision making, ADM) à une personne. L’intelligence artificielle utilisée, que l’on peut appeler assistant numérique, est-elle un auxiliaire, un représentant, un substitut ou un simple outil prolongeant l’intention et la volonté de son utilisateur·trice? Ce n’est pas le lieu d’analyser cette question, sauf à souligner que les divers régimes juridiques en Europe devront admettre, d’une manière ou d’une autre, que tout contrat passé avec un assistant numérique est un contrat passé par son utilisateur·trice. En effet, en acquérant un réfrigérateur intelligent et en l’entraînant, puis en lui donnant l’autonomie requise, on consent à l’interaction de cet assistant numérique avec des fournisseurs (eux-mêmes d’ailleurs peut-être assistés d’assistants numériques) et au risque qu’elle ou il prend en l’utilisant.

Le consentement et le droit d’objecter

En droit, pour produire un effet, le consentement doit être éclairé. Par exemple, en matière médicale, cela signifie que la patiente ou le patient doit être informé·e sur les risques d’une opération, ses conséquences financières et, en particulier, sur sa couverture par une assurance. Pour notre assistant numérique, il faut dès lors se demander si, lors de l’achat du réfrigérateur intelligent, celle ou celui qui achète a été suffisamment informé·e sur son fonctionnement, le type d’algorithme et les risques liés à un assistant numérique. Il faut donc que la législation ou du moins les tribunaux posent un certain nombre d’exigences à ce devoir d’information au moment de la vente.

Cela dit, bien que dûment informé, l’utilisateur·trice voudra peut-être pouvoir intervenir pour approuver ou objecter à un contrat conclu par l’assistant numérique. En effet, considérant que le nombre de calories par jour est supérieur à ce qui est souhaitable pour une alimentation saine, compte tenu de la probabilité du nombre de personnes
se servant des produits du réfrigérateur et des données d’activité fournies par la montre connectée de celui ou celle-ci, l’assistant numérique pourrait n’acquérir plus que du beurre allégé ou modifier de manière significative le régime alimentaire tout en respectant les goûts du ou de la titulaire. Faut-il dès lors prévoir un droit à objecter aux contrats conclus par l’assistant intelligent ou l’obligation d’approuver tout contrat? La seconde option n’est pas réaliste, puisque le but même de l’acquisition d’un assistant numérique est d’automatiser les contrats. Néanmoins, on pourrait envisager un droit d’objecter; ce qui supposerait que l’assistant numérique informe l’utilisateur·trice en cas de changement significatif du type d’achats. Il faudrait alors évidemment déterminer les paramètres du «changement significatif», mais peut-être aussi la possibilité de pouvoir les revoir en cours d’utilisation.

Des questions contractuelles à revoir

Enfin, qu’en est-il des conditions générales et des clauses contractuelles imposées par le fournisseur? Doivent-elles être lisibles sous forme numérique pour être prises en compte? Peut-on prévoir un alignement des conditions générales sur des standards prédéterminés, sous peine d’exclure les contrats avec tel ou tel fournisseur? Peut-on appliquer un régime de clauses abusives pour contrats numériques? En d’autres termes, comment s’assurer que la protection des consommateurs·trices, développée dans un monde analogique, puisse continuer à s’appliquer dans un monde où les assistants numériques seront très présents?

Le European Law Institute tente notamment d’établir si l’acquis communautaire en matière de protection des consommateurs·trices est prêt pour les contrats algorithmiques et, bien sûr, de déterminer les modifications à apporter pour répondre aux besoins légitimes des consommateurs·trices en Europe, et – espérons-le – aussi en Suisse.