Outre la question de savoir comment le législateur (européen) doit appréhender le développement de l'IA et de la robotique, il existe un débat fondamental relatif à l'intégration des robots dotés de cette intelligence dans nos sociétés: faut-il leur accorder la personnalité juridique? En quelques mots, la personnalité juridique est l'aptitude d'une personne - physique ou morale - à être titulaire de droits et de devoirs. Cela se matérialise notamment par le droit de conclure des contrats, d'ester en justice, de devenir propriétaire, etc.

Le principal argument des partisans de l'octroi d'une personnalité juridique aux robots (souvent désignée par les termes "personnalité électronique" ou "personnalité robot") est que ce statut permettra de rendre les robots responsables de leurs faits, clarifiant ainsi les questions de responsabilité en cas de dommage.

Au contraire, nous soutenons que l'octroi de la personnalité juridique aux robots n'est pas enviable. En effet, reconnaître une quelconque responsabilité du fait des robots impliquerait notamment l'octroi à ceux-ci du droit de détenir un patrimoine servant à indemniser les victimes de dommages causés par eux. Poussé à l'extrême, ceci impliquerait que le robot soit autorisé à jouir de ce patrimoine en achetant et vendant des biens (au risque de le voir se rendre insolvable).

Au-delà de ce qui précède, l'octroi de la personnalité juridique pose - selon nous - surtout problème au niveau de la responsabilité de l'humain. De fait, pourquoi s'inquiéterait-on du comportement d'un robot si celui-ci se voit reconnaitre une responsabilité et est doté d'un patrimoine servant à indemniser les victimes de ses actes? On risque ainsi d'arriver dans une situation de désintérêt de l'humain pour les agissements du robot, voire même de retranchement de l'humain derrière les faits d'un robot ("ce n'est pas moi, c'est lui") dont on ne maîtrisera/comprendra pas toujours les actes.

Nous plaidons pour qu'en tout état de cause l'humain reste responsable des agissements d'un robot. Cela nécessite bien entendu que le législateur (européen) entame rapidement l'adaptation de la législation en vue d'assurer l'intégration concrète de l'IA et de la robotique dans notre quotidien. Cela est d'autant plus urgent que de nombreux pays ont déjà entamé ce processus et que c'est un terrain où notre Vieux Continent, et plus spécifiquement notre plat pays, ne peuvent se permettre de souffrir un trop grand retard.

Les règles de responsabilités devraient tenir compte des personnes derrière les agissements du robot. Cela implique notamment que chaque robot soit doté d'une sorte de "boîte noire" permettant de retracer précisément les décisions prises par le robot et les agissements/interactions engendrés par ces décisions. Ainsi, dans le cadre d'un robot programmé en open source, la responsabilité du fait des robots devrait être attribuée d'une part au concepteur pour ce qui concerne les dommages causés par des défauts des algorithmes de base et, d'autre part, au programmateur des lignes de code adaptant le programme open source à ses besoins spécifiques pour les dommages causés suite à des défaillances dans le fonctionnement de ces algorithmes-là. Une difficulté supplémentaire découle des robots dits deep learning qui sont programmés pour apprendre et prendre des décisions de manière continue et autonome. Leur comportement évoluera dès lors en fonction de leur environnement et de leurs interactions avec l'humain ou d'autres robots. Il n'en demeure pas moins que - même pour ce type de robot -  l'humain doit demeurer responsable. Cela incitera ce dernier à tout mettre en œuvre afin d'assurer un contrôle sur son robot et à assumer les éventuels dommages causés par celui-ci.

Enfin, terminons par un bref rappel étymologique. Le terme "robot" est issu du mot slave "robota" qui signifie travail, corvée ou esclave. Souvenons-nous qu'en droit romain, l'esclave (le "servus") ne bénéficiait pas de la personnalité juridique et dépendait entièrement de son maître. Accueillons donc à bras ouverts ces évolutions technologiques qui apportent de nombreuses opportunités, mais maintenons ces technologies au service de l'humain et non le contraire.