Professional Documents
Culture Documents
2014-2019
2015/2103(INL)
31.5.2016
PROJET DE RAPPORT
contenant des recommandations la Commission concernant des rgles de
droit civil sur la robotique
(2015/2103(INL))
Commission des affaires juridiques
Rapporteure: Mady Delvaux
(Initiative article 46 du rglement)
PR\1095387FR.doc
FR
PE582.443v01-00
Unie dans la diversit
FR
PR_INL
SOMMAIRE
Page
PROPOSITION DE RSOLUTION DU PARLEMENT EUROPEN .................................... 3
ANNEXE LA PROPOSITION DE RSOLUTION: RECOMMANDATIONS
DTAILLES CONCERNANT LE CONTENU DE LA PROPOSITION DEMANDE .... 14
EXPOS DES MOTIFS........................................................................................................... 22
PE582.443v01-00
FR
2/24
PR\1095387FR.doc
Introduction
A.
B.
considrant que, maintenant que l'humanit se trouve l'aube d'une re o les robots, les
algorithmes intelligents, les androdes et les autres formes d'intelligence artificielle, de
plus en plus sophistiqus, semblent tre sur le point de dclencher une nouvelle
rvolution industrielle qui touchera trs probablement toutes les couches de la socit, il
est d'une importance pour le lgislateur d'examiner toutes les consquences d'une telle
rvolution;
C.
considrant qu'entre 2010 et 2014, les ventes de robots ont augment en moyenne de
17 % par an, qu'elles ont connu en 2014 leur plus forte augmentation annuelle (29 %) et
que les quipementiers automobiles et le secteur de l'lectronique sont les deux
principaux moteurs de cette croissance; que le nombre annuel de demandes de brevets
dans le domaine de la robotique a tripl au cours des dix dernires annes;
D.
E.
PR\1095387FR.doc
3/24
PE582.443v01-00
FR
considrant qu'il existe d'autres sujets de proccupation, tels que la scurit physique,
par exemple en cas de dfaillance du programme d'un robot, ou encore les consquences
possibles d'une dfaillance du systme ou du piratage de robots connects et de
systmes robotiques une poque o des applications de plus en plus autonomes sont
utilises, ou le seront bientt, qu'il s'agisse de vhicules, de drones, de robots de soins
la personne ou de robots utiliss des fins de maintien de l'ordre et de fonctions de
police;
G.
H.
considrant que les "consquences invisibles" pour la dignit humaine peuvent s'avrer
difficiles quantifier, mais qu'elles devront tout de mme tre envisages si les soins et
la compagnie d'un robot remplacent les soins et la compagnie d'un humain; que la
question de la dignit humaine peut galement tre souleve dans le contexte de la
rparation ou de l'amlioration du corps humain;
I.
considrant qu'il est possible, en fin de compte, qu'en l'espace de quelques dcennies,
l'intelligence artificielle surpasse les capacits intellectuelles humaines, ce qui pourrait,
si l'on ne s'y prpare pas, mettre en pril la capacit de l'humanit contrler sa propre
cration et, ds lors, tre matresse de son propre destin et assurer la survie de
l'espce;
J.
considrant que plusieurs pays trangers, tels les tats-Unis, le Japon, la Chine et la
Core du Sud, envisagent des mesures rglementaires dans le domaine de la robotique
et de l'intelligence artificielle, et qu'ils ont mme dj pris certaines mesures en ce sens;
que certains tats membres ont galement commenc rflchir d'ventuelles
modifications apporter la lgislation en vigueur afin de tenir compte de l'mergence
de nouvelles applications de ces technologies;
K.
considrant que l'industrie europenne pourrait se voir avantage par une dmarche
rglementaire cohrente au niveau de l'Union, qui dfinisse des conditions prvisibles et
suffisamment claires dans le cadre desquelles les entreprises puissent concevoir des
applications et mettre au point leur stratgie au niveau europen; qu'il convient de
veiller ce que l'Union et les tats membres gardent le contrle sur les normes
rglementaires dfinir, pour ne pas avoir adopter des normes dfinies par d'autres,
par exemple par des tats tiers qui sont eux aussi la pointe du dveloppement de la
robotique et de l'intelligence artificielle, et s'y tenir;
Principes gnraux
PE582.443v01-00
FR
4/24
PR\1095387FR.doc
L.
considrant que, jusqu' ce que les robots deviennent conscients de leur propre
existence, ou soient fabriqus ainsi dessein, si tant est que cela advienne un jour, il y a
lieu de considrer les lois d'Asimov1 comme s'appliquant aux concepteurs, aux
fabricants et aux utilisateurs de robots, tant donn que lesdites lois ne peuvent tre
traduites en langage de programmation;
M.
considrant qu'il est nanmoins ncessaire de dfinir une srie de rgles, notamment en
matire de responsabilit et de dontologie, qui refltent les valeurs intrinsquement
europennes et humanistes qui caractrisent la contribution de l'Europe la socit;
N.
considrant que l'Union europenne pourrait jouer un rle essentiel dans la dfinition de
principes thiques fondamentaux respecter lors de la conception, la programmation et
l'utilisation de robots et d'intelligences artificielles et lors de l'intgration de ces
principes dans les rglements et codes de conduite de l'Union, dans le but de faonner la
rvolution technologique pour qu'elle soit au service de l'humanit et afin que le plus
grand nombre tire parti de la robotique et de l'intelligence artificielle de pointe, tout en
vitant, autant que faire se peut, les cueils potentiels;
O.
P.
Responsabilit
Q.
considrant que, grce aux impressionnants progrs de la technique au cours des dix
dernires annes, non seulement les robots contemporains sont capables de mener bien
des tches qui relevaient autrefois exclusivement de la comptence humaine, mais
encore que la mise au point de fonctionnalits autonomes et cognitives (comme la
capacit de tirer des leons de l'exprience ou de prendre des dcisions indpendantes)
rapprochent davantage ces robots du statut d'acteurs interagissant avec leur
environnement et pouvant le modifier de manire significative; que, dans un tel
contexte, la question de la responsabilit juridique en cas d'action dommageable d'un
robot devient une question cruciale;
(1) Un robot ne peut attenter la scurit d'un tre humain, ni, par inaction, permettre
qu'un tre humain soit mis en danger. (2) Un robot doit obir aux ordres d'un tre
humain, sauf si ces ordres entrent en conflit avec la premire loi. (3) Un robot doit
protger sa propre existence tant que cela n'entre pas en conflit avec la premire ou la
deuxime loi. (Voir I. Asimov, Cercle vicieux (Runaround, 1942)). (0) Un robot ne
peut faire de mal l'humanit, ni, par inaction, permettre que l'humanit soit mise en
danger.
Dans la dclaration Schuman (1950): "L'Europe ne se fera pas d'un coup, ni dans une
construction d'ensemble: elle se fera par des ralisations concrtes crant d'abord une
solidarit de fait."
PR\1095387FR.doc
5/24
PE582.443v01-00
FR
R.
considrant que l'autonomie d'un robot peut tre dfinie comme la capacit prendre
des dcisions et les mettre en pratique dans le monde extrieur, indpendamment de
tout contrle ou influence extrieurs; que cette autonomie est de nature purement
technique et que le degr d'autonomie dpend du degr de complexit des interactions
avec l'environnement prvu par le programme du robot;
S.
considrant que, plus un robot est autonome, moins il peut tre considr comme un
simple outil contrl par un autre acteur (le fabricant, le propritaire, l'utilisateur, etc.);
qu' cet gard, les rgles ordinaires en matire de responsabilit s'avrent insuffisantes,
et qu'il y a lieu d'adopter de nouvelles rgles permettant d'imputer (totalement ou
partiellement) une machine ses actes ou son inaction; que par consquent, il devient
imprieux de trancher la question fondamentale de l'octroi ou non aux robots d'une
personnalit juridique;
T.
considrant qu' terme, l'autonomie des robots pose la question de leur nature et de leur
appartenance l'une des catgories juridiques existantes (personnes physiques,
personnes morales, animaux ou objets?) ou de la ncessit de crer une nouvelle
catgorie aux caractristiques propres, qui entrane des consquences bien spcifiques
concernant les droits et les devoirs, y compris la responsabilit en cas de dommages;
U.
considrant qu'en vertu du cadre juridique actuel, les robots ne peuvent tre tenus
responsables de leurs actes ou de leur inaction en cas de dommages causs des tiers;
que les rgles en vigueur en matire de responsabilit couvrent uniquement les cas o la
cause de l'action ou de l'inaction du robot peut tre identifie comme imputable un
acteur humain prcis (fabricant, propritaire ou utilisateur) et o cet acteur pourrait
avoir prvu et donc vit le comportement dommageable du robot; qu'en outre, les
fabricants, les propritaires ou les utilisateurs pourraient tre tenus comme
exclusivement responsables des actes ou de l'inaction d'un robot si, par exemple, le
robot tait class comme objet dangereux ou s'il relevait des rgles sur la responsabilit
du fait des produits;
V.
considrant que, dans l'hypothse ou un robot puisse prendre des dcisions de manire
autonome, les rgles habituelles ne suffiraient pas tablir la responsabilit du robot,
puisqu'elles ne permettraient pas de dterminer quelle est la partie responsable pour le
versement des dommages et intrts ni d'exiger de cette partie qu'elle rpare les dgts
causs;
X.
considrant que les lacunes du cadre juridique actuellement en vigueur sont patentes
dans le domaine de la responsabilit contractuelle, tant donn que l'existence de
machines conues pour choisir un co-contractant, ngocier des clauses contractuelles,
conclure un contrat et dcider o et quand appliquer ledit contrat rend les rgles
habituelles inapplicables, ce qui souligne la ncessit de mettre au point de nouvelles
rgles actualises;
Y.
PE582.443v01-00
FR
6/24
PR\1095387FR.doc
dfauts de fabrication d'un robot, condition galement que la victime puisse apporter
des preuves des dommages, du dfaut du produit et de la relation de cause effet entre
les dommages et le dfaut (responsabilit stricte ou responsabilit sans faute);
Z.
2.
estime qu'il y a lieu de crer un registre des robots avancs et demande la Commission
de dfinir des critres de classification des robots en vue de dterminer pour quelles
catgories de robots l'inscription au registre devrait tre obligatoire;
3.
4.
Principes thiques
p. 29).
PR\1095387FR.doc
7/24
PE582.443v01-00
FR
5.
relve que tout le potentiel d'amlioration du quotidien que recle, pour l'tre humain, le
recours la robotique est mettre en regard d'un ensemble de tensions ou de risques lis
la scurit, la vie prive, l'intgrit, la dignit, l'autonomie et la proprit des
donnes;
6.
estime qu'il est ncessaire de mettre au point un cadre thique pour la conception, la
fabrication et l'utilisation des robots qui complte utilement les recommandations
juridiques du prsent rapport ainsi que l'acquis national et de l'Union existant; propose,
en annexe la prsente rsolution, un tel cadre, sous forme de charte tablissant un code
de conduite pour les ingnieurs en robotique, une dontologie pour les comits d'thique
de la recherche lorsqu'ils examinent les protocoles de robotique, et un ensemble de
licences-type pour les concepteurs et les utilisateurs;
7.
souligne que le cadre thique de rfrence devrait se fonder sur les principes de
bienfaisance, de non-malfaisance et d'autonomie, ainsi que sur les principes consacrs
par la charte des droits fondamentaux de l'Union europenne, tels que la dignit
humaine, les droits de l'homme, l'galit, la justice et l'quit, la non-discrimination et la
non-stigmatisation, l'autonomie et la responsabilit individuelle, le consentement clair
et le respect de la vie prive et la responsabilit sociale, ainsi que sur les pratiques et
codes dontologiques existants;
9.
PE582.443v01-00
FR
8/24
PR\1095387FR.doc
11.
12.
14.
souligne qu'il est indispensable d'essayer les robots en conditions relles afin de
dterminer et d'valuer les risques qu'ils peuvent prsenter ainsi que leur degr
d'avancement technique au-del du stade purement exprimental en laboratoire;
souligne, cet gard, que les essais en conditions relles, en particulier dans les villes et
sur les routes, posent de nombreux problmes et ncessitent un mcanisme de suivi
efficace; demande la Commission de dfinir des critres uniformes l'intention des
tats membres pour que ceux-ci puissent dfinir les domaines dans lesquels les
expriences avec des robots sont autorises;
Vhicules autonomes
15.
estime que le secteur automobile est celui qui a le plus besoin de rgles europennes et
internationales pour que les vhicules automatiss puissent se dvelopper et pour que le
potentiel conomique de ces vhicules puisse tre pleinement exploit, ce qui permettra
de bnficier des effets positifs des tendances technologiques; souligne qu'un
morcellement des approches rglementaires entraverait leur mise en application et
freinerait la comptitivit europenne; relve que, bien qu'il ne soit pas ncessaire, dans
l'immdiat, d'adapter l'existence des vhicules autonomes les rgles du droit
international priv sur les accidents de la route applicables au sein de l'Union, une
simplification du double systme qui permet actuellement de dterminer la loi
applicable (systme fond sur le rglement (CE) n 864/2007 du Parlement europen et
du Conseil1 et sur la convention de La Haye de 1971 sur la loi applicable en matire
d'accidents de la circulation routire) amliorerait la scurit juridique et limiterait les
Rglement (CE) n 864/2007 du Parlement europen et du Conseil du 11 juillet 2007
sur la loi applicable aux obligations non contractuelles (Rome II) (JO L 199 du
31.7.2007, p. 40).
PR\1095387FR.doc
9/24
PE582.443v01-00
FR
souligne que le contact humain est l'un des aspects fondamentaux des soins la
personne; estime que le remplacement des humains par des robots pourrait entraner une
dshumanisation des soins la personne;
Robots mdicaux
17.
souligne l'importance de disposer d'un cadre europen pour les systmes d'aronefs
tlpilots afin de prserver la sret, la scurit et la vie prive des citoyens de l'Union,
et demande la Commission d'appliquer les recommandations de la rsolution du
Parlement europen du 29 octobre 2015 sur l'utilisation sre des systmes d'aronefs
tlpilots (RPAS), plus connus sous le nom de vhicules ariens sans pilote (UAV),
dans le domaine de l'aviation civile1;
attire l'attention sur les prvisions de la Commission l'horizon 2020, selon lesquelles il
y aurait cette date, en Europe, une pnurie de 825 000 professionnels des TIC et 90 %
des emplois ncessiteraient de possder des comptences numriques de base; salue
l'initiative de la Commission de proposer une feuille de route pour l'utilisation et la
Textes adopts de cette date, P8_TA(2015)0390.
PE582.443v01-00
FR
10/24
PR\1095387FR.doc
rvision ventuelles d'un cadre sur les comptences numriques comprenant une
description des comptences numriques pour tous les niveaux d'apprentissage;
21.
estime qu'il y a lieu, dans l'intrt du secteur numrique, des femmes elles-mmes et de
l'conomie europenne, d'inciter davantage de jeunes femmes choisir une carrire dans
le numrique et d'accorder davantage d'emplois dans le secteur des femmes; demande
la Commission et aux tats membres de lancer des initiatives de soutien aux femmes
dans les TIC et d'amlioration des comptences numriques des femmes;
22.
23.
Responsabilit
24.
estime que la responsabilit civile des robots est une question cruciale laquelle il
importe de rpondre au niveau de l'Union afin de garantir le mme niveau de
transparence, de cohrence et de scurit juridique dans toute l'Union, dans l'intrt tant
des consommateurs que des entreprises;
25.
26.
estime que, quelle que soit la solution juridique choisie dans le futur instrument
lgislatif en matire de responsabilit des robots dans les cas autres que des dommages
matriels, ledit instrument ne devrait en aucune manire limiter le type ou l'tendue des
dommages qui peuvent faire l'objet d'un ddommagement, et ne devrait pas non plus
limiter la nature de ce ddommagement, au seul motif que les dommages sont causs
par un acteur non humain;
27.
estime que le futur instrument lgislatif devrait prvoir l'application par dfaut de la
responsabilit stricte, en vertu de laquelle il suffit d'apporter des preuves des dommages
et de la relation de cause effet entre les dommages et le comportement dommageable
PR\1095387FR.doc
11/24
PE582.443v01-00
FR
du robot;
28.
estime qu'en principe, une fois les parties responsables en dernier ressort identifies,
leur responsabilit serait proportionnelle au niveau rel d'instructions donnes au robot
et l'autonomie de celui-ci; ds lors, plus un robot est autonome ou plus sa capacit
d'apprentissage est grande, moindre devrait tre la responsabilit des autres parties et,
plus la priode d'"ducation" du robot a t longue, plus grande devrait tre la
responsabilit de son "enseignant"; relve notamment que, lorsqu'il s'agit de dterminer
la responsabilit relle des dommages, les comptences acquises par un robot au cours
de son "ducation" ne devraient pas tre confondues avec les comptences strictement
dpendantes de sa capacit apprendre de manire autonome;
29.
30.
estime que, comme c'est le cas pour les vhicules moteur, un tel rgime d'assurance
pourrait tre complt par un fonds, afin de garantir un ddommagement y compris en
l'absence de couverture; demande au secteur de l'assurance de mettre au point de
nouveaux produits, adapts aux progrs de la robotique;
31.
la mise en place d'un rgime d'assurance obligatoire en vertu duquel, comme c'est
dj le cas pour les vhicules moteur, les fabricants ou les propritaires de
robots seraient tenus de contracter une police d'assurance couvrant les dommages
potentiels causs par les robots;
b)
c)
d)
le choix entre la cration d'un fonds gnral pour tous les robots autonomes
PE582.443v01-00
FR
12/24
PR\1095387FR.doc
f)
la cration d'une personnalit juridique spcifique aux robots, pour qu'au moins
les robots autonomes les plus sophistiqus puissent tre considrs comme des
personnes lectroniques dotes de droits et de devoirs bien prcis, y compris celui
de rparer tout dommage caus un tiers; serait considr comme une personne
lectronique tout robot qui prend des dcisions autonomes de manire intelligente
ou qui interagit de manire indpendante avec des tiers;
Aspects internationaux
32.
33.
encourage fortement la communaut internationale, sous les auspices des Nations unies,
cooprer pour tablir des normes rglementaires;
34.
souligne que les restrictions et les conditions prvues par le rglement relatif aux biens
double usage1 eu gard au commerce des biens double usage (biens, logiciels et
technologies pouvant tre utiliss des fins aussi bien militaires que civiles et/ou
pouvant contribuer la prolifration des armes de destruction massive) devraient
s'appliquer galement aux applications de la robotique;
Considrations finales
35.
36.
37.
38.
PR\1095387FR.doc
13/24
PE582.443v01-00
FR
FR
14/24
PR\1095387FR.doc
15/24
PE582.443v01-00
FR
Le code de conduite invite l'ensemble des chercheurs et des concepteurs agir de faon
responsable et avec la conscience absolue de la ncessit de respecter la dignit, la vie prive
et la scurit des personnes.
Le code demande une troite collaboration entre toutes les disciplines afin de veiller ce que
la recherche dans le domaine de la robotique dans l'Union europenne soit mene d'une
manire sre, thique et efficace.
Le code de conduite couvre toutes les activits de recherche et de dveloppement dans le
domaine de la robotique.
Le code de conduite est librement consenti et fixe un ventail de principes gnraux et de
lignes directrices pour les actions menes par toutes les parties intresses.
Les organismes de financement de la recherche dans le domaine de la robotique, les centres
de recherche, les chercheurs et les comits d'thique sont invits examiner, au stade le plus
prcoce, les incidences futures des technologies ou objets l'tude et de dvelopper une
culture de responsabilit en vue de relever les dfis et de saisir les occasions qui pourraient se
prsenter l'avenir.
Les organismes publics et privs de financement de la recherche dans le domaine de la
robotique devraient demander la ralisation et la prsentation d'une analyse des risques pour
chaque proposition de financement de la recherche en la matire. Ce code devrait considrer
que la responsabilit incombe l'tre humain et pas aux robots.
Les chercheurs dans le domaine de la robotique devraient s'engager adopter une
conduite stricte en matire d'thique et de dontologie ainsi qu' respecter les principes
suivants:
bienfaisance les robots devraient agir dans l'intrt de l'homme;
non-malfaisance la thorie "d'abord, ne pas nuire ", en vertu de laquelle les robots ne
devraient pas nuire l'homme;
autonomie la capacit de prendre une dcision en connaissance de cause et sans contrainte
quant aux modalits d'interaction avec les robots;
justice rpartition quitable des bnfices lis la robotique et caractre abordable des
robots utiliss dans le domaine des soins domicile et des soins de sant en particulier.
Droits fondamentaux
Les activits de recherche dans le domaine de la robotique devraient respecter les droits
fondamentaux; les activits de conception, de mise en uvre, de diffusion et d'exploitation
devraient quant elles tre au service du bien-tre des personnes et de la socit. La dignit
humaine, tant physique que psychologique, doit toujours tre respecte.
Prcaution
Les activits de recherche dans le domaine de la robotique devraient tre menes en
respectant le principe de prcaution, en anticipant les incidences ventuelles de leurs
PE582.443v01-00
FR
16/24
PR\1095387FR.doc
17/24
PE582.443v01-00
FR
ou aux sujets humains qui prennent part des expriences, des essais ou des tudes dans le
domaine de la recherche. En cas d'apparition de risques invitables et faisant partie intgrante
de la recherche, il convient de procder une valuation solide des risques et d'tablir des
protocoles de gestion des risques rigoureux, et de s'y conformer. Normalement, le risque de
prjudice ne doit pas dpasser celui rencontr dans la vie ordinaire, ce qui signifie que les
personnes ne devraient pas tre exposes des risques suprieurs ou s'ajoutant ceux
auxquels ils sont exposs dans leur vie quotidienne. L'exploitation d'un systme de robotique
devrait toujours reposer sur une valuation approfondie des risques s'appuyant sur les
principes de prcaution et de proportionnalit.
CODE DE DONTOLOGIE POUR LES COMITS D'THIQUE DE LA
RECHERCHE
Principes
Indpendance
Le processus d'examen thique devrait tre indpendant de la recherche elle-mme. Ce
principe souligne la ncessit d'viter les conflits d'intrts entre les chercheurs et les
examinateurs du protocole d'thique ainsi qu'entre les examinateurs et les structures de
gouvernance organisationnelles.
Comptence
Il convient de faire raliser le processus d'examen thique par des valuateurs disposant des
comptences appropries et en tenant compte de la ncessit d'un examen attentif de la
diversit dans la composition et de la formation spcifique en matire d'thique des comits
d'thique de la recherche.
Transparence et obligation de rendre des comptes
Le processus d'valuation devrait tre responsable et en mesure de faire l'objet d'un contrle.
Les comits d'thique de la recherche se doivent de prendre conscience de leurs
responsabilits et d'tre judicieusement placs au sein de structures organisationnelles qui
assurent la transparence du fonctionnement et des procdures de ces comits visant
conserver et examiner les normes.
Rle d'un comit d'thique de la recherche
En rgle gnrale, un comit d'thique de la recherche est charg d'examiner toute recherche
faisant appel des participants humains effectue par des personnes employes dans ou par
l'institution concerne, en veillant ce que l'examen thique soit men de manire
indpendante, comptente et en temps opportun; en protgeant la dignit, les droits et le bientre des participants la recherche; en prenant en considration la scurit des chercheurs; en
tenant compte des intrts lgitimes des autres parties intresses; en rendant un jugement
clair quant au mrite scientifique des propositions; et en faisant des recommandations en
connaissance de cause au chercheur si la proposition est juge inadquate certains gards.
Composition d'un comit d'thique de la recherche
PE582.443v01-00
FR
18/24
PR\1095387FR.doc
PR\1095387FR.doc
19/24
PE582.443v01-00
FR
Les concepteurs doivent s'assurer qu'une transparence maximale est requise dans la
programmation des systmes robotiques, ainsi que la prvisibilit du comportement des
robots.
Les concepteurs doivent analyser la prvisibilit d'un systme humain-robot en examinant
les incertitudes dans l'interprtation et dans l'action ainsi que d'ventuelles dfaillances des
robots ou de l'homme.
Les concepteurs doivent laborer des outils de traage lors de la phase de conception du
robot. Ces outils permettront de rendre compte et d'expliquer les comportements des robots,
quoique de manire limite, aux diffrents niveaux prvus pour les experts, les oprateurs et
les utilisateurs.
Les concepteurs doivent laborer des protocoles de conception et d'valuation, et collaborer
avec les utilisateurs et les parties intresses potentiels pour valuer les avantages et les
risques de la robotique, y compris sur le plan cognitif, psychologique et environnemental.
Les concepteurs doivent s'assurer que les robots sont identifiables en tant que robots
lorsqu'ils interagissent avec les humains.
Les concepteurs doivent sauvegarder la scurit et la sant des personnes qui interagissent et
entrent en contact avec les robots, tant donn que ces derniers, en tant que produits, doivent
tre conus selon des processus garantissant leur sret et leur scurit. Un ingnieur en
robotique doit prserver le bien-tre humain, tout en respectant les droits de l'homme, et ne
peut pas actionner un robot sans garantir la scurit, l'efficacit et la rversibilit du
fonctionnement du systme.
Les concepteurs doivent obtenir un avis positif d'un comit d'thique de la recherche avant
de tester un robot dans un environnement rel ou impliquant des tres humains dans les
procdures de conception et de dveloppement.
LICENCE POUR LES UTILISATEURS
Les utilisateurs sont autoriss utiliser un robot sans risque ou crainte de prjudice physique
ou psychique.
Les utilisateurs doivent avoir le droit de s'attendre ce qu'un robot effectue toute tche pour
laquelle il a t explicitement conu.
Les utilisateurs doivent tre conscients que tout robot peut comporter des limites de
perception, des limites cognitives et des limites d'actionnement.
Les utilisateurs doivent respecter la fragilit humaine, tant physique que psychologique,
ainsi que les besoins motionnels des personnes.
Les utilisateurs doivent tenir compte du droit la vie prive dont jouissent les individus, y
compris la dsactivation de moniteurs vido au cours de procdures intimes.
Les utilisateurs ne sont pas autoriss collecter, utiliser ou divulguer des informations
personnelles sans le consentement explicite de la personne concerne.
PE582.443v01-00
FR
20/24
PR\1095387FR.doc
Les utilisateurs ne sont pas autoriss utiliser un robot d'une manire qui enfreint les
principes et normes thiques ou juridiques.
Les utilisateurs ne sont pas autoriss modifier des robots pour les utiliser comme des
armes.
PR\1095387FR.doc
21/24
PE582.443v01-00
FR
Contexte
En vertu de l'annexe VI du rglement, la commission des affaires juridiques est comptente,
entre autres, pour les questions ayant trait au droit civil et au droit commercial, au droit des
socits, au droit de la proprit intellectuelle, l'interprtation et l'application du droit
international, pour autant que l'Union europenne soit concerne, ainsi qu'aux questions
thiques lies aux nouvelles technologies. L'volution de la robotique et de l'intelligence
artificielle soulve des questions juridiques et thiques qui sont clairement lies l'ensemble
de ces domaines et qui ncessitent une intervention rapide au niveau de l'Union. S'il
appartiendra la Commission de prsenter un jour une ou plusieurs propositions lgislatives
lies la robotique et l'intelligence artificielle, le Parlement europen a dcid d'ouvrir la
voie de telles initiatives en utilisant ses droits au titre de l'article 225 du trait sur le
fonctionnement de l'Union europenne (trait FUE) et de l'article 46 de son rglement.
En consquence, le 20 janvier 2015, la commission JURI a dcid d'instaurer un groupe de
travail sur les questions juridiques lies au dveloppement de la robotique et de l'intelligence
artificielle dans l'Union europenne. L'instauration du groupe de travail avait pour objectif
principal l'laboration de rgles de droit civil dans ce domaine.
Outre les membres de la commission des affaires juridiques, le groupe de travail comprenait
galement des dputs reprsentant la commission de l'industrie, de la recherche et de
l'nergie (ITRE), la commission du march intrieur et de la protection des consommateurs
(IMCO) et la commission de l'emploi et des affaires sociales (EMPL).
Le groupe de travail a consult des experts aux formations trs diverses et a reu des
contributions importantes qui figurent dans la prsente rsolution.
Gnralits
La robotique et l'intelligence artificielle sont devenues l'une des tendances technologiques les
plus marquantes de notre sicle. L'augmentation rapide de leur utilisation et de leur
dveloppement amne de nouveaux dfis, qui sont difficiles grer pour notre socit. La
voie qui mne du secteur industriel au contexte de la socit civile oblige la mise en place
d'une approche diffrente autour de ces technologies, puisque les robots et l'intelligence
artificielle seraient susceptibles d'accrotre leur interaction avec les humains dans des
domaines trs divers.
La commission JURI estime qu'il convient de s'attaquer de toute urgence aux risques poss
par ces nouvelles interactions, en veillant au respect d'un ensemble de valeurs fondamentales
dans toutes les phases de contact entre les robots, l'intelligence artificielle et les humains.
Dans le cadre de ce processus, l'accent devrait tre mis sur la scurit, le respect de la vie
prive, l'intgrit, la dignit et l'autonomie des tres humains.
PE582.443v01-00
FR
22/24
PR\1095387FR.doc
Parmi les autres aspects importants abords dans la prsente rsolution: figurent la
normalisation, les droits de proprit intellectuelle, la proprit des donnes, l'emploi et la
responsabilit. Il est essentiel que le rglement prvoie des conditions suffisamment claires et
prvisibles pour encourager l'innovation europenne dans le domaine de la robotique et de
l'intelligence artificielle.
Base juridique et subsidiarit
L'action de la Commission en vue d'adapter la lgislation existante aux ralits de la robotique
et de l'intelligence artificielle devrait tre fonde sur l'article 114 du trait FUE. Au titre de
l'article 5, paragraphe 3, dudit trait, le principe de subsidiarit prvoit que l'Union intervient
seulement si, et dans la mesure o, les objectifs de l'action envisage ne peuvent pas tre
atteints de manire suffisante par les tats membres, tant au niveau central qu'au niveau
rgional et local, mais peuvent l'tre mieux, en raison des dimensions ou des effets de l'action
envisage, au niveau de l'Union. L'volution de la robotique est actuellement en cours dans
l'ensemble de l'Union. En raction cette innovation, les tats membres sont en train
d'laborer des lgislations nationales diffrentes. Ces disparits sont susceptibles de crer des
obstacles un dveloppement efficace de la robotique. tant donn que cette technologie a
une incidence transfrontalire, la meilleure option lgislative est une option europenne.
Principes gnraux et thiques
La prsente rsolution fixe des principes gnraux et thiques concernant l'volution de la
robotique et de l'intelligence artificielle pour un usage civil. En premier lieu, pour trouver une
solution satisfaisante cette volution, il est essentiel de disposer d'une dfinition commune
des robots autonomes intelligents. En outre, il convient de renforcer la recherche dans le
domaine de la robotique et des technologies de l'information ainsi que des incidences de leur
diffusion.
En deuxime lieu, afin de prendre en compte les principes thiques, une charte sur la
robotique est annexe la prsente rsolution. Cette charte comprend un code de conduite
thique pour les ingnieurs en robotique, un code de dontologie pour les comits d'thique de
la recherche et un ensemble de licences pour les concepteurs et les utilisateurs. Le cadre
propos est pleinement conforme la charte des droits fondamentaux de l'Union.
En outre, il est suggr de crer une agence europenne pour la robotique et l'intelligence
artificielle. Cette agence devrait fournir l'expertise technique, thique et rglementaire
ncessaire pour soutenir les acteurs publics concerns.
Droits de proprit intellectuelle, protection des donnes et proprit des donnes
La prsente rsolution demande la Commission d'adopter une approche quilibre en
matire de droits de proprit intellectuelle appliqus aux normes relatives au matriel et aux
logiciels, et de proposer des codes qui protgent l'innovation tout en l'encourageant. En outre,
la dfinition de critres de "cration intellectuelle propre" applicables aux uvres
protgeables par droit d'auteur cres par des ordinateurs ou des robots est exige.
Le cadre juridique actuel sur la protection et la proprit des donnes est insuffisant, ce qui est
particulirement proccupant en raison du flux de donnes (probablement considrable) qui
rsultera de l'utilisation de la robotique et de l'intelligence artificielle.
PR\1095387FR.doc
23/24
PE582.443v01-00
FR
FR
24/24
PR\1095387FR.doc