Toutes les quelques années, Hany Farid et sa femme ont une conversation sérieuse mais nécessaire sur leurs projets de fin de vie. Ils espèrent passer encore de nombreuses décennies ensemble – Farid a 58 ans et sa femme 38 ans – mais ils veulent s’assurer que leurs affaires seront en ordre le moment venu. En plus de discuter des demandes d’inhumation et des décisions financières, Farid a récemment soulevé un sujet encore plus sinistre : s’il devait mourir le premier, sa femme voudrait-elle le ressusciter numériquement en tant que clone de l’IA ?
Farid, expert en IA à l’UC Berkeley, sait mieux que d’autres que la mort physique et la mort numérique sont deux choses différentes. «Ma femme a ma voix, mon image et beaucoup de mes créations», m’a-t-il dit. « Elle peut très facilement entraîner un grand modèle de langage pour créer une version interactive du mien. » D’autres ont déjà fait exactement cela. Au lieu de pleurer les messages vocaux d’un être cher en les écoutant encore et encore, vous pouvez désormais les télécharger sur un programme audio IA et créer un clone vocal crédible qui vous souhaite un joyeux anniversaire. Formez un chatbot avec l’e-mail ou le SMS d’une personne décédée, et vous pourrez envoyer une approximation numérique de celle-ci pour toujours. La demande pour ces « deathbots » est telle que plusieurs sociétés, dont HereAfter AI et StoryFile, s’y spécialisent.
En matière de planification de fin de vie, la technologie moderne nous a déjà présenté de nouvelles idées. Qu’arrivera-t-il à ma maison ? Mais Qu’arrivera-t-il à mon compte Instagram ? Comme je l’ai déjà écrit, les personnes décédées peuvent vivre comme des fantômes numériques via leurs appareils et leurs comptes. Mais ces artefacts aident maintenir Sa mémoire. En revanche, Deathbot crée une version synthétique de vous et permet aux autres d’interagir avec elle après votre départ. Ces outils présentent un nouveau type de dilemme : comment planifier quelque chose comme l’immortalité numérique ?
Farid, un expert en IA, n’a obtenu aucune réponse lors de sa discussion avec sa femme. « Nous avons des sentiments très contradictoires à ce sujet », a-t-il déclaré. « Je pense que dans les cinq à dix prochaines années, ce sera une conversation comme nous en avons d’autres sur la fin de la vie. » Il est difficile de faire le deuil d’un être cher, et il est facile de comprendre pourquoi quelqu’un choisirait de se souvenir du défunt d’une manière qui lui fait du bien, RéelUne femme vivant en Chine a déclaré : « Cette expérience a compensé ce qui m’avait manqué avec mon père. » dit reste du monde Après avoir créé une réplique de son père décédé.
Les inconvénients peuvent également être facilement constatés à cet égard. Un clone vocal peut dire tout ce que son créateur veut dire : plus tôt cette année, l’équipe d’un candidat parlementaire indien a créé une vidéo réaliste dans laquelle son défunt père – un homme politique célèbre – l’appelle son « successeur légitime ». Comparés aux clones vocaux, les chatbots posent des problèmes particuliers. « Avoir quelque chose qui améliore fondamentalement ce que vous avez dit dans votre vie – cela peut mal tourner de différentes manières », m’a dit Mark Sample, professeur d’études numériques au Davidson College. Tout chatbot formé à la sortie détaillée de textes de la vie d’une personne enverra des messages qui reflètent non seulement qui était cette personne au moment de sa mort, mais aussi comment elle a agi tout au long de sa vie – y compris potentiellement, y compris les idées qu’elle a abandonnées ou les préjugés qu’ils ont surmontés. Les chatbots peuvent bien entendu conserver leurs traits de personnalité les moins admirables même en fin de vie.
Le deuil devient également compliqué. Les robots mortels peuvent constituer un mécanisme d’adaptation malsain pour les personnes endeuillées – une façon de ne pas accepter pleinement la mort d’un être cher ou de ne pas s’adapter à la vie sans eux. « C’est un outil, et un outil peut être utile ou il peut être surutilisé », m’a dit Dennis Cooley, professeur de philosophie et d’éthique à l’Université d’État du Dakota du Nord. « Cela déforme la capacité de l’individu à interagir et à s’engager dans le monde. »
Tout cela est particulièrement dangereux car le défunt peut ne pas avoir donné son consentement. Storyfile et Hereafter AI sont tous deux conçus pour vous permettre de soumettre vos données avant de mourir, donnant ainsi une certaine autonomie au processus. Mais ces politiques ne sont pas standard dans l’industrie de l’au-delà numérique, ont déclaré les éthiciens de l’IA du Leverhulme Center for the Future of Intelligence de l’Université de Cambridge. noté En mai. Les chercheurs ont déclaré que l’industrie était « à haut risque », avec un grand potentiel de pertes. Comme d’autres applications qui vous harcèlent avec des notifications push, Deathbot peut envoyer des rappels pour envoyer des messages à une réplique IA de votre mère. Ou bien, une entreprise peut menacer de couper l’accès à Deathbot à moins que vous ne payiez plus.
En d’autres termes, à mesure que les gens organisent leurs affaires, il existe de nombreuses raisons pour lesquelles ils devraient garder à l’esprit la possibilité de robots mortels. Certains testaments incluent déjà des instructions pour les profils de réseaux sociaux, les e-mails et les téléphones portables protégés par mot de passe ; Le langage sur l’IA pourrait être le prochain. Peut-être pourriez-vous définir des directives spécifiques sur la manière dont vos restes numériques peuvent être réutilisés pour Deathbot. Ou vous pouvez renoncer complètement à l’immortalité numérique et essentiellement émettre une version numérique « ne pas ressusciter ». « Vous pouvez insérer une directive du type » Je ne veux pas que quiconque fasse ça « dans votre plan successoral », m’a expliqué Stephen Wu, avocat au Silicon Valley Law Group, à propos de Deathbot. « Mais ce n’est pas nécessairement le cas. forcée. «
Dire à vos proches que vous ne voulez pas être transformé en clone d’IA n’empêchera personne de devenir maléfique et de le faire. S’ils le font, le seul recours légal serait dans les cas où le clone d’IA est utilisé d’une manière qui viole une loi. Par exemple, un clone vocal peut être utilisé pour accéder aux comptes privés d’une personne décédée. Ou encore, la réplication de l’IA pourrait être utilisée à des fins commerciales, comme dans une publicité ou sur l’étiquette d’un produit, ce qui violerait le droit fondamental de l’individu à la publicité. Mais bien sûr, cela n’est pas d’une grande aide face aux nombreuses façons nuisibles dont une personne peut interagir avec Deathbot.
Comme bien d’autres choses dans le monde de l’IA, de nombreuses préoccupations concernant ces réplicants restent hypothétiques. Mais si les robots mortels continuent de proliférer, « nous verrons beaucoup de nouvelles lois sur l’IA », m’a dit Thomas Dunlap, avocat au sein du cabinet Dunlap, Bennett & Ludwig. Peut-être encore plus étrange que le monde dans lequel les Deathbots existent est le monde dans lequel ils existent GénéralAlors que les enfants d’aujourd’hui approchent de la fin de leur vie, ces fantômes numériques pourraient potentiellement faire partie du processus de deuil au même titre que les funérailles physiques. « La technologie traverse ces cycles », a déclaré Farid. « C’est une situation étrange, puis nous la résolvons ; nous la normalisons ; nous y mettons des garanties appropriées. Je pense que nous verrons quelque chose de similaire ici. »
Cependant, le chemin à parcourir est difficile. Partie Vous pouvez toujours vivre votre vie en fonction des SMS, des e-mails et de votre empreinte numérique. C’est quelque chose que les générations futures devraient garder à l’esprit avant de publier des messages de colère sur la compagnie aérienne sur les réseaux sociaux. « Qu’est-ce que cela dit de moi maintenant ? » Au-delà de cela, ils devront peut-être se demander : « Qu’est-ce que cela dira de moi quand je serai parti ?
Les personnes âgées qui gèrent aujourd’hui leurs affaires se trouvent prises dans la situation difficile de prendre des décisions basées sur la technologie des robots de la mort telle qu’elle existe actuellement, même si les conséquences pourraient se jouer dans un monde très différent. Farid a déclaré que le clonage des voix a déjà traversé l’étrange vallée, « mais dans quelques années, toutes les voix, tous les rires et toutes les expressions, nous résoudrons ce problème ». Pour l’heure, les anciens face aux Deathbots sont inquiets. Même s’ils parviennent à garder une trace de tous leurs actifs et à planifier chaque décision de fin de vie – une tâche énorme en soi – leurs vestiges numériques pourraient encore durer éternellement.
