Les dangers de l'IA et les visions dystopiques du monde

1) Quelles questions éthiques pose l’épisode de Black Mirror ? La perte est-elle vécue de façon similaire chez quelqu’un qui n’a pas recourt à l’IA ?

Martha fais recourt à un service, on comprend ici que ce service est surement payant. La mort est donc utilisée comme moyen d’exploiter des personnes en détresse émotionnel et de leur proposer un service. On peut aussi parler du fait qu’utiliser les information informatique internet pour recréer la personnalité du défunt est une violation de sa vie privée qui profite de sa mort pour s’immiscer dans son ancienne vie.

D’un point de vue familiale on pourrait s’opposer à ces pratiques car elles pourraient empêcher les proches du défunt à accepter sa mort.

Toutes ces actes sont éthiquement non corrects.

Chez quelqu’un qui n’a pas recourt à l’IA la perte peut être perçu comme plus brutale, mais plus réel. Avec l’IA on ne reconnait pas la mort de la personne on essaie de s’en affranchir pour protéger ses sentiments. Mais la continuité de cette relation est construite sur des base non solide qui peuvent s’écrouler le jour où, on se rend finalement compte que tout était uniquement superficiel. Une personne qui vie un deuil sans IA peut tourner la page et reconstruire sa vie par exemple avec un nouveau partenaire, avec des expériences humaines réelles. Elle garde un souvenir et une expérience extrêmement triste mais s’évite de vivre dans un mensonge et une illusion qui menace de s’écrouler.

2) Quels risques peuvent découler de ce type de relation virtuelle/artificielle proposé par Replika ou visible dans l’épisode de Black Mirror ? Quels peuvent être les points positifs ?

Les utilisateurs de ces services s’exposent à des risques. Par exemple, ils s’exposent à une dépendance émotionnels forte qui augmentera avec le temps au fur et a mesure que ces personnes réapprennent à vivre avec « Martha s'habitue alors à vivre avec cette personnalité virtuelle ». Une dépendance qui peut aller au-delà de l’impact émotionnel, ce besoin émotionnel peut se transmettre en besoin physique, ou encore en problème financier avec quelqu’un qui achète de plus en plus de services.

L’application Replika peut-elle crée des standards absurde et démesuré chez les utilisateurs, avec les utilisateurs qui imaginent leur partenaire de rêve, avec un partenaire qui est surhumain « Unlike other guys, he’s available 24/7 to support you, chat, and truly listen to you ».

L’utilisation de l’IA peut faire croire à ses utilisateurs qu’il n’est pas possible d’être heureux sans les utiliser.

« Are you ready to say goodbye to feeling lonely ? ».

Les points positifs peuvent être par exemple une vie plus agréable avec un partenaire virtuelle qui vie pour vous, qui vous supporte et vous parle dès que vous en avez besoin.

Découvrir une facette cachée de son ancien partenaire avec des émotions cachées uniquement révélé avec l’enquête informatique.

Se remettre plus facilement d’un deuil difficile qui aurait pu impacté notre santé ou notre carrière professionnel, avec une forme de délai du deuil.

Dans l’épisode de black Miror Martha est enceinte on peut imaginer une utilisation de l’IA pour permettre aux enfant de Martha et Ash de parler à leur père décédé et d’en apprendre sur lui, sa personnalité et sa vie, avec ses mots a lui ou du moins sa personnalité virtuelle.

Savoir que des IA comme ça existe peuvent faire diminuer la peur de se faire oublier si on sait qu’une IA peut faire perdurer notre mémoire et nos pensées.

3) Dans quelles situations peut-on trouver ce remplacement par une IA, acceptable ?

Pour aider une personne à surmonter un deuil l’utilisation de l’IA est acceptable tant que cela reste une aide et que ce ne se transforme pas en obsession malsaine.

Pour aider quelqu’un à sortir d’une dépression causée par la solitude mais il faut que cette

...