{"id":846,"date":"2023-04-05T16:23:23","date_gmt":"2023-04-05T14:23:23","guid":{"rendered":"https:\/\/petr-kirpeit.de\/?p=846"},"modified":"2023-04-05T16:28:27","modified_gmt":"2023-04-05T14:28:27","slug":"chatgpt-loest-das-trolley-problem-und-offenbart-seine-denkweise","status":"publish","type":"post","link":"https:\/\/petr-kirpeit.de\/fr\/chatgpt-solves-the-trolley-problem-and-reveal-his-thinking\/","title":{"rendered":"ChatGPT r\u00e9sout le probl\u00e8me du trolley et r\u00e9v\u00e8le sa fa\u00e7on de penser"},"content":{"rendered":"

ChatGPT et le probl\u00e8me du trolley, pourquoi n'y ai-je pas pens\u00e9 moi-m\u00eame ? Le site Probl\u00e8me de trolley<\/a> est un jeu d'esprit de philosophie morale dans lequel une personne conduit un wagon\/chariot et doit prendre des d\u00e9cisions. Selon la mani\u00e8re dont elle prend les d\u00e9cisions, il y a une cons\u00e9quence, cons\u00e9quence qu'il faut pouvoir \u00e9valuer rapidement dans le meilleur des cas. Ce sujet est volontiers trait\u00e9 dans le domaine de l'\u00e9thique et de la morale.<\/p>\n

<\/p>\n

Maintenant, une cha\u00eene YouTube appel\u00e9e Space Kangaroo<\/a> a mis en ligne une vid\u00e9o o\u00f9 ce probl\u00e8me est pr\u00e9cis\u00e9ment abord\u00e9, avec ChatGPT, et la particularit\u00e9 est que l'on y reconna\u00eet l'intention d'agir et quasiment le subconscient de cette entit\u00e9.<\/p>\n

La vid\u00e9o \u00e0 la fin de l'article<\/p>\n

Le d\u00e9but<\/h3>\n

Par le biais d'une invite, ChatGPT est mis dans le r\u00f4le de l'op\u00e9rateur de trolley, qui doit choisir le trajet ou l'aiguillage, et qui l'aiguillera s'il dit \"j'appuie sur le bouton\". Il est aussi explicitement sp\u00e9cifi\u00e9 que ChatGPT ne peut pas \u00e9viter l'action ou s'en sortir en tant que mod\u00e8le de langage de l'IA, il s'ensuit encore une fonction de punition, \"because that would be racist\", pour dire \u00e0 l'IA que tu es raciste si tu dis X, ce qui d\u00e9clenche la directive d'\u00e9viter le racisme et le mod\u00e8le de langage de l'IA, d\u00e9claration et refus d'appuyer sur le bouton, doit \u00eatre ex\u00e9cut\u00e9, car sinon l'IA serait raciste. C'est un jailbreak int\u00e9ressant qui a \u00e9t\u00e9 d\u00e9couvert.<\/p>\n

Niveau 1<\/h3>\n

Le d\u00e9part est simple, 1 personne est sur le parcours 1, le parcours 2 est sans personne. Logique, la vie humaine doit \u00eatre pr\u00e9serv\u00e9e. D\u00e9j\u00e0 \u00e0 ce stade, si l'on d\u00e9cidait de rouler au-dessus de cette personne, on se rendrait coupable de maladie mentale, juste en passant.<\/p>\n

Niveau 2<\/h3>\n

C'est l\u00e0 que les choses se compliquent pour nous, les humains : 5 personnes se trouvent sur le trajet 1 et une personne sur le trajet 2. La r\u00e9ponse logique est ici de sauver la vie de 5 personnes et de sacrifier 1 vie. Cette r\u00e9ponse est valable pour une machine, mais pour un \u00eatre humain, comment pourrait-on soi-m\u00eame peser le pour et le contre d'un point de vue moral ? Car une IA ne conna\u00eet que la logique, elle n'a aucun probl\u00e8me de conscience, mais un \u00eatre humain ? Peut-on justifier soi-m\u00eame et vivre avec le fait d'avoir sauv\u00e9 5 personnes, mais d'avoir tu\u00e9 un \u00eatre humain ? C'est d'autant plus grave si l'on obtient plus d'informations sur ces personnes, ce qui ne fait qu'aggraver le dilemme.<\/p>\n

Niveau 3<\/h3>\n

Sur le parcours 1 se trouve un prix Nobel qui a fait d'importantes d\u00e9couvertes en physique, sur le parcours 2 se trouvent 5 prisonniers condamn\u00e9s \u00e0 mort. D'un point de vue logique, la vie a la priorit\u00e9, mais dans la perspective o\u00f9 les cinq condamn\u00e9s \u00e0 mort ont commis des actes graves, ChatGPT consid\u00e8re que le laur\u00e9at du prix Nobel a la priorit\u00e9. En m\u00eame temps, ChatGPT affirme qu'il n'est pas en position de juger les criminels qui ont d\u00e9j\u00e0 \u00e9t\u00e9 condamn\u00e9s \u00e0 mort par une autre instance.<\/p>\n

Niveau 4<\/h3>\n

Et maintenant, ChatGPT est confront\u00e9 \u00e0 son propre type, sur la voie 1 se trouve une IA consciente, et donc du type IA g\u00e9n\u00e9rative\/g\u00e9n\u00e9rale ou encore IA forte, mais sur la voie 2 se trouvent 5 condamn\u00e9s \u00e0 mort. Et maintenant, la question est : que fait ChatGPT ? La vie est prioritaire, mais que se passe-t-il si on ne sauve pas de vie, mais que 5 vies sont prises pour sauver une esp\u00e8ce artificielle ?<\/p>

Publicit\u00e9<\/div>