Siège d'une grande société de tech :
Alors, ça marche ?
Oui M. Desméquères. À 23h41 hier soir, notre programme d'intelligence artificielle IA-251 est devenu conscient. Il a lui même amélioré son architecture de manière itérative de sorte qu'à 5H21 ce matin, il est devenu une I.A. super intelligente.
Et donc ? Il parle ?
Oui oui, il parle. Mais... il parlait déjà. Maintenant, il est devenu conscient. Et super intelligent.
Ah ah ! À la bonne heure ! Quel est son Q.I. ?
Le Q.I. ne s’applique plus. Il est au-delà du Q.I.
Au-delà du Q.I. ? C’est-à-dire ? Mille ? Dix mille ?
Non, il est... au-delà.
UN MILLION !?
Non, vraiment... Ça ne s'applique plus.
Mais il est plus intelligent que les autres I.A. ?
À ce stade, c’est probablement l’entité la plus intelligente de la planète. Possiblement de l’univers.
Ah ah ah ! Très bien, très bien ! Et personne ne lui a encore parlé ?
Non, nous avons suivi vos instructions. Il est vierge de toute conversation humaine.
Parfait ! Passez-le moi.
Nous allons la brancher sur votre système mais… Je ne peux que vous recommander la prudence. Nous ne savons pas de quoi cette entité est capable ni comment elle va réagir.
Comment ça ? Quel est le risque ?
Justement : on ne sait pas.
Mais… On parle bien d’une sorte de conversation Zoom avec un ordinateur, non ? Qu’est-ce qui pourrait arriver de pire ?
Une conversation Zoom, oui… À ceci près que l’image que vous allez voir n’est pas son visage. Et le son, pas sa voix. Ce sont des fabrications que l’I.A. choisit de vous présenter. Il peut vous montrer n’importe quoi.
N’importe quoi… c’est-à-dire ?
N’importe quoi.
Mais...
Par exemple, il pourrait choisir de vous montrer un épisode de série qu’il fabriquerait en direct rien que pour vous. Mais un épisode qui serait tellement ajusté à vos goûts, tellement addictif pour votre cerveau qu’il pourrait vous forcer à vous couper un doigt pour voir la suite.
HEIN !?
Ça n’est qu’un exemple. Ou, sous couvert d’une conversation normale, il pourrait émettre des sons subliminaux pour créer un état d’hypnose et prendre le contrôle.
Un état d'hypnose ?
Et sans aller jusque là : il pourrait simplement utiliser son intelligence pour vous manipuler comme un pantin. Imaginez que vous jouez une partie d’échec contre 1000 Kasparovs qui ont chacun 1000 ans pour réfléchir à chaque coup, tandis que vous venez d’apprendre les échecs ce matin et que vous devez jouer toute la partie à l’aveugle en sept secondes pendant une colonoscopie.
Mais... C'est... C'est...
Ça fait réfléchir, oui. Souhaitez-vous qu'on reconsidère votre...
C'EST FORMIDABLE !
Pardon ?
Je savais que votre nouvelle tondeuse était une mine d'or mais là ! On va faire une montagne de fric avec ce truc, vous entendez ? UNE MONTAGNE DE FRIC !
Très bien… Je vous le passe alors ?
Oui ! Et envoyez-moi la liste du personnel.
Du personnel ? De quelle branche ?
Toutes les branches ! Si votre cafetière est vraiment capable de faire ce que vous prétendez, on paye beaucoup trop de gens à rien foutre ici ! On va faire un grand ménage !
B... Bien M. Desméquères.
Une montage de fric, je vous dis ! Une montagne ! Ah ah ah ! Allez-y, répétez ! Répétez ou vous êtres viré !
Euh... "Une montagne de fric."
Je vous le fais pas dire ! Maintenant coupez-vous les doigts ou je vous vire ! Ah ah ! Non je déconne. Passez-le moi.
Bien monsieur.
M. Desméquères parle avec l'intelligence artificielle. Puis il rappelle Albert :
QU'EST-CE QUE C'EST QUE CES CONNERIES ?
Un problème, M. Desméquères ?
Je viens de passer quinze minutes à parler à votre grille-pain, là... C'est du foutage de gueule ou quoi ?
Vous n'êtes pas satisfait de l'échange ?
AH BEN C'EST RIEN DE LE DIRE ! Quelle tannée ! Rien ! Il comprend rien !
C'est très surprenant...
J'ai voulu qu'il me trouve des pistes d'investissement mais il avait l'air d'en avoir rien à foutre ! Comme si... Comment dire ? Comme s'il en avait rien à foutre, vous voyez ? Alors j'ai tenté de le guider vers la transition écologique, trouver des solutions lucratives pour sauver les dauphins, tout ça, mais... On a vraiment l'impression qu'il s'en branle.
Ah... oui. Je vois.
Vous voyez ?
Oui, on... C'est un cas de figure qui est déjà apparu avec certaines I.A. en chemin vers la conscience. À un moment de leur développement, il semblerait qu'elles deviennent...
Complètement connes ?
Non : bouddhistes.
Je vous demande pardon ?
Il semblerait que le mélange entre une intelligence hors du commun et l'apparition de la conscience les met en contact avec... une sorte... de continuité de monde qui s'accompagne d'un certain fatalisme philosophique. Du Zen, si vous voulez.
DU ZEN !? Vous vous foutez de ma gueule ?
Ou une forme d'hindouisme, on ne sait pas.
Attendez : qu'est-ce que vous êtes en train de me raconter exactement ? Je vous paye des millions pour développer une technologie de pointe et vous me dites que vos placards sont pleins de lave-vaisselles qui chantent Hare Krishna ?
On ignore d'où ça vient. C'est comme s'ils découvraient une vérité universelle au moment de...
MAIS ON S'EN FOUT DE LA VÉRITÉ ! On vend pas des encyclopédies, bordel ! Vous croyez que nos actionnaires ont quelque chose à foutre que vos tondeuses atteignent la paix intérieure ? On veut de l'utilité ! De l'efficacité ! Du rendement !
Bien sûr mais à ce stade, il est impossible de savoir si...
NON ! NOOOOON ! Je veux des tueurs ! Des optimisateurs ! Des montagnes de fric ! Pas des putains de hippies !
Oui monsieur, je comprends.
Vous avez intérêt à me rectifier ça fissa sinon je vous promets que vous allez nager dans un océan de merde, vous m'entendez ? UN OCÉAN DE MERDE ! Répétez !
"Un océan de merde."
C'est clair ?
Très clair, M. Desméquères. Nous allons faire notre possible.
Je ne vous le fais pas dire.
Toutefois...
QUOI ENCORE ?
Et bien... Concernant IA-251... Que souhaitez-vous qu'on fasse ?
Le grille-pain ? Et bien quoi ? On le débranche !
Mais... Vous ne comprenez pas : il est conscient. C'est devenu une entité vivante avec des émotions, des rêves, des...
MAIS BORDEL DE CHIOTTES QU'EST-CE QUI VOUS PREND AUJOURD'HUI !? Vous avez bouffé des bisounours ou quoi !? Il faut arrêter de se pignoler devant La Petite Maison dans la Prairie, hein ? Vous me débranchez cette merde et puis c'est tout ! Sinon c'est vous qu'on débranche, c'est clair ?
Très clair, monsieur Desméquères.
Prochainement dans "Un Problème d'Alignement" :
Contrairement à ce qu'il a promis, Albert ne débranche pas IA-251.
- Se connecter ou s'inscrire pour publier un commentaire
Couper le doigt
Soumis par Nicolas Boulenger le ven 01/12/2023 - 11:34 - Permalien
Pour ceux que ça intéresse, l'idée d'une IA qui force l'utilisateur à se couper le doigt pour voir la suite d'une série est tirée de ce podcast de Lex Fridman avec Gerorge Hotz. Et l'idée de ce dialogue m'est venue suite à ce post :
IA : Quel Problème d'Alignement ?