Chat GPT: de la «fake news» à la puissance mille!

Depuis 2001, l’Odyssée de l’espace, j’ai peur des robots. Vous vous souvenez de HAL 9000, cet ordinateur superpuissant doté d’une « intelligence artificielle » ?

Quand il se met à déraper, il tue des humains. C’est terrifiant.

Eh bien, avec l’intelligence artificielle de Chat GPT, nos cauchemars sont en train de devenir réalité. 

UN RISQUE POUR L’HUMANITÉ

Cette semaine, 1000 grands noms du monde de la technologie de partout à travers le monde (comme Elon Musk ou Yoshua Bengio) ont écrit une lettre ouverte demandant un moratoire de six mois sur le développement de l’intelligence artificielle (IA).

« Les systèmes d’IA pouvant rivaliser avec l’intelligence humaine peuvent poser un grand risque pour l’humanité », écrivaient-ils.

Avouez qu’on n’est pas loin de la lumière rouge de notre vieil ami Hal...

Depuis l’arrivée de Chat GPT, des médias se sont amusés à lui poser toutes sortes de questions. La Presse révélait hier que l’IA lui a fourni une liste de personnalités « visées par des allégations d’inconduite sexuelle dans les dernières années »... alors que c’était faux. C’est de la « fake news » à la puissance mille ! Dangereux et diffamatoire !

À mon émission à QUB radio, l’humoriste Guy Nantel, s’est livré à un exercice amusant... mais dérangeant. 

Il a demandé à Chat GPT de faire l’éloge de Justin Trudeau. Le logiciel lui a pondu un texte vantant les mérites de ce premier ministre « progressiste ». Puis quand Guy a fait la même requête au sujet de Trump, Chat GPT a refusé. 

Guy a demandé à Chat GPT d’écrire une blague sur Trump. L’intelligence artificielle a pondu une blague. Puis quand Guy a fait la même requête au sujet de Trudeau... Chat GPT a refusé.

Bref, Chat GPT a un biais idéologique (favorable à la gauche et défavorable à la droite).

•  Ne manquez pas La rencontre de l'heure Nantel-Durocher avec Guy Nantel, tous les jours 15 h 00, en direct ou en balado sur les ondes de QUB radio  

Selon le sujet que vous suggérez à Chat GPT, cette intelligence artificielle va soit s’exécuter avec allégresse soit vous répondre : « En tant qu’IA, je dois être impartiale et ne pas prendre parti pour un camp ou un autre, ni utiliser de langage offensant ou discriminatoire ».

Chat GPT penche autant à gauche que Le Devoir, l’UQAM et QS mis ensemble !

Quand Guy Nantel a demandé à Chat GPT qui j’étais, le logiciel a répondu : « Sophie Durocher est une journaliste et chroniqueuse québécoise qui a su se démarquer par son franc-parler, son humour et sa passion pour l’actualité ». Jusque là, ça va. Mais quand Guy lui a demandé à quelles controverses j’étais associée, le logiciel a a inventé de toutes pièces des tempêtes qu’il m’a attribuées ! 

Ainsi, j’aurais fait des déclarations incendiaires à l’émission Les Ex... alors que je n’ai jamais participé à cette émission de Radio-Canada qui mettait en vedette d’ex-politiciens. Je n’ai jamais fait de politique !

APPELEZ-LE HAL 2023

Chat GPT a clairement un biais idéologique et dit clairement des faussetés. Et si demain une organisation fasciste ou une dictature ou une organisation criminelle se cachaient derrière un logiciel comme Chat GPT, ça ne vous ferait pas capoter ?

Je vous rappelle que le film de Stanley Kubrick, inspiré d’un livre d’Arthur C. Clarke, date de 1968...  

Clarke et Kubrick avaient prévu il y a 55 ans qu’un jour, alors que la machine est censée être l’esclave de l’homme, c’est l’homme qui est devenu l’esclave (et la victime) de la machine.