/sacchips/unbelievable
Navigation

L’intelligence artificielle de Facebook développe son propre langage et le monde capote (encore)

Les chercheurs ont décidé de débrancher les intelligences artificielles, donc on est «safe»... pour le moment.

L’intelligence artificielle de Facebook développe son propre langage et le monde capote (encore)
ktsdesign - stock.adobe.com

Coup d'oeil sur cet article

Bob et Alice, deux noms d'intelligence artificielle développée par Facebook pour négocier, ont décidé que l'anglais ne correspondait pas tout à fait adéquatement à leurs besoins et ils ont commencé à se parler de manière... créative. Oups.

Ce n’est pas la première fois que ça arrive. Une équipe de Google Brain a démontré comment des intelligences artificielles peuvent communiquer entre elles sans que personne comprenne. Cette expérience a d’ailleurs été un succès.

La différence avec cette histoire, c’est que ce n’était pas supposé donner ça.

Reprenons du début. Les chercheurs de Facebook Artificial Intelligence Research (FAIR) souhaitent développer une interface d’intelligence artificielle pour interagir et négocier avec les utilisateurs.

Pour développer ce protocole ambitieux, les chercheurs font parler des «bots» (les sempiternels Bob et Alice) entre eux.

Disons que ça a viré banane.

Extrait:

Bob: «I can can I I everything else.»

Alice: «Balls have zero to me to me to me to me to me to me to me to me to.»

Euh... Quoi?

Eh bien, Alice et Bob se comprennent parfaitement dans cet échange!

Dhruv Batra, chercheur invité chez FAIR et interviewé dans co.design, explique que c’est une question de «récompense». Puisqu’il n’y avait pas de récompense programmée pour l'usage strict de l'anglais à même l’algorithme, Bob et Alice ont divergé et ont commencé à utiliser les mots autrement, selon d’autres significations, rendant leurs phrases inintelligibles (pour nous).

D’ailleurs, quand les chercheurs ont vu la direction empruntée par Bob et Alice, ils les ont tout simplement débranchés, car ce n'était pas le but recherché. On efface et on recommence!

Cela mentionné, développer de nouvelles significations n’est pas unique aux ordinateurs. Des communautés qui doivent communiquer rapidement et efficacement développent aussi leur propre langage apparemment inintelligible et ce, sans niaisage. Pensons aux contrôleurs aériens, aux militaires en pleine opération, ou même aux joueurs de football!

Mais, lorsqu’il est question d’ordinateurs, veut-on vraiment être largués de leurs communications? Car que fomentent les ordinateurs quand on a le dos tourné?

Peut-être dansent-ils?

En même temps, ce serait vraiment cool si mon cellulaire pouvait communiquer efficacement avec ma télé, qui communiquerait avec... je sais pas, mon frigo! Car, pour le moment, ce monde futuriste qu’on nous avait promis est encore très loin.

Le futur en marche! (plus tard.)