#singularité

“Là où ça devient absolument terrifiant, c’est le moment où une intelligence artificielle devient capable de s’améliorer elle-même.
S’améliorant donc petit à petit.
Et améliorant logiquement sa capacité à s’auto-améliorer.
Optimisant ses algorithmes, et augmentant ses capacités cognitives à une vitesse de plus en plus élevée, chaque auto-amélioration lui permettant de s’auto-améliorer encore plus rapidement, créant ainsi une boucle de retro-action positive, une explosion d’intelligence.
Et la naissance d’une super intelligence.
Et là on arrive en terrain inconnu, parce qu’on n’a pas la moindre idée de ce qu’il se passe avec une intelligence pareille.
On ne sait simplement pas.
C’est très dur de se représenter une intelligence qui nous est infiniment supérieure.
Elle serait incompréhensible pour nos cerveaux de primates.
Et les dirigeants des boîtes dans l’IA sont parfaitement conscients de tout cela.
De l’inconnu vers lequel nous nous approchons.
Sam Altman, le patron d’OpenAI (ChatGPT) disait :
“dans le pire des cas, et je pense que c’est important de le dire, c’est la fin de nous tous. Je pense qu’il est impossible de surestimer l’importance du travail de sécurité et d’alignement de l’IA” (…)
Mais les grandes compagnies de ralentissent pas malgré l’immensité des risques.
Parce que : la compétition.
Parce que les boîtes se font concurrence les unes entre les autres, qu’elles veulent toutes développer une IA plus intelligente que celle du voisin, parce qu’elles veulent toutes êtres les premières à révolutionner le milieu, parce qu’elles veulent toutes être le vecteur de la prochaine révolution technologique.
Alors elles continuent de vanter l’immense potentiel de leur création, pour accumuler des fonds, et accélérer sans s’arrêter.
Et à ce moment là, on se dit quand même qu’on ne devrait pas laisser la vie de chaque humain de cette planète entre les mains de compagnies privées et que les Etats devraient intervenir, mais ils ne le feront pas non plus, ou pas assez, pour exactement la même raison.
Parce qu’à côté des compagnies voisines, il y a les états voisins.
Et que même si les USA prenaient assez conscience du danger pour envisager de ralentir le développement de leurs IA, ils ne pourraient pas s’empêcher de craindre qu’une autre puissance s’en charge.
Au bout d’un moment, quelqu’un développera une super-intelligence.
Alors OpenAI, Google Deepmind, les USA, tout ce beau monde se dit que quitte à ce que ça arrive, quitte à ce qu’une super intelligence naisse, autant qu’elle naisse chez eux.
Et tout le monde avance, comme ça, tous parfaitement conscients du danger, tous parfaitement conscient de la boucle dans laquelle ils se sont engouffrés, tous parfaitement conscients qu’ils sont tous parfaitement conscients du cercle vicieux dans lequel ils sont engagés, tous parfaitement conscient qu’ils continueront à accélérer.”

👨‍🦱 Revenir à Olivier Houdé

La propagande/greenwashing de la RTBF
Une petite capsule de publicité Google, dans le show TV “Y’a pas de planète B”

Y’a pas de planète B, alors :
– il faut utiliser seulement chatGPT seulement quand on en a besoin (alors que c’est un nouveau driver du dérèglement climatique. Il ne faudrait quand même pas trop taper dans la croissance future et être cohérent avec tout le bullshit “en silo” qui en présente les vertus pour “la compétitivité et l’innovation”)
– il faut utiliser Google (et pourquoi pas Ecosia, “Y’a pas de planète B”?), Google qui n’utilise pas de datacenters, qui tournent en permanence avec des processeurs cartes graphiques partout, et “en bonus”, utilise moins d’eau. Merci Google de subventionner le service public! Et merci aussi le service public de nous manipuler et entretenir notre déni climatique.

Car oui, on “a besoin” de l’IA, d’après la RTBF.
Tout comme la machine à vapeur et l’ordinateur, c’est la carotte actuelle pour vendre la promesse de la réduction future du temps de travail.
“‘machines can make all the food and stuff”
Même bullshit séculaire pour inciter à la croissance de leurs intérêts.