20 KiB
quest-ce-quon-fout-avec-des-llm-en-ce-moment
Qu'est ce qu'on fout avec des LLM en ce moment?
On peut faire des trucs pour le fun, ou des truc moins sympa en étant totalement béats, en nommant bêtement "intelligence artificielle" des tas de trucs qui n'en sont pas.
On peut voir des démos impressionnantes régulièrement, mais n'oublions pas de questionner les intérêts des personnes qui les mettent en avant, et de faire des vérifications régulières avec la réalité pour distinguer le bullshit marketing, les cris au loup, et les réelles implications sur les personnes sans oublier les situations similaires dans l'histoire.
Oui on peut faire marcher des LLM (voir sur wikipédia) sur son ordi portable faiblard, et faire des bouts de code avec une documentation inutile, qui marche à peu près, dans son éditeur de code avec Wholly et Ollama, ou bien chez Huggingchat. On peut s'éviter moult recherches pour assembler des bouts de ficelle entre des paquets comme on le fait habituellement depuis les origines de l'informatique.
On peut avoir rapidement des explications sur plusieurs sujets à la fois, faire des calculs de coin de table en ayant son déroulé si on ne fait pas trop gaffe à ce que ça raconte. On peut aussi jouer à fabriquer des images ou redessiner des dessins en espérant que les générateurs d'image ne vont pas converger vers une autophagie qui rendra leurs créations toujours plus fades et semblables, tout en se demandant pourquoi ces fameux générateurs d'image à diffusion de bruit sont incapable de faire des mains et des visages corrects.
On pourrait rechercher à faire disparaitre les boulots à la con et rendre aux gens le temps volé par des emplois inhumains et inutiles, bordés de trajets tout autant inhumains et inutiles pour la majorité, car y'a encore pas mal de boulots qui ne sont pas éligibles au télétravail.
Faire disparaitre des tâches aliénantes, c'était déjà un sujet au début de l'industrialisation et lorsque les métier à tisser faisaient disparaitre des emplois, et qu'émergèrent les fameux luddites, ou que Chaplin visse des boulons dans les Temps Modernes. Les luddites ne faisaient pas que casser des métiers à tisser, ils souhaitaient surtout réfléchir à comment faire société dans un contexte où il n'y avait soudainement plus besoin d'avoir autant de gens qu'avant pour faire un même produit, voire, un produit de meilleure qualité, à une époque où Le Capital décrivait déjà la scission entre les personnes propriétaires des moyens de productions et ceux qui avaient la force de travail pour assurer la production tout en étant à la merci des détenteurs du fruit de leur travail, les fameux capitalistes qui concentrent les titres de propriétés et les différentes richesses, dont notre modèle de société s'inspire dans sa version tardive avec une extension de ce qui est inclus dans des marchés sur toujours plus d'aspects de la vie de tous et toutes, jusqu'à capitaliser le temps d'attention et avoir engendré une économie de la surveillance qui produit un environnement contrôlant les individus jusque dans leur intimité, aux conséquences désastreuses sur bien des aspects de la vie en plus de pérenniser les dictatures et faire durer les guerres. Ce sont des points importants à considérer quand on voit la montée de partis ouvertement facistes, qui n'ont jamais changé de cap dans leurs votes hostiles au plus démunis, qui parlent tranquillement de déporter des étrangers en 2024, ou de pouvoir faire des loi sans avoir à s'ennuyer de leur constitutionnalité ou de ne pas se laisser emmerder par les médias ou les contre pouvoirs, et ce depuis leur création par des gens nostalgiques du 3e Reich, comme le rappelle Clément Viktorovitch.
Beaucoup n'avaient pas vu venir la prédation de loisirs ou de jobs créatifs par des LLM, on imaginait surtout que ce genre d'outil permettrait de se passer de travaux pénibles et dangereux pour la santé.
Mais on aime mélanger robotique et génération de texte, ce n'est pas propice à une compréhension de comment émergent ces outils. Sans oublier que le marketing est précisément là pour faire croire qu'il y a plus de choses nouvelles qu'il n'y en a réellement, et que vous êtes une sombre merde si vous n'achetez pas cela, car seul la hype culpabilisante qui fait vendre est intéressante.
On pourrait envisager la pérennité des outils en utilisant des modèles de langage aux licences Creative Common, entrainés sur des corpus de données dont la qualité et la sureté ont été vérifiée et est disponible pour les réutilisations, capables de fonctionner hors ligne avec de petits moyens de puissance de calcul, ou bien avoir des outils mutualisés capables de travailler ensemble par des standards d'interopérabilité. Ces choses existent, oui.
On a vu émerger des améliorations sur des calculs existants utiles à la recherche, oui.
Ce n'est pas parce que vous avez un clavier que vous savez taper à plus de trois doigts et sans le regarder, ou qu'il existe des dispositions ergonomiques très adaptées au français et à l'anglais et à la programmation bien mieux que l'azerty que vous avez toujours connu, que vous pratiquez l'optimot, le bépo, ou l'ergol. Non, comme toujours, ce que l'on utilise est le résultat d'un ensemble de tendances dominantes qui vont se cacher jusque dans nos goûts pour telle ou telle chose, dont on ne mesure pas du tout l'étendue et à quel point on cherche constament à se situer par la distinction comme l'a théorisé un certain Bourdieu.
Que l'on soit libriste, zététicien, sociologue ou féministe, ne permet pas de voir toutes les erreurs de jugement au moment où on les fait, cela permet au contraire de gagner en humilité et de voir à quel point on est le résultat d'un ensemble de choses que l'on a pas choisi.
On peut essayer de faire advenir ce qui se passe dans le film Her, tel qu'on le voit se profiler cette année avec l'interface vocale et visuelle de GPT4o (que l'on pourrait combiner à un avatar animé comme le font les Vtubers) ou dans la série coréenne Holo, ou encore dans le film l'homme bicentenaire où on peut voir toute l'évolution de ce qui ressemble vaguement à une intelligence artificielle qui évolue avec l'aide d'humains pour devenir officiellement assez semblable aux humains pour obtenir des droits égaux. Les options sont nombreuses, de Wall-E à Altered Carbon ou à un monde sans scarcité où l'on a inventé des Printeurs.
Chacune de ces fictions éclaire un avenir plus ou moins désirable où l'on est plus ou moins désaisi de notre capacité à coexister avec des machines que l'on aurait du mal à considérer de la même façon que l'on considère un grille pain tant elles font très bien comme si elles étaient comme nous, et cela met en perspective également la façon dont on tolère les structures de domination déjà existantes entre les humains qui déshumanise totalement une bonne partie de la population. Et je ne parle pas des captchas qui nous font douter de notre humanité.
On est encore loin de la fameuse "fin du travail", et il pèse sur l'avenir la menace bien plus tangible de celle des conséquences du changement climatique provoqué par l'humain que celle de Terminator.
Mais comme toujours, ce n'est pas parce qu'on a des outils capables de faire des trucs assez dingues que cela va bénéficier au plus grand nombre d'un coup de baguette magique, surtout lorsque l'on fait en sorte que le plus grand nombre soit un consommateur passif des technologie en lui empêchant totalement d'avoir du contrôle dessus, ou de pouvoir apprendre comment cela fonctionne.
Mais cela fait des centaines d'années que le problème n'est pas un sujet, tant il semble plus important que l'on emploie le peuple à l'asservissement de quelques uns plutôt que de se demander comment faire en sorte que tout le monde puisse vivre mieux en dehors d'un emploi ad vitam alors que c'est de plus en plus techniquement faisable.
Certains politiciens s'aventuraient à reconnaître que l'emploi est inadapté, tel Obama qui disait en 2008 "bien sûr qu'on a pas besoin d'autant de gens pour que les banques fassent ce qu'on leur demande de faire, mais si on se débarrassait de tous ces jobs inutiles, qu'est ce qu'on ferait de ces gens?". Cela fait très longtemps qu'il semble inconcevable que de plus en plus de gens puissent vivre comme les grands bourgeois, ou tout du moins, sans aller dans la démesure des grandes fortunes, à être propriétaire de leur temps. C'est d'ailleurs parfois assumé qu'il faille tout faire pour que "les gens" soient toujours occupés, sinon ils commenceraient à s'organiser et à se rendre compte que nombre de choses désagréables qu'ils vivent sont le résultat de décisions inhumaines, prises par des gens qui sont semblables à eux, et que mis à part quelques papiers qui disent que les choses doivent fonctionner comme cela, il n'y a aucune raison de vivre autant de peines pendant toute leur vie? Pire encore, ces dominations sont entretenues, reproduites, et mise en marche avec un monopole de la violence légitime, actée par des semblables qui sont pourtant tout autant victimes de cette domination. Ce n'est pas un hasard si les dominations perdurent ainsi, c'est le résultat de décisions politiques et de barrières de pouvoir organisées par des humains contre d'autres humains. Mais ce n'est pas une fatalité.
Croyez vous que l'invention du vélo ait amélioré la vie des chevaux?
What will we do when humans need no apply? par CGP Grey.
https://www.cgpgrey.com/blog/humans-need-not-apply
C'est assez difficile d'avoir des informations dépassionnées sur tout ce qui tourne autour de l'IA tant de nombreux marketteux survendent le truc et que lorsque l'on cherche à en savoir plus on tombe assez vite dans un gouffre entre technobéatitude ou vulgarisation très superficielle que l'on croise dès que l'on s'approche d'un sujet qui dispose d'une vraie complexité technique et d'une littérature fantastique.
J'ai cherché à développer des intelligences algorithmiques pour un jeu vidéo de combat en 2002, puis j'ai cherché à automatiser des choses en développant des petits trucs, à tirer du sens de corpus de textes, à trouver des choses dans des images, à tenter de faire fabriquer des blagues par de petits scripts, à travailler dans l'analyse de sondages et à développer professionnellement des trucs divers et variés depuis 2008, mais je n'aurai pas l'indécence d'aller prétendre que je développe des IA quand je présente un graphique qui montre combien on a de sous en banque.
Je ne peux pas dire que j'ai une grande expérience dans l'apprentissage profond, mais j'ai suffisamment lu et vu de choses sur l'histoire de la recherche scientifique autour de l'intelligence artificielle et notamment ses échecs pour voir de nombreuses arnaques intellectuelle sur le sujet, qui persitent encore aujourdhui.
L'IA ce sera une révolution le jour où cela permettra de rendre aux plus démunis les moyens d'avoir des revenus décents, de ramener des services publics, de sortir de l'autosolisme et des énergies fossiles, aux séniors d'avoir des soins en vivant hors des villes de plus de 100 000 habitants, aux étudiants d'avoir de quoi bouffer, aux élus d'être plus de 0.57% a avoir déjà travaillé dans leur vie, de pouvoir manger pas que des choses ultra transformées sans consacrer la moitié des terres agricoles à nourrir des bovins, d'éviter aux femmes de connaître des agressions sexuelles toute leur vie, de décarboner l'ensemble des activités humaines et améliorer la vie de toutes celles et ceux qui subissent des mécanismes qui les empêchent d'espérer autre chose qu'une vague survie dans une vie d'épuisements et de chacun pour soi.
Certains croient que c'est parce que l'on manque d'informations que des politiques hostiles aux humains sont mises en place, et que donc seule une IA serait neutre et capable d'agir pour sauver tout le monde. Mais c'est se fourvoyer sur tous les tableaux avant même de réfléchir à la problématique d'alignement des intentions quand on confie du pouvoir à un acteur, quel qu'il soit, et pas que l'empreur Palpatine qui "aime la démocratie" lorsqu'elle lui confie les pleins pouvoirs en réponse à la peur de l'assemblée.
Ce sera un énorme progrès quand une IA sera capable de nettoyer vos chiottes, d'éviter l'évasion fiscale patronale, de faire reculer la peine de mort, de permettre que la recherche scientifique ne soit pas parasitée par des éditeurs, que des gens ne meurent pas de maladies que l'on sait déjà soigner mais qui sont embrigadés dans des dérives sectaires anti-science, les mêmes qui empêchent de faire des actions pour empêcher le réchauffement climatique alors que, répétons le, les solutions sont connues.
Ce sont les actions qui manquent, bien qu'elles soient mises en place et qu'il ne faudrait pas invisibiliser les travaux de nombreuses personnes qui font avancer la connaissance du modèle climatique et ses nombreuses composantes, il faudrait sérieusement se bouger pour transformer nos sociétés sans juste dire des bêtises aux gens en leur faisant croire qu'il suffit que chacun efface ses emails et jardine dans son potager pour subvenir à ses besoins, tout en les aidant à cramer du pétrole avec une aide à la pompe plutôt que de faire en sorte que la majorité des gens ne soit pas dépendant de cela pour se déplacer ou se chauffer, et qu'il faudrait pas embêter les gouvernements à faire des politiques nationales un peu trop efficaces hein. Vous ferez bien de la sobriété en ne mangeant qu'un jour sur cinq.
Oui, c'est plutôt comme ça qu'on communique sur comment éviter les catastrophes en 2024.
L'idée n'étant pas de se dire qu'il faut faire peur et de faire paniquer tout le monde, cela donne de très mauvais résultats sur le plan des motivations à agir.
Bien que l'on ait de sérieuses raisons de craindre les conséquences d'une poursuite de notre façon de nous déplacer, nous nourrir, nous chauffer, travailler "comme si de rien n'était" alors que les prédictions sur les dégâts humains et notre environnement semblent plutôt bonnes depuis 1970, voire pas assez pessimiste depuis 2010.
Sans oublier que les effets rebonds existent, surtout quand il y a de la hype dans le grand public. À modérer cependant, certaines conséquences sont contre intuitives, surtout si vos sources d'informations sont habituées à dire du mal de la science en général et à faire des appels au "bon sens" et à la bonté de la nature. Alerte rouge, surtout si on vous incite à remplacer des choses qui n'ont pas ou très peu d'effet sur le potentiel de réchauffement global, par des choses qui en ont 10 ou 100 fois plus.
Autre point d'attention, si quelqu'un mélange n'importe comment électricité et énergie en faisant comme si la seule énergie que l'on utilise est électrique, c'est mauvais signe et très éloigné de la réalité, même si on ne regarde que ce qui se passe en France. Jouez au jeu "qui est l'expert", s'exprime il dans son domaine d'expertise, est il capable de citer une source produite par quelqu'un d'autre (et pas juste une ONG qui produit des rapports avec des infos sorties de son cul), et surtout, "est il reconnu par d'autres de son domaine comme quelqu'un de compétent".
Concernant l'IA telle qu'on nous la vend aujourd'hui, il est prévu que lui soient dédiées de nouvelles capacités de production d'électricité.
La décarbonation de l'électricité dans le monde progresse mais pas super rapidement (on a beau mettre en ligne des éoliennes et du solaire tout les jours), cela veut donc dire que les sources de production fossiles, hautement impactantes sur le réchauffement global et polluantes de plusieurs façons, vont devoir être d'avantage utilisées en attendant.
Alors certes, les financements de nouvelles installations sont encouragées surtout pour décarboner les productions d'électricité, mais il ne faut pas oublier que tant que ces nouvelles capacités ne viennent pas supprimer des productions qui crament des fossiles on n'éloigne pas du tout la catastrophe.
Oui, c'est étonnant, mais dans beaucoup de cas un déploiement massif d'énergies propres n'enlève pas les saloperies fossiles, alors que cela devrait être la priorité.
Autre point important, les gouvernements sont prévenus depuis des années qu'il faut renforcer les réseaux électriques pour accueillir les nouvelles capacités électriques décarbonnées, et qu'il va falloir du stockage pour pallier les intermittences du vent et du soleil, avec de l'hydro serait une excellente idée. Mais croyez vous que les gouvernements se hâtent de réaliser de nouvelles STEP hydro ou de lancer des travaux de rajout des 1% de capacité tous les ans demandés par RTE d'ici 2030? Que nenni.
On est encore et toujours emmerdés par des inactions politiques, qui préfèrent se soucier de comment rester en selle et faire plaisir à leurs copains en démontant des services publiques plutôt que de planifier des choses qui pourraient pourtant flatter leur égo de sauveur du monde.
Autant vous le dire toute de suite, ça ne va pas être facile et se faire en un claquement de prompt, et ce ne sont pas les rapporteurs des rapports du GIEC qui vous diront le contraire. On peut résumer le problème comme ceci:
si vous ne prenez pas sérieusement le sujet du réchauffement climatique pour l'empêcher, vous n'aurez rapidement aucun autre problème.
"L'avantage de ce champignon, c'est qu'il te nourrit jusqu'à la fin de ta vie".
Fun fact, les guides pour manger des champignons contiennent de nombreuses anneries, même ceux publiés de nos jours, et l'OMS recommande d'ailleurs de ne pas manger de champignons, mêmes ceux qui sont parfaitement comestibles plus d'une fois par jour car des tas de gens ne supportent pas leur très très faible toxicité.
Si vous découvrez le sujet du changement climatique (ou que vous viviez dans une grotte pendant les 10 dernières années, how dare you?) vous pouvez commencer par mesurer l'étendue des dégâts et mesurer votre empreinte en équivalent carbone chez Nos GEStes climat, et la comparer à celle nécessaire à la survie sur terre en 2050. Ou planifier des voyages dans le monde en comparant des moyens de réduire au maximum leur empreinte sur Low Trip. Coucou le train, les voiliers, les sous marins nucléaires (heu bof en fait :D).
Ça pourrait vous aider à prioriser vos actions en ayant une idée un peu plus précise de ce qu'il convient de faire pour soi et pour la collectivité pour avoir une chance d'avoir d'autres problèmes à régler dans quelques années.
En bonus, Benjamin Bayart qui lui a fait sa thèse de fin d'étude sur les réseaux de neurones et l'intelligence artificielle pourra vous dire ce qui rentre ou pas dans le bullshit, et à quel point peu importe l'outil tant qu'on ne questionne pas ou que l'on masque la volonté politique de nuire et les biais qui l'accompagne.
Havez fun!