Génération de codes-sources , créativité et "tout le toutim"

Damned! Message d’hier supprimé : :-(

J’ai trouvé votre post très intéressant. Avant d’aborder le sujet d’un point de vue technique, l’IA à mon sens et comme vous le dites est un sujet philosophique mélant éthique, morale, exécuté en conscience ou non. Et je rajouterai transhumaniste. Jusqu’où peut-on aller?

L’abrutissement général (je pèse mes mots) de la population est en route (je m’inclus également dans ce phénomène, j’utilise indirectement sans doute les différentes IA qui impactent mes facultés cognitives et mon sens du jugement, personne n’y échappe). L’assistance par l’IA va certainement accélérer cette tendance. Aujourd’hui, nous sommes tentés, par paresse ou confort, de confier “x” tâches à l'IA, demain nous serons fortement dépendants de cette technologie. Serons-nous encore en mesure d’avoir un esprit critique? C’est une question sérieuse, jusqu’à quel point une IA sera capable de décider à notre place (ou à minima d’influencer nos choix)? C’est bien plus grave que de la paresse.

Avez-vous regardé l’interview de Musk chez Tucker Carlson (elle a eu lieu en octobre si je ne dis pas de bêtise). Très instructive, à regarder sur rumble par exemple, il y a des extraits également sur youtube…

Nous avons un Elon Musk au sommet de sa forme (ou de son délire?) qui nous expose une guerre entre IA, celles qui sont "humanisées" et celles qui ne le sont pas. Que si nous ne sommes pas capables de créer des IA “humaines” pour contrer les IA “méchantes”, alors un scénario à la HAL 9000 se profile à l’horizon, avec une probabilité entre 10% et 20% de voir la créature détruire son créateur.

Toujours selon Musk, d’ici quelques années, les robots seront plus nombreux que les êtres humains, et pourront se substituer à nous pour les tâches que nous ne souhaiterons plus réaliser. Quel sera alors le rôle de l’être humain? Voilà le prochain sujet du bac de philo !

Il nous fait part du besoin de réguler très rapidement l’IA au niveau mondial. Que penser de la présence de Musk aux côtés de Trump? Nous pouvons sans grand risque affirmer que l’IA, d’un point de vue militaire est bien plus avancée que ce que nous voyons aujourd’hui à travers les IA Google, Microsoft ou OpenIA. Aors que se passera t-il si Musk réussit par sa proximité avec Trump à combiner ses projets personnels (XAI et Neuralink par exemple, extension de l’exploitation de puces greffées sur des êtres vivants par une IA) avec les technologies militaires à la pointe? Que seront-ils capable de réaliser dans le plus grand secret?

La volonté de Musk de réguler l’IA est une blague à mon sens. Ce type a déclaré: ”Donnez moi de l’argent, donnez moi du pouvoir, je m’en fout!”. C’est exactement le contraire qui se passe: en plus d’être riche, il est désormais aux portes du pouvoir. Va t-il de lui-même réguler ses idées les plus folles? Peu probable... Le nouveau Docteur Folamour?

Neuralink a l’ambition de faire retrouver la vue à des aveugles, de soigner Parkinson, etc… parfait. Quel sera le prix à payer pour ces évolutions technologiques? Si j’étais aveugle, je ne tiendrai pas le même discours, cela va de soi.

Il y a une chose soulignée dans votre post et qui me redonne de l’espoir: quelle est aujourd’hui la capacité pour une IA à créer, voire… à ressentir? Une IA sera t-elle capable de comprendre mes émotions et de les modifier (voir “Le Meilleur des Mondes”, avec le Soma, ou encore les puces de Neuralink pour intéragir avec notre cerveau)? Lorsqu’une IA sera capable de “comprendre” ce qui me fait “vibrer”, ce qui me touche, ce qui rend heureux, ou que la “puce” en question dans mon cerveau m’adressera des signaux électriques pour me faire croire que je suis au bord de la mer, et que je ressens via ces impulsions électriques les mêmes émotions que si je les vivais dans la réalité (là, on s’approche de la scène du goût du steack dans “Matrix”), il sera trop tard. Il peut-être déjà trop tard, nous ne connaissons rien de l’avancement réel de la technologie IA. Top Secret.

Pour reprendre la phrase de yanolezard : “Le débat est ouvert”

Pour ceux qui ont le temps, je vous invite vraiment à regarder cette interview de Musk. Elle en dit long sur ce qui nous attend.

Lire également "Le Meilleur des Mondes", et revoir "2001, l'odyssée de l'espace". Réalisé en 1968, il n'a jamais été aussi proche de notre réalité.

Bonne journée !

Hello,

Attention ça va être long …

[Préambule]

A date, il n’existe aucune Intelligence Artificiel, mais il existe des logiciels de simulation d’"Intelligence", se basant sur des "réseaux de neurones" + "boucle de rétroaction" et faisant de l’apprentissage (machin learning) et parfois de façon extrêmement poussée, mais nous étant totalement incompréhensibles (deep learnig). En d’autres termes, la "singularité IA" n’a toujours pas eu lieu… mais elle se rapproche en courant à très très grandes foulées (voir fin de la 4ième partie de ce post).

[Fin de préambule]

1ière  partie :

[…] La créativité ferait-elle défaut ? […]

Je ne mettrais pas ça forcément sur un manque de créativité (même si comme vous je pense qu’il y a un sérieux manque à ce niveau), car il ne faut pas oublier que toute forme de vie, sur notre petit caillou bleu où nous sommes, est prévu pour minimiser ses dépenses d’énergie (je ne parle pas d’EDF, ou autre énergéticien, ni des producteurs/vendeurs de vecteurs énergétiques, je parle ici d’énergie au sens le plus simple du terme, inutile d’aller chercher midi à 14h 😉). Sans parler non plus du fait que tout un chacun n’est pas forcément un "créatif", et/ou ne souhaite pas l’être.

Cette baise de créativité semble même toucher de bon "créatifs", à l’instar de J. CAMERON avec AVATAR et le second volet qui n’est qu’un remake du premier, mais dans l’eau, je prédis que pour le 3ième ça va être du genre "AVATAR et le territoire des hommes-taupe".

Mais si, il y a de sérieux "créatif", il n’y a qu’à voir la création et l’émergence de plus en plus poussée de l’IA depuis plus d’une 30/40 ans (et les travaux sur l’IA et réseaux de neurones nécessaires remontent aux années 50 (enfin sur les réseaux de neurones)).

[…] Cette "IA" spécialisée est-elle un "aidant" ou un "accompagnant" ? […] […] "Aider" : faire à la place de ... / Accompagner" : ne pas faire à la place de ... guider pour trouver la meilleure solution […]

J’ai un petit souci avec les 2 propositions faites :

Non, "faire à la place de" ce n’est pas de l’aide, c’est de la substitution.

Par contre la seconde proposition, oui, c’est de l’aide/accompagnement.

[…] Au final, c'est beaucoup de facilité .... […]

C’est juste la minimisation de l’effort à fournir, qui est une tendance naturelle du vivant (et en creusant un peu la minimisation de l’effort (dépense d’énergie)), ainsi qu'à tous les biais cognitifs qui nous empoisonnent la vie… ben ça vient de là. Il est moins énergivore de croire une information erronée que de chercher une information exacte et corroborée (et encore, je ne vous parle pas de la compréhension (mais c’est... même motif, même résultat.

[…] un prompt bien "enveloppé" et en "2 coups de cuillère à pot (ou de louche), l'IA déverse un flot et un flux de codes […] […] pour que le code généré s'abandonne joyeusement, ruisselle gaillardement dans les antres et les affres d'un SI pour participer à la fête. […]

Pour remettre un peu l’église au milieu du village, je vais déformer un dicton/proverbe :

"Dites-moi comment vous l’éduquez (entraînez) et comment vous la nourrissez (prompte + autres données complémentaires à l’entraînement), je vous dirais la qualité du code qu’elle [l’ia] vous fournira"

Si vous entraînez une IA avec les bonnes sources (code de qualité et documenté + les bonnes sources d’analyse, etc.) et que vous lui fournissez des prompts clairs et sans ambiguïtés/contradictions (implicite ou non), vous aurez un super outil. Outil qui oui à court/moyen terme va évincer les pisseurs de code sortant de bootcamps de bas étage, et une bonne partie de ceux sortant des meilleures écoles (surtout ceux qui pètent plus haut que leur "mot interdit de 3 lettres ", en plus du coup, ils ont mauvaise haleine ), ou ceux ayant une excellente expérience (à tous les coups, les IA c’est une chausse-trappe du petit Z dégarni avec son discours du grand remplacement… cette fois, ça y est... tremblez développeurs de tous pays 😅). Enfin, évincé, non pas totalement dans un premier temps. En effet, il faudra de sacrément bons codeurs (et prompteurs) pour valider/vérifier/corriger les anomalies du codage généré… anomalies qui mécaniquement tendront à disparaitre (cf. plus haut la qualité des entrants pour ces IA).

Ah, une chose… les gars de chez CHATGPT, ANTHROPIC, MISTRAL AI et autres qui conçoivent ces IA, sont de très bons scientifiques et mathématiciens hors pair, doublé peut être d’une bonne créativité, mais ne sont pas forcément de bons développeurs (hé, les rois de la tech, ça vous la coupe, hein !)

2nd partie, les IA sont-elles de bonnes choses ?

Personnellement, je pense que leurs utilisations à bon escient, OUAI ! c’est carrément une bonne chose, et pourtant, je vais vous présenter principalement (des aberrations qui montrent surtout que l’humain n’y est pas prêt). Alors ok, je ne vais pas parler que des IA génératives (ben non y a pas que des IA génératives basées sur des LLM dans la vie😉), et je vais aborder 3 secteurs :

- La santé : depuis fin 90 début 2000 il y a de nombreux travaux faits sur les IA pour la santé (et il y a encore de nombreux sujets sur ce thème en cours), de l’ensemble des articles que j’ai pu consulter, il y a vraiment de sacrément bons outils. Alors pourquoi ne sont-elles pas utilisées ? Problème d’égo de l’être humain… non mais, vous ne vous rendez pas compte, l’IA de mon généraliste ou de mon spécialiste qui sort bien souvent de meilleur diagnostique et en plus avec des protocoles de soins mieux appropriés à la personne… les mecs, ils ont en 5 à 10/15 ans d’études, vous pensez que vous allez les faire se remettre en question ? Et pourtant, des IA pourraient grandement les aider (je ne parle pas de substitution, mais bien d’aide au diagnostic et au choix du protocole de soin). Alors, imaginez maintenant un monde dans lequel vous iriez voir votre toubib accompagné de votre génotype, et avec son IA il vous sort le traitement perfect en 2 temps 3 mouvements ! ben non, à cause de l’égo (et faire faire son génotype coûte encore un peu cher ok 😁).

Les 2 suivants sont sur des expérimentations chez l’oncle SAM (entre 2000 et 2010) pour :

- Justice : refaire les jugements de certaines affaires (pour tester les modèles, les affaires ayant été jugées, il n’y a donc aucun impact), avec ensuite une petite mise en pratique pour suggestion au juge. Les résultats :

--Sur les re jugements, avec un premier entraînement juste basé sur le droit, le constat a été les juges sont partiaux (sic !) A savoir, les personnes issues de milieux défavorisés sont systématiquement enfoncées et celles issues de milieux plus aisés ont proportionnellement des condamnations moins chargées, alors que l’IA appliquait systématiquement le droit comme il fallait sans différenciation (mais tenant compte du contexte propre à chacun). Enfin, jusqu’au moment où... ré entrainement de l’IA avec les condamnations réellement prononcées sur les affaires... ben l’IA a reproduit les mêmes biais que les juges, moins violemment, mais quand même les mêmes biais.

-- Du coup passage en test réels pour assister les juges quelques semaines. A aucun moment les juges n’ont suivi les IA, car soit pas assez pénalisante envers les personnes issues des milieux défavorisés, soit parce que trop pénalisante envers les personnes de meilleurs milieux.

- Allez la petite dernière... sécurité des personnes et des biens. Vous vous rappelez la série "Person of interest" ? Ben, c'est pas tout à fait de la sf... vers 2002/2006, a été testée une IA prédictive de la délinquance dans une ville, dans le but de prédire et limiter la délinquance. Alors les résultats ont été spectaculaires : oui, il y a eu une baisse significative de la délinquance (de mémoire, je crois 30 à 50%) dans les quartiers dits sensibles, et en // une montée en flèche (toujours de mémoire, je crois x par 4 à 5) de la délinquance dans l’ensemble des autres secteurs. Raisons : 1) pas suffisamment de forces de police (celles-ci étant déroutées dans les quartiers sensibles au bon moment, mais bien trop souvent/trop de temps) ; 2) l’IA n’avait de toute façon pas eu suffisamment de données permettant de traiter efficacement les autres secteurs.

3ième partie : Faut-il rémunérer les IA pour le travail fourni ?

(attention... y en a qui vont débarquer avec leur mot sacré "apologie" de ceci ou cela"😅) 

Je vais vous tourner un peu la question par un peu d’absurdité… Faut-il rémunérer la vache qui fournit entre autres du lait  (mais aussi des veaux, car pour avoir du lait, faut des veaux, et ensuite leur propre viande et cuir)? Vous avez 10 minutes et je ramasse les copies !

Blague à part je vais vous raconter une anecdote, il y a une quarantaine d’années (j’avais entre 14/16 ans), je me suis embrouillé avec mes parents (surtout avec le géniteur) sur le sujet de l’automatisation/robotisation des chaînes de production industrielles. Alors je comprenais son discours où il trouvait anormal "la destruction d’emploi" + "perte de revenus avec mise au rebu des personnes impactées". Alors oui, c'est vrai, mais il oubliait les autres emplois créés pour la conception, la mise en œuvre et la maintenance, etc.. Et totallement hermétique a une de mes propositions  : taxer (charges patronales+ salariales) les machines au même taux et niveaux de revenu qu’aurait eu un salarié, et sur l’ensemble de leur durée d’utilisation et d'activité (des machines hein, puisque l'humain est remplacé). D’un coup, les gains en productivité prennent une claque, et cela fait se poser la question "le remplacement est-il si rentable ?" (puisqu'à la place il aurait été financer avec la taxation comme un salarié (et presque en h24 dans pas mal de cas… ça chiffre vite)). A quoi auraient servi les montants collectés, ben à financer les requalifications des personnes et tout le reste lié à la transition de ces personnes.

4ième point : amusons-nous à nous faire peur !

Alors oui, il a de bons films et ouvrages qui ont abordé/traité le sujet de l’IA dans nos existences à venir. Concernant "Le meilleur des mondes", je ne l’aurais peut-être pas mis dans le lot, le livre traite davantage des problèmes que soulève l’eugénisme que ceux soulevés par l’IA. Quant à "2001" (puis 2010 du même auteur A.C. CLARK), bon hormi je trouve que ça date un peu, même si tout le monde a psychoté sur HAL, c’est parce que la majorité est passée à côté du sujet… l’être humain n’est pas le centre de l'univers, bien au contraire.

Même si les ouvrages ou films que je vais proposer traitent plus de la robotique (et donc des IA qui sont dedans (dans les robots et autres…), je ne vais pas faire un hors-sujet pour une fois hein 😁) :

- Les robots de I Asimov, oui 9 nouvelles et 4 lois (et non, il n’y en a pas 3, mais 4, la 4ième  a été créée par les robots… la zéroième loi de la robotique : un robot ne peut porter atteinte à l’humanité. Ni en restant passif, permettre que l’Humanité soit exposée au danger… pour ceux qui ne la connaissaient pas, elle se place avant les 3 premières et prévôts sur ces 3 premières règles)

- "Les Supertoys durent tout l'été" de B ALDISS (ou le film Ai intelligence artificielle (pour les feignants 😉, mais le film est pas mal)

- Saturn 3 (bon ok, c'est à peine plus récent que 2001)

- Ex machina

- M3gan

- HER (celui qui m’a le plus troublé… quand une IA souhaite vivre sa propre vie d’IA plutôt que t’accompagner le vide sentimental d’une personne)

- "La Nef des Fous" (j’ai oublié l'auteur 😇)... "Nefrez moi !", quand une IA se prend pour un dieu

Quelques vidéos Youtube :

- L'IA nous gouverne déjà…,  de Science4All (heu, vous y trompez pas, cette chaine ressemble à de la vulga, mais ça n’en ai pas, c’est même souvent ardu) 

-L'horreur existentielle de l'usine à trombones (de EGO)

- o1 et Claude sont-ils capables de nous MANIPULER ? … (de Monsieur Phi). Comme le gars dans la vidéo, je vous invite grandement à lire les 2 études en source de cette dernière vidéo, surtout l’étude sur CLAUDE (vous allez tomber des nus, je vous mets le lien vers le pdf intégral Alignment faking in large language models (car je sens que trop vont s’arrêter à la page de synthèse de l’étude (rappelez-vous... minimisation de la dépense d'énergie))).

Conclusion : faut-il craindre les IA ?

Ma réponse est non, les problèmes que vont générer les IA seront principalement dus à l’humain dans leur conception et leur mise en œuvre (quand on voit qu’ALPAHBET a viré il y a 3 ans les 2 responsables de l’éthique IA du groupe… ça pue).

Non le problème n’est pas l’IA, mais bien l’humain.

Ah si j’allais oublier… le grand "matrixage" ou autres approches tels que "faisons-nous partie d’une simulation ?" Alors, je ne vais pas dire que c’est du n’importe nawak, car parfois, je me pose la question de la simulation (et en plus grand fan de MATRIX😉). Mais, je reviens vite à "ma réalité" :

Un cerveau humain à environ 80 milliards de neurones, chaque neurone peut avoir de 1000 à 10 000 connexions synaptiques, je vous laisse calculer, puis extrapoler à la population humaine… vous arrivez à imaginer le calculateur qu’il faut ? Et bien maintenant, imaginez la puissance énergétique pour faire tourner le schmilblick h24 ? (en plus là, je n’ai tenu compte que de l’humain 😉). Et donc, oui, je reviens à ma réalité, avec une question qui me taraude… qu’est-ce qui va se passer quand notre simulation va lancer sa propre simulation ? Et... j’appuie sur "Enter" pour lancer la simulation… Ecran bleu, plus personne, plus rien, le néant, crash intersidéral de la simulation principale ?

Pour finir, à tous ceux qui ne connaissent pas la vallée de l’étrange, soyez les bienvenus la vallée de l’étrange.

(oui, je sais, la vallée de l’étrange, c'est sur les robots, ben réfléchissez avant de la ramener... qu’est-ce qui fera tourner les robots… de l’IA (embarquée/centralisée ?), donc la bienvenue à toutes et tous dans la vallée de l’étrange).

Bonne aprèm à toutes et tous