Intelligence artificielle : usages et risques

[Aurelienazerty]

Dernier message de la page précédente :

Mouais, je ne suis pas si pessimiste. L'IA n'est qu'un outil parmi d'autres avec son lot de changement, au même titre que l'arriver des PC (qui imagine la vie avant Excel), d'internet... Oui, il va y avoir un paquet de changement, ça va secouer par endroit, mais c'est une évolution.

Tenez lors d'une keynote sur le sujet, j'ai vu ces 2 images :

les profs contre la calculette 1966.png

tribune des artistes de 1852 contre la photographie.png

[Arken]

Je pense pas. C'est un step bien plus important. Y aurait pas tous ces investissements si faramineux si rapides si c'était une simple évolution. C'est une monstre révolution et ça va impacter tout le monde et en majorité très négativement, à mon avis...pas du tout comparable à tes exemples. On parle pas de remplacer un truc très spécialisé, on parle de remplacer à très court terme une immense majorité des tâches réalisées par des humains.

Je persiste à dire que c'est une balle dans le pied : quand tes IA produiront 15 séries, 30 films, 1M de vidéos rigolotes ou de tepu d'instagtam à l'heure, qui ira regarder tout ça ? Y aura toujours que 24h dans une journée. Ça va diluer à mort, et au final, il n'y aura que des perdants. Sauf ceux qui fournissent les IA, les robots...qui seront réparés/entretenus par d'autres robots.

Le monde n'est vraiment pas prêt pour ce qui se profile.

[Aurelienazerty]

T'as déjà regardé/lu toute la merde générée par les humains ? Le contenu produit par les humains a explosé de manière exponentiel avant l'ia. Et est ce que l'ia fera de pire bouse que terre champs de bataille ?
Depuis des siècles, la machine à remplacé l'homme, qui le regrette aujourd'hui ? Qui regrette les 150 personnes pour faire les foins là où une moissonneuse fait le taf ?
Aujourd'hui, je suis heureux de pouvoir avoir un cr d'une réunion de 2h qui sert à rien que je peux lire en 5 minutes. Je suis heureux de balancer des librairies php plus maintenues, mais qui servent pour le site du tov, à Chatgpt qui va me les passer en php 8.4 en remplaçant toutes les fonctions obsolètes, pas en un coup de baguette magique, pas mal de prompt, mais bien plus rapidement que moi. Ou pour le site de la team-azerty, modifier les confs serveur et retrouver des pages qui se génèrent en moins d'une seconde contre 9, qui allait le faire sans ia ?
C'est un super outil qui me libère du temps pour faire des choses plus intéressantes. Et mon temps libre n'as pas de prix. Si l'Homme invente des choses pour faire des trucs à sa place, c'est aussi parce qu'il n'a plus envie de les faire.
Et pour terminer, on parle du coût carbone, je l'entends. Mais une équipe de 20 pelos que t'envoie à l'autre bout du monde pour tourner une pub pour un parfum, ça pèse combien de prompt ?

[Arken]

Mais donc, la femme de ménage qui va être remplacé par un robot, le taxi remplacé par une voiture autonome (mais je hais les taxi-lacarteellemarchepas, alors ça c'est bien fait pour leur gueule), l'ouvrier par un robot, l'armée d'assistante administrative, de remplisseurs de feuilles Excel, de juristes remplacés par des IA, tout le monde de la culture dont le job est de produire de la musique, des films, des pubs, ils vont faire quoi ? Je vois pas vraiment qu'est ce qu'il y aurait de "plus intéressant à faire" que l'unique tâche en quoi consiste beaucoup de jobs, et quand bien même pourquoi cette tâche "plus intéressantes" ne pourrait pas elle aussi être faite par un robot/IA. Je veux dire, quand la robotique aura tiré tous les bénéfices de l'IA, et ça commence à arriver, et pourra donc faire des actions dans le monde réel comme un humain, quelle sera l'utilité de l'humain ? Les robots se fabriquerons entre eux, ils iront miner eux-mêmes les matières premières nécessaires, des IA concevrons les nouveaux modèles, y a quasi plus aucune limite (hors physique/planétaire) quand tu arrives à un certain niveau d'évolution. Je veux dire, on va à un moment donné rentrer dans un fonctionnement circulaire où l'humain n'aura plus aucun rôle, à part quelques happyfew, d'où tous ces investissements pour en faire partie.

Et on parle d'un truc qui va se faire en quelques années seulement, là où le remplacement de l'homme par la machine dans l'agriculture ou l'industrie, comme tu donnes en exemple, s'est étalé sur des décennies ou des siècles.

Moi aussi ça m'aide beaucoup dans mon job et me libère du temps pour faire des choses plus intéressantes... jusqu'à ce que la machine sache aussi faire les choses plus intéressantes et que je ne serve plus à rien. C'est pas infini les "choses plus intéressantes", y a un moment où t'arrives au bout, t'arrives au moment où ton cerveau, tes bras, ta dextérité n'ont plus aucune valeur ajoutée.

"Aujourd'hui, je suis heureux de pouvoir avoir un cr d'une réunion de 2h qui sert à rien" je crois que tu tiens un truc là mec. Y a effectivement beaucoup de gens et de trucs qui ne vont plus servir à rien. Mais que deviennent donc les gens qui ne servent plus à rien ?

Et puis nos sociétés sont basées sur des équilibres extrêmement fragiles. Il suffit de 3 fois rien pour déjà foutre un bordel monstre (gilets jaunes). Avec une transition aussi violente, les gens n'ont pas le temps de se former à autre chose, et de toute façon se former à quoi, puisque tôt ou tard (et plus tôt que tard), l'IA saura aussi le faire. C'est juste une fuite en avant.

Tu parles d'avoir du temps libre, ça c'est sûr que y a un paquet de gens qui risquent d'en avoir beaucoup . Je vois une légère différence entre "ça me fait gagner du temps libre sur des choses que je faisais déjà sur mon temps libre" et "ça fait l'intégralité du boulot qui me sert à vivre à ma place".

Et ça me fait marrer, y en a qui parlent de mettre des taxes sur les robots pour compenser le remplacement des humains. Mais lol, déjà que délocaliser une usine avec des ouvriers ça se faisait très bien, mais alors délocaliser des robots , je crois qu'il s'en balec totale Nono le robot d'être en France ou au Pakistan.

Je crois que globalement, ça sert à rien d'essayer de comparer ça à des choses qui se sont produites dans le passé : y a rien de comparable, d'aussi rapide, d'aussi global, d'aussi impactant.

[Djip]

Chaque avancée technologique est arrivée avec son lot d'avantages et d'inconvénients. Concernant ces plus et moins, ils constituent un problème subjectif. L'IA générative va faire un carnage dans les métiers du tertiaire, comme le dit Aurélien: c'est un cas de figure qui s'est présenté par le passé mais comme le dit Olivier, c'est incroyablement plus rapide. Il y a ici des avantages en terme de productivité pour les entreprises et des inconvénients au niveau social, humain.
Il y a eu plus d'un siècle d'adaptation entre les derniers gros bonds technologiques : L'industrialisation et l'informatique industriel. Puis trente ans entre cette facette de l'informatique et l'utilisation d'internet dans le cadre de la mondialisation. Avantages ? Les entreprises de la grande distributions se portent TRES bien et ... On a des bananes dans les supermarchés. Inconvénients : Le monde agricole est en friche, c'est marche ou crève et voilà des années qu'on ne compte plus le nombre de suicides dans ce domaine.

Maintenant l'IA.
Son premier problème est qu'elle hallucine (terme technique) et qu'elle ne cessera jamais d'halluciner. C'est inhérent à sa conception. Les IA génératives ont pour rôle de compléter des "phrases" avec ce qui lui semble être une suite logique statistiquement. Side effect : Lorsque qu'il s'enferme dans des boucles logiques à compléter pour lesquelles il n'a pas de données pertinentes, il invente une suite statistiquement correcte.
De cette façon on tombe sur des mains à 6 doigts sur une image ou sur une information sans fondement chez tous ceux qui utilisent ces IA comme on utiliserait Wikipédia.
Faites l'expérience ! Lorsqu'une réponse de votre IA favorite vous semble étrange, dites lui : "Est-ce la vérité?", "C'est faux." ou "Es-tu certain de cette information?" et admirez le truc en train de se confondre en excuses et avouer à demi mot que pour telle ou telle information, il a tout bonnement pété un câble.

Le problème de ce délire c'est que personne dans mon entourage ne vérifie ce que l'IA a dit (Ben oui... Faire des recherches pour vérifier la réponse, c'est perdre l'avantage d'efficacité que l'IA offre à tord...). Du coup on est en train d'éduquer le peuple avec des informations dont OBLIGATOIREMENT une partie, de taille et de localisation non identifiable dans la masse, est rigoureusement fausse.

Autre point soulevé par Alain Damasio et par la revue "Science" : La merdification des données : Les IA produisent un truc un peu merdique, le truc est diffusé sur le web puis digéré par des IA qui, se basant dessus produisent un truc encore plus merdique... Qui est diffusé sur le net.... Digéré par des IA ect ... On estime que fin 2026 40% de la production journalière de contenus sur internet sera le fruit des IA génératives. 40%! je ne parle pas de la production tiktok ou facebook mais de la globalité de la production de données multimédia d'internet... Imaginez alors le taux de merdification à ce moment là. (Et comme dit dans le reportage : Adobe prend des photos de tout et de rien pour tenter de contrer ça mais .... Le rythme n'est déjà plus tenable).

La différence entre l'outil et la finitude ?
le problème est que l'IA n'est pas utilisé comme un outil à la création humaine mais comme une une production "finie" par beaucoup de personne. Dans ce cadre, la suite des évènements est devinable par un chimpanzé.

#1 Les sources d'informations "fixes" vont lentement disparaitre faute de fond pour être maintenus. je pense à Wikipédia qui est l'exemple le plus évident. Tous les ans ils déploient une campagne de financement par dons pour garder l'information gratuite pour tous. Combien de temps vont ils tenir avec de plus en plus de personnes utilisant ChatGPT plutôt que ce genre de solution. C'est normal et logique : Wikipédia tu dois lire toute une fiche et écrire un résumé ... l'IA, tu lui demandes avec une candeur infinie de te générer directement ton exposé sur Henry V. Tant pis pour les conneries que la machine y aura fourré... Après tout, l'élève aussi il écrit des conneries ! Oui, mais l'élève ne prend pas ses conneries comme une vérité universelle. Il sait qu'à tout moment le prof peut lui corriger une erreur interprétation.

#2 Tous les métiers nécessitant une production non matérielle sont, à court ou moyens termes, en danger. Oui... Bien sur que les informaticiens ne vont pas disparaitre du jour au lendemain, il va bien falloir du monde pour entretenir ce merdier mais, à l'image de l'industrialisation, combien vont disparaitre au profit d'une IA générative et d'un opérateur humain de vérification ?
Là oui, on peut prendre exemple sur le passé et les chaînes de montage ! Les ateliers qui passaient de 20 personnes à une machine et 2 opérateurs. Bien entendu que c'est pas la même qualité! Mais le fait que ce soit de la merde n'empêche pas le monde d'acheter de la chiasse toxique sur SHEIN ou de bouffer des tomates du Maroc sans aucun goût parce qu'elles ont mûri pendant le transport! Bien sur qu'on va perdre en qualité lorsqu'un patron, au lieu de demander à un infographiste de bosser 6h sur une plaquette, va la faire générer par midjourney en 3 minutes. Mais qui va en avoir quelque chose à branler? Le graphiste qui sera au chômage en reconversion de "prompteur pour IA" pour tenter de payer le loyer? Oui. Lui ça va l'emmerder. Le patron? Hé il a multiplié par 120 sa productivité! Et la plèbe non concernée directement va manger cette merde parce que le marché en est saturé, parce que les coûts auront suivit la qualité de ce qu'on lui servira.

#3 Au bout d'un moment indéfinissable, il y aura quelques anti IA qui tenteront de résister à la façon des "communautés indépendantes" actuelles qu'on traite de hippies et qu'on regarde amusés. Ils seront insignifiants devant une masse monstrueuse d'humains biberonnés à la désinformation volontaire ou non et devenant de plus en plus débiles vu que l'IA leur aura volé la créativité, la recherche et en très grande partie : la réflexion. (C'est déjà doucement le cas, il n'est pas envisageable, à moins d'une mauvaise foi purulente, de ne pas l'avouer)


Concernant le concept d'outil :
il y a un espoir mais faible. L'IA a prouvé que médicalement elle pouvait permettre de grande avancée, détectant des cancers avant même qu'on le soupçonne, par exemple.
Oui pour un auteur demandant à ChatGPT de lui donner 3 idées romanesque avant que l'HUMAIN ne se mette à écrire.
Bien entendu moi même j'utilise Mistral pour m'aider à chercher dans la documentation d'une API, puis JE code en fonction de ça...
L'IA comme outil est ce à quoi cette technologie devrait se cantonner
Mais on est d'accord que je suis en pleine utopie? Je fantasme car l'autre machine, celle qui détruit, est déjà en marche et à moins d'un soulèvement global ou d'une catastrophe technologique, ne s'arrêtera pas car ceux qui font tourner l'économie de ce monde n'en ont pas l'intérêt, parce que la technologie existe et qu'elle sera toujours là à fonctionner de manière pirate même si on l'interdit, qu'avant qu'on puisse vraiment avoir un début de prise de conscience humanitaire sur le sujet, le mal sera déjà fait car nous sommes INCAPABLES de suivre son avancée. Nous sommes déjà largués.

[Aurelienazerty]

Mais donc, la femme de ménage qui va être remplacé par un robot, le taxi remplacé par une voiture autonome

Tout est une question de cout mon bon monsieur. Et pour le moment mon robot aspirateur qui prend la poussière a été grandremplacé par une femme de ménage qui fait largement mieux, et avec les crédits d'impôt, ça ne coute pas si cher. Pour les robots taxis, vu comment l'être humain conduit comme une merde (depuis le début de l'année, j'ai déjà fait remplacer 4x un poteaux dans un virage en bas de chez moi parce que des gogoles roulent à plus de 90 dans une section à 50, finissant dans l'étang) je suis à 200% pour que les transports ne soient assurés QUE par des robots.

l'ouvrier par un robot

C'est déjà le cas depuis plusieurs décennies.

le monde de la culture dont le job est de produire de la musique, des films, les pubs

L'IA ne créé rien, elle assemble des bouts vu à droite à gauche, celui qui créé, c'est celui qui fait le prompt. Et en parlent de film, est-ce qu'il faut mieux une IA qui génère du pr0n ou un paquet d'actrice +/- consentantes dans des conditions de tournage discutable ?
Il y a 1 an, je disais ça, et c'est toujours d'actualité :

Pour le moment, le terme IA, c'est du marketing pour du big data + de la machine learning qui existe depuis de nombreuses années. En 1997 Deep Blue battait Kasparov aux échec, et à l'époque, il y avait une belle enflamade. Et factuellement, ça fait des années que les ordinateurs sont bien plus rapide que nous pour faire des tas de trucs.

Là les progrès sont spectaculaires (1997 c'était il y a 27, et on est plus proche de 2050 que de 1997), moi même, je me sers très régulièrement de ChatGPT pour plein de trucs et même le boulot. Mais pour moi ce n'est qu'un perroquet savant. Oui, chatGPT a plus de savoir qu'un être humain ne pourra jamais avoir, mais est-ce qu'il le comprend ? Je veux dire par là que ça me rappelle mes année MIAGE où t'avais des gens qui savait part cœur des cours et des TD, mais ne pigeaient pas le principe derrière, et dès que tu changeait une virgule à l'exercice du TD ils voyaient flou.
ChatGPT sait super bien recracher les infos qu'il a ingurgité, Dall-E va faire des images bluffantes. Mais il n'y a rien de créé. Pour le moment, la création, l'imagination, l'IA ne sait pas faire. Et pour moi, c'est ça la vraie intelligence.

On est dans une belle bulle de l'IA, comme on était dans une bulle de l'internet début des années 2000 avec des startup à la pelle valorisées à plusieurs milliards.

L'IA générative va faire un carnage dans les métiers du tertiaire

C'est justement ça la nouveauté, jusqu'à présent le progrès technologique avait épargné nos métiers. Mais les paysans et les ouvriers ont déjà été grandremplacés par de la machine depuis quelques années comme je l'ai dis plus haut. C'était des métiers peu qualifiés, où le carnage a été particulièrement prononcé. Je pense que les cadres ont une plus grande capacité d'adaptation.

J'en reviens toujours à la définition d'intelligence ? C'est quoi en fait réellement, et je ne parle pas que de QI, l’intelligence émotionnelle, la capacité de dépassement, de créativité, la capacité à émerveiller devant un coucher de soleil. Tout ce qui fait le génie humain...

Je suis un éternel optimiste (ce qui m'est arrivé en 2013 y est pour beaucoup), j'en conviens, mais je ne peux/veux pas croire que tout es foutu pour l'IA et pour plein d'autres sujets. oui, ça sera peut être la fin d'un monde, mais ça ne sera pas la fin du monde.

[Arken]

Tout est une question de cout mon bon monsieur.

Faut arrêter de prendre tes exemples perso (avec des aides locales). T'es pas représentatif du monde. Le coût justement, si tout est fait par des robots de A à Z, avec des machines qui fonctionnent 24/7 sans demander des hausses de salaires ou faire la grêve, les coûts s'effondrent. Y a déjà des protos de robots femmes de ménage qui te ramasse le linge qui traine par terre, te le mettent dans la machine, démarre la machine, l'étend, te nettoie la table, passe l'aspirateur, nettoie les chiottes, va jeter la poubelle dehors :

Et on parle pas d'un truc qui va couter le prix d'une bagnole, une fois produit en série (sur des chaînes full robotisées), l'achat sera très vite amorti.

l'ouvrier par un robot

Lol, t'as pas du voir beaucoup d'usines dans ta vie (y a énormément de postes qui ne sont pas robotisés, ce qui devient possible avec des robots humanoides avec des mains/doigts aussi habiles qu'un humain, qui peuvent marcher à droite à gauche pour prendre/déposer des choses, qui physiquement est équivalent à un humain).
L'évolution niveau fluidité et précision du mouvement est dingue sur le Tesla Optimus par exempel. Là ok c'est pour de la danse à la con, mais imagine les possibilités que ça ouvre, on parle d'un truc qui aura bientôt les mêmes capacités physiques qu'un humain lambda pour interagir avec son environnement, elle est bien là la "dangerosité", on parle plus d'un "robot" qui est en fait juste un bras robotisé fixé sur un socle au sol avec une pince au bout :

L'IA ne créé rien, elle assemble des bouts vu à droite à gauche, celui qui créé, c'est celui qui fait le prompt.

Et ? C'est suffisant dans 95% des cas. Et tu sais, les humains ont toujours fait énormément de chose par mimétisme aussi, surtout dans le domaine artistique justement.

Et en parlent de film, est-ce qu'il faut mieux une IA qui génère du pr0n ou un paquet d'actrice +/- consentantes dans des conditions de tournage discutable ?

Bah peut-être qu'entre ça et crever de faim, elle préfèraient se prendre des DP pour de vrai.

Pour le moment, le terme IA, c'est du marketing pour du big data + de la machine learning qui existe depuis de nombreuses années. En 1997 Deep Blue battait Kasparov aux échec, et à l'époque, il y avait une belle enflamade.

Encore une fois, tu prends l'exemple d'un truc super spécifique (les échecs) quand on te parle d'un truc qui est beaucoup plus généraliste et transverse et qui évolue à une vitesse fulgurante.

Et factuellement, ça fait des années que les ordinateurs sont bien plus rapide que nous pour faire des tas de trucs.

Oui, mais ça n'a rien à voir. Evidemment qu'une bête calculatrice d'il y a 1 siècle va faire une multiplication bien plus vite que toi. Et donc ? On parle d'un truc qui un jour prochain sera capable d'exécuter à peu près n'importe quelle tâche que tu lui demandes, dans n'importe quel domaine de la vie.

Là les progrès sont spectaculaires (1997 c'était il y a 27, et on est plus proche de 2050 que de 1997), moi même, je me sers très régulièrement de ChatGPT pour plein de trucs et même le boulot. Mais pour moi ce n'est qu'un perroquet savant. Oui, chatGPT a plus de savoir qu'un être humain ne pourra jamais avoir, mais est-ce qu'il le comprend ? Je veux dire par là que ça me rappelle mes année MIAGE où t'avais des gens qui savait part cœur des cours et des TD, mais ne pigeaient pas le principe derrière, et dès que tu changeait une virgule à l'exercice du TD ils voyaient flou.
ChatGPT sait super bien recracher les infos qu'il a ingurgité, Dall-E va faire des images bluffantes. Mais il n'y a rien de créé. Pour le moment, la création, l'imagination, l'IA ne sait pas faire. Et pour moi, c'est ça la vraie intelligence.

Mais en fait on s'en branle de comment ça marche derrière. Ce qui importe une entreprise par exemple, c'est le résultat. C'est de la branlette philosophique de vouloir définir une "vraie intelligence". Jean-Michel Patron, il s'en fout, s'il peut avoir 1 employé qui prompte toute la journée ChatGPT au lieu de 100 qui charbonnaient toute la journée pour arriver au même résultat, ben le choix est vite fait.

Je pense que les cadres ont une plus grande capacité d'adaptation.

Comme je disais dans mon précédent message, s'adapter à quoi ? Y a aucune raison qu'une tâche soit-disant plus "haut niveau" ne puisse pas être faite par l'IA tôt ou tard. Ça phagocytera tout un jour ou l'autre.

J'en reviens toujours à la définition d'intelligence ? C'est quoi en fait réellement, et je ne parle pas que de QI, l’intelligence émotionnelle, la capacité de dépassement, de créativité, la capacité à émerveiller devant un coucher de soleil. Tout ce qui fait le génie humain...

Branlette. Bien sûr qu'il manquera un côté créatif/émotionnel, mais en fait 99% du fonctionnement du monde et de l'économie n'a aucunement besoin de ça. Je veux dire, le jeune Kevin sur la chaine de montage Peugeot, ça change pas grand chose qu'il kiffe les couchers de soleil ou le tricot quand il vis le boulon de ta 5008.

[Aurelienazerty]

Alors je comprends tes craintes et tes arguments comme tes exemples ne sont pas dénués de sens. Sans pour autant dire que tu as tort et moi raison, c'est impossible car c'est une question de perception, de ma vue, je trouve que tu noirci beaucoup le tableau. Alors je suis peut être un bisounours, peut être ai-je trop lu Asimov et ses 3 lois de la robotique, mais je n'ose croire à un futur à la skynet ou à la matrix.

L’IA automatise surtout les tâches, pas nécessairement les emplois entiers. Par exemple, dans la médecine, l’IA peut aider à analyser des imageries, mais pas remplacer un médecin. D'ailleurs, pour parler de truc que l'on connait, niveau SI, on a jamais eu 100% d'automatisation, soit parce que l'ERP était trop compliqué à paramétrer, soit parce que le SI spécifique coutait trop cher etc. parce que comme tu le dis si bien l'économie gouverne et que le ROI prime. Et l'IA n'a pas des couts nuls.

De plus, l'histoire nous a montré que les technologies précédentes ont toujours créé plus d’emplois qu’elles n’en ont détruit à long terme. Oui certains métiers vont disparaitre, comme ça été le cas depuis la révolution industriel, mais d'autres vont êtres créés. Mais en 1870, le maréchal-ferrant n'imaginait pas qu’un jour, il serait remplacé par un garagiste. De la même façon, aujourd’hui, on ne peut pas encore prédire les métiers de demain.
Il y a aussi des choses que l’IA fait très mal ou ne peut pas faire : poser un diagnostic dans un contexte humain complexe, gérer une classe d’élèves, consoler quelqu’un... Bref, on est loin d’un remplacement total.

Tu présentes souvent l’humain comme une espèce figée, dépassée, condamnée à être remplacée. Mais l’humain s’adapte. Il l’a toujours fait. C'est pour ça que j'aimais bien ma pushline : ça sera peut être la fin d'un monde, mais pas la fin du monde. On a dit que l’imprimerie tuerait la mémoire, que la photo tuerait la peinture, que la télé tuerait le cinéma, qu’Internet tuerait le livre... Pourtant, on est toujours là. Différents, oui, mais pas obsolètes.

Pourquoi forcément anticiper le pire, alors que des effets régulateurs / effets correcteurs sont en cours ? Oui aujourd'hui l’humanité ne semble pas forcément prête pour affronter la vague de l'IA, et tu as raison, car dans les faits, la législation, l’éducation, les règles éthiques peinent à suivre le rythme des avancées technologiques. Pour autant, il n'y a pas rien, des efforts sont en cours : législation européenne (AI Act), chartes éthiques, mouvements pour une IA responsable. Dire que rien n’est prêt est excessif.

Je me suis paluché quelques articles sur l'IA Act, ce n'est pas juste un vœu pieux, c’est une loi contraignante qui classe les IA en fonction de leur risque :

• Les usages inacceptables (type scoring social, manipulation cognitive de masse, reconnaissance faciale en temps réel dans l’espace public) sont interdits.
• Les IA dites à haut risque (dans la santé, l’éducation, la justice, etc.) sont soumises à des obligations très strictes : supervision humaine, transparence, documentation technique, etc.
• Même les IA génératives comme ChatGPT ont désormais l’obligation d’indiquer que le contenu est généré par une IA et de labelliser clairement les deepfakes. C’est justement pour éviter le genre de confusion généralisée que tu crains. Mais oui, je suis d"accord, des gens comme Trump ou Musk s'assoient sur l'étique, et un watermark, ça s'enlève, et même avec, t'as toujours des gens pour y croire. D'ailleurs, je suis retombé sur la publicité Fast huitre et de l'impact que ça avait eu.

Bref, je comprends d’où viennent tes inquiétudes. Elles sont légitimes, surtout vu la vitesse à laquelle tout évolue. Mais je crois qu’on peut prendre ce tournant sans céder à la panique ni à la résignation. On peut encadrer, on peut adapter, on peut créer autrement. Ce n’est pas naïf, c’est justement ce qu’on a toujours fait.

[Arken]

Je me répète, mais tes exemples très spécifiques (imprimerie, maréchal ferrant) sont totalement déconnectés de l'exemple de l'IA qui d'un seul coup ou presque peut ou pourra dans un avenir très proche remplacer de la femme de ménage, au développeur en passant par le data analyst, l'assistante administrative, le hotliner, le juriste, le chauffeur de bus ou de taxi ou l'ouvrier dans une usine. On parle pas d'évolutions successives espacées de décennies ou siècles, on parle de quelques années. Tous les exemples que je donne ne rentrent dans aucune des restrictions que tu mentionnes. Sur la préservation de l'emploi et plus généralement l'utilité future de l'humain dans tout ça, y a rien ou pas grand chose.

Et sur l'adaptation, comme je disais, c'est un ensemble fini, y a pas d'adaptation infinie face à un truc qui est ou sera supérieure à 99% des humains sur n'importe quelle tâche.

Je noircis peut être le tableau, mais on voit bien que ça devient de plus en plus réel, des IA qui t'appellent au téléphone à la place d'un humain, des directeurs marketing qui annulent des shooting photo/vidéo pour un truc généré par IA, des affiches de festival/event faites sans aucun graphiste, des embauches qui ne se font plus parce que le personnel déjà embauché + IA fait largement le job, des BD sans illustrateurs, etc. Y a encore 1 an en arrière, les vidéos générées par IA c'était un mauvais cauchemar sous LSD, maintenant c'est des plans/scènes au standard de n'importe quelle serie/film sur Netflix. Matte ce truc 100% IA :


Je suis pas du tout dans un trip Skynet/Terminator avec la machine qui nous échappe, je parle juste des aspects sociaux-économiques qui pourraient être potentiellement catastrophiques. Tout n'est qu'un fragile équilibre. La question de l'emploi est centrale, puisque c'est le vecteur de revenu des ménages, donc de la consommation, donc de la croissance, et dans le cas où il manque, vecteur de pauvreté, de misère, de révolte populaire (je prenais l'exemple des gilets jaunes, mais y en a plein dans l'histoire) voir de guerre civile, bref, de violence de façon générale.

Ça va finir en mix de Terminator, Mad Max et Walking Dead ce truc

[Djip]

peut être ai-je trop lu Asimov et ses 3 lois de la robotique, mais je n'ose croire à un futur à la skynet ou à la matrix

Je suis pas du tout dans un trip Skynet/Terminator avec la machine qui nous échappe

je pense qu'on est tous d'accord que ce genre de craint est irrationnel. Le principe existe en SF, il s'agit de la "singularité technologique" (Skynet dans terminator) mais ça reste de la SF.
Asimov a fait un travail remarquable dans le cycle des robot compte tenu de ce qu'il savait dans les années 50-60, il reste un de mes auteurs fétiches et tout comme Herbert avec Dune, interdit dans sa suite (Fondation) l'usage d'IA autonomes.

Je rejoins Olivier sur le fait que la révolution que nous vivons est très difficilement comparable au passé, principalement à cause de l'échelle de temps.

Encore une fois, l'outil en tant qu'outil est BON. Là où il faut se poser des questions éthiques et philosophiques, c'est sur la localisation des limites et si un dépassement peut être identifiable.

En l'état ce n'est pas le cas. l'IA act c'est beau sur le papier, beaucoup de ces IA sont open sources et aujourd'hui des modèles très peu couteux en ressources peuvent tourner sur un PC/MAC standard. Donc OK, fliquer l'utilisation d'un Midjourney ou d'un ChatGPT c'est rassurant pour Gérard qui mange du CNEWS 2h par jour mais pour nous autres travailleurs du numériques on est pas au même niveau de candeur .... Quid des serveurs pirates qui feront tourner du Llama, GPT-NeoX, Dall-e, Deeplab, deepspeech ou Nemo? Ca fait combien de décennies que les différents ayants droits tentent de fermer ygg ou tpb ? A mon sens, juste dire que c'est pas bien est un coup d'épée dans l'eau.
Il y a des tentatives d'outils pour détecter qu'on contenu est généré par IA, mais ça ne fonctionne (plus) pas. J'ai fait le test il y a quelques jours avec un texte généré par Chat GPT d'une centaine de ligne et j'ai testé 3 outils : Les trois m'ont affirmé que le texte est à "100% humain" et plus le temps passe, plus cette technologie s'accélère et plus on est largué pour tenter de cloisonner ses usages et don : Ses inévitables dérives.

Je ne parle par juste des dérives au niveau visible sur les RS et autres diffuseurs de fakenews mais bien, tout comme Olivier, des dérives sociales et pro que ça peut engendrer. Plus rien ne peut empêcher une entreprise d'utiliser des générations en interne et de remplacer quantité du personnel pour un travail, certes médiocre, mais bigrement plus rentable.

[Aurelienazerty]

Quand je parle de bulle : Cette startup a berné Microsoft avec 700 Indiens déguisés en IA

Builder.ai, autrefois valorisée plus d’un milliard d’euros, vient de plier sous le poids d’une imposture sophistiquée. Derrière son « intelligence artificielle » se cachaient en réalité 700 développeurs basés en Inde, révélant les failles de la frénésie d’investissement actuelle autour de l’IA générative.