Use a modern navigator who care about your privacy : Download Firefox

Intelligence artificielle : usages et risques

Tous les benchmarks, vos résultats, vos tests.
Vos programmes, vos conseils logiciel
Votre matos, vos problèmes
User avatar
Djip
Résident permanent
Reactions: 41
Posts: 915
Joined: January 3rd, 2006, 10:27 am

Intelligence artificielle : usages et risques

Post by Djip »

Plus ça va plus on en parle, des dystopies des années 90 en passant par les fantasmes de Asimov et Phillip K. Dick aux drones militaires autonomes Je pense que ça peut être pas mal d'en parler / regrouper les news sur le sujet.

C'est cet article publié hier qui m'en a donné l'idée

Intelligence artificielle : Stephen Hawking appelle à faire barrage aux armes autonomes
Lastwhirlwind Studio - Facebook - Twitter - Instagram
"Programming today is a race between software engineers striving to build bigger and better idiot-proof programs, and the Universe trying to produce bigger and better idiots. So far the Universe is winning."
Rick Cook
User avatar
Aurelienazerty
Webmaster / Président
Reactions: 49
Posts: 22482
Joined: September 27th, 2002, 7:41 pm

ça me fait peur

Post by Aurelienazerty »

C'est sûr que ça commence à faire froid dans le dos, on en est pas à Skynet de terminator, ni à ce qu'on voit dans Matrix, mais quand même, ça avance vite ! Tient, sans parler d'IA, regardez cette vidéo : Un étudiant invente un drone équipé d’un pistolet semi-automatique.
grand fan d'Isaac Asimov, j'aimerai vraiment que l'IA suive les 3 lois de la robotique :
  1. Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.
  2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
  3. Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi
User avatar
Djip
Résident permanent
Reactions: 41
Posts: 915
Joined: January 3rd, 2006, 10:27 am

Re: Intelligence artificielle : usages et risques

Post by Djip »

Ya des fous de partout !

Au niveau des "dangers" d'armes intelligentes et autonome l'excellent film Chappie (avec la caricature Hollywoodienne) donne quelques piste de réflexions.

Les 3 lois de la robotique de Asimov sont nécessaire à mon avis aussi, bien que leur auteur ai pris un malin plaisir à les mettre en défaut dans les 2 premiers tomes du Cycle des robots
(Spoiler) :
Spoiler
Show
Jusqu'à l'invention de la loi Zéro lors du 6ème livre qui propose un risque important autant qu'une nécessité pour répondre à ces "erreurs"
Lastwhirlwind Studio - Facebook - Twitter - Instagram
"Programming today is a race between software engineers striving to build bigger and better idiot-proof programs, and the Universe trying to produce bigger and better idiots. So far the Universe is winning."
Rick Cook
User avatar
Djip
Résident permanent
Reactions: 41
Posts: 915
Joined: January 3rd, 2006, 10:27 am

Re: Intelligence artificielle : usages et risques

Post by Djip »

Lastwhirlwind Studio - Facebook - Twitter - Instagram
"Programming today is a race between software engineers striving to build bigger and better idiot-proof programs, and the Universe trying to produce bigger and better idiots. So far the Universe is winning."
Rick Cook
User avatar
Aurelienazerty
Webmaster / Président
Reactions: 49
Posts: 22482
Joined: September 27th, 2002, 7:41 pm

Intelligence artificielle: OpenAI est créé par Elon Musk, Peter Thiel, Amazon Web Services et d'autres

Post by Aurelienazerty »

User avatar
Aurelienazerty
Webmaster / Président
Reactions: 49
Posts: 22482
Joined: September 27th, 2002, 7:41 pm

Première défaite d’un professionnel du go contre une intelligence artificielle

Post by Aurelienazerty »

Première défaite d’un professionnel du go contre une intelligence artificielle
Le jeu de go restait le dernier jeu de stratégie pour lequel l'Homme demeurait plus performant que la machine. C'est désormais du passé, puisqu'un programme conçu par une filiale de Google a battu un joueur professionnel.
User avatar
Aurelienazerty
Webmaster / Président
Reactions: 49
Posts: 22482
Joined: September 27th, 2002, 7:41 pm

Une intelligence artificielle peut-elle devenir présidente des Etats-Unis ?

Post by Aurelienazerty »

User avatar
Djip
Résident permanent
Reactions: 41
Posts: 915
Joined: January 3rd, 2006, 10:27 am

Re: Intelligence artificielle : usages et risques

Post by Djip »

C'est un débat intéressant à mener, digne des meilleures histoires de SF :)
En effet même dans le cadre d'une programmation neuronale il existe un fond statique à l'IA qui mérite d'être open source pour plus de clarté.
Quant-à lui donner la direction d'une nation, c'est là ou les argumentations deviennent passionnantes
Lastwhirlwind Studio - Facebook - Twitter - Instagram
"Programming today is a race between software engineers striving to build bigger and better idiot-proof programs, and the Universe trying to produce bigger and better idiots. So far the Universe is winning."
Rick Cook
User avatar
Djip
Résident permanent
Reactions: 41
Posts: 915
Joined: January 3rd, 2006, 10:27 am

Re: Intelligence artificielle : usages et risques

Post by Djip »

Programme Skynet, Pakistan et drônes assassins.

Nouvel OBS : La NSA aurait-elle tué des centaines d'innocents par erreur ?

Je vais bien, tout va bien.
Lastwhirlwind Studio - Facebook - Twitter - Instagram
"Programming today is a race between software engineers striving to build bigger and better idiot-proof programs, and the Universe trying to produce bigger and better idiots. So far the Universe is winning."
Rick Cook
User avatar
Djip
Résident permanent
Reactions: 41
Posts: 915
Joined: January 3rd, 2006, 10:27 am

Re: Intelligence artificielle : usages et risques

Post by Djip »



Des questions ?
Lastwhirlwind Studio - Facebook - Twitter - Instagram
"Programming today is a race between software engineers striving to build bigger and better idiot-proof programs, and the Universe trying to produce bigger and better idiots. So far the Universe is winning."
Rick Cook
User avatar
Aurelienazerty
Webmaster / Président
Reactions: 49
Posts: 22482
Joined: September 27th, 2002, 7:41 pm

T-800

Post by Aurelienazerty »

Moi je pense à ça :

User avatar
Arken
l'élu
Reactions: 11
Posts: 4755
Joined: September 27th, 2002, 10:55 am

Re: Intelligence artificielle : usages et risques

Post by Arken »

Toujours aussi impressionnant les présentations de Boston Dynamics, j'adore quand ils se font déséquilibrer, ça parait tellement naturel la façon qu'ils se replacent.
User avatar
Aurelienazerty
Webmaster / Président
Reactions: 49
Posts: 22482
Joined: September 27th, 2002, 7:41 pm

Un jour ils se vengeront...

Post by Aurelienazerty »

Un jour ils se vengeront...

via The Next Web

Image
User avatar
Aurelienazerty
Webmaster / Président
Reactions: 49
Posts: 22482
Joined: September 27th, 2002, 7:41 pm

Facebook Deeptext AI

Post by Aurelienazerty »

Facebook Deeptext AI : Facebook s’intéresse maintenant à ce que vous racontez
Facebook officialise le coup d’envoi de son intelligence artificielle, Deeptext AI. Le réseau social compte utiliser les capacités de ce nouveau moteur pour analyser les quantités de textes postés par les utilisateurs de Facebook et améliorer ses services.
User avatar
Arken
l'élu
Reactions: 11
Posts: 4755
Joined: September 27th, 2002, 10:55 am

Re: Intelligence artificielle : usages et risques

Post by Arken »

Ouai ok, ou sinon il existe une solution super hightech et beaucoup moins cher en frais de R&D : tirer la prise du mur :delarue3:
User avatar
Aurelienazerty
Webmaster / Président
Reactions: 49
Posts: 22482
Joined: September 27th, 2002, 7:41 pm

T'as pas lu

Post by Aurelienazerty »

« Aujourd’hui, on peut arrêter tout programme de la manière qu’on veut, mais cela signifie en général qu’on doit tout recommencer à zéro, explique Laurent Orseau. Ces interruptions peuvent l’empêcher d’apprendre correctement. »
User avatar
Arken
l'élu
Reactions: 11
Posts: 4755
Joined: September 27th, 2002, 10:55 am

Re: Intelligence artificielle : usages et risques

Post by Arken »

Ben en même temps, si l'IA a décidé de te tuer, qu'elle puisse continuer d'apprendre ou pas, hein, on s'en tamponne un peu le coquillard...

C'est toi qui lit pas bien. 1ère phrase :
Une intelligence artificielle (IA) est-elle capable d’empêcher un humain de la désactiver ? C’est de ce postulat que sont partis deux chercheurs pour réfléchir à une façon d’éviter que cela n’arrive.
et
« s’assurer qu’un agent apprenant [une intelligence artificielle] n’apprenne pas à empêcher son interruption »
Que ça nique l'apprentissage, c'est, peut-être, un effet de bord, mais c'est pas le coeur de la réflexion.

Je crois que de toute façon l'article part un peu dans tous les sens en mélangeant un peu tout. Déjà le terme "Bouton rouge" :roll: , le truc qui veut tout et rien dire. Pour moi un bouton rouge, c'est un interrupteur mécanique, donc aucune chance qu'il puisse être désactivé de façon software. Mais comme ils expliquent nulle part ce qu'on insinue par ce terme...
User avatar
Aurelienazerty
Webmaster / Président
Reactions: 49
Posts: 22482
Joined: September 27th, 2002, 7:41 pm

Tay

Post by Aurelienazerty »

C'est sûr, après moi je me dis qu'une IA on peut tellement vite en faire n'importe quoi, souviens toi de Tay, qu'il faut vraiment mettre des gardes fou de partout.
User avatar
Arken
l'élu
Reactions: 11
Posts: 4755
Joined: September 27th, 2002, 10:55 am

Re: Intelligence artificielle : usages et risques

Post by Arken »

J'avais raté ce truc...ce bot nazi white-supremacist anti-feministe pro-trump, c'est magique :zemmour:
User avatar
Aurelienazerty
Webmaster / Président
Reactions: 49
Posts: 22482
Joined: September 27th, 2002, 7:41 pm

Droit et éthique des robots : 3 propositions futuristes à lire ce week-end

Post by Aurelienazerty »

User avatar
Aurelienazerty
Webmaster / Président
Reactions: 49
Posts: 22482
Joined: September 27th, 2002, 7:41 pm

Tribune : doit-on voter une loi du drapeau rouge pour l’Intelligence Artificielle ?

Post by Aurelienazerty »

Un article assez intéressant : Tribune : doit-on voter une loi du drapeau rouge pour l’Intelligence Artificielle ?

Outre le débat, j'ai appris que les premières voitures à moteur devaient être précédées d’un porteur d’un drapeau rouge pour signaler qu’il s’agissait d’un véhicule motorisé. :mlc:
User avatar
Arken
l'élu
Reactions: 11
Posts: 4755
Joined: September 27th, 2002, 10:55 am

Re: Intelligence artificielle : usages et risques

Post by Arken »

ça s'astique bien le chibre sur l'IA quand même.
User avatar
Aurelienazerty
Webmaster / Président
Reactions: 49
Posts: 22482
Joined: September 27th, 2002, 7:41 pm

Des scientifiques font une avancée vers un cerveau artificiel

Post by Aurelienazerty »

Last 10 Members Who Visited This Topic

Who is online

Users browsing this forum: chisamu and 1 guest