Intelligence artificielle : usages et risques

Tous les benchmarks, vos résultats, vos tests.
Vos programmes, vos conseils logiciel
Votre matos, vos problèmes
Avatar de l’utilisateur
Djip
Obiwan Kenobi
LAN : 36
Réactions :
Messages : 1535
Inscription : janvier 3, 2006, 11:27 am

Intelligence artificielle : usages et risques

Message par Djip »

Plus ça va plus on en parle, des dystopies des années 90 en passant par les fantasmes de Asimov et Phillip K. Dick aux drones militaires autonomes Je pense que ça peut être pas mal d'en parler / regrouper les news sur le sujet.

C'est cet article publié hier qui m'en a donné l'idée

Intelligence artificielle : Stephen Hawking appelle à faire barrage aux armes autonomes
Interfeminium mea scabies est, et fundum meum.
Instagram- Twitch
"Programming today is a race between software engineers striving to build bigger and better idiot-proof programs, and the Universe trying to produce bigger and better idiots. So far the Universe is winning."
Rick Cook
Avatar de l’utilisateur
Aurelienazerty
Webmaster / Président
LAN : 127
Réactions :
Messages : 25513
Inscription : septembre 27, 2002, 9:41 pm

ça me fait peur

Message par Aurelienazerty »

C'est sûr que ça commence à faire froid dans le dos, on en est pas à Skynet de terminator, ni à ce qu'on voit dans Matrix, mais quand même, ça avance vite ! Tient, sans parler d'IA, regardez cette vidéo : Un étudiant invente un drone équipé d’un pistolet semi-automatique.
grand fan d'Isaac Asimov, j'aimerai vraiment que l'IA suive les 3 lois de la robotique :
  1. Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.
  2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
  3. Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi
Avatar de l’utilisateur
Djip
Obiwan Kenobi
LAN : 36
Réactions :
Messages : 1535
Inscription : janvier 3, 2006, 11:27 am

Re: Intelligence artificielle : usages et risques

Message par Djip »

Ya des fous de partout !

Au niveau des "dangers" d'armes intelligentes et autonome l'excellent film Chappie (avec la caricature Hollywoodienne) donne quelques piste de réflexions.

Les 3 lois de la robotique de Asimov sont nécessaire à mon avis aussi, bien que leur auteur ai pris un malin plaisir à les mettre en défaut dans les 2 premiers tomes du Cycle des robots
(Spoiler) :
Spoiler
Monter
Jusqu'à l'invention de la loi Zéro lors du 6ème livre qui propose un risque important autant qu'une nécessité pour répondre à ces "erreurs"
Interfeminium mea scabies est, et fundum meum.
Instagram- Twitch
"Programming today is a race between software engineers striving to build bigger and better idiot-proof programs, and the Universe trying to produce bigger and better idiots. So far the Universe is winning."
Rick Cook
Avatar de l’utilisateur
Djip
Obiwan Kenobi
LAN : 36
Réactions :
Messages : 1535
Inscription : janvier 3, 2006, 11:27 am

Re: Intelligence artificielle : usages et risques

Message par Djip »

Interfeminium mea scabies est, et fundum meum.
Instagram- Twitch
"Programming today is a race between software engineers striving to build bigger and better idiot-proof programs, and the Universe trying to produce bigger and better idiots. So far the Universe is winning."
Rick Cook
Avatar de l’utilisateur
Aurelienazerty
Webmaster / Président
LAN : 127
Réactions :
Messages : 25513
Inscription : septembre 27, 2002, 9:41 pm

Intelligence artificielle: OpenAI est créé par Elon Musk, Peter Thiel, Amazon Web Services et d'autres

Message par Aurelienazerty »

Avatar de l’utilisateur
Aurelienazerty
Webmaster / Président
LAN : 127
Réactions :
Messages : 25513
Inscription : septembre 27, 2002, 9:41 pm

Première défaite d’un professionnel du go contre une intelligence artificielle

Message par Aurelienazerty »

Première défaite d’un professionnel du go contre une intelligence artificielle
Le jeu de go restait le dernier jeu de stratégie pour lequel l'Homme demeurait plus performant que la machine. C'est désormais du passé, puisqu'un programme conçu par une filiale de Google a battu un joueur professionnel.
Avatar de l’utilisateur
Aurelienazerty
Webmaster / Président
LAN : 127
Réactions :
Messages : 25513
Inscription : septembre 27, 2002, 9:41 pm

Une intelligence artificielle peut-elle devenir présidente des Etats-Unis ?

Message par Aurelienazerty »

Avatar de l’utilisateur
Djip
Obiwan Kenobi
LAN : 36
Réactions :
Messages : 1535
Inscription : janvier 3, 2006, 11:27 am

Re: Intelligence artificielle : usages et risques

Message par Djip »

C'est un débat intéressant à mener, digne des meilleures histoires de SF :)
En effet même dans le cadre d'une programmation neuronale il existe un fond statique à l'IA qui mérite d'être open source pour plus de clarté.
Quant-à lui donner la direction d'une nation, c'est là ou les argumentations deviennent passionnantes
Interfeminium mea scabies est, et fundum meum.
Instagram- Twitch
"Programming today is a race between software engineers striving to build bigger and better idiot-proof programs, and the Universe trying to produce bigger and better idiots. So far the Universe is winning."
Rick Cook
Avatar de l’utilisateur
Djip
Obiwan Kenobi
LAN : 36
Réactions :
Messages : 1535
Inscription : janvier 3, 2006, 11:27 am

Re: Intelligence artificielle : usages et risques

Message par Djip »

Programme Skynet, Pakistan et drônes assassins.

Nouvel OBS : La NSA aurait-elle tué des centaines d'innocents par erreur ?

Je vais bien, tout va bien.
Interfeminium mea scabies est, et fundum meum.
Instagram- Twitch
"Programming today is a race between software engineers striving to build bigger and better idiot-proof programs, and the Universe trying to produce bigger and better idiots. So far the Universe is winning."
Rick Cook
Avatar de l’utilisateur
Djip
Obiwan Kenobi
LAN : 36
Réactions :
Messages : 1535
Inscription : janvier 3, 2006, 11:27 am

Re: Intelligence artificielle : usages et risques

Message par Djip »



Des questions ?
Interfeminium mea scabies est, et fundum meum.
Instagram- Twitch
"Programming today is a race between software engineers striving to build bigger and better idiot-proof programs, and the Universe trying to produce bigger and better idiots. So far the Universe is winning."
Rick Cook
Avatar de l’utilisateur
Aurelienazerty
Webmaster / Président
LAN : 127
Réactions :
Messages : 25513
Inscription : septembre 27, 2002, 9:41 pm

T-800

Message par Aurelienazerty »

Moi je pense à ça :

Avatar de l’utilisateur
Arken
Éleveur de srou
LAN : 92
Réactions :
Messages : 5231
Inscription : septembre 27, 2002, 12:55 pm

Re: Intelligence artificielle : usages et risques

Message par Arken »

Toujours aussi impressionnant les présentations de Boston Dynamics, j'adore quand ils se font déséquilibrer, ça parait tellement naturel la façon qu'ils se replacent.
Avatar de l’utilisateur
Aurelienazerty
Webmaster / Président
LAN : 127
Réactions :
Messages : 25513
Inscription : septembre 27, 2002, 9:41 pm

Un jour ils se vengeront...

Message par Aurelienazerty »

Un jour ils se vengeront...

via The Next Web

Image
Avatar de l’utilisateur
Aurelienazerty
Webmaster / Président
LAN : 127
Réactions :
Messages : 25513
Inscription : septembre 27, 2002, 9:41 pm

Facebook Deeptext AI

Message par Aurelienazerty »

Facebook Deeptext AI : Facebook s’intéresse maintenant à ce que vous racontez
Facebook officialise le coup d’envoi de son intelligence artificielle, Deeptext AI. Le réseau social compte utiliser les capacités de ce nouveau moteur pour analyser les quantités de textes postés par les utilisateurs de Facebook et améliorer ses services.
Avatar de l’utilisateur
Aurelienazerty
Webmaster / Président
LAN : 127
Réactions :
Messages : 25513
Inscription : septembre 27, 2002, 9:41 pm

Pourquoi Google a conçu un « bouton rouge » pour désactiver des intelligences artificielles

Message par Aurelienazerty »

Avatar de l’utilisateur
Arken
Éleveur de srou
LAN : 92
Réactions :
Messages : 5231
Inscription : septembre 27, 2002, 12:55 pm

Re: Intelligence artificielle : usages et risques

Message par Arken »

Ouai ok, ou sinon il existe une solution super hightech et beaucoup moins cher en frais de R&D : tirer la prise du mur :delarue3:
Avatar de l’utilisateur
Aurelienazerty
Webmaster / Président
LAN : 127
Réactions :
Messages : 25513
Inscription : septembre 27, 2002, 9:41 pm

T'as pas lu

Message par Aurelienazerty »

« Aujourd’hui, on peut arrêter tout programme de la manière qu’on veut, mais cela signifie en général qu’on doit tout recommencer à zéro, explique Laurent Orseau. Ces interruptions peuvent l’empêcher d’apprendre correctement. »
Avatar de l’utilisateur
Arken
Éleveur de srou
LAN : 92
Réactions :
Messages : 5231
Inscription : septembre 27, 2002, 12:55 pm

Re: Intelligence artificielle : usages et risques

Message par Arken »

Ben en même temps, si l'IA a décidé de te tuer, qu'elle puisse continuer d'apprendre ou pas, hein, on s'en tamponne un peu le coquillard...

C'est toi qui lit pas bien. 1ère phrase :
Une intelligence artificielle (IA) est-elle capable d’empêcher un humain de la désactiver ? C’est de ce postulat que sont partis deux chercheurs pour réfléchir à une façon d’éviter que cela n’arrive.
et
« s’assurer qu’un agent apprenant [une intelligence artificielle] n’apprenne pas à empêcher son interruption »
Que ça nique l'apprentissage, c'est, peut-être, un effet de bord, mais c'est pas le coeur de la réflexion.

Je crois que de toute façon l'article part un peu dans tous les sens en mélangeant un peu tout. Déjà le terme "Bouton rouge" :roll: , le truc qui veut tout et rien dire. Pour moi un bouton rouge, c'est un interrupteur mécanique, donc aucune chance qu'il puisse être désactivé de façon software. Mais comme ils expliquent nulle part ce qu'on insinue par ce terme...
Avatar de l’utilisateur
Aurelienazerty
Webmaster / Président
LAN : 127
Réactions :
Messages : 25513
Inscription : septembre 27, 2002, 9:41 pm

Tay

Message par Aurelienazerty »

C'est sûr, après moi je me dis qu'une IA on peut tellement vite en faire n'importe quoi, souviens toi de Tay, qu'il faut vraiment mettre des gardes fou de partout.
Avatar de l’utilisateur
Arken
Éleveur de srou
LAN : 92
Réactions :
Messages : 5231
Inscription : septembre 27, 2002, 12:55 pm

Re: Intelligence artificielle : usages et risques

Message par Arken »

J'avais raté ce truc...ce bot nazi white-supremacist anti-feministe pro-trump, c'est magique :zemmour:
Avatar de l’utilisateur
Aurelienazerty
Webmaster / Président
LAN : 127
Réactions :
Messages : 25513
Inscription : septembre 27, 2002, 9:41 pm

Droit et éthique des robots : 3 propositions futuristes à lire ce week-end

Message par Aurelienazerty »

Avatar de l’utilisateur
Aurelienazerty
Webmaster / Président
LAN : 127
Réactions :
Messages : 25513
Inscription : septembre 27, 2002, 9:41 pm

Tribune : doit-on voter une loi du drapeau rouge pour l’Intelligence Artificielle ?

Message par Aurelienazerty »

Un article assez intéressant : Tribune : doit-on voter une loi du drapeau rouge pour l’Intelligence Artificielle ?

Outre le débat, j'ai appris que les premières voitures à moteur devaient être précédées d’un porteur d’un drapeau rouge pour signaler qu’il s’agissait d’un véhicule motorisé. :mlc:
Avatar de l’utilisateur
Arken
Éleveur de srou
LAN : 92
Réactions :
Messages : 5231
Inscription : septembre 27, 2002, 12:55 pm

Re: Intelligence artificielle : usages et risques

Message par Arken »

ça s'astique bien le chibre sur l'IA quand même.
Avatar de l’utilisateur
Aurelienazerty
Webmaster / Président
LAN : 127
Réactions :
Messages : 25513
Inscription : septembre 27, 2002, 9:41 pm

Le développement de l'intelligence artificielle inquiète, des centaines de chercheurs s'engagent

Message par Aurelienazerty »

Avatar de l’utilisateur
Aurelienazerty
Webmaster / Président
LAN : 127
Réactions :
Messages : 25513
Inscription : septembre 27, 2002, 9:41 pm

Des scientifiques font une avancée vers un cerveau artificiel

Message par Aurelienazerty »