Page 1 sur 6

Intelligence artificielle : usages et risques

Publié : juillet 29, 2015, 8:53 am
par Djip
Plus ça va plus on en parle, des dystopies des années 90 en passant par les fantasmes de Asimov et Phillip K. Dick aux drones militaires autonomes Je pense que ça peut être pas mal d'en parler / regrouper les news sur le sujet.

C'est cet article publié hier qui m'en a donné l'idée

Intelligence artificielle : Stephen Hawking appelle à faire barrage aux armes autonomes

ça me fait peur

Publié : juillet 29, 2015, 10:24 am
par Aurelienazerty
C'est sûr que ça commence à faire froid dans le dos, on en est pas à Skynet de terminator, ni à ce qu'on voit dans Matrix, mais quand même, ça avance vite ! Tient, sans parler d'IA, regardez cette vidéo : Un étudiant invente un drone équipé d’un pistolet semi-automatique.
grand fan d'Isaac Asimov, j'aimerai vraiment que l'IA suive les 3 lois de la robotique :
  1. Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.
  2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
  3. Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi

Re: Intelligence artificielle : usages et risques

Publié : juillet 29, 2015, 10:35 am
par Djip
Ya des fous de partout !

Au niveau des "dangers" d'armes intelligentes et autonome l'excellent film Chappie (avec la caricature Hollywoodienne) donne quelques piste de réflexions.

Les 3 lois de la robotique de Asimov sont nécessaire à mon avis aussi, bien que leur auteur ai pris un malin plaisir à les mettre en défaut dans les 2 premiers tomes du Cycle des robots
(Spoiler) :
Spoiler
Monter
Jusqu'à l'invention de la loi Zéro lors du 6ème livre qui propose un risque important autant qu'une nécessité pour répondre à ces "erreurs"

Re: Intelligence artificielle : usages et risques

Publié : septembre 23, 2015, 2:22 pm
par Djip

Intelligence artificielle: OpenAI est créé par Elon Musk, Peter Thiel, Amazon Web Services et d'autres

Publié : décembre 14, 2015, 11:26 am
par Aurelienazerty

Première défaite d’un professionnel du go contre une intelligence artificielle

Publié : janvier 27, 2016, 8:56 pm
par Aurelienazerty
Première défaite d’un professionnel du go contre une intelligence artificielle
Le jeu de go restait le dernier jeu de stratégie pour lequel l'Homme demeurait plus performant que la machine. C'est désormais du passé, puisqu'un programme conçu par une filiale de Google a battu un joueur professionnel.

Une intelligence artificielle peut-elle devenir présidente des Etats-Unis ?

Publié : février 17, 2016, 3:02 pm
par Aurelienazerty

Re: Intelligence artificielle : usages et risques

Publié : février 19, 2016, 11:59 am
par Djip
C'est un débat intéressant à mener, digne des meilleures histoires de SF :)
En effet même dans le cadre d'une programmation neuronale il existe un fond statique à l'IA qui mérite d'être open source pour plus de clarté.
Quant-à lui donner la direction d'une nation, c'est là ou les argumentations deviennent passionnantes

Re: Intelligence artificielle : usages et risques

Publié : février 22, 2016, 10:52 am
par Djip
Programme Skynet, Pakistan et drônes assassins.

Nouvel OBS : La NSA aurait-elle tué des centaines d'innocents par erreur ?

Je vais bien, tout va bien.

Re: Intelligence artificielle : usages et risques

Publié : février 24, 2016, 4:40 pm
par Djip


Des questions ?

T-800

Publié : février 24, 2016, 5:07 pm
par Aurelienazerty
Moi je pense à ça :


Re: Intelligence artificielle : usages et risques

Publié : février 25, 2016, 12:14 pm
par Arken
Toujours aussi impressionnant les présentations de Boston Dynamics, j'adore quand ils se font déséquilibrer, ça parait tellement naturel la façon qu'ils se replacent.

Un jour ils se vengeront...

Publié : février 28, 2016, 11:25 am
par Aurelienazerty
Un jour ils se vengeront...

via The Next Web

Image

Facebook Deeptext AI

Publié : juin 2, 2016, 4:45 pm
par Aurelienazerty
Facebook Deeptext AI : Facebook s’intéresse maintenant à ce que vous racontez
Facebook officialise le coup d’envoi de son intelligence artificielle, Deeptext AI. Le réseau social compte utiliser les capacités de ce nouveau moteur pour analyser les quantités de textes postés par les utilisateurs de Facebook et améliorer ses services.

Pourquoi Google a conçu un « bouton rouge » pour désactiver des intelligences artificielles

Publié : juin 8, 2016, 9:18 am
par Aurelienazerty

Re: Intelligence artificielle : usages et risques

Publié : juin 8, 2016, 3:13 pm
par Arken
Ouai ok, ou sinon il existe une solution super hightech et beaucoup moins cher en frais de R&D : tirer la prise du mur :delarue3:

T'as pas lu

Publié : juin 8, 2016, 3:28 pm
par Aurelienazerty
« Aujourd’hui, on peut arrêter tout programme de la manière qu’on veut, mais cela signifie en général qu’on doit tout recommencer à zéro, explique Laurent Orseau. Ces interruptions peuvent l’empêcher d’apprendre correctement. »

Re: Intelligence artificielle : usages et risques

Publié : juin 8, 2016, 7:50 pm
par Arken
Ben en même temps, si l'IA a décidé de te tuer, qu'elle puisse continuer d'apprendre ou pas, hein, on s'en tamponne un peu le coquillard...

C'est toi qui lit pas bien. 1ère phrase :
Une intelligence artificielle (IA) est-elle capable d’empêcher un humain de la désactiver ? C’est de ce postulat que sont partis deux chercheurs pour réfléchir à une façon d’éviter que cela n’arrive.
et
« s’assurer qu’un agent apprenant [une intelligence artificielle] n’apprenne pas à empêcher son interruption »
Que ça nique l'apprentissage, c'est, peut-être, un effet de bord, mais c'est pas le coeur de la réflexion.

Je crois que de toute façon l'article part un peu dans tous les sens en mélangeant un peu tout. Déjà le terme "Bouton rouge" :roll: , le truc qui veut tout et rien dire. Pour moi un bouton rouge, c'est un interrupteur mécanique, donc aucune chance qu'il puisse être désactivé de façon software. Mais comme ils expliquent nulle part ce qu'on insinue par ce terme...

Tay

Publié : juin 8, 2016, 8:46 pm
par Aurelienazerty
C'est sûr, après moi je me dis qu'une IA on peut tellement vite en faire n'importe quoi, souviens toi de Tay, qu'il faut vraiment mettre des gardes fou de partout.

Re: Intelligence artificielle : usages et risques

Publié : juin 9, 2016, 11:48 am
par Arken
J'avais raté ce truc...ce bot nazi white-supremacist anti-feministe pro-trump, c'est magique :zemmour:

Droit et éthique des robots : 3 propositions futuristes à lire ce week-end

Publié : juin 27, 2016, 11:12 am
par Aurelienazerty

Tribune : doit-on voter une loi du drapeau rouge pour l’Intelligence Artificielle ?

Publié : janvier 5, 2017, 5:52 pm
par Aurelienazerty
Un article assez intéressant : Tribune : doit-on voter une loi du drapeau rouge pour l’Intelligence Artificielle ?

Outre le débat, j'ai appris que les premières voitures à moteur devaient être précédées d’un porteur d’un drapeau rouge pour signaler qu’il s’agissait d’un véhicule motorisé. :mlc:

Re: Intelligence artificielle : usages et risques

Publié : janvier 5, 2017, 10:18 pm
par Arken
ça s'astique bien le chibre sur l'IA quand même.

Le développement de l'intelligence artificielle inquiète, des centaines de chercheurs s'engagent

Publié : février 3, 2017, 3:33 pm
par Aurelienazerty

Des scientifiques font une avancée vers un cerveau artificiel

Publié : avril 6, 2017, 12:26 pm
par Aurelienazerty