Intelligence artificielle : usages et risques

Djip · Message par **Djip** » juillet 29, 2015, 8:53 am

Plus ça va plus on en parle, des dystopies des années 90 en passant par les fantasmes de Asimov et Phillip K. Dick aux drones militaires autonomes Je pense que ça peut être pas mal d'en parler / regrouper les news sur le sujet.

C'est cet article publié hier qui m'en a donné l'idée

Intelligence artificielle : Stephen Hawking appelle à faire barrage aux armes autonomes

juillet 29, 2015, 10:24 am

C'est sûr que ça commence à faire froid dans le dos, on en est pas à Skynet de terminator, ni à ce qu'on voit dans Matrix, mais quand même, ça avance vite ! Tient, sans parler d'IA, regardez cette vidéo : Un étudiant invente un drone équipé d’un pistolet semi-automatique.
grand fan d'Isaac Asimov, j'aimerai vraiment que l'IA suive les 3 lois de la robotique :

Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.
Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi

Djip · Message par **Djip** » juillet 29, 2015, 10:35 am

Ya des fous de partout !

Au niveau des "dangers" d'armes intelligentes et autonome l'excellent film Chappie (avec la caricature Hollywoodienne) donne quelques piste de réflexions.

Les 3 lois de la robotique de Asimov sont nécessaire à mon avis aussi, bien que leur auteur ai pris un malin plaisir à les mettre en défaut dans les 2 premiers tomes du Cycle des robots
(Spoiler) :

Spoiler

Monter

Jusqu'à l'invention de la loi Zéro lors du 6ème livre qui propose un risque important autant qu'une nécessité pour répondre à ces "erreurs"

Djip · Message par **Djip** » septembre 23, 2015, 2:22 pm

Boston Dynamics : le robot Spot testé par les marines

décembre 14, 2015, 11:26 am

Plus d'information sur le sujet : Intelligence artificielle: OpenAI est créé par Elon Musk, Peter Thiel, Amazon Web Services et d'autres en version rapide ça donne ça : Elon Musk agit contre les robots tueurs

Message par **Aurelienazerty** » janvier 27, 2016, 8:56 pm

Première défaite d’un professionnel du go contre une intelligence artificielle

Le jeu de go restait le dernier jeu de stratégie pour lequel l'Homme demeurait plus performant que la machine. C'est désormais du passé, puisqu'un programme conçu par une filiale de Google a battu un joueur professionnel.

février 17, 2016, 3:02 pm

Une intelligence artificielle peut-elle devenir présidente des Etats-Unis ?

Djip · Message par **Djip** » février 19, 2016, 11:59 am

C'est un débat intéressant à mener, digne des meilleures histoires de SF

En effet même dans le cadre d'une programmation neuronale il existe un fond statique à l'IA qui mérite d'être open source pour plus de clarté.
Quant-à lui donner la direction d'une nation, c'est là ou les argumentations deviennent passionnantes

Djip · Message par **Djip** » février 22, 2016, 10:52 am

Programme Skynet, Pakistan et drônes assassins.

Nouvel OBS : La NSA aurait-elle tué des centaines d'innocents par erreur ?

Je vais bien, tout va bien.

Djip · Message par **Djip** » février 24, 2016, 4:40 pm

Des questions ?

février 24, 2016, 5:07 pm

Moi je pense à ça :

Message par **Arken** » février 25, 2016, 12:14 pm

Toujours aussi impressionnant les présentations de Boston Dynamics, j'adore quand ils se font déséquilibrer, ça parait tellement naturel la façon qu'ils se replacent.

février 28, 2016, 11:25 am

Un jour ils se vengeront...

via The Next Web

Message par **Aurelienazerty** » juin 2, 2016, 4:45 pm

Facebook Deeptext AI : Facebook s’intéresse maintenant à ce que vous racontez

Facebook officialise le coup d’envoi de son intelligence artificielle, Deeptext AI. Le réseau social compte utiliser les capacités de ce nouveau moteur pour analyser les quantités de textes postés par les utilisateurs de Facebook et améliorer ses services.

Message par **Aurelienazerty** » juin 8, 2016, 9:18 am

Pourquoi Google a conçu un « bouton rouge » pour désactiver des intelligences artificielles

Message par **Arken** » juin 8, 2016, 3:13 pm

Ouai ok, ou sinon il existe une solution super hightech et beaucoup moins cher en frais de R&D : tirer la prise du mur :delarue3:

Message par **Aurelienazerty** » juin 8, 2016, 3:28 pm

« Aujourd’hui, on peut arrêter tout programme de la manière qu’on veut, mais cela signifie en général qu’on doit tout recommencer à zéro, explique Laurent Orseau. Ces interruptions peuvent l’empêcher d’apprendre correctement. »

Message par **Arken** » juin 8, 2016, 7:50 pm

Ben en même temps, si l'IA a décidé de te tuer, qu'elle puisse continuer d'apprendre ou pas, hein, on s'en tamponne un peu le coquillard...

C'est toi qui lit pas bien. 1ère phrase :

Une intelligence artificielle (IA) est-elle capable d’empêcher un humain de la désactiver ? C’est de ce postulat que sont partis deux chercheurs pour réfléchir à une façon d’éviter que cela n’arrive.

et

« s’assurer qu’un agent apprenant [une intelligence artificielle] n’apprenne pas à empêcher son interruption »

Que ça nique l'apprentissage, c'est, peut-être, un effet de bord, mais c'est pas le coeur de la réflexion.

Je crois que de toute façon l'article part un peu dans tous les sens en mélangeant un peu tout. Déjà le terme "Bouton rouge"

, le truc qui veut tout et rien dire. Pour moi un bouton rouge, c'est un interrupteur mécanique, donc aucune chance qu'il puisse être désactivé de façon software. Mais comme ils expliquent nulle part ce qu'on insinue par ce terme...

Message par **Aurelienazerty** » juin 8, 2016, 8:46 pm

C'est sûr, après moi je me dis qu'une IA on peut tellement vite en faire n'importe quoi, souviens toi de Tay, qu'il faut vraiment mettre des gardes fou de partout.

Message par **Arken** » juin 9, 2016, 11:48 am

J'avais raté ce truc...ce bot nazi white-supremacist anti-feministe pro-trump, c'est magique :zemmour:

Message par **Aurelienazerty** » juin 27, 2016, 11:12 am

Un peu de lecture sur le sujet : Droit et éthique des robots : 3 propositions futuristes à lire ce week-end

Message par **Aurelienazerty** » janvier 5, 2017, 5:52 pm

Un article assez intéressant : Tribune : doit-on voter une loi du drapeau rouge pour l’Intelligence Artificielle ?

Outre le débat, j'ai appris que les premières voitures à moteur devaient être précédées d’un porteur d’un drapeau rouge pour signaler qu’il s’agissait d’un véhicule motorisé.

Message par **Arken** » janvier 5, 2017, 10:18 pm

ça s'astique bien le chibre sur l'IA quand même.

Message par **Aurelienazerty** » février 3, 2017, 3:33 pm

Le développement de l'intelligence artificielle inquiète, des centaines de chercheurs s'engagent

Message par **Aurelienazerty** » avril 6, 2017, 12:26 pm

Des scientifiques font une avancée vers un cerveau artificiel

Team-Azerty