à quoi s'attendre en matière d'intelligence artificielle ?

1. IA, LA GRANDE
QUESTION
à quoi s’attendre en matière
d’intelligence artificielle ?

2. "La plupart des travaux commerciaux complétée par
l’IA sera fait par logiciels ultra-spéciaux et
étroitement ciblés qui pourront, par exemple,
traduire n’importe quelle langue dans une autre
langue, mais rien de plus. Conduire une voiture, mais
pas converser. Ou identifier chaque pixel de chaque
vidéo sur YouTube, mais pas anticiper vos routines de
travail. Dans les 10 prochaines années, 99 pour cent
de l'intelligence artificielle qui va interagir avec
vous, directement ou indirectement, sera super-
intelligente à la façon d’un autiste."
- Kevin Kelly, Wired, le 27 octobre 2014

3. INTRODUCTION AU SUJET ET À L’ENJEU
➤ Une menace sérieuse ?
➤ Beaucoup de menaces sérieuses n’étaient
finalement pas avérées… Guerre atomique,
bug de l’an 2000, N1H1, etc.
➤ Un avertissement porté par une liste de
personnalités impressionnante !
➤ De Bill Joy à Elon Musk
➤ En clair, une IA forte sera une menace
mortelle pour l’humanité…

4. DE QUOI PARLE-T-ON ?
➤ IA faible vs IA forte
➤ L’IA faible est présente partout désormais
➤ L’IA forte reste à atteindre…
➤ Algorithme vs heuristique
➤ Un algorithme est efficace (rapide et économe en ressources)
mais rigide
➤ L’heuristique est bien plus souple mais le contexte doit être
spécifié dans une base de connaissance

5. ➤ Algorithme vs heuristique
➤ Je dois emmener mon fils à la crêche.
➤ Quelle différence entre ce que j'ai déjà
et ce que je dois faire ?
➤ Pour commencer, la distance.
➤ Comment réduire la distance ?
➤ Je peux utiliser une voiture…
➤ La voiture ne démarre pas.
➤ Comment réparer la voiture ?
➤ En changeant la batterie !
➤ Où trouver une nouvelle batterie ?
➤ En demandant au garagiste…
➤ Etc.

6. BREF RETOUR SUR L’HISTOIRE DE L’IA…
➤ Naissance lors de la conférence de Dartmouth de 1956 organisée
par Marvin Minsky, John McCarthy
➤ Avant cela, le fameux test de Turing…
➤ Premier âge d’or de 1956 à 1974 => La période des promesses
délirantes !
➤ Premier hiver de l’IA de 1974 à 1980 => Le paradoxe de
Moravec
➤ Second âge d’or de 1980 à 1987 => L’essor des systèmes experts
➤ Second hiver de l’IA de 1987 à 1993
➤ Banalisation à partir de 1993

7. « Les machines seront capables, dans
vingt ans, de faire tout travail qu'un
homme peut faire."
- HA Simon, dans « Automatisation
pour les hommes et la gestion » 1965
"Dans trois à huit ans, nous aurons
une machine à l'intelligence
générale d'un être humain moyen."
- Marvin Minsky, Life Magazine, 1970

8. TEST DE TURING : L’ORIGINE…
Turing s’est inspiré d’un jeu dans lequel un interrogateur pose
des questions à un homme et une femme (A et B) qui sont
dans une pièce distincte et qui répondent par des notes
tapées à la machine. Le but est de déterminer qui est l’homme
et qui est la femme…
Le jeu de l’imitation, époque victorienne

9. TEST DE TURING : LA PREMIÈRE VERSION
Le test de Turing remplace l’homme par un ordinateur
fonctionnant avec un programme conçu pour tromper
l’interrogateur sur sa vraie nature. Sera-t-il toujours capable de
trouver qui est la femme ?
Le test de Turing, 1950

10. TEST DE TURING : LA VERSION ACTUELLE
L’idée était que si une personne posant des questions est
incapable d’identifier qui était l’être humain et qui était la
machine, alors la machine devrait être considérée comme
« pensante » et être dotée d’une intelligence artificielle…
Réponses : qui est qui ?
Q- écrivez une poésie en 4 vers
A- Je n’ai jamais pu écrire de poésie
B- Vivez si m’en croyez
N’attendez à demain
Cueillez dès aujourd’hui
Les roses de la vie

11. L’IA AU CINÉMA
➤ 2001, l’Odyssée de l’espace (1968)
➤ Terminator (Skynet en 2029), 1984
➤ Matrix (1999)
➤ The Machine (2013), Automata (2014),
Chappie (2015), Ex Machine (2015)
➤ Syndrome de Frankestein
➤ Les dispositifs de sécurité sont facilement
contournés

12. LE NOUVEAU PRINTEMPS DE L’IA
➤ Le terme IA n’est plus employé : l’étiquette est discréditée
➤ Victoire de Deep Blue sur Kasparov en 1997
➤ Victoire de Watson à Jeopardy en 2011
➤ Google et les google cars, Google traduction, SIRI, etc.

13. L’ARGENT COULE À FLOT !

14. POURQUOI C’EST DIFFÉRENT, CETTE FOIS ?
Ordinateurs
massivement
parallèles et bon
marché
Enormes masses
de données (big
data)
De meilleurs
algorithms,
« Deep
Learning »
IA
« L’IA a maintenant adopté une approche statistique : la force brute basée sur
l'analyse de grandes quantités d'informations avec des ordinateurs puissants et des
algorithmes sophistiqués."
- Irving Wladawksy-Berer, Wall Street Journal, 21 novembre 2014

15. IA FORTE : LES RAISONS DE NE PAS Y CROIRE
➤ Même avec la loi de Moore qui resterait constante
➤ La puissance informatique nécessaire est considérable
➤ Simulation de la rétine en 1976 par Moravec : des ordinateurs
100x
➤ Simulation de la rétine en 2011 : facteur 1000 à 10 000
➤ 1 exaflops nécessaire pour simuler le cerveau humain ou 10,
100, voire 1000 (plasticité cérébrale)
➤ La blague de la fusion appliquée à l’IA
➤ L’anolgie du Lac (la puissance n’est pas suffisante)

16. INTELLIGENCE, CONSCIENCE, DES ZONES FLOUES…
➤ L’intelligence : adaptation, compréhension, raisonnement
➤ On ne sait pas -encore- définir la conscience
➤ L’illusion du « deep learning » : Google et Facebook
➤ Cette capacité d’apprentissage est encore largement assisté
➤ Ex : photos de chiens vs photos de chats / photos de comètes
vs photos d’étoiles
➤ Le débat sur les réseaux de neurones est ancien
➤ Minsky en 1969 : le livre Perceptrons
➤ John Searle et la chambre chinoise

17. LA CHAMBRE CHINOISE : EXPLICATIONS
B- Ne parle pas mandarin
Traduction de la question : parlez-vous mandarin ?
A- Parle mandarin
Un message (fiche jaune) est envoyé par A à B qui est dans la
chambre chinoise et qui ne parle pas mandarin

18. Réponse :
Question :
Réponse traduite : oui, je parle mandarin
Equipé d’un manuel répertoriant les questions possibles et
leurs réponses (fiche bleue), B est capable de reconnaitre les
caractères présents dans la question reçue (fiche jaune) et de
sélectionner une réponse appropriée…

19. B- Ne parle pas mandarin
A- Parle mandarin
Traduction de la réponse : oui, je parle mandarin
A croit qu’il vient d’échanger avec une personne qui
comprend effectivement cette langue. Mais en fait, B n’a
aucune idée de ce qu’il a répondu…

20. IA FORTE : LES BONNES RAISONS D’Y CROIRE
➤ Les études sur le cerveau : toujours des surprises !
➤ Les études sur l’intelligence des animaux : toujours des
surprises !
➤ La croissance des systèmes peut déboucher sur des formes
d’intelligence et de conscience qu’on ne connait pas encore…
➤ Tout comme des formes de vies inédites sont découvertes,
encore et encore

21. LES PÉRILS, MÊME SANS IA FORTE
➤ La complexité croissante des systèmes peut conduire à des
situations paradoxales
➤ Ex : le système de contrôle aérien
➤ Peu efficace actuellement
➤ Pourrait être remplacé par un système basé sur le « deep
learning »
➤ Mais sa maintenance sera difficile…

22. NOTRE GESTION DES MENACES FORTES… PAS TERRIBLE !
➤ Les centrales nucléaires => de pire en pire
➤ Les bombes atomiques => 32 incidents de type « broken
arrow »
➤ Les accidents d’avion => une série de catastrophes récentes
➤ Aucune raison de croire qu’on saura prévenir les périls liés à
l’IA…

23. LES PÉRILS AVEC UNE IA FORTE
➤ Dompter le démon, vraiment ?
➤ Une conscience artificielle ne partagera pas forcément nos
valeurs
➤ Comment agissons-nous avec les espéces dites inférieures ?
➤ Une conscience artificielle pourra avoir son propre agenda
➤ Au mieux, elle recrutera une partie de l’humanité
➤ Au pire, elle se débarassera de l’humanité…

24. CONCLUSION
➤ Printemps de l’IA, automne de l’humanité ?
➤ L’évolution vers une IA dangereuse n’est pas prise au sérieux
➤ Si nous faisons naitre un démon, celui-ci n’aura aucune pitié
pour nous…