Informatique
De Turing à l’IA
Suivez comment le calcul est devenu informatique, puis machines, logiciels, réseaux et intelligence.
-
1936
Turing définit le calcul au moyen d’une machine abstraite
Alan Turing
Turing a analysé les étapes suivies par un calculateur humain et défini des machines dont les opérations symbole par symbole donnaient une définition mathématique précise de la notion de procédure effective.
-
1945
Le rapport sur l’EDVAC diffuse une architecture à programme enregistré
J. Presper Eckert · John Mauchly · John von Neumann · Équipe EDVAC
Le First Draft of a Report on the EDVAC décrivait des instructions et des données représentées dans une mémoire commune à grande vitesse, en s’appuyant sur un travail de conception collectif.
-
1948
Le Manchester Baby exécute un programme enregistré
Frederic Williams · Tom Kilburn · Geoff Tootill
La machine expérimentale de Manchester exécute avec succès un programme conservé dans une mémoire électronique.
-
1948
Shannon établit une théorie mathématique de l’information
Claude Shannon
Shannon a quantifié l’information, la capacité des canaux et les limites d’une communication fiable en présence de bruit.
-
1943
McCulloch et Pitts modélisent l'activité neuronale avec la logique
Warren McCulloch · Walter Pitts
Ils représentent des neurones simplifiés comme des unités logiques à seuil et montrent comment des réseaux peuvent exprimer des fonctions logiques.
-
1950
Turing reformule l’intelligence des machines comme une question opérationnelle
Alan Turing
Turing a proposé le jeu de l’imitation et examiné les machines apprenantes, la recherche, les objections et les perspectives des ordinateurs numériques.
-
1956
L’atelier de Dartmouth nomme l’intelligence artificielle et en fait un domaine de recherche
John McCarthy · Marvin Minsky · Claude Shannon · Nathaniel Rochester · Participants à l’atelier de Dartmouth
Un projet de recherche estival réunit des chercheurs autour de l'idée que certains aspects de l'apprentissage et de l'intelligence peuvent être décrits avec précision et simulés.
-
1958
Rosenblatt démontre un perceptron entraînable
Frank Rosenblatt · Cornell Aeronautical Laboratory
Le perceptron ajuste les poids de ses connexions à partir d'exemples étiquetés pour classer des motifs visuels simples.
-
1956
Logic Theorist démontre des théorèmes de logique symbolique
Allen Newell · Herbert Simon · Cliff Shaw
Logic Theorist recherche des démonstrations de propositions des Principia Mathematica au moyen d'expressions symboliques et d'heuristiques.
-
1986
La rétropropagation rend pratique l’apprentissage des réseaux neuronaux multicouches
David Rumelhart · Geoffrey Hinton · Ronald Williams
Un article très influent montrait comment des réseaux multicouches pouvaient apprendre des représentations internes utiles grâce à la rétropropagation du gradient.
-
1995
Les machines à vecteurs de support font progresser l’apprentissage statistique
Corinna Cortes · Vladimir Vapnik
Les machines à vecteurs de support établissaient un compromis entre une large marge séparant les classes et des pénalités pour les erreurs d’entraînement. Les noyaux permettaient des frontières non linéaires sans construire explicitement toutes les caractéristiques transformées.
-
2006
CUDA ouvre les GPU à la programmation parallèle généraliste
Équipe NVIDIA CUDA
CUDA rendait les processeurs graphiques accessibles au moyen d’un modèle de programmation destiné à des charges de travail dépassant le rendu graphique.
-
2009
ImageNet fournit une grande référence visuelle annotée
Fei-Fei Li · Jia Deng · Équipe ImageNet
ImageNet organise des millions d'images étiquetées dans une vaste hiérarchie et associe l'échelle des données à un défi public de reconnaissance.
-
2012
AlexNet transforme la reconnaissance d’images à grande échelle
Alex Krizhevsky · Ilya Sutskever · Geoffrey Hinton
Un réseau convolutionnel profond entraîné sur des GPU a remporté le défi ImageNet avec une large avance, grâce aux unités rectifiées, à la régularisation et à l’augmentation des données.
-
2014
L’apprentissage séquence-à-séquence met en correspondance des entrées et sorties de longueur variable
Ilya Sutskever · Oriol Vinyals · Quoc Le
Un réseau récurrent encodeur-décodeur a appris de bout en bout des correspondances entre séquences pour des tâches telles que la traduction automatique.
-
2014
L’attention neuronale apprend où se concentrer pendant la traduction
Dzmitry Bahdanau · Kyunghyun Cho · Yoshua Bengio
Le modèle apprenait un alignement souple sur les mots source tout en générant chaque mot cible, au lieu de compresser l’entrée en un seul vecteur fixe.
-
2017
Le Transformer remplace la récurrence par l’attention
Ashish Vaswani · Noam Shazeer · Niki Parmar · Équipe de recherche Google Brain
Le Transformer utilisait l’auto-attention et des couches à propagation avant pour modéliser en parallèle les relations au sein des séquences, sans calcul récurrent.
-
2020
Les grands modèles de langage démontrent de vastes capacités à partir de quelques exemples
Équipe de recherche OpenAI GPT-3
Un Transformer autorégressif de 175 milliards de paramètres accomplit de nombreuses tâches de langage à partir d'instructions et d'exemples, sans mise à jour des gradients propre à chaque tâche.
Faites défiler, balayez ou faites glisser pour parcourir le temps