コンピューティング
チューリングからAIへ
計算が情報処理となり、機械、ソフトウェア、ネットワーク、知能へ進んだ過程をたどります。
- 1936年
-
1945年
EDVAC報告書がプログラム内蔵構成を広める
J・プレスパー・エッカート · ジョン・モークリー · ジョン・フォン・ノイマン · EDVACチーム
EDVAC報告書第一草稿は、共同設計を踏まえ、命令とデータを共通の高速記憶に表す方式を記述した。
-
1948年
Manchester Babyが内蔵プログラムを実行する
Frederic Williams · Tom Kilburn · Geoff Tootill
マンチェスターの実験機は、電子記憶に保持したプログラムを正常に実行した。
- 1948年
-
1943年
マカロックとピッツが神経活動を論理でモデル化する
Warren McCulloch · Walter Pitts
両者は単純化したニューロンを閾値論理素子として表し、ネットワークが論理関数を表現できることを示した。
- 1950年
-
1956年
ダートマス会議が人工知能を一つの分野として名づける
ジョン・マッカーシー · Marvin Minsky · クロード・シャノン · Nathaniel Rochester · ダートマス会議の参加者
夏季研究計画は、学習と知能の諸側面を精密に記述し模擬できるという提案のもとに研究者を集めた。
-
1958年
ローゼンブラットが学習可能なパーセプトロンを実証する
Frank Rosenblatt · Cornell Aeronautical Laboratory
パーセプトロンはラベル付き例から結合重みを調整し、単純な視覚パターンを分類した。
-
1956年
Logic Theoristが記号論理の定理を証明する
Allen Newell · Herbert Simon · Cliff Shaw
Logic Theoristは記号式とヒューリスティクスを用い、『プリンキピア・マテマティカ』の命題の証明を探索した。
-
1986年
誤差逆伝播法が多層ニューラルネットワーク学習を実用化する
David Rumelhart · ジェフリー・ヒントン · Ronald Williams
広く影響を与えた論文が、勾配の誤差逆伝播により多層ネットワークで有用な内部表現を学べることを示した。
-
1995年
サポートベクターマシンが統計学習を前進させる
Corinna Cortes · Vladimir Vapnik
サポートベクターマシンは、クラス間のマージンを広く取ることと、訓練時の誤りに課すペナルティとの釣り合いを取った。カーネルにより、変換後の特徴をすべて明示的に構成しなくても、非線形の境界を扱えるようになった。
- 2006年
-
2009年
ImageNetが大規模なラベル付き視覚ベンチマークを提供する
Fei-Fei Li · Jia Deng · ImageNetチーム
ImageNetは数百万枚のラベル付き画像を大規模階層に整理し、データ規模を公開認識競技と組み合わせた。
-
2012年
AlexNetが大規模画像認識を一変させる
Alex Krizhevsky · イリヤ・サツケヴァー · ジェフリー・ヒントン
GPUで学習した深層畳み込みニューラルネットワークが、正規化線形ユニット、正則化、データ拡張を用いてImageNet競技に大差で勝利した。
-
2014年
系列対系列学習が可変長の入力を出力へ対応づける
イリヤ・サツケヴァー · Oriol Vinyals · Quoc Le
符号化器–復号器型の再帰ネットワークが、機械翻訳などで系列間のエンドツーエンド対応を学習した。
-
2014年
ニューラル注意機構が翻訳中に注目先を学ぶ
Dzmitry Bahdanau · Kyunghyun Cho · Yoshua Bengio
入力を一つの固定ベクトルに圧縮する代わりに、各出力語を生成する際に原文の単語とのソフトな対応を学習した。
-
2017年
Transformerが再帰を注意機構で置き換える
Ashish Vaswani · Noam Shazeer · Niki Parmar · Google Brain研究チーム
Transformerは自己注意層と順伝播層を用い、再帰計算なしに系列の関係を並列にモデル化した。
-
2020年
大規模言語モデルが幅広い少数例学習能力を示す
OpenAI GPT-3研究チーム
1750億パラメーターの自己回帰型Transformerが、タスク固有の勾配更新なしにプロンプトと例から多くの言語タスクを実行した。
スクロール、スワイプ、またはドラッグして時代を移動