Transferlernen

Transfer Learning (TL) ist ein Forschungsproblem in maschinelles Lernen (ML) Das konzentriert sich auf das Speichern von Wissen, das gewonnen wird, während ein Problem gelöst und auf ein anderes, aber verwandtes Problem angewendet wird.^[1] Zum Beispiel erlangte Wissen beim Lernen zu erkenne Autos könnten sich bewerben, wenn sie versuchen, LKWs zu erkennen. Dieser Forschungsgebiet hat einen gewissen Verhältnis zur langen Geschichte der psychologischen Literatur zu Lerntransfer, obwohl die praktischen Beziehungen zwischen den beiden Feldern begrenzt sind. Aus praktischer Sicht hat die Wiederverwendung oder Übertragung von Informationen aus zuvor erlernten Aufgaben zum Erlernen neuer Aufgaben das Potenzial, die Stichprobeneffizienz von a erheblich zu verbessern Verstärkungslernen Agent.^[2]

Geschichte

1976 veröffentlichten Stevo Bozinovski und Ante Fulgosi ein Papier, das explizit über das Transferlernen in der Schulung neuronaler Netzwerke geht.^[3][4] Das Papier enthält ein mathematisches und geometrisches Modell des Transferlernens. Im Jahr 1981 wurde ein Bericht über die Anwendung des Transferlernens in der Schulung eines neuronalen Netzwerks in einem Datensatz von Bildern angegeben, die Buchstaben von Computerterminals darstellen. Sowohl positives als auch negatives Transferlernen wurde experimentell nachgewiesen.^[5]

1993 veröffentlichte Lorien Pratt ein Papier zum Transfer in maschinelles LernenFormulierung des DBT-Algorithmus (diskriminierbarkeitsbasierter Transfer).^[6]

1997 Pratt und Sebastian Thrun Gast bearbeitete eine Sonderausgabe von Maschinelles Lernen dem Transfer des Lernens gewidmet,^[7] und bis 1998 war das Feld vorangetrieben, um aufzunehmen Multi-Task-Lernen,^[8] zusammen mit einer formaleren Analyse seiner theoretischen Grundlagen.^[9] Lernen zu lernen,^[10] Herausgegeben von Thrun und Pratt, ist eine Übersicht über das Thema von 1998.

Transferlernen wurde auch in angewendet Kognitionswissenschaft, mit Pratt auch Gast bearbeitet eine Ausgabe von Verbindungswissenschaft zur Wiederverwendung neuronaler Netzwerke durch Übertragung im Jahr 1996.^[11]

Andrew Ng sagte in seinem NIPS 2016 -Tutorial ^[12][13][14] Dieser TL wird der nächste Treiber des kommerziellen Erfolgs von ML danach sein überwachtes Lernen um die Bedeutung von tl hervorzuheben.

Definition

Die Definition des Transferlernens wird in Bezug auf Domänen und Aufgaben angegeben. Eine Domäne ${\ displaystyle {\ mathcal {d}}}$ besteht aus einem Platz für Platz ${\ displaystyle {\ mathcal {x}}}$ und ein Grenzwahrscheinlichkeitsverteilung ${\ displayStyle p (x)}$, wo ${\ displaystyle x = \ {x_ {1}, ..., x_ {n} \} \ in {\ mathcal {x}}}$. Bei einer bestimmten Domäne, ${\ displaystyle {\ mathcal {d}} = \ {{\ mathcal {x}}, p (x) \}}$Eine Aufgabe besteht aus zwei Komponenten: einem Etikettenraum ${\ displaystyle {\ mathcal {y}}}$ und eine objektive Vorhersagefunktion ${\ displaystyle f: {\ mathcal {x}} \ rightarrow {\ mathcal {y}}}$. Die Funktion ${\ displayStyle f}$ wird verwendet, um das entsprechende Etikett vorherzusagen ${\ displayStyle f (x)}$ einer neuen Instanz ${\ displayStyle x}$. Diese Aufgabe, gekennzeichnet durch ${\ displaystyle {\ mathcal {t}} = \ {{\ mathcal {y}}, f (x) \}}$, wird aus den Trainingsdaten gelernt, die aus Paaren bestehen ${\ displaystyle \ {x_ {i}, y_ {i} \}}$, wo ${\ displaystyle x_ {i} \ in x}$ und ${\ displayStyle y_ {i} \ in {\ mathcal {y}}}$.^[15]

Bei einer Quelldomäne ${\ displaystyle {\ mathcal {d}} _ {s}}$ und Lernaufgabe ${\ displaystyle {\ mathcal {t}} _ {s}}$, eine Zieldomäne ${\ displaystyle {\ mathcal {d}} _ {t}}$und Lernaufgabe ${\ displaystyle {\ mathcal {t}} _ {t}}$, wo ${\ displaystyle {\ mathcal {d}} _ {s} \ neq {\ mathcal {d}} _ {t}}$, oder $oder$, Transferlernen zielt darauf ab, das Lernen der Zielvorhersagefunktion zu verbessern ${\ displayStyle f_ {t} (\ cdot)}$ in ${\ displaystyle {\ mathcal {d}} _ {t}}$ Verwenden des Wissens in ${\ displaystyle {\ mathcal {d}} _ {s}}$ und ${\ displaystyle {\ mathcal {t}} _ {s}}$.^[15]

Anwendungen

Algorithmen stehen zum Übertragungslernen in verfügbar Markov Logic Networks^[16] und Bayes'sche Netzwerke.^[17] Transferlernen wurde auch auf die Entdeckung von Krebsuntertypen angewendet,^[18] Gebäudeauslastung,^[19][20] Allgemeines Spiel spielen,^[21] Textklassifizierung,^[22][23] Ziffernerkennung,^[24] medizinische Bildgebung und Spamfilterung.^[25]

Im Jahr 2020 wurde festgestellt, dass aufgrund ihrer ähnlichen physischen Naturen das Transferlernen zwischen dem Transferlernen möglich ist elektromyografisch (EMG) Signale aus den Muskeln und Klassifizierung des Verhaltens von Elektroenzephalographisch (EEG) Gehirnwellen, von der Gestenerkennung Domäne zum Bereich der mentalen Zustandserkennung. Es wurde auch festgestellt, dass diese Beziehung umgekehrt funktioniert und zeigt, dass EEG ebenfalls zur Klassifizierung von EMG verwendet werden kann.^[26] In den Experimenten wurde festgestellt, dass die Genauigkeit von Neuronale Netze und Faltungsnetzwerke wurden verbessert^[27] Durch das Transferlernen in der ersten Epoche (vor jedem Lernen, dh im Vergleich zur Standard -Zufallsgewichtsverteilung) und der Asymptote (das Ende des Lernprozesses). Das heißt, Algorithmen werden durch Exposition gegenüber einem anderen Bereich verbessert. Darüber hinaus kann der Endbenutzer eines vorgebreiteten Modells die Struktur vollständig vernetzter Schichten ändern, um eine überlegene Leistung zu erzielen.^[28]

Im Bereich des maschinellen Lernens auf Code,^[29] Es wurde gezeigt, dass Transferlernen nützlich ist, um die Sicherheitslücken automatisch zu reparieren.^[30]

Siehe auch

• Crossover (Genetischer Algorithmus)
• Domänenanpassung
• Allgemeines Spiel spielen
• Multi-Task-Lernen
• Multitasking -Optimierung
• Null-Shot-Lernen

Verweise

Quellen

• Thrun, Sebastian; Pratt, Lorien (6. Dezember 2012). Lernen zu lernen. Springer Science & Business Media. ISBN 978-1-4615-5529-2.