Gibt es eine Möglichkeit, Vorkenntnisse in tiefen neuronalen Netzen zu kodieren?
Sagen wir, dass wir einem Kleinkind beibringen wollen Äpfel, Bananen und Orangen zu unterscheiden.
Wir haben jetzt prinzipiell zwei Möglichkeiten:
Wir erklären, was beispielsweise eine Banane im Vergleich zu einer Orange ausmacht.
Gelb und gekrümmt vs. orange und rund.

Diese “Regeln” bezeichnen wir als Domänentheorie und die Methoden würden wir im KI-Bereich als Expertensysteme bezeichnen.
Das sind Modelle, die anhand von festen Regeln und vorprogrammierten Wissen Entscheidungen treffen.
Oder wir zeigen dutzende Bilder von unterschiedlichen Äpfeln, Bananen und Orangen. Das Kind rät, welche Frucht sich gerade vor ihm befindet und wir geben Feedback, ob das richtig oder falsch war.

Das bezeichnen wir als empirisches Lernen. Das Kind lernt die Domänentheorie quasi selbst, indem es die Gemeinsamkeiten von beispielsweise Äpfeln in den Bildern sucht.
Konzeptionell funktionieren so neuronale Netze.
Wir wollen diese Konzepte zusammenbringen, um Modelle besser skalieren zu können. Wenn wir schon etwas über eine Domäne wissen, dann sollten unsere Modelle darauf aufbauen können.
Solche Modelle bezeichnet man als Hybridsysteme.
Die Schwierigkeit liegt in der unterschiedlichen Darstellung von Informationen. In Expertensystemen sind Regeln hardcodiert, während in beispielsweise neuronalen Netzen die Zusammenhänge in Form von mehreren Matrizen gespeichert werden.
Forschungsprojekte, die den Transfer möglich machen wollen, sind beispielsweise dieses KBANN
(Knowledge Based Artificial Neural Network).
Flowchart des KBANN-Konzeptes