Neuro-Projekte

Das Bayes'sche Lernen ist ein wahrscheinlichkeitstheoretisches Modell zur Steigerung der Generalisierungsfähigkeit neuronaler Netze. Dabei wird, ausgehend von der Bayes'schen Formel, eine a-posteriori Wahrscheinlichkeitverteilung geschätzt, die neben dem betrachteten Mustersatz auch a-priori Information über den Lern- und Optimierungsprozeß beinhaltet. Unter der Annahme normalverteilter Gewichte führt uns dieses Verfahren auf eine lang bekannte Fehlerfunktion, dem Lernen mit Weight-Decay. Wir beschäftigen uns mit der Verbesserung und Erweiterung der bestehenden Algorithmen. Der Schwerpunkt liegt dabei auf der geeigneten Modellierung der a-priori Wahrscheinlichkeiten für die Gewichte und für die Hyperparameter. In mehreren Projekten, z.B. bei der Prognose von Finanzzeitreihen und von Absatzzahlen, konnte das Bayes'sche Lernverfahren erfolgreich eingesetzt werden.

(S. Gutjahr)  

Das eigentliche Ziel beim Einsatz neuronaler Netze ist nicht die Trainingsdaten exakt zu repräsentieren, sondern ein statistisches Modell des Prozesses zu lernen, der die Daten generiert hat. Beim neuronalen Systementwurf wird dieser Problematik der Generalisierungsfähigkeit durch verschiedene Methoden Rechnung getragen, zum Beispiel durch den Einsatz von Regularisierung (siehe Bayes'sches Lernen), Bestimmung geeigneter Merkmale und Topologien oder auch Komiteebildung. Das Programm ENZO (Evolutionärer Netzwerk Optimierer) integriert die verschiedenen Paradigmen in eine Optimierungsmethodik. Analog zum natürlichen Vorbild werden durch einen Selektionsdruck möglichst leistungsfähige Netze (z.B. mit hoher Evidenz) erzeugt. Das DFG-Forschungsprojekt "Integrierte Entwicklung von Komitees neuronaler Netze" hat zum Ziel mittels dieser evolutionären Optimierungsmethodik unter Berücksichtigung maximaler stochastischer Unabhängigkeit verschiedenartige neuronale Modelle mit hoher Evidenz zu finden, die in sinnvoller Weise zu einem Komitee verbunden werden können.

(T. Ragg)  

Die Prognose von ökonomischen Zeitreihen bereitet erhebliche Schwierigkeiten, weil das Zusammenspiel von Ursache und Wirkung sehr komplex ist und die Daten von starkem Rauschen überlagert sind. Es ist daher nicht möglich, mittels linearer Ansätze die vielfältigen Marktmechanismen zu erkennen. In den letzten Jahren wurden verstärkt neuronale Netze eingesetzt, die aufgrund ihrer nichtlinearen Struktur besser geeignet sind, Prognosen zu erstellen.

In Zusammenarbeit mit der Landesbank Hessen-Thüringen entwickeln wir seit 1994 Prognosesysteme zur täglichen Vorhersage von Finanzzeitreihen. Als Eingabe stehen den neuronalen Netzen sogenannte technische Indikatoren zur Verfügung, d.h. Kennzahlen die aus der vergangenen Kursentwicklung berechnet werden. Auf der Basis der Vorhersage des neuronalen Netzes wird ein Handelssystem entwickelt, das die Maximierung des Gewinns zum Ziel hat. Dieses Vorgehen wurde an verschiedenen Future- und Aktienkursen, sowie an dem Dollar-DM Wechselkurs angewendet und wird in der Bank im täglichen Handel erfolgreich eingesetzt.

Im August 1998 wurde ein Projekt mit dem Axel Springer Verlag vereinbart mit dem Ziel täglichen Absatzzahlen der Bild Zeitung vorherzusagen. Ziel ist es, bei gleichen Verkaufzahlen, den Rückfluß an Zeitungen zu minimieren.

(S. Gutjahr und T. Ragg)  

Ziel des Projekts DFG-Projekts FYNESSE ist die Entwicklung einer selbstlernenden hybriden Steuerungsarchitektur für unbekannte dynamische Prozesse. Dabei ist die Lernsituation durch das Fehlen jeglichen a priori Wissens über das Systemverhalten gekennzeichnet. Die der Steuerung zur Verfügung stehende Trainingsinformation besteht lediglich in der Spezifikation des letztlich zu erreichenden Steuerungsziels.

Das Konzept basiert auf der Kooperation und Interaktion zweier adaptiver Module, nämlich eines neuronalen Bewertungsmoduls und eines unscharfen Regelmoduls (fuzzy control). Während die eigentliche Reglerstrategie in der interpretierbaren, unscharfen Komponente realisiert wird, besteht die Aufgabe des neuronalen Netzes darin, die Konsequenzen dieser aktuellen Strategie zu bewerten und damit eine inkrementelle Verbesserung zu ermöglichen.

(M. Riedmiller und R. Schoknecht)  

Das interdisziplinäre DFG-Forschungsprojekt "Informationsstrukturen in der Musik", das zur Zeit von der Klaus Tschira-Stiftung unterstützt wird, beschäftigt sich seit 1992 mit der Analyse und Modellierung musikalischer Strukturen mit Methoden der Informatik. Ein Forschungsvorhaben verwendet dazu regelbasierte Techniken, ein weiteres lernbasierte Verfahren, insbesondere künstliche neuronale Netze und genetische Algorithmen.

Die Modellierung von Musikstrukturen mit regelbasierten Verfahren reicht zwar zur Beschreibung allgemeiner Kompositionsprinzipien aus, ist jedoch nicht geeignet, historische oder individuelle Kompositionsstile zu charakterisieren. Neuronale Netze hingegen können durch ihr adaptives Verhalten stiltypische Wendungen direkt aus Musikbeispielen lernen und das intuitive Erfassen musikalischer Strukturen nachbilden. Damit sind sie in der Lage, auch in unerwarteten Situationen überzeugende Lösungen zu produzieren, z.B. neue Melodien im Stil eines Komponisten zu harmonisieren und mit melodischen Umspielungen zu versehen.

(D. Hoernel und K. Hoethker)  

Roboterfussball ist ein Benchmark fuer die Anwendung maschineller Lernverfahren in einem komplexen Multi-Agenten-Szenario. Unser Schwerpunkt dabei ist die Untersuchung autonomer Lernverfahren (Reinforcement Learning): Vorgegeben ist nur das Ziel (schiesse ein Tor mehr als der Gegner); es ist Aufgabe des verteilten Lernalgorithmus', selbständig eine kooperative (und erfolgreiche) Teamstrategie zu entwickeln.

Weitere Informationen finden sich auf unserer Homepage.

(M. Riedmiller)