View source for GMU:Neuronale Netze - eine Einführung für Künstler

[[:Category:Werkmodul|Werkmodul]]<br>
''Lehrperson:'' Dipl. Informatiker [[Matthias Weber]]<br/>
''Bewertung:'' 6 [[ECTS]], 4 [[SWS]]<br/>
''Termin:'' Block, 3. -5. Mai und 10. -12. Mai.<br/>
''Ort:'' Winux Pool in der Bauhausstraße 15, Raum 102 (ggf. später [[Marienstraße 7b]], Raum 204)<br/>
''Erster Termin:'' 3. Mai 11 Uhr

==Beschreibung==
Künstliche Neuronale Netze sind der Versuch, das menschliche Gehirn programmierend nachzubilden. Es wurden verschiedene Methoden des maschinellen Lernens entwickelt, wovon einige ermöglichen, Dinge zu erkennen, die bereits vorab bekannt sind, während andere in einer Art Selbstorganisation hochdimensionales Datenmaterial neu ordnen.
Es werden in diesem Umfeld u.a. folgende Arten vorgestellt: Multilagenperzeptrons, Self-organizing feature maps, rekurrente Netze und entsprechende Weiterentwicklungen. In der Vorlesung werden die notwendigen Grundlagen vermittelt, um im Übungsteil diese in praktischen Beispielen umzusetzen. Hierzu wird eine Programmierumgebung wie Processing oder PD eingesetzt, eventuell auch eine spezielle Software zur Simulation von neuronalen Netzen oder zur automatischen Klassifikation.
Der Block setzt sich zusammen aus zweimal drei Tagen mit jeweils ca. 3 Stunden Vorlesung und 2 Stunden Übung.

Das Werkmodul wird als Ergänzung zum Projekt [[GMU:Netze|Netze]] empfohlen

==English description==
Artificial neural networks are the attempt to recreate the brain's basic principle in an programming environment. Different machine learning techniques were developped. Some enable to detect results which were predifined, others can restructure high dimensional datasets to reveal patterns.

==Themen==
Im Folgenden werden die voraussichtlichen Themen der Vorlesung kurz vorgestellt:
* Einführung in biologische neuronale Netze: Eine kurze Einführung, wie das biologische Vorbild funktioniert. Es wird außerdem darauf eingegangen, wie daraus die ersten künstlichen neuronalen Netze entstanden sind und warum man diese überhaupt verwenden möchte.
* Perzeptrons/Multilagenperzeptrons: Die Klassiker der neuronalen Netze. Sie bieten die Möglichkeit, Muster anzutrainieren und später wiederzuerkennen. Unter Anwendung der üblichen Lernregeln, gehören sie zu der Klasse der überwacht lernenden Algorithmen. D.h., es muss während des Trainings immer zu einem Muster die richtige Lösung präsentiert werden.
* Verschiedene Lernregeln für das überwachte Lernen: Hebb-Regel, Delta-Regel, Back-Propagation.
* Weitere Grundlagen für neuronale Netze: z.B. Overfitting, wenn das neuronale Netz zu viel lernt und dadurch nicht mehr verallgemeinern kann.
* Self-Organizing Feature Maps (SOM) oder Kohonen-Karten: Sie gehören zu der Klasse der unüberwacht lernenden Netze. Sie bilden die Eingabedaten auf einen niedrig-dimensionalen Raum ab. Diese Abbildung geschieht dabei selbständig, ohne Überwachung. Bildlich kann man dies sich so vorstellen, dass eine Karte der Eingabedaten angelegt wird, daher auch der Name.
* Growing Neural Gas: In gewisser Weise ein Verwandter der SOM. Diese Art des Netzes erstellt selbständig die Struktur des Netzes ausgehend von einem einzelnen Neuron.
* Rekurrente Netze: Ähnlich den Multilagenperzeptrons, aber mit Rückverschaltung innerhalb des Netzes. Dadurch wird es möglich, zeitliche Zusammenhänge zu lernen.
* Reinforcement Learning: Dieses liegt zwischen dem überwachten und unüberwachten Lernen. Dem Netz werden dabei beim Trainieren nicht die Lösungen präsentiert, sondern nur Belohnungen verteilt, wenn das Netz richtige Lösungen errechnet hat.
* Verschiedene weitere Lernverfahren sowie Verbesserungen der erwähnten Verfahren.
* Beispiele aus der Kunst, in denen neuronale Netze verwendet wurden, u.a. mit einem Vortrag von Christoph Kilian, Student der Bauhaus-Uni Weimar.

In den Übungen sollen verschiedene Programme zur Simulation von neuronalen Netzen gezeigt werden. Außerdem werden eigene Programme, voraussichtlich mit Processing, erstellt. Es soll aber auch die Möglichkeit geben, eigene Ideen auszuprobieren. Somit sind die Themen der Übungen nicht zwingend fest gesetzt.

==Voraussetzungen==
Es wird versucht, die Thematik ohne Vorkenntnisse näher zu bringen. Trotzdem können mathematische Vorkenntnisse in den Bereichen lineare Algebra, Analysis und evtl. auch Wahrscheinlichkeitsrechnung/Stochastik von Vorteil sein.

Weiterhin wären auch Kenntnisse im Programmieren bzw. in Processing oder Java hilfreich, aber nicht unbedingt notwendig.

==Anmeldung==
Bewerbung mit folgenden Angaben per eMail an: kristina.hellmann (at) uni-weimar.de
* Name
* Fachrichtung und Fachsemester
* Matrikelnummer
* Angabe der geltenden Prüfungsordnung
* Gültige E-Mail-Adresse (zur Bestätigung der Anmeldung)
Sollte es mehr als 20 Bewerber geben, entscheidet die Reihenfolge der Anmeldungen über die Aufnahme in den Kurs

==Leistungsnachweis==
33% Aktive Teilnahme, 33% Präsentation/künstlerische Prüfung, 33% Dokumentation/Eintrag im Wiki.
Frist für die Abgabe ist der 30.6.2010

==Zielgruppe==
Undergraduate (Bachelor)-Studierende und Graduate (Master)-Studierende der Fakultäten Medien, Gestaltung und der Medienarchitektur

==Syllabus==
* Mo., 3.5.: 11:00 - 16:45 Uhr
* Di., 4.5.: 13:30 - 16:45 Uhr
* Mi., 5.5.: 13:30 - 16:45 Uhr

* Mo., 10.5.: 11:00 - 16:45 Uhr
* Di., 11.5.: 13:30 - 16:45 Uhr
* Mi., 12.5.: 11:00 - 16:45 Uhr

==Literatur==
* Kriesel, David: Ein kleiner Überblick über Neuronale Netze, 2010, [http://www.dkriesel.com/science/neural_networks Download]
* Ritter, Helge, Martinetz, Thomas, Schulten, Klaus: Neuronale Netze: eine Einführung in die Neuroinformatik selbstorganisierender Netzwerke, Bonn: Addison-Wesley, 1991, ISBN 3-89319-131-3
* Haykin, Simon: Neural Networks and Learning Machines, Third Edition, Upper Saddle River, New Jersey: Pearson Education Inc., 2009, ISBN 978-0-13-147139-9

==Software==
* [[Processing]] [http://code.google.com/p/fannj fannj]
* [[Pure Data]] mit [http://leenissen.dk/fann FANN]
* [http://iqr.sourceforge.net IQR]
* [http://grey.colorado.edu/emergent/index.php/Main_Page Emergent]
* [http://www.ra.cs.uni-tuebingen.de/software/JavaNNS/welcome_e.html JavaNNS]

==Links==

* [[GMU:Neuronale Netze - eine Einführung für Künstler/Präsentation|Präsentationen]]
* [[GMU:Netze Linkliste]]

[[Category:SS10]]
[[Category:Matthias Weber]]
[[Category:Werkmodul]]
[[Category:Processing]]