Institut für Neuroinformatik

Course descriptions winter term 2012/2013

Lectures – Winter term

Artificial Neural Networks

Würtz (2 HPW)

Certificate

• Upon successful completion of the exercises (1 HPW)

Contents

• This lecture presents standard algorithms and new developments of Artificial Neural Networks, their functioning, application domains, and connections to more conventional mathematical methods. Examples show the potential and limitations of the methods. Supervised as well as unsupervised learning methods are introduced.

Literature

• Lecture notes by C. Goerick
• C. M. Bishop, Neural Networks for Pattern Recognition, 1995 Clarendon Press, Oxford.

Machine Learning: Unsupervised Methods

• Wiskott (2 HPW + 2 HPW exercises)

Contents

• This course covers a variety of unsupervised methods from machine learning such as principal component analysis, independent component analysis, vector quantization, clustering, self-organizing maps, growing neural gas, Bayesian theory and graphical models. We will also briefly discuss reinforcement learning.
  
  Criteria for a certificate for the tutorial are an active participation, in particular presentation of selected exercises, and at least 50% in the final exam.

Language

• This course can be given in English upon request. Course material (lecture notes and exercise sheets) will be in English in any case.

Prerequisites

• The mathematical level of the course is mixed but generally high. The tutorial is almost entirely mathematical. Mathematics required include calculus (functions, derivatives, integrals, differential equations, ...), linear algebra (vectors, matrices, inner product, orthogonal vectors, basis systems, ...), and a bit of probability theory (probabilities, probability densities, Bayes' theorem, ...).

Literature

• For most topics a script will be available.

 Evolutionäre Algorithmen

Glasmachers

Contents

• Evolutionäre Algorithmen sind von Prinzipien der biologischen Evolution
  inspirierte randomisierte Such- und Optimierungsverfahren. Ziel ist die
  Nutzbarmachung des Prinzips des "Survival of the Fittest" für die Lösung
  technischer Probleme. Die so entstehenden Heuristiken zeichnen sich durch
  minimale Voraussetzungen und somit generische Anwendbarkeit sowie
  konzeptionelle Einfachheit aus und sind meist leicht zu implementieren.
  Evolutionäre Suche wird häufig zur approximativen Lösung schwieriger
  Optimierungsprobleme herangezogen, für die keine exakten
  (Polynomialzeit-)Lösungsverfah
  ren bekannt sind.
  
  In der Vorlesung wird zunächst ein Grundmodell eines evolutionären
  Algorithmus erarbeitet. Ausgehend von diesem Modell werden verschiedene
  Aspekte evolutionärer Optimierung auf diskreten und kontinuierlichen
  Suchräumen behandelt, so dass über die Dauer des Kurses eine systematische
  Taxonomie größtenteils modular kombinierbarer Methoden entsteht.
  
  Die Veranstaltung besteht aus einer zweistündigen Vorlesung, die von einer
  ebenfalls zweistündigen Übung begleitet wird.

Seminars

Selected Topics in Neurocomputing: Learning

Würtz, Coworkers

Certificate

• Upon giving an oral presentation and regular attendance

Contents

• So selbstverständlich uns die Fähigkeit des Lernens erscheint, so schwierig scheint es doch zu sein, diese Fähigkeit auch auf Maschinen übertragen zu können. Dies wird jedoch in einer zunehmend technologisierten Welt, in der die Mensch-Maschine-Kommunikation alltäglich geworden ist, mehr und mehr zum Problem. Die Aufgabe, lernfähige Machinen zu entwickeln, ist folglich eine der großen Herausforderungen der Neuroinformatik.  Im Seminar sollen Unterschiede und Gemeinsamkeiten menschlichen und maschinellen Lernens vorgestellt und diskutiert werden.  Die Vorträge sollen einen aktuellen Überblick über das Thema "Lernen" aus den Sichtweisen der verschiedenen Fachbereiche geben, ohne sich in zu tief in fachspezifischen Details zu verlieren.

Lab exercises

Computer Vision

Schöner, Winter (one week, full time)

Contents

The goal of the lab exercise is to introduce to the basics of digital image processing considering current examples of computer vision.
First a short overview of programming with MATLAB is given. Then the handling of digital images is learned by implementing simple operations like mirroring and tiling. In the next step basic image processing methods, e.g. histogram equalization, image filtering, edge detection or recognition of objects with defined shape, are implemented.

Detailed information: are available here

Autonomous Robotics

Schöner (one week, full time)

Contents

The practical course gives an introduction to mobile robotics with a focus on dynamical systems approaches. In the exercises, the computing environment Matlab is used to control e-puck miniature mobile robots, equipped with a differential drive, combined infrared/proximity sensors and a video camera. The course covers elementary problems in robot odometry, use of sensors and motor control. It then teaches basic dynamic methods for robot navigation, in which the robot's sensors are used for obstacle avoidance and approach to a target location.

Interested students who do not have experience in Matlab should attend the Matlab introduction of the lab exercise Computer Vision (typically the week before this course).

Contact

sebastian.schneegans@ini.rub.de

Intensivkurs C++

Würtz, Glasmachers

Contents

• Dieses Praktikum soll Studenten, die schon Java oder eine andere imperative Sprache beherrschen, den Einstieg in die Programmierung in C++ erleichtern. Diese Sprache wird für Studienprojekte und Abschlussarbeiten in 5 Arbeitsgruppen am Institut für Neuroinformatik verwendet und ist auch für die Übungen „Künstliche Neuronale Netze“ und „Sehen in Mensch und Maschine“ erforderlich.
• Die Konzepte werden von Mitarbeitern vorgestellt und dann an praktischen Aufgaben eingeübt. Die Themen sind grob wie folgt:
   
  Grundlagen (C/C++): Kontrollstrukturen, Typsystem, Literalkonstanten, Operationen, implizite/explizite Casts, Funktionen, Deklaration/Definition, Präprozessor, Pointer und Arrays, interne/externe Bindung, Compiler-Linker-Konzept, Speicherverwaltung
   
  Klassen in C++:  Referenzen, const-Qualifizierer, Default-Parameter, Motivation: Kapselung, Abstraktion, Polymorphie, Sichtbarkeit, Konstruktor/Destruktor, Überladen von Funktionen, Kopierkonstruktor, Zuweisungsoperator, Vererbung, Überschreiben von Funktionen, virtuelle Funktionen, abstrakte Klassen, statische/dynamische Bindung, statische Elemente/Methoden
   
  Templates: Template-Funktionen, Template-Methoden, Template-Klassen, inline, explicit inline, Spezialisierung, Ausblick: Metaprogrammierung
   
  STL, Standard Template Library: cout, cin, string, fstream, vector, list, queue
  boost:  weitere Templates und Bibliotheken
  openMP: Techniken zur Parallelverarbeitung
  pragma: smart pointers

 Übersichtsseite mit Kursmaterialien