Deep Learning of Inverse Dynamic Models

In the last few years, deep learning has alleviated most fields of machine learning to new levels. However, deep learning has yet to prove its value in the field of model learning in robotics. Currently, dynamics models have to be derived analytically in a tedious process of measuring the mechanical system part by part. In applications like automated industrial production where high precision and reliability are required, robot movements are engineered precisely costing money and time. The reason why the models are not learned may be the fact that data-based approaches lack the physical plausibility of analytical models. In this thesis I propose Deep Lagrangian Network (DeLaN) a deep learning approach to inverse dynamics models. The novelty of DeLaN is the incorporation of a physics prior, the Lagrange-Euler partial differential equation. Thus, DeLaN encodes physical knowledge while facilitating standard model learning advantages, like end-to-end training using data samples. I compare my proposed approach to a standard feed-forward neural network (FF-NN) in various experiments to showcase the usefulness of DeLaN in learning inverse dynamics models online. I am also highlighting advantages and limitations of my approach based on the characteristics inherited from the physics prior. In a nutshell, DeLaN is able to learn and control a real robot and provides capabilities to extrapolate to unseen tasks. Zusammenfassung In den letzten Jahren hat Deep Learning viele Bereiche des Machine Learnings auf neue Ebenen gehoben. Deep Learning muss seinen Wert für Model Learning in der Robotik allerdings noch beweisen. Dynamische Modelle werden aktuell noch in einem aufwendigen Prozess analytisch hergeleitet, wobei das mechanische System Stück für Stück ausgemessen werden muss. In Anwendungen, wie der automatisierten industriellen Produktion, die hohe Präzision und Zuverlässigkeit benötigen, werden Roboterbewegungen präzise von Ingenieuren modelliert, was Zeit und Geld kostet. Der Grund, warum die Modelle aktuell nicht gelernt werden, könnte der Fakt sein, dass datenbasierte Ansätze nicht die physikalische Plausibilität analytischer Modelle bieten. In dieser Arbeit stelle ich Deep Lagrangian Network (DeLaN) vor, einen Deep Learning Ansatz für inverse Dynamik Modelle. Die Neuheit an DeLaN ist die Einbindung einer physikalischen Voraussetzung, der partiellen Lagrange-Euler Differentialgleichung. Damit enkodiert DeLaN physikalisches Wissen und erlaubt gleichzeitig die Nutzung von Vorteilen des klassischen Machine Learnings, wie Ende-zu-Ende Training basierend auf einzelnen Messwerten. Ich vergleiche meinen Ansatz in verschiedenen Experimenten zu einem klassischen Feed-Forward Neural Network, um die Anwendbarkeit DeLaNs auf Online Learning von inversen Dynamik Modellen zu zeigen. Außerdem stelle ich die Vorteile und Einschränkungen meines Ansatzes dar, die sich aus den Eigenschaften der eingebundenen physikalischen Voraussetzung ergeben. Kurz gesagt, DeLaN ist in der Lage in Echtzeit zu lernen und einen echten Roboter zu steuern und es bietet dabei die Fähigkeit zu neuen, unbekannten Aufgaben zu extrapolieren.