So tricksen Sie selbstfahrende Autos aus

Der britische Künstler James Bridle hat Systemen für autonomes Fahren die Grenzen aufgezeigt. Für seine Autofalle, die er ‘Autonomous Trap 001’ nennt, hat er lediglich einigen Tüten Salz verwendet. Systeme für autonomes Fahren müssen eine ganze Reihe von Regeln beachten und diese Regeln stehen meist in Form von Schildern am Straßenrand oder sind auf der Straße aufgezeichnet. Die große Herausforderung ist, diese sicher und automatisiert in Maschinenbefehle umzuwandeln.

Bridle, der derzeit in Griechenland lebt, hat mit dem Salz zwei Kreise gezeichnet. Außen eine gestrichelte Linie und parallel innen dazu eine durchgezogene Linie. Im Deutsch der Straßenverkehrsordnung würde man das eine einseitige Fahrstreifenbegrenzung nennen. Fahrer dürfen dabei von der Seite mit der gestrichelten Linie über die durchgezogene Linie fahren, aber nicht andersherum.

Und genau das hat das Fahrzeug auch gemacht. Bridle konnte das Fahrzeug in den Kreis steuern. Dann blieb es stehen, weil es natürlich davon ausgeht, dass man eine durchgezogene Linie nicht überfahren darf.

Im Video sieht man sogar, dass es Versuche unternimmt, und kurz anfährt, um einen Ausweg zu finden. Aber aus diesem Kreis gibt es kein Entrinnen ohne gegen die programmierten Regeln zu verstoßen. Ein klassisches Dilemma.

[Update vom 27.03.2017] Bei dem ausgetricksten System handelt es sich jedoch nicht um ein autonomes Fahrzeug eines Herstellers. Bridle hat dafür selbst die Open-Source-Software Austeere entwickelt, und sein Fahrzeug darüber mit Sensoren, Kameras und neuronalen Netzen in Eigenregie zu einem ‘autonomen System’ umgerüstet.

Selbstfahrenden Systeme vereinen laut der Darstellung des Künstlers und Entwicklers einige sehr interessante Technologien, wie Bilderkennung und künstliche Intelligenz. Aber damit würden, wie der Brite erklärt, auch soziale Themen wie die Automatisierung und die Veränderungen in der Art der Arbeit und auch die Verschiebung von Machtverhältnissen zusammenhängen.

Wie Bridle in einem Interview mit Vice mitteilt, habe diese Falle an einer Straße am Berg Parnass in Griechenland gebaut. Als Grund gibt er verschiedene Gründe an: “Es ist Teil eines großen Ganzen aus Arbeit, Forschung, Schreiben und Herumexperimentieren, um die aktuellen Technologien von Automatisierung besser zu erkunden und zu verstehen, um diese besser einzusetzen aber auch um diesen zu trotzen.”