Autonomes Fahren - Stand der Technik

Mobilität
1

Hier ein video über Tesla FSD beta 10.69. Das hört sich (nach 10.12) zwar nach ‚release candidate‘ an, hat aber noch ein paar Schwächen. Warten wir also auf FSD 10.420 :wink:

Das video betont die ausgemerzten Schwächen der Vorgängerversion und die verbliebenen Schwächen. Nur im Nebensatz sagt er, dass er weite Strecken völlig interventionsffrei gefahren ist. Das Ding fährt imho mittlerweile wie jemand, der den Führerschein erst ein halbes Jahr hat. Aber immerhin.

Natürlich ist FSD primär auf amerkanische Strassen geeicht. Ich habe aber auch schon gute englische videos gesehen. Bis FSD den Place de l’Etoile oder ein italienisches Bergdorf meistert, werden wohl noch ein paar Jahre vergehen. Ganz zu schweigen von der Zulassung in der EU. Ich bin mir aber sehr sicher, dass das alles noch in diesem Jahrzehnt passiert.

Und das wirft Fragen auf, die bislang kein Politiker thematisiert!

Aber hier erstmal das video, damit Ihr einen Eindruck bekommt:

1 „Gefällt mir“
2

Interessant

Der Mathematiker Sebastian Houben von der Ruhr Universität Bochum. Sein Kollege Marc Tschentscher verweist auf ein Dilemma, das sich aus den Maschinenlernprogrammen ergibt: Einerseits locken die neuronalen Netze mit ihrer Eleganz; sie erkennen Stoppschilder selbst in unscharfen Aufnahmen, wo wir Menschen nichts mehr sehen. Andererseits kann man nicht nachvollziehen, wie sie das tun. Marc Tschentscher:
„Es ist immer wichtig, dass die Leute von der Autoindustrie genau wissen, was bei so einem Verfahren genau passiert.“
- Das bedeutet, die neuronalen Netze haben da gar keine Chance?
„Also zurzeit nicht. Solange man nicht genau weiß, was die wirklich tun, oder man es nicht nachvollziehen kann, ist es im Moment nicht möglich, so etwas an die Industrie zu verkaufen.“
- Das heißt, Sie haben eine Black Box, die wunderbar funktioniert. Aber man kann nicht reingucken, und deswegen ist es da, wo sehr sicherheitsrelevante Dinge passieren, eben bei einem Auto, das mit 30 oder 130 km/h fährt, unmöglich?
„Ja, das würde ich genauso sagen, ja.“
Die Automobilhersteller, mit denen ich sprach, sympathisieren alle mit Deep Learning und neuronalen Netzen. Aber allein die Haftungsfragen verhindern, die Software in sicherheitskritische Elemente einzubauen. Man kann bei einem Unfall eben nicht die Zeile im Code finden, die das Kind für einen Busch hält und deswegen den Wagen nicht vollautomatisch bremst. Ein neuronales Netz lässt sich nicht in die Karten gucken, es arbeitet keine streng vorgegebenen Anweisungen ab.

3

Ganz interessanter Beitrag, allerdings nicht ohne den heutzutage obligatorischen fachlichen Fehler:
AlphaGo wurde noch mit historischen Go-Partien gefüttert. Es war AlpaZero, dem nur die Spielregeln gegeben wurden und der sich das Spiel dann selbst beigebracht hat.

Ich habe auch Verständnis dafür, dass sich der Dautschlandfunk bevorzugt mit deutschsprachigen Entwicklern unterhält. Allerdings sollte mittlerweile hinlänglich bekannt sein, dass die dem Stand der Technik mindestens 5 Jahre hinterherhinken.

Dass die mangelnde Erklärbarkeit - an der übrigens intensiv gearbeitet wird - ein KO-Kriterium sein soll, kann ich in keinster Weise nachvollziehen. Die ist doch nur in der Entwicklungsphase für die Fehleranalyse (und die Neugier der Forscher) relevant.

Wir benutzen doch die allermeisten Geräte um uns herum als BlackBox. Wenn es nicht geht, Spezialisten rufen. Und dann will ich noch nicht mal wissen, warum es nicht geht, sondern wieviel die Reparatur kostet.

Jedenfalls ist mir eine BlackBox, die nicht erklären kann, warum sie keine Fehler macht, deutlich lieber als ein Mensch, der mit tausend Ausreden erklärt, warum er so viele Fehler macht.

Was mich immer wieder ärgert ist, dass diese blöde Haftungsfrage immer wieder durchs Dorf getrieben wird. Die stellt sich nämlich gar nicht bzw. löst sich in Luft auf. Irgendwann mache ich dazu vielleicht mal einen eigenen thread. Das nervt nämlich echt.

4

Das mag für einen technikfreak ja blöd aussehen, aber wenn du im real life mal mit Industriesteuerungen, speziell Ölindustrie, Maschinensteuerung, Eisenbahntechnik, Eisenbahnsicherungssystemen, Explosionsschutz, Hochspannung, Blitzschutz, Antrieben und Bremsen von Fahrzeugen, elektromagnetische Verträglichkeit (EMV) zu tun hast, dann siehst du erst die juristischen Implikationen. Die stecken überall mit drin.
Ich bin froh, dass in meinen 38 Jahren in der Industrie nichts passiert ist, wofür ein Jurist auftauchen musste. Sachen kaputt gemacht habe ich auch. Aber ein paar üble Brief habe ich auch geschrieben, wenn die oberen nicht gehört haben und mir eine Kopie mit nach Hause genommen.
Und nicht vergessen : Die Beinaheunfälle !
Einen Toten habe ich auch miterlebt, da kam ein Weichensteller an die Stromschiene. 6 Wochen vor seinem Ruhestand.
Und ein junger Kollege hatte an seinem ersten Baustellentag drei Unfälle miterlebt. Einer kam mit der Armbanduhr an 400/230 V, zwei flogen von einer wacklig aufgestellten Leiter. (Den dritten habe ich vergessen.) Alles Verstösse gegen Berufs-genossenschaftliche Regeln.

BWL und Computer-Spiele sind halt nur Spiele.
Die Haftungsfrage wird nicht weggehen.

dafür sind die Tesla zu breit, Fiat 500 ist da richtig, der alte nicht der neue

5

Das ist ja alles richtig, aber bei Autounfällen haben wir bereits heute die Situation, dass alle eine gesetzlich vorgeschriebene Haftpflichtversicherung haben. Das erleichtert vieles.

Prämisse: bei ‚autonomen Fahren‘ rede ich von Level 5, d.h. der Fahrer darf Zeitung lesen bzw. das Fahrzeug hat weder Lenkrad noch Pedale.

Weshalb landen manche Unfälle vor dem Gericht? Um zu klären,

  • ob strafbares Verhalten vorliegt (Vorsatz, grobe Fahrlässigkeit)
  • wer den Sachschaden bezahlt
  • wer den kaufmännischen Schaden bezahlt (Selbstbehalt, Schadensfreiheitsrabatt)

Vorsatz und Fahrlässigkeit kann man bei L5 getrost ausschließen.

Wer kommt als Haftender in Betracht?

  • Fahrer
  • Halter/Betreiber
  • Hersteller
  • in seltenen Fällen der Betreiber der Infrastruktur (Baustellenabsicherung, Streupflicht,…)

Den Fahrer können wir wieder ausschließen und bei der Infrastruktur bleibt alles wie es ist.
Der Halter hat auf das Verhalten der KI keinen Einfluss und ist nur noch für den technischen Zustand des Fahrzeugs haftbar (Reifen, Bremsen, …)

Man wird also dem Halter und dem Hersteller eine Haftpflichtversicherung für ihren jeweiligen part vorschreiben, wobei beide Tarife zusammen günstiger sein werden als die heutige Haftpflicht für den Halter.
Der Hersteller kann daher die Prämie problemlos in die Leasingrate oder den Kaufpreis einpreisen. Es geht dann also nur noch um die Frage, welche der beiden Versicherungen bezahlt. Ist das zufällig derselbe Versicherer, geht es nur um rechte oder linke Tasche und die Schuldfrage wird höchstens noch von einem internen Sachverständigen geklärt. Für die Statistik.

Und hier kommt eine weitere Entwicklung ins Spiel. Derzeit gibt es in D noch knapp 100 Autoversicherer. Hier wird in den nächsten Jahren eine unglaubliche Konsolidierung stattfinden. Am Ende werden nur noch die Versicherer übrig bleiben, die Zugriff auf die Telemetriedaten der versicherten Fahrzeuge haben.

Ein normaler Versicherer kann seine Tarife nur anhand statischer Merkmale wie Alter des Fahrers, Dauer des Führerscheinbesitzes, Jahresfahrleistung, Vorschäden etc. Einige Versicherer bieten heute bereits günstigere Tarife an, wenn man eine Art Fahrtenschreiber installiert, der Beschleunigungs- und Verzögerungswerte aufzeichnet. Das sind aber noch erbärmlich wenig Daten.

Bei einem Auto mit L5 hingegen fährt die KI permanent als ‚Beifahrer‘ mit, auch wenn L5 abgeschaltet ist (um dazuzulernen). Sie kann also die gesamte Verkehrssituation und damit das Fahrverhalten des Fahrers viel besser beurteilen. Und der Versicherer kann ‚guten‘ Fahrern deutlich günstigere Tarife anbieten.

Das ist keine Zukunftsmusik. Tesla car insurance hat letztes Jahr in ein paar US-Staaten einen Tarif genehmigt bekommen, der sich monatlich ändern kann, wenn sich Deine Fahrweise ändert. Es werden wahrscheinlich nur die Versicherungstöchter der Autohersteller übrig bleiben.

Da Tesla beim L5 uneinholbar führt, werden die übrigen Hersteller das FSD lizensieren (wenn sie klug sind). Es ist also durchaus möglich, dass Tesla mittelfristig zum einzigen Versicherer für Hersteller wird.

Dann ist die Schuldfrage endgültig hinfällig. Es muss nur sichergestellt werden, dass immer eine Versicherung den Schaden übernimmt.

1 „Gefällt mir“
6

Wenn ich sowas sehe: Video: Tesla Autopilot Confuses Horse-Drawn Carriage for Truck habe ich meine Zweifel, ob das mit dem autonomen Fahren so schnell was wird. Das muss noch deutlich besser werden.

7

Keine Angst, es wird permanent besser. Und zwar wesentlich schneller, als wir uns das vorstellen können.

Eine KI wird andere Fehler machen als ein Mensch (wie den da oben). Sobald sie aber im Durchschnitt weniger und weniger schwere Unfälle baut als menschliche Fahrer, ist der Zeitpunkt für den Wechsel eigentlich gekommen.

Und das ist zumindest für Teslas unter autopilot auf US highways bereits seit mehreren Jahren der Fall.

8

Diese Mail habe ich vom VDE erhalten
21.09.2022
Einladung zum ersten internationalen AI Quality Summit am 02.11.22 in Frankfurt
Dear VDE AI Experts and Stakeholders,
we would like to invite you to the first AI Quality Summit, to be held on 2nd November 2022 in Frankfurt. The summit brings together for the first time the whole spectrum of experts and decision makers that are needed to achieve and prove quality of AI products.

We want to discuss quality aspects including robustness, resilience, performance, auditability, transparency, and security. We want to take into account the regulatory context of the EU AI Act as well as frameworks from OECD, UNESCO, the Council of Europe and other multinational institutions, the business need for Europe to compete on quality in global markets, and the engineering context of fundamental scientific, technical, standardisation and operational aspects that make AI quality a tough challenge. Much of the summit will address this scope in a horizontal manner but we also plan for deep dives into three verticals: mobility, finance, and health.

The full day event (09:00 to 16:30) will be held primarily in a physical format in the House of Logistics and Mobility (HoLM) close to Frankfurt Airport. It is organised by VDE Association of Electrical, Electronic and Information Technologies together with the Minister for Digital Strategy and Innovation of Hessen, Prof. Kristina Sinemus. We are pleased and honoured that Prof. Philipp Slusallek, Executive Director DFKI Saarbrücken & Head of the Research Department Agents and Simulated Reality, has agreed to chair the programme committee.

Join the European debate around AI quality and contribute to overcoming the numerous challenges in achieving it! You can find the preliminary programme, including most of the confirmed speakers, at the bottom of this email.

We hope that we can welcome you at this event and are looking forward to you registering here: Umfrage nicht gefunden
Places are limited.

Please find further information at: http://ai-q.de/

With warm regards,

Dr Sebastian Hallensleben
Head of Digitalisation & AI
Chair of CEN-CENELEC JTC21
VDE e.V. Association of Electrical, Electronic and Information Technologies

Dr Tina Klug
Head of Unit S2 – Digitalisation and AI in Economy, Research and Society
Hessian State Chancellery
Minister for Digital Strategy and Innovation

Ist übrigens kostenlos.

Edit : Prgramm :
Preliminary programme on 2nd November 2022.pdf (141,7 KB)

9

Ist da jemand von Tesla dabei? Sonst ist die Veranstaltung vermutlich Schnee von gestern.

10

Du kannst dich gerne anmelden, teilnehmen und sehen und uns berichten, ob jemand von Tesla da war. Blöd wären sie, wenn sie nicht hin gangaten, denn auf solchen Tagungen wird der gesetzliche Rahmen für die autonome Mobilität in Europa festgelegt. Dass Ausprobieren, Leute tot fahren und dann Nachbessern bei uns nicht geht, wird Tesla dann schon klar werden.

11

Wäre es nicht evtl geschickter, statt autonomer Fahrzeuge intelligente Straßen zu bauen die die Fahrzeuge lenken?

12

Wohl kaum. Wir haben in D ca. 830.000 km Straßen. Und wir schaffen es derzeit noch nicht mal, sie in einem vernünftigen Zustand zu halten. Außer bei Euch in Bayern, denn dort sind ja in den letzten 16 Jahren 80% des Verkehrsetats hingeflossen :stuck_out_tongue:

13

Wenn die Automobilindustrie eines nicht will, dann sich an den Kosten der Infrastruktur beteiligen
Und das andere was sie nicht wollen : Geschäft an den Schienenverkehr abgeben. Mit viel Mühe haben sie die Bahn soweit kaputt gemacht.

14

Hier ein video mit Version 10.69.2.3.

Normale Verkehrssituationen werden jetzt eigentlich durchgängig gemeistert.
Probleme:

  1. FSD kann noch nicht ganz so weit vorausschauen wie ein Mensch. Ich vermute, wir brauchen dafür nur die nächste Version der FSD-HW mit mehr Rechenleistung.
  2. Textuelle Anweisungen versteht FSD noch nicht. Sowas wie „Ausfahrt Geesthacht gesperrt, folgen sie U4“. Ein Zusatzschild „Anlieger frei“ würde FSD wohl auch ignorieren. Noch :wink:
15

Die Videos sind eindrucksvoll. Viel wichtiger als die technische Frage: Wann geht das besser und sicherer als selber fahren? ist für mich ein anderer Punkt: Was macht das mit dem Verkehrsrecht und der Versicherung.

Wenn ich ein Gerät kaufe, das mich von A nach B fährt ohne das ich selbst etwas tun muss, dann muss der Hersteller dieses Geräts auch dafür haften, wenn es zu Unfällen kommt. Wozu brauche ich dann noch eine Autoversicherung? Das heißt aber die Hersteller von Autos müssten sich darauf einstellen für ihre Fahrzeuge auch zu haften. Autoversicherungen (eine Milliardenindustrie) wären überflüssig. Gleichzeitig steigen die finanziellen Risiken bei Herstellung und Verkauf von autonomen Fahrzeugen gewaltig an.

Unsere einheimischen Autohersteller tuen sich schon damit schwer, den Batterieladestand und die verfügbaren Ladenstationen in die Routenplanung des Autos zu integrieren. Kommentar des Autohändlers als ich vor dem (sauteuren) Audi E-tron stand: Dafür gibt es eine App. Ich kann mir nicht vorstellen, wie das aussehen soll, das Audi für alle Unfälle aller selbstfahrenden Audi-Fahrzeuge die Haftung übernimmt.

16

Produkthaftung gibt es doch heute auch schon. Und trotzdem ist der Betreiber für den Betrieb verantwortlich. Wartung, Instandhaltung, Beladung, Bedienung … auch bei einem autonomem Fahrzeug kann eine Menge falsch gemacht werden. Selbst wenn man als Betreiber nichts falsch macht gibt es immer ein Betriebsrisiko. Man stelle sich vor ein Auto fährt auf der Landstraße, ein Reifen platzt plötzlich, das Fahrzeug rutscht in den Graben - völlig unabhängig ob es ein autonomes Fahrzeug, eins mit Assistenzsystemen oder ein Oldtimer ganz ohne Elektronik war, die Haftungsfrage ist immer die gleiche.

1 „Gefällt mir“
17

Es ist aber schon ein Unterschied ob ich für einen Toaster oder Mixer haften muss oder für das Programm eines autonom fahrenden Autos, das beim rechts abbiegen einen Radfahrer übersehen und getötet hat.

Die Frage ist: Wenn Autos komplett autonom fahren, wer zahlt bei Unfällen, wenn diese nicht durch höhere Gewalt verursacht wurden, wie in deinem Beispiel?

18

Kannst Du hierzu bitte nochmal post #5 in diesem thread gründlich lesen?

19

Auch als Toasterhersteller würde ich das Thema Produkthaftung nicht unterschätzen. Ein im Vollbrand stehendes Wohnhaus wegen eines fehlerhaft konstruierten Toasters kann auch unangenehm werden. Aber wenn wir ein fatales Extrembeispiel suchen, lohnt vielleicht ein Blick auf die Boeing 737Max (die auch in Europa schon eine uneingeschränkte Zulassung hatte).

Der Betreiber haftet sofern das Produkt der Zulassung entsprechend war (beim Toaster ebenso wie beim autonomen Auto). Der Hersteller haftet, wenn das Produkt nicht zulassungskonform war. Die zentrale Frage ist also, welche Zulassungsvoraussetzungen wir (als Gesellschaft, vertreten durch die entsprechende Behörde) für entsprechende Produkte vorschreiben wollen. Je strenger wir da sind, desto länger lässt der Fortschritt auf sich warten … ein Dilemma.

1 „Gefällt mir“
20

und nicht vergessen :
Post #2 und #4 beleuchten das Thema von der Seite der Technik und Industrie und den derzeitigen „Stand der Technik“, der in den Fachgremien diskutiert werden wird.
Stand der Technik ist nicht bei Youtube zu finden, sondern in den Fachgremien, Das ist zumindest die deutsche Rechtssprechung über technische Normen.