Video: Tesla Autopilot Crashes into Motorcycle Riders - Why?

[Wiseguy]

 

[4Life]

Vad gjorde "förarna" i Teslorna medans de kraschade in i motorcyklarna? Hade sex i baksätet? Sov?

 

[notrightrider]

Men bra!
Där ser vi hur mycket vi är värda.

A bump in the road på väg mot ett AI-samhälle där misstag inte görs, utan är programmerade in i systemet.

Fy fan!

Ryan regerar, för övrigt.

 

[notrightrider]

Vad gjorde "förarna" i Teslorna medans de kraschade in i motorcyklarna? Hade sex i baksätet? Sov?

Twittrade kring hur mycket dom avgudade Elon Musk.

 

[Comeback]

Automationsparadoxen innebär att ju mer automatiserat något blir desto sämre blir operatören på att hantera "situationen" manuellt. Operatören får ju mindre och mindre träning i manuell drift.
Först (?) upptäckt på piloter.
Och det lär väl inte skilja på bilförare. Trist.

 

[CFr]

Tesla driver visserligen utvecklingen och har i flera avseenden tagit den framåt i en enormt mycket snabbare takt än konkurrenterna, men jag tror många överskattar systemens förmåga och hur enormt svårt det är att bygga system som fullt ut kan klara av det som en människa kan och det är lätt att få uppfattningen att systemen klarar mer än vad de faktiskt gör.

Det är också rätt talande hur olika bilföretags kärnvärden och kulturer påverkar valen av lösningar inom det här området. Jämför t ex med andra biltillverkare som traditionellt har satt säkerheten väldigt högt, som har hårdvara snarare än mjukvara i sitt DNA och av tradition ser produkten som färdigutvecklad när den går i produktion och uppfyller alla krav. Det faller sig naturligt att dessa satsar på system som genom avancerad hårdvara (t ex LIDAR i kombination med andra typer av sensorer) skall kunna ge en högre säkerhet, men på bekostnad av längre ledtider, designbegränsningar, högre kostnad och mindre flexibilitet till förbättringar under hårdvarans livscykel, samtidigt som de har stora utmaningar med att få den AI-baserade mjukvaran att fungera.

Tesla å andra sidan prioriterar framför allt så snabb utvecklingstakt som möjligt och att hela tiden göra produkten bättre under sin livscykel och för att kunna göra detta behöver de frikoppla sig från hårdvarans begränsningar så mycket som möjligt. Det innebär dels att de lägger fokus på att vara ledande inom maskininlärning (vilket de troligen är inom bilbranschen idag) och att göra hårdvaran mindre beroende av att behöva uppgraderas under sin livscykel. Det förklarar varför de bygger in rejält med beräkningskraft och alla de sensorer som kommer behövas i bilarna redan från början. Detta innebär naturligtvis kostnader och med tanke på hur konkurrensen blir allt hårdare blir det därför logiskt att de försöker få ned kostnaderna för sensorer och varför de inte satsar på LIDAR som är dyrt, begränsar designen och där hårdvaran riskerar att bli omodern för snabbt. De satsar istället på kameror som är en billig och mogen teknik och utgår från att det är deras utvecklingstakt inom maskininlärning/mjukvara som kommer vara differentierande och tillräckligt hög för att kunna kompensera för de begränsningar som ett rent visuellt system ändå innebär.

Det människor sedan inte inser är hur annorlunda ett AI-baserat system fungerar jämfört med oss människor och man är inte ens kapabel att förstå vad begränsningarna och skillnaderna består i och vilka särskilda situationer ett sådant system än så länge inte kan hantera. Då blir det extra problematiskt när Tesla marknadsför systemet som "Autopilot". Naturligtvis kommer folk då börja använda det på ett sätt som om det fullt ut kan ersätta en mänsklig förare, vilket det inte kan idag.

 

[Kurt-Olsson]

Tesla FSD? Probably ready next year…

mvh Elon

Varför ens bry sig om bilar och motorcyklar när vi har Hyperloopen?!?!

2017 skulle den vara klar om fyra år…

 

[roffe_s]

…Då blir det extra problematiskt när Tesla marknadsför systemet som "Autopilot". Naturligtvis kommer folk då börja använda det på ett sätt som om det fullt ut kan ersätta en mänsklig förare, vilket det inte kan idag.

Som jag personligen ser på problematiken med FSD är att den delar den etiska ståndpunkten med nollvision och vajerräcken att ”flertalets nytta alltid trumfar fåtalets olycka”. I trafiken är vi ett antal olika fordonsslag som samverkar, att fokusera på nyttan för flertalet är kanske okey, men bara så länge man inte utsätter de andra trafikantslagen för avsevärt större risker.

Det stora problemet är när ett företag släpper programvara fri att använda med denna typ av flagranta risker. Trots alla disclaimers och trots att vi pratar level 2 är det inte orimligt att företaget får bära ansvaret för de olyckor som drabbar tredje man - inte föraren. Nu avaktiverar man dessutom radarn från de tidigare levererade bilarna och förlitar sig enbart på kameror.

Andra stora aktörer förlitar sig på flera datakällor och nyttjar säkerligen AI för att utvärdera händelser. Men viktigast av allt - de gör inte oprövad teknik tillgänglig för kunderna att använda precis som de vill och därmed utsätta medtrafikanter för avsevärt ökade risker.

Gör om, gör rätt! Mina 2p

 

[CFr]

Som jag personligen ser på problematiken med FSD är att den delar den etiska ståndpunkten med nollvision och vajerräcken att ”flertalets nytta alltid trumfar fåtalets olycka”. I trafiken är vi ett antal olika fordonsslag som samverkar, att fokusera på nyttan för flertalet är kanske okey, men bara så länge man inte utsätter de andra fordonsslagen för avsevärt större risker.

Det stora problemet är när ett företag släpper programvara fri att använda med denna typ av flagranta risker. Trots alla disclaimers och trots att vi pratar lever 2 är det inte orimligt att företaget får bära ansvaret för de olyckor som drabbar tredje man - inte föraren. Nu avaktiverar man dessutom radarn från de tidigare levererade bilarna och förlitar sig enbart på kameror.

Andra stora aktörer förlitar sig på flera datakällor och nyttjar säkerligen AI för att utvärdera händelser. Men viktigast av allt - de gör inte oprövad teknik tillgänglig för kunderna att använda precis som de vill och därmed utsätta medtrafikanter för avsevärt ökade risker.

Gör om, gör rätt! Mina 2p

Precis, det är en utilitaristisk hållning som minskar möjligheten för trafikanterna att själv välja och styra över sin egen säkerhet utan man får förlita sig på att systemet gör det. Det innebär en självmotsägelse eftersom det aldrig går att skapa ett system som ger största säkerhet för alla på individnivå samtidigt. Det finns alltid trade-offs och målkonflikter.

Tyvärr är denna utilitaristiska grundsyn något som techbolagen har gemensamt med många av våra lagstiftare.

 

[Coola Ola]

Automationsparadoxen innebär att ju mer automatiserat något blir desto sämre blir operatören på att hantera "situationen" manuellt. Operatören får ju mindre och mindre träning i manuell drift.
Först (?) upptäckt på piloter.
Och det lär väl inte skilja på bilförare. Trist.

Finns förvisso mycket i dagens samhälle som är automatiserat och fungerar bättre så än när det var manuellt kontrollerat av en operatör.

Problemet här med Teslas självkörande system är att systemet bara hjälper till ”nästan”. Det klarar 98% av alla situationer så föraren vänjer sig vid det och när de sista 2% som kräver manuell kontroll inträffar så är föraren inte beredd.

Det är därför dessa ”mittemellan” självkörande systemen är så farliga. Det kombinerar det sämsta av två världar. Först när fullt autonoma L5-system som klarar 100% av alla situationer finns tillgängliga och den mänskliga föraren inte längre behövs kan man lita på självkörande bilar. Men det är långt framme ännu, säkert ett decennium.

 

[Coola Ola]

Det stora problemet är när ett företag släpper programvara fri att använda med denna typ av flagranta risker. Trots alla disclaimers och trots att vi pratar level 2 är det inte orimligt att företaget får bära ansvaret för de olyckor som drabbar tredje man - inte föraren. Nu avaktiverar man dessutom radarn från de tidigare levererade bilarna och förlitar sig enbart på kameror.

Andra stora aktörer förlitar sig på flera datakällor och nyttjar säkerligen AI för att utvärdera händelser. Men viktigast av allt - de gör inte oprövad teknik tillgänglig för kunderna att använda precis som de vill och därmed utsätta medtrafikanter för avsevärt ökade risker

Ja, Tesla beter sig synnerligen oansvarigt med avseende på hur de släpper ofärdig programvara att användas på allmänna vägar. Nu är väl förvisso reglerna i EU betydligt striktare än i USA så den självklara förmågan hos Teslorna är mer begränsade här men för mig är det fullständigt obegripligt att Tesla tillåts agera på det här sättet.

Säga vad man vill om Google/Alphabet i övrigt men deras självkörande teknikutvecklingsbolag Waymo verkar ha ett betydligt mer ansvarsfullt synsätt på hur de utvecklar sina system.

 

[SJP]

Automationsparadoxen innebär att ju mer automatiserat något blir desto sämre blir operatören på att hantera "situationen" manuellt. Operatören får ju mindre och mindre träning i manuell drift.
Först (?) upptäckt på piloter.
Och det lär väl inte skilja på bilförare. Trist.

Nej, det lär troligen vara värre bland gråa massan än utbildade piloter, troligen.

 

[notrightrider]

Automationsparadoxen innebär att ju mer automatiserat något blir desto sämre blir operatören på att hantera "situationen" manuellt. Operatören får ju mindre och mindre träning i manuell drift.
Först (?) upptäckt på piloter.
Och det lär väl inte skilja på bilförare. Trist.

Med AF 447 som skrämmande exempel!

(Pitotrör isar ihop pga dåligt väder och autopiloten kopplar därmed ur och låter piloterna flyga planet.)

Eller inte. Totalt 3 (tre!) piloter kan inte flyga planet de är satta att spaka.
Dom förstår inte att dom stiger - först. Dom fattar inte att dom faller som ett löv mot Atlanten, sedan.
Dom rasar ner i ett fritt fall, flyger inte ens längre utan ramlar ned i havet efter flera minuter av vimsande i cockpit.
3 piloter, ingen kan flyga ett plan.

Hade dom åtminstone haft en doftgran hängande i backspegeln så kunde dom sett vart dom var på väg.


Det finns såklart en massa skäl till att 228 människor omkom. Att 3 piloter inte kunde flyga är bara en av anledningarna.

Men, gränsytan mellan maskin och människa är dödlig.

The Long Way Down: The crash of Air France flight 447

The story of the infamous disappearance of an Airbus A330 over the Atlantic, and the fundamentally human mistakes which led to the tragedy.

admiralcloudberg.medium.com

 

[notrightrider]

Finns förvisso mycket i dagens samhälle som är automatiserat och fungerar bättre så än när det var manuellt kontrollerat av en operatör.

Problemet här med Teslas självkörande system är att systemet bara hjälper till ”nästan”. Det klarar 98% av alla situationer så föraren vänjer sig vid det och när de sista 2% som kräver manuell kontroll inträffar så är föraren inte beredd.

Det är därför dessa ”mittemellan” självkörande systemen är så farliga. Det kombinerar det sämsta av två världar. Först när fullt autonoma L5-system som klarar 100% av alla situationer finns tillgängliga och den mänskliga föraren inte längre behövs kan man lita på självkörande bilar. Men det är långt framme ännu, säkert ett decennium.

Ha ha - det sade man händelsvis för 10 år sedan: "Om 10 år, då är den självkörande bilen här."

Dagens katastofala förarbrist inom transportsektorn skapades just för 10 år sedan när alla - vare sig dom var insatta eller ej dödsäkert deklarerade att "om 10 år behövs inga chaufförer längre".

Alltså avrådde studievägledare kidsen från sådan utbildning, duktiga chaufförer slutade och i dag är det en samling pensionärer med bäst före-datumet långt bakom sig, och en massa öststatare som sköter de svenska inrikestransporterna.

För det är inget yrke att satsa på. "Om 10 år så..."

 

[Coola Ola]

Ha ha - det sade man händelsvis för 10 år sedan: "Om 10 år, då är den självkörande bilen här."

Dagens katastofala förarbrist inom transportsektorn skapades just för 10 år sedan när alla - vare sig dom var insatta eller ej dödsäkert deklarerade att "om 10 år behövs inga chaufförer längre".

Alltså avrådde studievägledare kidsen från sådan utbildning, duktiga chaufförer slutade och i dag är det en samling pensionärer med bäst före-datumet långt bakom sig, och en massa öststatare som sköter de svenska inrikestransporterna.

För det är inget yrke att satsa på. "Om 10 år så..."

Vet förvisso inte vem som på allvar sa att det skulle komma självkörande bilar inom tio för tio år sen förutom möjligen Elon Musk, men jag håller i övrigt med dig. Tror inte att fullt självkörande bilar är så nära som de flesta tror, vilket väl var min poäng med tioårsförutspåelsen, inte att det absolut kommer hända inom den perioden. Finns både tekniska och juridiska problem som ännu inte är lösta helt, och som i vissa avseenden kanske inte ens har någon självklar lösning.

Med det sagt tror jag ändå på en framtid med självkörande bilar förr eller senare, köra bil är ju det tråkigaste som finns så det slipper jag gärna.

 

[CFr]

Finns förvisso mycket i dagens samhälle som är automatiserat och fungerar bättre så än när det var manuellt kontrollerat av en operatör.

Problemet här med Teslas självkörande system är att systemet bara hjälper till ”nästan”. Det klarar 98% av alla situationer så föraren vänjer sig vid det och när de sista 2% som kräver manuell kontroll inträffar så är föraren inte beredd.

Det är därför dessa ”mittemellan” självkörande systemen är så farliga. Det kombinerar det sämsta av två världar. Först när fullt autonoma L5-system som klarar 100% av alla situationer finns tillgängliga och den mänskliga föraren inte längre behövs kan man lita på självkörande bilar. Men det är långt framme ännu, säkert ett decennium.

Vanlig automatisering bygger på att man har en ordnad, avgränsad och förutsägbar miljö som går att kontrollera på ett repeterbart sätt. Bilar befinner sig i en komplex miljö som inte är förutsägbar på det sättet. Med hjälp av maskininlärning har man idag kommit långt, som du är inne på, och man kommer nå allt längre, men det kommer sannolikt aldrig gå att att uppnå 100% förutsägbarhet.

Nu kan ju inte heller människan hantera komplexa situationer till 100%, men där har vi genom evolutionen fått en förståelse för våra egna tillkortakommanden och hur andra människor agerar. Dilemmat med självkörande bilar är att den andel av tillfällen när inte tekniken funkar inte alls följer samma mönster som våra egna tillkortakommanden och det gör problematiken svårlöst såväl praktiskt som moraliskt.

Vi kommer nog få leva med att det, särskilt i början, uppstår den typen av olyckor som i filmen i inledande inlägget och frågan är i vilken utsträckning människor kommer acceptera att det introduceras nya typer av risker som kan slå brutalt mot "oskyldiga" i situationer som människor annars hade kunnat hantera, mot att olycksfrekvensen generellt blir lägre.

Alternativet är att avgränsa miljön som självkörande bilar tillåts köra i för att få bort situationer som tekniken inte kan hantera, i det här fallet att förbjuda motorcyklar att köra där självkörande bilar får köra.

 

[Tegel1432]

Vanlig automatisering bygger på att man har en ordnad, avgränsad och förutsägbar miljö som går att kontrollera på ett repeterbart sätt. Bilar befinner sig i en komplex miljö som inte är förutsägbar på det sättet. Med hjälp av maskininlärning har man idag kommit långt, som du är inne på, och man kommer nå allt längre, men det kommer sannolikt aldrig gå att att uppnå 100% förutsägbarhet.

Nu kan ju inte heller människan hantera komplexa situationer till 100%, men där har vi genom evolutionen fått en förståelse för våra egna tillkortakommanden och hur andra människor agerar. Dilemmat med självkörande bilar är att den andel av tillfällen när inte tekniken funkar inte alls följer samma mönster som våra egna tillkortakommanden och det gör problematiken svårlöst såväl praktiskt som moraliskt.

Vi kommer nog få leva med att det, särskilt i början, uppstår den typen av olyckor som i filmen i inledande inlägget och frågan är i vilken utsträckning människor kommer acceptera att det introduceras nya typer av risker som kan slå brutalt mot "oskyldiga" i situationer som människor annars hade kunnat hantera, mot att olycksfrekvensen generellt blir lägre.

Alternativet är att avgränsa miljön som självkörande bilar tillåts köra i för att få bort situationer som tekniken inte kan hantera, i det här fallet att förbjuda motorcyklar att köra där självkörande bilar får köra.

Tror inte det spelar någon roll om vi får 100% förutsägbarheten i automationen eller inte. Huvudsaken är att slutresultatet blir säkrare än nuvarande. Det behöver inte vara absolut säkert. Andra fördelar är såklart den enorma tidsbesparingen och ökad effektivitet för människor. Jag jobbade som resande tekniker i många år och hade jag kunnat sova eller arbeta under resorna hade det gett mig enormt mycket.

Det som däremot oroar mig är frihetsaspekterna. Det ligger nog nära till hans att förbjuda vanlig körning när de självkörande är gott nog. Jag ser också en trend med att man inte själv äger sin bil. På sikt kan vi hamna i en situation där Statens Autonomous Drive AB bestämmer och övervakar hur folk får röra sig.

 

[CFr]

Tror inte det spelar någon roll om vi får 100% förutsägbarheten i automationen eller inte. Huvudsaken är att slutresultatet blir säkrare än nuvarande. Det behöver inte vara absolut säkert. Andra fördelar är såklart den enorma tidsbesparingen och ökad effektivitet för människor. Jag jobbade som resande tekniker i många år och hade jag kunnat sova eller arbeta under resorna hade det gett mig enormt mycket.

Det som däremot oroar mig är frihetsaspekterna. Det ligger nog nära till hans att förbjuda vanlig körning när de självkörande är gott nog. Jag ser också en trend med att man inte själv äger sin bil. På sikt kan vi hamna i en situation där Statens Autonomous Drive AB bestämmer och övervakar hur folk får röra sig.

Ja, det kommer ofrånkomligen leda till att staten kommer att både kunna och vilja begränsa hur fordon framförs jämfört med idag. Hart svårt att se att det finns något scenario som inte innebär att frihet under ansvar som princip gradvis minskar.

 

[BrooklynS]

Jag skulle tro att de allra flesta motorcyklister som blir påkörda bakifrån blir det av andra bilar än Teslor. Återigen en clickbait rubriksättning…

Självkörning utvecklas av väldigt många företag och den enda dödsolycka som en självkörande bil orsakade var väl den där Über-Volvon?

I typ samtliga fall där Tesla är inblandade så har de antingen inte haft AP inkopplat eller haft gasen på gaspedalen så att den inte bromsar.

I sista fakevideon hade de till och med manipulerat bort säkerhetsmeddelandet som kommer upp på displayen.

Det finns all anledning till att förhålla sig extra källkritiskt när det står ”Tesla” i rubriken…

 

[Tegel1432]

Det finns all anledning till att förhålla sig extra källkritiskt när det står ”Tesla” i rubriken…

Eftersom du kör den bilen och inte kan hantera kritik.