Noll vision - i praktiken

[Harmon Rabb]

Om Chalmarforskaren ovan:

"Han är docent vid Chalmers, har jobbat med it-säkerhet i 25 år och forskar specifikt på fordonssäkerhet" läste jag i en annan artikel när jag googlade hans namn. I den hade de hade hackat en bil utifrån och tagit över kontrollen av vissa system.

https://computersweden.idg.se/2.2683/1.658117/bilar-it-sakerhet-forskare

Det är ju bra att han varnar för säkerhetsbrister, men det är ju också en sådan sak som kan få sådana som honom att bli värvade för att just ta itu med den typen av problematik. Utan att veta närmare vad han gör exakt kan man ju tänka sig att han i egenskap av sin roll också kan ha ett stort intresse av att utveckligen av autonoma fordon tar fart.

Krönikören i engelska motortidningen är nog inne på rätt spår att det är ingenjörer, forskare och programmerare som driver på den här utvecklingen med autonoma fordon. Ingen vill hamna på efterkälken likt kapprustningen mellan stormakterna under kalla kriget. Vi får se vart det leder i slutändan. Om det är något som vi vill anamma oss i slutändan eller om man längst vägen kommer till andra slutsatser.

Att sitta passivt i en bil och vara beredd på att ingripa likt en trafikflygare. Det känns som att man lika gärna kan göra allt själv och vara involverad i processen.

Om det mot förmodan uppstår en situation där det är oundvikligt med en fatal olycka med fullt autonoma fordon. Helt säkert kommer det troligtvis aldrig att kunna bli. Hur ska prioriteringarna se ut? De egna passagerarna, motsatt fordon och dess passagerare eller de som är oskyddade gångtrafikanter om den på en bråkdel av en sekund kanske kan simulera alla tänkbara scenarion. T ex ena bilen kanske har högre säkerhet än den andra och man kan simulera utgången.

Är företagen helt bekväma med att ta på sig en roll som bödel den dagen vi inte längre sitter bakom ratten och tar eget personligt ansvar för vår roll i ett olycksscenario?

 

[MartinB]

Om Chalmarforskaren ovan:

"Han är docent vid Chalmers, har jobbat med it-säkerhet i 25 år och forskar specifikt på fordonssäkerhet" läste jag i en annan artikel när jag googlade hans namn. I den hade de hade hackat en bil utifrån och tagit över kontrollen av vissa system.

https://computersweden.idg.se/2.2683/1.658117/bilar-it-sakerhet-forskare

Det är ju bra att han varnar för säkerhetsbrister, men det är ju också en sådan sak som kan få sådana som honom att bli värvade för att just ta itu med den typen av problematik. Utan att veta närmare vad han gör exakt kan man ju tänka sig att han i egenskap av sin roll också kan ha ett stort intresse av att utveckligen av autonoma fordon tar fart.

Krönikören i engelska motortidningen är nog inne på rätt spår att det är ingenjörer, forskare och programmerare som driver på den här utvecklingen med autonoma fordon. Ingen vill hamna på efterkälken likt kapprustningen mellan stormakterna under kalla kriget. Vi får se vart det leder i slutändan. Om det är något som vi vill anamma oss i slutändan eller om man längst vägen kommer till andra slutsatser.

Att sitta passivt i en bil och vara beredd på att ingripa likt en trafikflygare. Det känns som att man lika gärna kan göra allt själv och vara involverad i processen.

Om det mot förmodan uppstår en situation där det är oundvikligt med en fatal olycka med fullt autonoma fordon. Helt säkert kommer det troligtvis aldrig att kunna bli. Hur ska prioriteringarna se ut? De egna passagerarna, motsatt fordon och dess passagerare eller de som är oskyddade gångtrafikanter om den på en bråkdel av en sekund kanske kan simulera alla tänkbara scenarion. T ex ena bilen kanske har högre säkerhet än den andra och man kan simulera utgången.

Är företagen helt bekväma med att ta på sig en roll som bödel den dagen vi inte längre sitter bakom ratten och tar eget personligt ansvar för vår roll i ett olycksscenario?

Får man inte supa som ensam person i ett förarlöst fordon är det meningslöst.

 

[Two stroke man]

En dator agerar ju rationellt även om det dödar föraren i fordonet.
En vanlig bilist kanske kör över skolklassen hellre än att köra in i fronten på en mötande Scania.

 

[RymdBörje]

Tycker den här Chalmersforskaren gör en viktig poäng:

http://www.gp.se/nyheter/ekonomi/så-kan-självkörande-bilar-bli-hacker-säkra-1.4651563

Läs detta om Toyota och programmering. Skräckläsning för den som är lekman och riktigt läskigt för den som har relevanta kunskaper.

Det är inte en fråga om utan när autonoma fordon börjar "improvisera" av vilken anledning det nu än kan vara. Med lite tur så går det inte så illa och har någon det, otur alltså kan det bli till att skrapa upp resterna.

 

[Harmon Rabb]

En dator agerar ju rationellt även om det dödar föraren i fordonet.
En vanlig bilist kanske kör över skolklassen hellre än att köra in i fronten på en mötande Scania.

Trots det makabra exemplet. Problemet är just att den agerar rationellt på ett förprogrammerat sätt. Hur vet vi att programmeringen har täckt alla tänkbara scenarion och tolkar situationen helt korrekt? En människa kanske har en lösning helt utanför boxen där programmeringen inte har räckt till.

 

[notrightrider]

Trots det makabra exemplet. Problemet är just att den agerar rationellt på ett förprogrammerat sätt. Hur vet vi att programmeringen har täckt alla tänkbara scenarion och tolkar situationen helt korrekt? En människa kanske har en lösning helt utanför boxen där programmeringen inte har räckt till.

Ja, eller där programmeringen väljer att offra dig för the greater good?

Självkörande bilar måste programmeras för att döda - men hur?

Rubriken är sanslös, men texten faktiskt ändå mer skrämmande:

Säg att en situation uppstår där din självkörande bil antingen kan köra in i två fotgängare varvid de dör men du överlever, eller in i en närliggande vägg varvid bara du dör.

https://www.va.se/nyheter/2015/10/29/sjalvkorande-bilar-maste-programmeras-for-att-doda---men-hur/



Det hela går att dra ett steg till: med Big Data kan din bil i framtiden även ha tillgång till din sjukjournal, känna till dina diagnoser - och din prognos.

Kan detta någon gång komma att vägas mot den prognos passagerarna i bilen som styrs rakt emot dig har? Deras liv mot ditt? Vem vinner...? Vem skall ges chans att leva vidare? Vem skall offras?
Vem bestämmer?

 

[Kratoz]

Det där "löste" ju Asimov för länge sedan i samlingen "I, Robot":
1. En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.
2. En robot måste lyda order från en människa, förutom om sådana order kommer i konflikt med första lagen.
3. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen.

och läser man novellerna fanns det ju inga problem med det...

Sedan tillkom lagen nedan i femte boken av Stiftelsetriologin(!?) :
0. En robot får inte genom handling, eller underlåtelse att handla, orsaka att mänskligheten skadas.

Alla Asimovs böcker kan förövrigt rekommenderas om man gillar Sci-Fi.

 

[RymdBörje]

Trots det makabra exemplet. Problemet är just att den agerar rationellt på ett förprogrammerat sätt. Hur vet vi att programmeringen har täckt alla tänkbara scenarion och tolkar situationen helt korrekt? En människa kanske har en lösning helt utanför boxen där programmeringen inte har räckt till.

Om det är ngt som datorer är kass på så är det att improvisera. Och egentligen vill vi väl inte att de skall göra det, improvisera alltså. Så lagom kul på banken, där personalen om man nu ens får träffa någon bara säger "men det är ju datorn som..." när man helt plötsligt inte har några pengar kvar.

 

[Harmon Rabb]

Ja, eller där programmeringen väljer att offra dig för the greater good?

Rubriken är sanslös, men texten faktiskt ändå mer skrämmande:

https://www.va.se/nyheter/2015/10/29/sjalvkorande-bilar-maste-programmeras-for-att-doda---men-hur/

Det hela går att dra ett steg till: med Big Data kan din bil i framtiden även ha tillgång till din sjukjournal, känna till dina diagnoser - och din prognos.

Kan detta någon gång komma att vägas mot den prognos passagerarna i bilen som styrs rakt emot dig har? Deras liv mot ditt? Vem vinner...? Vem skall ges chans att leva vidare? Vem skall offras?
Vem bestämmer?

Vem avgör som sagt vem som ska leva och vem som ska dö och kan vi förlika oss med den tanken att det är en programmerad algoritm som rangordnar diverse saker.

Den klassiska frågan vem läkaren ska rädda på operationsbordet om det står mellan dig och USA:s president. Ja, jag vet han är inte populär, men hans ämbete är. Vi kan nog alla misstänka vem som får prio 1.

Jag låter hellre läkaren göra avgörandet att rädda USA:s president framför mig än någon algoritm som rationellt offrar mitt liv där det inte ens som sagt är säkert att man har uttömt alla vägar. Jag tror inte att algoritmerna tänker alla tänkbara scenarion. Det är en människa som har programmerat dem från början och som vi alla vet är människan långt ifrån felfri. Jag kan förlåta en läkare som får ta ett beslut på ett ögonblick som sedan kan visa sig vara fel, men jag kan inte förlåta en algoritm som inte har täckt precis allt och är felfri.

Kanske är tärningen redan kastad och det är dit vi är påväg. Någon har bestämt att det är dit de vill föra utvecklingen. Den som lever får se.

 

[Two stroke man]

Trots det makabra exemplet. Problemet är just att den agerar rationellt på ett förprogrammerat sätt. Hur vet vi att programmeringen har täckt alla tänkbara scenarion och tolkar situationen helt korrekt? En människa kanske har en lösning helt utanför boxen där programmeringen inte har räckt till.

Tids nog kommer datorn göra det.
Och datorn får inte hjärnsläpp och sätter upp händerna för ögonen i en paniksituation.

Jag tror att redan nu har nog Teslas självkörande bilar bättre statistik än människor och då ska man beakta att utvecklingen precis börjat.

Hur rolig världen sen blir, ja det är en annan femma.

 

[Raderad medlem 51742]

Det som oroar mig är egentligen inte automatisering av trafiken i sig. Det är inte bara mängden mjukvara som påverkar våra liv som ökar i rasande takt (och därmed sannolikheten att buggar får allvarliga konsekvenser), utan även vår förmåga att genom bl.a. automatisering och förändrade arbetssätt inom kvalitetsarbetet kunna minska risken för fel. Vi blir allt bättre på det också, även om man kan fråga sig om utvecklingen går tillräckligt fort i förhållande till mängden mjukvara som produceras.

Det som oroar mig är hur en del icke insatta (politiker m.fl.) så huvudlöst vill springa in i "fjamtiden" och tänker att allt det där kommer lösa sig av sig självt. Det kommer det inte att göra. För att skapa bra och säkra system kan vi inte bara tänka att vi skall ersätta människan och att resten löser sig, vi behöver medvetet tänka på hur vi inkluderar människan i systemen så teknik-människa samverkar på ett optimalt sätt.

Det finns många brister hos människan och idag kan automatisering, AI m.m. komplettera oss genom att vara bättre på att lösa en del problem. Tidigare var det bara de mest enkla problemen (de som följer en förutbestämd rutin/process/regelverk) som kunde automatiseras, men även allt mer inom det komplicerade området (som kräver analys och/eller expertkunskap) kan nu ersättas av mjukvara. Svårigheten uppstår när vi behöver lösa s.k. komplexa problem, där det inte går att se ett tydligt samband mellan orsak-verkan förrän först i efterhand och där man behöver experimentera och lära sig för att hitta rätt lösning. Även om utvecklingen inom AI och s.k. maskininlärning går framåt snabbt är vi människor ännu låååångt före maskinerna när det gäller förmågan att lösa komplexa problem och så kommer det vara inom överskådlig framtid.

Ett säkert trafiksystem använder teknik/automatisering för att stödja människan och lösa de enkla, repetitiva och komplicerade problemen, men kan aldrig exkludera människan helt, annat än om vi lyckas skapa så pass förutsägbara trafikmiljöer att vi kan eliminera all komplexitet. Människan behövs för att lösa de komplexa problemen, när vi motorcyklister hamnar bland älgar, barnvagnar och fotgängare. Det är därför nollvisionen, i synnerhet ur ett framtidsperspektiv är fel väg att gå.

 

[notrightrider]

Jag kan förlåta en läkare som får ta ett beslut på ett ögonblick som sedan kan visa sig vara fel, men jag kan inte förlåta en algoritm som inte har täckt precis allt och är felfri.

Preciis det scenariot tas upp i en av de artiklar som är upphovet till Veckans Affärers artikel ovan:

Human drivers may be forgiven for making an instinctive but nonetheless bad split-second decision, such as swerving into incoming traffic rather than the other way into a field. But programmers and designers of automated cars don’t have that luxury, since they do have the time to get it right and therefore bear more responsibility for bad outcomes.

https://www.theatlantic.com/technology/archive/2013/10/the-ethics-of-autonomous-cars/280360/




Vi rör oss - faktiskt - fortfarande i och omkring ämnet "Noll Vision".
Dock mer insiktsfullt och intressant än vad man upplever att den allmänna debatten i samhället gör - och avsevärt mer initierat än Trafikverket, som ju borde vara den institution i Sverige som reste frågan och höll debatten levande.

Tack för det, Sporthoj!

 

[Raderad medlem 51742]

Vi rör oss - faktiskt - fortfarande i och omkring ämnet "Noll Vision".
Dock mer insiktsfullt och intressant än vad man upplever att den allmänna debatten i samhället gör - och avsevärt mer initierat än Trafikverket, som ju borde vara den institution i Sverige som reste frågan och höll debatten levande.

Tack för det, Sporthoj!

Sporthoj har helt klart börjat utforska en ny dimension som ger idéer om automatisering inom helt oväntade områden. Sveriges Radio P1 ersätts av en talsyntes som läser de senaste inläggen härifrån.

 

[BrooklynS]

Sporthoj har helt klart börjat utforska en ny dimension som ger idéer om automatisering inom helt oväntade områden. Sveriges Radio P1 ersätts av en talsyntes som läser de senaste inläggen härifrån.

Den gamla klassikern: Vid kupp ersätts radioutsändningarna med tidigare inspelade sådana, som då naturligtvis inte innehåller något värt att veta...

Ungefär som reklamradion hela tiden med andra ord.

 

[Old Badger]

Vi vet redan nu att människors liv inte är lika mycket värda. Tragikvärket räknar med att 80 bilisters liv räddas med deras räcken. Att människor dör tack vare deras räcken gör inte så mycket eftersom det aldrig blir mer än 80 motorcyklister som dör i deras räcken...

Varför skulle självkörande bilar vara annorlunda? Om några motorcyklister dör när långt fler bilisters liv räddas?

 

[Niklasinorr]

Vi vet redan nu att människors liv inte är lika mycket värda. Tragikvärket räknar med att 80 bilisters liv räddas med deras räcken. Att människor dör tack vare deras räcken gör inte så mycket eftersom det aldrig blir mer än 80 motorcyklister som dör i deras räcken...

Varför skulle självkörande bilar vara annorlunda? Om några motorcyklister dör när långt fler bilisters liv räddas?

Allting handlar precis som du säger om prioritet där några få motorcyklister offras eftersom majoriteten i bilarna räddas. Sen att man bara genom att utforma räcken rätt ÄVEN kan rädda de flesta motorcyklisterna spelar ingen roll eftersom man då är inne på det som ämnet egentligen handlar om, nämligen pengar...

 

[Niklasinorr]

Sen tror jag ärligt talat att de flesta bilisterna faktiskt välkomnar autonoma fordon. De flesta (väldigt stor mängd skulle jag tro) tycker att bilien bara är ett hinder för dem att använda telefonen (ungdomar) eller något nödvändigt ont (Nisse som är ointresserad av bilar, han vill bara komma till jobbet).
Jag tror att de flesta bilisterna som kör till jobbet på morgonen hellre skulle åka kommunalt om det bara var de själva i bussen/spårvagnen/tunnelbanan och att de slapp alla andra människor...

 

[Two stroke man]

Sen tror jag ärligt talat att de flesta bilisterna faktiskt välkomnar autonoma fordon. De flesta (väldigt stor mängd skulle jag tro) tycker att bilien bara är ett hinder för dem att använda telefonen (ungdomar) eller något nödvändigt ont (Nisse som är ointresserad av bilar, han vill bara komma till jobbet).
Jag tror att de flesta bilisterna som kör till jobbet på morgonen hellre skulle åka kommunalt om det bara var de själva i bussen/spårvagnen/tunnelbanan och att de slapp alla andra människor...

Och busstid on demand.

Jag skulle gärna ha en dator som körde min bil så att jag kunde krypa upp i kojen och sova. Och när jag vaknar morgonen efter är jag framme.

 

[Harmon Rabb]

Jag tror att de flesta bilisterna som kör till jobbet på morgonen hellre skulle åka kommunalt om det bara var de själva i bussen/spårvagnen/tunnelbanan och att de slapp alla andra människor...

Det kan jag mycket väl tänka mig. Låter väldigt fint, men jag tror inte att det är så det är tänkt att fungera i slutändan. Vad säger att vi kommer att äga egna fordon? Vi lever i en allt mer delad ekonomi.

Hade du velat dela en autonom bil med massor med andra människor om man nu tänker sig att man vill begränsa antalet fordon. Då behövs färre parkeringsplatser och man kan förtäta ännu mera i stadskärnorna på attraktiv mark. Man kan optimera antalet fordon så att en autonom bil kör fram till dig vid behov och lämnar dig där du vill åka. Ungefär som en taxi fast ingen förare som ser till att bilen är fräsch när den lämnas och den åker vidare till nästa. Där har ett någon suttit och grisat ner och tagit lite sprutor som han lämnat. Nästan som en offentlig toalett som är obevakad. Den brukar inte vara särskilt fräsch. Någon som tittar till den lite då och då.

 

[Hoztic]

Det kan jag mycket väl tänka mig. Låter väldigt fint, men jag tror inte att det är så det är tänkt att fungera i slutändan. Vad säger att vi kommer att äga egna fordon? Vi lever i en allt mer delad ekonomi.

Hade du velat dela en autonom bil med massor med andra människor om man nu tänker sig att man vill begränsa antalet fordon. Då behövs färre parkeringsplatser och man kan förtäta ännu mera i stadskärnorna på attraktiv mark. Man kan optimera antalet fordon så att en autonom bil kör fram till dig vid behov och lämnar dig där du vill åka. Ungefär som en taxi fast ingen förare som ser till att bilen är fräsch när den lämnas och den åker vidare till nästa. Där har ett någon suttit och grisat ner och tagit lite sprutor som han lämnat. Nästan som en offentlig toalett som är obevakad. Den brukar inte vara särskilt fräsch. Någon som tittar till den lite då och då.

Och det där fungerar ju bara för dom som åker inom tullarna i Sveriges större städer, och helst om inte alla ska åka samtidigt så klart, och att flera i samma område har arbeten som ligger i närheten av varandras. Det funkar ju lite sådär på sommarsemestern, när man spontant vill åka och handla eller drar iväg ut och fiskar.

Det känns som att mycket av debatten kring modern trafik och transporter är pendling inom små områden, och på standardiserade vägar, typ pendling. Hur bra är en självkörande bil på att köra in på en liten grusväg in till en fiskesjö utan adress? Eller haka på ett släp och ta ett varv genom Byggmax och sedan backa in det på min tomt?