Sverige idag..

[Tegel1432]

Ingen vinner ju på om det blir en kapprustning (jfr "prisoners dilemma"). Det finns ju väldigt många av de främsta forskarna och experterna på AI-risker som är rejält bekymrade och menar att vi på allvar måste börja forma utvecklingen på ett vettigt sätt. Det handlar ju inte om att stoppa det helt, utan snarare dämpa det värsta racet och skapa styrande principer så att vi kan köpa oss lite tid till att på allvar få igång arbetet med att hantera de största riskerna - så att vi kan få en utveckling där vi fullt ut kan skapa nytta för mänskligheten med tekniken.

När jag läser och lyssnar till de människor som jag bedömer som bland de smartaste och kunnigaste på jorden inom t ex psykologi, neurovetenskap, AI och dess påverkan på samhället osv. och som jag följt i många år och hur hör de betonar allvaret i detta mer än jag hade förväntat mig tycker jag det finns anledning att haja till.

Just nu handlar det ju inte främst om frågan ifall AI på sikt tar kål på mänskligheten utan om det som ligger närmare och även här och nu, som tvåtaktarn är inne på. Vad händer t ex med samhället och demokratin när det går att i stor skala manipulera människor, det inte längre går att lite på information och tilliten mellan människor försvinner? Vad händer med människors lärande och utveckling när vi får allt serverat utan att behöva anstränga oss och successivt bygga egna förmågor? Vad händer när många jobb på mycket kort tid blir överflödiga, även de som ger människor glädje och mening? När tunga fysiska och monotona jobb kunde ersättas av maskiner kunde vi ersätta dem med jobb där vi använder våra hjärnor, men vad har vi för jobb att gå till när våra hjärnor blir överflödiga?

Max Tegmark tycker jag är en mycket klok person att lyssna på i sammanhanget:

Det är klart det finns risker men kineserna och ryssarna slutar inte för att vi gör det. Bättre att ta täten sätta agendan. Man kommer inte lyckas reglera AI utan att kontrollera all IT. Då behövs AI för kontrollen. Nej, staten ska ge fan i detta.

 

[Markus]

Ja. Riktigt insatt? Nej, men väldigt intresserad.

Har du utbildning i AI?

 

[Raderad medlem 51742]

Det är klart det finns risker men kineserna och ryssarna slutar inte för att vi gör det. Bättre att ta täten sätta agendan. Man kommer inte lyckas reglera AI utan att kontrollera all IT. Då behövs AI för kontrollen. Nej, staten ska ge fan i detta.

Så vi skall bara fortsätta låta det löpa på och hoppas på det bästa, ungefär som med kärnvapenkapprustningen men på steroider och med exponentiell utveckling?

Max Tegmarks argument är iaf att om det är någon gång vi har chansen att ta kontroll över utvecklingen så är det just nu, när fria och demokratiska länder trots allt har ett försprång jämfört med Kina i den främsta AI-utvecklingen. Senare kan den chansen vara förbi för alltid. Han menar också att vi inte skall utesluta att det även går att Kina kan underställa sig regleringar. Det gjorde de ju t ex till slut när det gäller mänsklig kloning. Även kärnvapenkapprustningen fick ju till slut en vändning i bättre riktning efter att det var riktigt nära att allt gick åt skogen när det var som värst under kalla kriget, även om den frågan förstås i allra högsta grad är aktuell fortfarande och en av de största och viktigaste riskerna för mänskligheten att hantera.

Men tekniker som potentiellt kan få förödande konsekvenser om de hanteras fel behöver regleras. Ingen ifrågasätter att man behöver körkort för att köra bil, eller att inte vem som helst får ratta ett trafikflygplan. Likaledes skulle ingen acceptera att vem som helst skulle kunna få tillgång till teknik och kunskap för att utveckla kärnvapen eller biologiska vapen. Sånt där löser sig liksom inte bara av sig själv om alla får göra som de vill, särskilt inte när det finns incitament som leder till scenarion där man måste satsa för att vinna och den spelare som agerar ansvarsfullt hamnar efter - ett race to the bottom.

 

[Tegel1432]

Så vi skall bara fortsätta låta det löpa på och hoppas på det bästa, ungefär som med kärnvapenkapprustningen men på steroider och med exponentiell utveckling?

Max Tegmarks argument är iaf att om det är någon gång vi har chansen att ta kontroll över utvecklingen så är det just nu, när fria och demokratiska länder trots allt har ett försprång jämfört med Kina i den främsta AI-utvecklingen. Senare kan den chansen vara förbi för alltid. Han menar också att vi inte skall utesluta att det även går att Kina kan underställa sig regleringar. Det gjorde de ju t ex till slut när det gäller mänsklig kloning. Även kärnvapenkapprustningen fick ju till slut en vändning i bättre riktning efter att det var riktigt nära att allt gick åt skogen när det var som värst under kalla kriget, även om den frågan förstås i allra högsta grad är aktuell fortfarande och en av de största och viktigaste riskerna för mänskligheten att hantera.

Men tekniker som potentiellt kan få förödande konsekvenser om de hanteras fel behöver regleras. Ingen ifrågasätter att man behöver körkort för att köra bil, eller att inte vem som helst får ratta ett trafikflygplan. Likaledes skulle ingen acceptera att vem som helst skulle kunna få tillgång till teknik och kunskap för att utveckla kärnvapen eller biologiska vapen. Sånt där löser sig liksom inte bara av sig själv om alla får göra som de vill, särskilt inte när det finns incitament som leder till scenarion där man måste satsa för att vinna och den spelare som agerar ansvarsfullt hamnar efter - ett race to the bottom.

Ja, jag tycker det ska löpa på.

Gällande dina paralleller till kärnvapen så har ryssen mest och antagligen mer än vad vi tror. Sannolikt är det samma som kommer hända med AI.

Reglering kommer göra de mörka krafterna starkare medan de ljusa hålls tillbaka.

 

[Raderad medlem 51742]

Ja, jag tycker det ska löpa på.

Gällande dina paralleller till kärnvapen så har ryssen mest och antagligen mer än vad vi tror. Sannolikt är det samma som kommer hända med AI.

Reglering kommer göra de mörka krafterna starkare medan de ljusa hålls tillbaka.

Ok, ja där kan jag nog bara konstatera att vi har fundamentalt olika uppfattning.

 

[Tegel1432]

Ok, ja där kan jag nog bara konstatera att vi har fundamentalt olika uppfattning.

Ja, jag tror vi landar i det helt enkelt. Inget fel med det.

 

[zoda]

Får jag ha en apelsin eller en kniv så får jag väl ha kärnvapen. Varken apelsinen, kniven eller kärnvapnet skadar någon när de ligger i byrålådan-
Är väl användandet som är farligt och i fallet kärnvapen så är oskyldiga offer ofrånkomliga och då ska jag naturligtvis straffas för det.

I övrigt så regleras det, om det regleras, helt frivilligt. Vi kan komma överens om att ingen ska ha kärnvapen tex.

 

[Raderad medlem 51742]

Får jag ha en kniv så får jag väl ha kärnvapen. Varken kniven eller kärnvapnet skadar någon när de ligger i byrålådan-
Är väl användandet som är farligt och i fallet kärnvapen så är oskyldiga offer ofrånkomliga och då ska jag naturligtvis straffas för det.

I övrigt så regleras det, om det regleras, helt frivilligt. Vi kan komma överens om att ingen ska ha kärnvapen tex.

Hur menar du att det annars skulle regleras när det är flera länder inblandade, om inte just frivilligt, genom att man gör överenskommelser och sedan sätter upp mekanismer så att de efterlevs?

Jag avundas din tilltro till människan godhet och rationella handlande.

 

[zoda]

Hur menar du att det annars skulle regleras när det är flera länder inblandade, om inte just frivilligt, genom att man gör överenskommelser och sedan sätter upp mekanismer så att de efterlevs?

Njae vetefan om det är det jag menar.
Att EU bestämmer om x, y, z och AI är inte något som sker frivilligt. Jag har inte gett EU rätten att företräda mig. De får såklart reglera det om de vill och regleringarna gäller då dom som frivilligt är med på tåget.

Jag avundas din tilltro till människan godhet och rationella handlande.

Njae inte riktigt så.
Mer så att omoraliska typer kommer att stötas ut och diskrimineras, de kommer inte kunna leva på bidrag och de kommer inte kunna idka handel(nu lever vi i en fantasi, världegrundvärld där detta tyvärr inte ens är tillåtet). Man tjänar mer på ömsesidig handel och gemensamt utbyte med varandra än att vara fiender.

Jag personligen kommer välja självmant att inte äga kärnvapen för att det är omoralisk och jag kommer då ses som en riktig jävla idiot av andra och de kommer inte vilja ha med mig att göra. Jag kommer att lämnas åt mitt öde.

 

[Raderad medlem 51742]

Den här videon är också relevant i sammanhanget:

Tristan Harris and Aza Raskin discuss how existing A.I. capabilities already pose catastrophic risks to a functional society, how A.I. companies are caught in a race to deploy as quickly as possible without adequate safety measures, and what it would mean to upgrade our institutions to a post-A.I. world. This presentation is from a private gathering in San Francisco on March 9th with leading technologists and decision-makers with the ability to influence the future of large-language model A.I.s. This presentation was given before the launch of GPT-4.

 

[zoda]

Den här videon är också relevant i sammanhanget:

Tycker jag känner igen honom från någon JRE som jag har för mig jag tyckte var bra.

 

[Raderad medlem 51742]

Tycker jag känner igen honom från någon JRE som jag har för mig jag tyckte var bra.

Stämmer

 

[Ulvhamne]

Det är omöjligt att stoppa tillbaka anden i flaskan. ML-anden har väl och grundligt flytt flaskan för många år sedan, och kommer aldrig kunna stoppas tillbaka. Regleringar kommer inte stoppa utvecklingen heller, bara se till att de mest skrupelfria är de som tar det vidare.
NN kommer inte bli mycket mer än vad vi ser nu, och kommer aldrig bli AGI, och kommer aldrig bli en feedbackloop, det kommer vara någon annan teknik som för tillfället inte hörs något av eftersom att alla är så upptagna med GPT och andra NN.

 

[Raderad medlem 51742]

Det är omöjligt att stoppa tillbaka anden i flaskan. ML-anden har väl och grundligt flytt flaskan för många år sedan, och kommer aldrig kunna stoppas tillbaka. Regleringar kommer inte stoppa utvecklingen heller, bara se till att de mest skrupelfria är de som tar det vidare.
NN kommer inte bli mycket mer än vad vi ser nu, och kommer aldrig bli AGI, och kommer aldrig bli en feedbackloop, det kommer vara någon annan teknik som för tillfället inte hörs något av eftersom att alla är så upptagna med GPT och andra NN.

Det handlar inte om att stoppa tillbaka anden i flaskan. Det handlar om att skapa förutsättningar så det går att få större fokus på en ansvarsfull utveckling.

 

[Tegel1432]

Det handlar inte om att stoppa tillbaka anden i flaskan. Det handlar om att skapa förutsättningar så det går att få större fokus på en ansvarsfull utveckling.

Kan du ge förslag på hur man i praktiken kan reglera användning och utveckling av mjukvara så de endast används för goda syften? Tycker mest jag ser långt text om hur man vill att det ska vara men inget om hur det fungerar i praktiken.

 

[Raderad medlem 51742]

Kan du ge förslag på hur man i praktiken kan reglera användning och utveckling av mjukvara så de endast används för goda syften? Tycker mest jag ser långt text om hur man vill att det ska vara men inget om hur det fungerar i praktiken.

Kolla båda videoklippen jag länkade till.

 

[Tegel1432]

Kolla båda videoklippen jag länkade till.

Det kan jag göra. Är det så att du till 100% står för samma åsikter som i klippen?

 

[Raderad medlem 51742]

Det kan jag göra. Är det så att du till 100% står för samma åsikter som i klippen?

Det är omöjligt att stå för 100% av vad någon annan tycker, men när det gäller riskerna med AI presenterar den andra videon med Tristan Harris detta mycket mer effektivt än vad jag någonsin skulle kunna göra. Den första videon med Max Tegmark går mer på bredden och på djupet och han är dessutom en av de främsta forskarna i världen inom området, just nu verksam på MIT. Lex Fridman som kör podcasten forskar för övrigt också inom AI på MIT.

Kolla om du tycker det är intressant, annars inte.

Skall jag försöka sammanfatta vad båda videorna tar upp kring vad som kan göras är det att satsa på att öka forskningen kring riskerna, göra samhället mer medvetna om dem och samtidigt reglera för att få ned takten på utvecklingen inom vissa områden (bl.a. LLM) för att öka möjligheterna för balanserande åtgärder (som delvis också kräver AI) att få bättre odds innan det spårar ur.

Men det skall också sägas att det är ett mycket komplext problem. När det gäller de senaste språkmodellerna som GPT-4 kan forskarna och de som utvecklat dem idag inte ens förklara hur de fungerar (t ex när det gäller vissa emergenta egenskaper som man inte hade förväntat sig) än mindre förutspå hur de kommer utvecklas framåt, annat än att det går exponentiellt.

 

[Tegel1432]

Det är omöjligt att stå för 100% av vad någon annan tycker, men när det gäller riskerna med AI presenterar den andra videon med Tristan Harris detta mycket mer effektivt än vad jag någonsin skulle kunna göra. Den första videon med Max Tegmark går mer på bredden och på djupet och han är dessutom en av de främsta forskarna i världen inom området, just nu verksam på MIT. Lex Fridman som kör podcasten forskar för övrigt också inom AI på MIT.

Kolla om du tycker det är intressant, annars inte.

Skall jag försöka sammanfatta vad båda videorna tar upp kring vad som kan göras är det att satsa på att öka forskningen kring riskerna, göra samhället mer medvetna om dem och samtidigt reglera för att få ned takten på utvecklingen inom vissa områden (bl.a. LLM) för att öka möjligheterna för balanserande åtgärder (som delvis också kräver AI) att få bättre odds innan det spårar ur.

Men det skall också sägas att det är ett mycket komplext problem. När det gäller de senaste språkmodellerna som GPT-4 kan forskarna och de som utvecklat dem idag inte ens förklara hur de fungerar (t ex när det gäller vissa emergenta egenskaper som man inte hade förväntat sig) än mindre förutspå hur de kommer utvecklas framåt, annat än att det går exponentiellt.

Jag får kika på det imorgon då det helt klart är intressant. Fundera gärna på vilket sätt man kan reglera mjukvara utan väldigt ingripande åtgärder.

 

[sportbilsentusi]

Kolla båda videoklippen jag länkade till.

Intressant men 4tim kommer ta tid att se igenom.
Jag har en av mina utvecklare dedikerad till just AI.