Hur kan sparvar kontrollera en uggla?

Nick Bostroms Superintelligens: vägar, faror, strategier lär vara boken man måste läsa när det gäller existentiella risker med artificiell superintelligens. Man skulle kunna hävda att scenarier med artificiell intelligens som löper amok är science fiction-fantasier som, om de någonsin kommer att bli en verklig risk, ligger långt in i framtiden. Det vet vi dock egentligen inte så mycket om, och även om det skulle vara så att det inte är något som kommer att bli aktuellt de närmaste hundra åren så är det högst rimligt att ta frågan på allvar och börja fundera över den redan nu.

Blogginläggets rubrik syftar på en kort oavslutad fabel som Bostrom inleder sin bok med. Fabeln handlar om några sparvar som kommer på att det skulle vara förträffligt om de hade en uggla som kunde ta hand om dem, bygga deras bon och skydda dem mot faror. De inleder därför försök att införskaffa ett uggleägg eller en liten uggleunge. En vresig gammal sparv invänder dock att innan man skaffar sig en uggla bör man säkerställa att man faktiskt kan kontrollera den. Kontrollproblemet är också centralt i Bostroms bok. Hur ska sparvarna (mänskligheten) kunna kontrollera ugglan (den artificiella superintelligensen som vi nog en dag, högst oklart när, kommer att skapa)?

Bostrom argumenterar övertygande för att när vi väl får artificiell superintelligens kan det komma att ske mycket snabbt, närmast explosionsartat, när vår skapelse väl kan börjar använda sina resurser för att förbättra sig själv. Och när den artificiella superintelligensen väl fått övertaget talar det mesta för att den kommer att vara en ohotad hegemon som med lätthet kommer att kunna göra sig av med mänskligheten om den så önskar, vilket den skulle om vi på något sätt står i vägen för dess slutmål. Och stå i vägen för dess slutmål skulle vi göra även om det rör sig om så banala saker som att räkna ut decimalerna i pi eller tillverka så många gem som möjligt. Mänskligheten upptar ju bland annat resurser som skulle kunna användas för att skapa mer beräkningskraft eller tillverka fler gem. Att försöka få in mänsklighetens välgång i superintelligensens slutmål är heller inte det lättaste, ty slutmålen kan lätt perverteras. Ett slutmål att göra mänskligheten lycklig kan exempelvis resultera i att superintelligensen helt enkelt planterar elektroder i människornas lustcentrum.

När det gäller kontrollproblemet föreslår Bostrom en rad åtgärder, av vilka alla har sina nackdelar och svaga punkter. Och om simpla människor kan se möjliga vägar förbi säkerhetsåtgärderna, vad ska då inte en vida överlägsen superintelligent artificiell intelligens kunna göra? Kanske är nyckeln att reducera riskerna genom designval, såsom att istället för att skapa en agent låta superintelligensen vara någon form av orakel som enbart besvarar frågor eller endast fungera som ett verktyg för oss människor. Det är dock inte så enkelt som man först skulle kunna tro och de olika designvalen är i slutändan inte skarpt avgränsade mot varandra.

Det går inte att komma ifrån att superintelligensen på något vis måste laddas med värden vilket kommer att vara en mycket stor utmaning. Det går knappast att skriva ned värdena i datakod utan värden är något den artificiella intelligensen troligen först kan omfamna fullt ut när den tagit språnget ikapp och förbi människan, och då kan det mycket väl vara för sent att ändra på något eftersom den artificiella intelligensen sannolikt kommer att motsätta sig att man ändrar på dess slutmål. Bostrom diskuterar i boken ett antal olika metoder för värdeladdning, men precis som med säkerhetsåtgärderna har var och en av dem sina möjliga baksidor och svagheter.

Skulle man lyckas lösa värdeladdningsproblemet så återstår frågan vilka värden den artificiella superintelligensen bör laddas med. Man kan ju leka med tanken att värdeladdningen av superintelligensen hade skett i någon tidsepok när man hade helt andra värderingar än nu för att inse att vår moraluppfattning av framtida människor nog kommer att anses vara förkastlig i vissa avseenden. Kanske är lösningen att ge den artificiella intelligensen slutmålet att förverkliga vår koherenta extrapolerade vilja, vår vilja såsom den skulle komma till uttryck hos en idealiserad version av mänskligheten.

Det finns många anledningar till att det är viktigt att börja fundera över implementationen av artificiell superintelligens så tidigt som möjligt. Även om skapandet av en artificiell superintelligens skapar en existentiell risk så minskar den samtidigt andra risker markant. Dock kan vissa teknologier kanske göra att vi har större möjligheter att minimera riskerna med superintelligensen och det skulle därför vara önskvärt att vi anammade dem först. Det kan därför vara avgörande i vilken ordning nya teknologier utvecklas av mänskligheten.

I bokens sista kapitel argumenterar Bostrom slutligen för att vi bör förbereda oss genom att förbättra vår strategiska analys och bygga upp kapacitet för att möta det som måste anses vara mänsklighetens mest betydelsefulla utmaning, där vi antingen förgörs av vår skapelse eller går en lysande framtid till mötes.

       

       

Transhumanismen och dess kritiker

Som alla andra moderna pappor är jag numera hemma med min lille gosse om dagarna. På de flesta sätt är väl vår vardag som andras med sysslor såsom blöjbyten och barnvagnspromenader. Vi har dock, i alla fall för ett slag, valt att vända de öppna förskolorna ryggen då vi funnit att de med sina infantila sånger om spindlar i regnoväder och andra tramsigheter blott avspegla samtidens enfald. Istället har jag och min pojke fäst blicken vid horisonten och fördjupat oss i en framåtblickande idéströmning som andas science fiction, nämligen transhumanismen. Kortfattat kan man säga att transhumanisterna menar att vi både kan och bör använda olika teknologier, exempelvis genteknik och informationsteknologi, för att förbättra oss människor fysiskt, intellektuellt och psykiskt samt för att förlänga våra liv.

Vi har valt att inleda vårt utforskande av transhumanismen med antologin H± Transhumanism and its critics som jag funnit via en recension på bloggen Häggström hävdar. Som namnet antyder så låter man i boken inte bara ideologins förespråkare komma till tals, utan även dess kritiker.

Då jag är lite intresserad av konspirationsteorier så är det faktiskt främst i det sammanhanget jag tidigare kommit i kontakt med transhumanismen. Den grupp av människor som ser konspirationer i allt brukar nämligen ofta mena att även transhumanismen är en del i den stora planen att förslava mänskligheten. Det är dock inte den sortens kritiker som kommer till tals i H± Transhumanism and its critics utan det är personer med lite olika bakgrund; såsom filosofer, teologer och sociologer.

Ett genomgående problem i texterna som kritiserar transhumanismen, och för all del i viss utsträckning i de som försvarar den, är att det är att det är ganska svårt att säga exakt vad transhumanismen står för. Det gäller väl i och för sig alla idéströmningar men det torde särskilt gälla en färsk sådan som transhumanismen, en ideologi som kanske ännu inte funnit sina former.

I en text argumenterar filosofen Mark Walker för att transhumanismen och skapandet av en ny sorts människor som är smartare, lever längre och är mer moraliska är det bästa valet. De människorna står nämligen bäst rustade att tackla de utmaningar vi står inför och det är faktiskt mer riskabelt att inte genomföra den förändringen av mänskligheten än att så göra. När jag läser hans text kan jag dock inte låta bli att tänka en kritisk tanke. Låt oss säga att vi hade möjlighet att öppna en stjärnport ur vilken det skulle komma invaderande utomjordingar som liknade oss men var smartare, mer långlivade och mer moraliska. Skulle verkligen Walker även se en sådan invasion som önskvärd och öppna stjärnporten? Måhända är tankeexperimentet med en invasion orättvist på grund av de krigiska antydningarna men utfallet blir ju trots allt detsamma.

Ett annat problem med transhumanismens genomförande som bara bemöts i förbifarten i en text av transhumanisten Nick Bostrom är att det ju ofta förefaller oundvikligt att nästa generation med barn vid någon tidpunkt programmeras genetiskt snarare än att man avlar fram dem naturligt och låter dem delta i det genetiska lotteriet. Bostrom skriver:

if the alternative to parental choice in determining the basic capacities of new people is entrusting the child´s welfare to nature, that is, blind chance, then the decision should be easy. Had Mother Nature been a real parent, she would have been in jail for child abuse and murder. And transhumanists can accept, of course, that just as society may in exceptional circumstances override parental autonomy, such as in cases of neglect or abuse, so do too may society-imposed regulations to protect the child-to-be from genuinely harmful genetic interventions – but not because they represent choice rather than chance.

(G.R. Hansell, W. Grassie, N Bostrom m fl (2011), H± Transhumanism and its critics, s. 63)

Är dock inte det genetiska lotteri vi idag “utsätter” barnen för egentligen ett förhållandevis förutsägbart lotteri? Det är ju ändå ett lotteri som pågått i miljarder år och i vilket vi trots allt inte riskerar några större obehagliga överraskningar.

Avslutningsvis kan man konstatera att transhumanisternas texter i antologin överlag är mer stringenta och tydliga än kritikernas men man kan inte låta bli att undra hur det skall gå om transhumanisternas högtflygande idéer en dag får möta den komplexa och svårförutsägbara verkligheten.

Transhumanism & its critics

Intressant? Läs även andra bloggares åsikter om , , , , , , .

       

       

Gott danskt skitöl

Under sommarens andra halva gjorde jag ett flertal resor till Köpenhamn. Varje resa plockade jag på hemfärden med mig ett par flaskor dansk mikrobryggd öl som jag omsorgsfullt lindat in i mina skitiga kalsonger eftersom jag ville undvika att någon ovarsam bagagehanterare på flygplatsen krossade dem.

Denna helg var det dags att dricka den sista av mina privatimporter, Hr. Frederiksen Væsel Brunch, en blandning av två av Danmarks bästa imperial stouts. När jag inför drickandet gjorde lite research på det jag skulle inmundiga blev jag dock förfärad. Att jag slagit in drycken i mina bromsspårskalsonger skulle visa sig vara synnerligen passande när allt kom omkring. Ölet innehöll nämligen kaffebönor som passerat matsmältningssystemet på ett djur av arten indisk palmmård. Det finns tydligen en typ av exklusivt kaffe, Kopi Luwak, som produceras just genom att man matar det nämnda djuret med de allra finaste kaffebönorna och sedan ”skördar” de utskitna kaffebönorna ur spillningen. Den indiska palmmårdens magenzymer påstås lyfta kaffets smak. Man kan undra hur det gick till när någon kom på den bisarra idén för första gången.

Detta exotiska kaffe hade alltså tillsatts i den öl jag köpt. Tydligen hade jag dessutom kommit över en specialversion av ölet som det blott producerats 200 flaskor av och som innehöll dubbelt så mycket utbajsat kaffe som standardvarianten. Detta gav förvisso en känsla av exklusivitet och utvaldhet men det var ändå med viss motvilja jag skulle komma att inmundiga drycken.

Förutom att den okonventionella förädlingsprocessen skulle kunna anses vara frånstötande för de kräsmagade är den heller inte oproblematisk ur djurskyddshänseende. Traditionellt ”skördade” man kaffebönorna ur vilda indiska palmmårdars spillning men med tiden har det utvecklats en industri där man håller djuren i burar under usla förhållanden för att kunna mata dem med kaffebönor och ha den förädlade slutprodukten lättåtkomlig.

Dessa två aspekter av förädlingsprocessen hade var och en för sig varit tillräcklig för att jag skulle låtit bli att köpa ölet om jag vetat om dem när jag stod där i Ølbutikken och pillade på flaskorna. Nu fick jag icke vetskap förrän strax före drickandet och ingen indisk palmmård skulle glädjas av att jag hällde ut ölet i vasken. Det var bara att korka upp och visst smakade ölet bra, mycket bra till och med. Tillverkningsprocessen lämnade dock ändå en lite bitter eftersmak av den typ som man inte känner med tungan.

Danskt skitöl

Man kan för övrigt anta att ett svenskt mikrobryggeri inte skulle våga sig på att ha en så kontroversiell ingrediens i sina öl. Svenskar är ju svenskar och danskar är ju danskar. I Sverige förmår ju Systembolaget mikrobryggerierna att med tusch stryka över lokförare på öletiketterna eftersom man inte får visa någon som framför ett fordon på en flaska med alkoholhaltigt innehåll.

Svensk tuschretuschering

Intressant? Läs även andra bloggares åsikter om , , , , , , .

       

       

Sturmark mot Birro om moralen och Gud

Det hade sagts mig att man ikväll en gång för alla skulle reda ut förhållandet mellan moral och Gud på ABF-huset i Stockholm. Jag begav mig därför dit, för att finna att det rörde sig om en debatt mellan två kombattanter. I den sakrala ringhörnan stod skribenten Marcus Birro och i den gudsförnekande fann man Humanisternas ordförande Christer Sturmark. Även om man försökte hålla sig till frågeställningen kring moral och religion blev det ändå något av en allmän religionsdebatt. Följande korta redogörelse baseras på mina anteckningar gjorda med slarvig handstil. Har jag fel i någon detalj så är jag utan skuld. Troligen kan man vid behov också rätta mig eftersom det var filmkameror på plats och debatten troligen kommer att läggas ut på webben.

Det visade sig att Birros kritik av ateismen i mångt och mycket utgick från honom själv och den resa han gjort. När han var ateist och drack Baileys till frukost var livet intet värt. Numera, när han trodde på Gud, hade han funnit en mening. Sturmarks svar på detta var att han mött många med en motsatt berättelse. De hade lämnat en förtryckande religiös miljö och kände sig levande nu när de lämnat tron bakom sig.

Birro anklagade Humanisterna för att vara besatta av Gud. Sturmark menade att de faktiskt inte alls talade om Gud utan snarare om konsekvenserna av gudstro.

Sturmark hävdade vidare att skiljelinjen idag stod mellan de som accepterade det sekulära projektet och de som inte gjorde det. Här hade Birro dock en relevant invändning. Han menade nämligen att det inte fanns många kristna svenskar som var motståndare till den definition av det sekulära projektet som Sturmark pläderade för, där var och en skulle ha rätt till sin tro. Sturmark förtydligade dock och sade att man måste lyfta blicken och se hur det såg ut globalt, då kunde kristenheten anses vara en förtryckare.

Moderatorn försökte knuffa in de två på kvällens ämne med ett citat från ateisten Richard Dawkins som hävdat att man borde låta barn läsa Bibeln för att effektivt vaccinera dem mot religion. Birros svar var att Bibeln var en bok som fortfarande var levande efter tvåtusen år och fungerade för många. Sturmarks svar var att den fungerade dåligt för många, till exempel homosexuella i Uganda. Birro menade att man kunde läsa Bibeln hur som helst och det var kvällens blotta. Sturmark missade inte tillfället utan frågade om det inte var en dålig bok som man kunde tolka precis som man ville.

Det var dock ändå en ödmjukare Birro på scenen denna kväll än den man kände från hans krönikor. Han ville inte riktigt försvara de ställningstaganden han tidigare gjort utan valde att backa, till exempel när det gällde sådant som att bara samhällen som vilar på kristen värdegrund ska anses värdiga.

Den här sortens tillställningar brukar alltid bli desamma. Ateisten kör de gamla vanliga argumenten som är så vassa, så vassa, så vassa eftersom de slipats på i upp till ett par tusen år. Den religiöse kombattanten svarar undvikande och glidande. Så var det också ikväll. Detta samtal var dock betydligt bättre än det mellan Sturmark och pastor Ulf Ekman på Livets Ord för några år sedan. Den konversationen bestod förvisso av två monologer med en betongvägg dem emellan.

Intressant? Läs även andra bloggares åsikter om , , , , , , .

       

       

Farbror Tersman och världsstaten

Jag har precis vänt sista bladet i Folke Tersmans Tillsammans – En filosofisk debattbok om hur vi kan rädda vårt klimat, ännu en i raden av böcker om de pågående klimatförändringarna. Tyngdpunkten i boken ligger på moralfilosofi, människans natur och framförallt på det forskningsprojekt om global demokrati som författaren själv leder. Det är en trevlig bok där filosofiska frågeställningar kopplas till de pågående klimatförändringarna.

Tersman kommer fram till slutsatsen att lösningen på klimatförändringarna och de kollektiva dilemman som orsakar dem är en demokratiskt vald världsregering. Att en sådan lösning skulle vara önskvärd kan man inte invända mot. Stater har, i de fall där det funnits vilja, varit effektiva på att hantera liknande problem på det nationella planet. Med de havererade klimatförhandlingarna i färskt minne är det faktiskt befogat att önska sig en staternas stat.

Att en demokratiskt vald världsregering skulle vara önskvärd är en sak, huruvida ett sådant projekt är genomförbart är en helt annan. Tersman ägnar ett helt kapitel åt att bemöta invändningar mot projektets genomförbarhet. Tyvärr underlåter han dock att bemöta påståendet att världens mäktiga stater ogärna skulle överlämna makt till en sådan auktoritet, det kanske avgörande hindret. Även om en världsregering bara skulle ha ett begränsat mandat är det svårt att se hur till exempel USA och Kina frivilligt skulle överlåta makt till den. Att en sådan institution dessutom skulle komma till stånd inom den tidsrymd som de galopperande klimatförändringarna ger oss tycks vara en from förhoppning.

Det tragiska i sammanhanget är att ett sådant projekt som Tersman föreslår faktiskt kan vara både nödvändigt och ogenomförbart på samma gång.

Liknande inlägg på denna blogg: Klimatmagasinet Effekt och tillväxtkritiken

Intressant? Läs även andra bloggares åsikter om , , , , , , .

Media: SvD, MND1, MND2.