Jag, Människa?

Isaac Asimov är mest känd som sci-fi författare och särskilt berömda är de tre robotlagarna som första gången dök upp i novellsamlingen ”Jag, Robot”, 1954. Robotlagarnas syfte är primärt att se till att robotarna inte skadar människor (både psykiskt och fysiskt och även indirekt genom overksamhet) och att robotar skall tjäna människorna till deras bästa; den sista lagen tvingar dessutom roboten att bevara sig själv, såvida det inte kommer i konflikt med första eller andra lagen. Asimov har lyckats med konststycket att skapa ett vattentätt etiskt system, som sannerligen skulle falla Spinoza på läppen – om vi inte hade den ostyriga människan det vill säga.

Asimov leker med tanken om den perfekta samhällsmedborgaren; för som Asimov säger: är de tre robotlagarna baserade på samma grundläggande principiella rättesnören som en stor del av världens etiska normsystem. Alla människor är utrustade med självbevarelsedrift. Dessutom förväntas varje ’god’ människa med ett samhällspatos och en förmåga till ansvarstagande acceptera rättmätiga auktoriteter, lyda lagar, följa regler och så vidare – även om det strider mot hennes bekvämlighet och säkerhet. Vidare förväntas ’goda’ människor älska sin nästa såsom sig själv, beskydda sina medmänniskor, riskera sitt eget liv för att rädda andras menar Asimov (s.313). I ett idealtillstånd kan man alltså inte avgöra om vi har att göra med en robot, som strikt följer sina lagar, eller en mycket ’god’ människa (om vi förutsätter en likhet till det yttre). Här har vi fröet till upplysningens drömsamhälle baserad på den rationella människan. Beskrivningen är synnerligen snarlik John Stuart Mills rationella idealmedborgare, som tecknas upp i ”Om Friheten”.

Men, hur kan då den ’goda’ rationella människan, eller roboten, då veta hur deras handlingar verkar utanför den omedelbara handlingen? Det finns en möjlighet att en tillsynes ’god’ handling, kan få negativa konsekvenser längre bort i kausalitetskedjan. Det finns ju inga isolerade subjekt – vilket Mill bevisligen var medveten om:

”Det finns ingen som är fullständigt isolerad varelse, det är omöjligt att någon kan företa sig något som allvarligt eller varaktigt skadar honom själv utan att olyckan som åtminstone sträcker sig till hans närmaste omgivning och ofta längre” (Mill: 88)

Människan, eller roboten, finns inbäddad i en social struktur. Kan vi då någonsin veta hur våra handlingar gestaltas i framtiden? Asimov illustrerar problemet med uppkomsten av lögnen. Lögnen kan skydda en individ från psykisk ’skada’ – men dragen till sin yttersta spets skapa oförutsägbara problem i ett senare skede. En robot som måste följa den första lagen, kommer de facto, att ljuga när det existerar en potentiell risk för psykisk smärta i en given situation. Roboten kan således inte se de långsiktiga konsekvenserna av en lögn. Roboten kan inte se bortom individen, den är blind (eller ovetande) för den sociala strukturen som individen är inbäddad i. Här har vi ett klassiskt kunskapsteoretiskt problem som sträcker sig från vetenskap till politik. Vi har här att göra med två nyckelbegrepp: osäkerhet och ofullkomlighet. Senare låter Asimov roboten tiga istället för att ljuga – eller vägra svara på en fråga som kan generera ”skada”.

Samhällsteori 1900-tal
Uttryckligen riktar Asimov skarp kritik både mot Marx och Smith. Dessa tillsynes motpoliga filosofier – om vi låter den förstnämna representera det centralistiska och planekonomiska, och den senare den absolut ’fria marknaden’ - är egentligen olika sidor av samma mynt. Gemensamt är bland annat tron på – och illusionen om att besitta – kontroll.

Det är snarare metoderna som skiljer sig åt: feedback/självkorrigering (Smith/Hayek) kontra social ingenjörskonst (Marx/Lenin). Historien kan tala för sig själv. Människan har alltid försökt att förutse framtiden - från regnmakare till nationalekonomer - utan att någonsin varit särskilt framgångsrika. Vi kan konstatera att världen är föränderlig och komplex: våra teorier och begrepp är alltid bristfälliga, de är i bästa fall approximationer, vare det sig handlar om logistik, ekonomi, naturkrafter eller sociala strukturer. Även om liberalekonomen Hayek – som utgår från Popper i sin kunskapsteori – bejakar osäkerheten och ofullkomligheten (och därmed skiljer sig från många liberaler och marxister) på ett individuellt plan, så tycks Hayek (som förespråkar självorganiserande marknader och minimala stater) inte ta hänsyn till att det inte kan existera perfekta marknader i en föränderlig värld. Marx utgår – med avstamp i Voltaire, Rousseau och Descartes - från ett evolutionärt perspektiv på samhällsutvecklingen där kunskapsackumulation och tekniken ger oss allt större kontroll av naturen och de sociala strukturerna. Hayek, som räknas till den österrikiska skolan, ser även han samhällsutvecklingen evolutionärt, men bygger sin samhällsteori (institutioner/stat/marknad) på osäkerheten och ofullständigheten på ett individuellt plan – med avstamp i Smith, Gödel, Hume och Popper – men tycks inte ta hänsyn till naturens föränderlighet och komplexitet. De neoklassiska ekonomerna – exempelvis Milton Friedman – utgår från ett positivistiskt vetenskapligt ideal, rationella samhällsaktörer, och delar ironiskt nog, många av premisserna med den marxistiska skolan: inte minst upplysningsprojektets framstegsoptimism. Asimov sammanfattar de ideologiska striderna under 1900-talet som ”religiösa känslouttryck tagna ur sitt metafysiska sammanhang för att tillämpas i ekonomiska system” (s.344). Maskinernas intåg gjorde frågan om världen styrdes enligt ”Adam Smiths eller Karl Marxs system oviktigt” (ibid).

Maskinernas intåg och slutet på kriget
Vi har inte enbart en föränderlig och komplex omvärld, utan också irrationella aktörer. Asimov löser problemet med att införa ett världsomspännande robotsystem som behandlar hela mänskligheten (bortom det autonoma subjektet) som en enda organism – där robotlagarna gäller i hela mänsklighetens bästa. Det vill säga en kosmopolitisk statsorganism - bortom Rudolf Kjelléns amoraliska, driftsdrivna dito som suger energimateria från en ojämnvikt (naturresurser/energi från periferin) för att överleva. Asimov menar att:

”Jordens ekonomi är stabil och kommer att förbli stabil, eftersom den bygger på beslut som fattas av den tänkande Maskinerna. De har ju alltid mänsklighetens bästa för ögonen […] vilket innebär att vår världsekonomi alltid kommer att regleras av vad som är bäst för människan. Befolkningen på Jorden vet att det inte kommer att uppstå arbetslöshet, överproduktion eller varubrister. Misshushållning och hungersnöd är ord som hör historieböckerna till. Dessutom är frågan om vem som äger produktionsmedlen också föråldrad. Vem om än råkar äga dem – och man kan fråga sig om ett sådant ägande överhuvudtaget kan försvaras - en människa, en grupp, en nation eller hela mänskligheten, så kan de bara nyttjas enligt Maskineras direktiv”. (s.345ff)

Ofullkomligheten och osäkerheten löser Asimov via ett världsomspännande nätverk av ”Maskiner” som följer de tre robotlagarna för mänsklighetens bästa. De enskilda ”individernas” irrationalitet eller ”illvilja” pareras av den panspektriska superdatorn som kompenserar för alla brister. Det intressanta är att Asimov nu tagit klivet från det individuella subjektet till att behandla hela populationens ekologi. Utopin om det alltgenom rationella superdatorn som agerar enligt etiska grundnormer för hela mänsklighetens bästa kan låta som lovande, men några problem kvarstår. Dels är ansatsen människocentrerad och dels är datorn fortfarande behäftad med samma kunskapsteoretiska brister som människan – trots sin överlägsna analys- och kalkyleringsförmåga. Detta är Asimov mycket medveten om. Det människocentrerade perspektivet hos Asimov tillåter inte ytterligare analys av biosfärens och ekologins komplexitet – roboten torde ha samma bekymmer att förutse framtiden (väder/klimat, naturresurser, ekologiska processer, tröstelvärden etc) som metrologer eller ekologer. Dels betonar Asimov att Maskinen är beroende av mänsklig interaktion: datainmatning. Maskinen analyserar, processar och optimerar beräkningen med robotlagarna som fundament. Människan bistår fortfarande med erfarenhet, intuition, perception och fantasi. I många fall går inte denna form av kunskap kvantifiera – och därmed inlemma i beräkningskluster. Men ändå menar Asimov att Maskinen parerar för alla saboteringsförsök. Författaren tycks mena att den panspektriska superdatorn får ett överskott av data (stora talens lag) vilket gör att mönstret för sabotage lätt kan identifieras. Alternativt störs produktionen tillfälligt som Maskinen kompenserar för i ett senare skede. Allt för att hålla en jämvikt. Jämvikt betyder fred.

Men frågan kvarstår: kan Maskinen lösa problemet med en osäker omvärld? Förutse komplexa och emergenta ekologiska processer? Asimov går inte djupare in på detta, men tycks höja ett varningens finger: det finns risk för rundgång, systemkrasch och ”galna” maskiner när väl ställda inför svårlösliga problem. Varför inte lögnarens paradox? Lösningen tycks enligt Asimov vara lekfulla robotar som inte tar livet på fullt så allvar: en idiot savant, som bara gör saker utan att förstå vad den egentligen gör. En robot med personlighet alltså: Lulz.

Och är det då inte dags att fråga Maskinen om detta inte är väldigt nära en definition av en människa?

[Computing, please wait...]

Maskinen: ”Ärendet tillåter ingen förklaring”

Källor:

Isaac Asimov – ”Jag Robot”. Natur och Kultur.
George Soros – ”Kapitalismens kris”. Norstedts.
Alexander H. Shand – ”Introduktion till Neo-Österriktisk ekonomi”. Ratio
Vladimir Lenin – ”Staten och Revolutionen”. Rabén och Sjögren
John Stuart Mill – ”Om friheten”
Karl Palmås - "Försvarsministerns nya filosofi"
Kullenberg, Palmås - "Smitto(nto)logi"
Cecilia Åsberg - "Vi har aldrig varit människor". Arena