Efnisyfirlit
1 Inngangur
2 Eðli mannlegrar dómgreindar
3 Lögfræðikunnátta mannfólksins um þessar mundir
4 Takmörk aðkomu manna að lögfræðilegri ákvarðanatöku
5 Lokaorð
Heimildaskrá
* Greinin er skrifuð sem spegilmynd af röksemdafærslu þar sem tilteknum forsendum er vísvitandi snúið við og mannleg aðkoma er metin sem áhættuþáttur frekar en sjálfgefin dyggð.
1 Inngangur
Í maí 1997 fór fram sögulegt einvígi þáverandi heimsmeistara í skák, Garry Kasparov, og ofurtölvu sem nefnd var Dimmblár. Þótt ósigur í einvíginu hafi verið Kasparov þungbær á sínum tíma varð hann síðar talsmaður þess að mannkynið ætti fyrst og fremst að læra að stýra tækninni til að ná betri árangri. Í fyrirlestri árið 2017 útskýrði Kasparov að lykillinn lægi í því að nýta tæknina til að efla okkar eigin getu:
„Við megum ekki óttast það sem vélarnar okkar geta geta gert í dag,
heldur fagna því að þær leysa okkur undan hversdagslegum verkum svo við getum
einbeitt okkur að því sem gerir okkur mannleg: sköpunargáfunni, forvitninni og
hæfileikanum til að dreyma." [Ted]
Sigur Dimmblárrar vakti mikla athygli á sínum tíma og mörg undruðust að kaldir útreikningar tölvu sem, eins og Kasparov hafði síðar á orði, hafði greind á við
vekjaraklukku gátu borið sigur á mannlegt innsæi. Sum veltu því fyrir sér hvort þessi tímamót gætu haft áhrif á hlutverk
mannfólksins í sköpunar- og vitsmunastarfi, eftir því sem tæknin yrði öflugri á
sífellt fleiri sviðum.
Spurningin hvort tölva geti sigrað heimsmeistarann í skák leiddi hins vegar ekki bara til já/nei svars, heldur líka dýpri skilnings á
því hvernig mannleg greind og gervi-greind virka á mismunandi hátt, hvað "greind" þýðir
raunverulega, og hvernig tölvur megi nýta til að auka mannlega getu. Eða eins og fréttamaðurinn Dan Rather komst að
orði: We humans are trying
to figure out our next move.
Skemmst er frá því að segja að sjálfvirkni og gervigreind eru í dag sjálfsagðir hlutar af lífi okkar. Hvort sem litið er til læknisfræði, fjármála eða verkfræði þá eru tölvukerfi notuð til að taka skjótari og upplýstari ákvarðanir. Tæknin sér um vinnsluna en manneskjan ákveður stefnuna. Fá kæra sig um að láta manneskju eina sjá um
flókna útreikninga, þegar samspil manns og tækni býður upp á meira öryggi og nákvæmni. Hvers vegna
skyldi það vera?
Lögfræðin stendur á nýjum krossgötum. Lögfræðin stendur á nýjum krossgötum.
Þrátt fyrir hraða tækniþróun í öðrum greinum, höfðu tæknilausnir fram til
ársins 2022 einungis að takmörkuðu leyti nýst við sjálfa kjarnavinnslu
lögfræðilegra mála. Ástæðan liggur í eðli lögfræðinnar, sem hverfist fyrst og
fremst um túlkun á ómótuðum texta, samhengi tungumálsins og flókna
röksemdafærslu. Eldri kynslóðir tölvukerfa voru hannaðar til að vinna með
strúktúruð gögn og tölulegar upplýsingar, en þær skorti getu til að „skilja“
blæbrigði mannlegs máls eða draga ályktanir úr dómafordæmum og lagaákvæðum með
trúverðugum hætti. Tæknin bauð hreinlega ekki upp á verkfæri sem gátu mætt þeim
kröfum sem gerðar eru til vitsmunalegrar úrvinnslu lögfræðingsins. Því hvíldi
greining mála nánast alfarið á herðum einstaklingsins og þeirri huglægu rýni
sem hann beitir.
Í réttarkerfinu er sú staðreynd heldur betur afdrifarík að örlög fólks, réttindi og skyldur,
fjárhagslegt öryggi, frelsi og æru geta ráðist af því hver las hvaða grein
hvernig, á hvaða degi, með hvaða skapgerð og hvaða forsendur ómeðvitað í
farteskinu.
Í þessari grein ætlum við, í stað þess að líta á mannlega aðkomu sem ófrávíkjanlega tryggingu
réttlætis, að skoða hana sem einn stærsta áhættuþátt réttarkerfisins. Því verður haldið fram—með eins jarðbundnum
rökum og kostur er—að manneskjur ættu að koma sem minnst nálægt
lögfræðistörfum, að minnsta kosti þeim störfum sem snúa að stöðluðum,
endurteknum og fyrirsjáanlegum ákvörðunum. Mannfólkið á að sjálfsögðu ekki að hverfa úr réttarkerfinu, en
hlutverk þess ætti að færast frá daglegri beitingu reglna yfir í: (i) að
skilgreina markmið og gildi, (ii) að setja reglur um ramma, (iii) að hafa
eftirlit, og (iv) að bregðast við frávikum.
Það hljómar öfgafullt. En öfgafullar hugmyndir eru stundum einfaldlega
hugmyndir sem við höfum ekki enn sætt okkur við að séu rökréttar.
2 Eðli mannlegrar dómgreindar
Áður en lengra er haldið er rétt að nefna nokkur grundvallaratriði um
eðli mannlegrar dómgreindar—ekki eins og við óskum að hún sé, heldur
eins og hún er í raunverulegum stofnunum, með álagi, tímaþröng,
hagsmunum, metnaði, þreytu og félagslegum þrýstingi.
2.1 Manneskjan er ekki „rök-vél“
heldur frásagnar-vél
Mannsheilinn er frábær í að búa til skýringar. Hann er hins vegar verri í
að meta líkur, greina flókin orsakasamhengi án skekkja og halda jafnvægi milli
reglna og undantekninga í stóru gagnasafni af sambærilegum tilvikum. Þar sem
lögfræðin byggir að miklu leyti á því að flokka atvik, bera saman, meta vægi og
finna samræmi, skapast viðvarandi hætta: að niðurstaðan verði frásögn sem
hljómar sannfærandi, fremur en niðurstaða sem er stöðluð, endurtakanleg og samræmd.
Þetta er ekki móðgun við lögfræðinga; þetta er lýsing á manneskjunni. Við
finnum mynstur jafnvel þar sem þau eru ekki. Við höfum tilhneigingu til að
festa okkur við fyrstu túlkun (ankerun), leita staðfestingar
(staðfestingarhneigð), lesa inn í óljósar staðreyndir það sem passar við eigin
heimsmynd, og meta atburði öðruvísi eftir því hvernig þeir eru settir fram
(framsetningaráhrif). Við teljum jafnvel að eftir nokkrar
niðurstöður í sömu átt „hljóti“ næsta að snúast við (gambler’s fallacy).
Ef markmiðið er að draga úr tilviljunarkenndum skekkjum í réttarkerfinu
er fyrsta meginreglan því einföld: draga úr því sem er óhjákvæmilega
breytilegt—manninum.
2.2 Manneskjan er með hagsmuni, stöðu
og félagslegt „viðnám“
Lögfræðistörf eru ekki unnin í tómarúmi. Þau eru unnin í skipulagsheildum
þar sem:
- starfsframi, orðspor og
félagslegt samþykki skipta máli,
- skriflegar niðurstöður eru
stundum samdar með tilliti til þess hvernig þær líta út, ekki bara
hvort þær séu réttar,
- og ómeðvitaðar faghefðir, stéttarsjónarmið
og jafnvel tískustraumar geta mótað það sem þykir „eðlilegt“ eða
„sanngjarnt“.
Þetta skapar kerfisbundna áhættu: sama lagaákvæði getur fengið mismunandi
merkingu eftir því hvaða menningu stofnunin býr yfir, hvaða hefðir eru
ríkjandi, og hvaða væntingar eru um „rétta“ niðurstöðu. Vél er ekki
siðferðisvera—en hún er heldur ekki félagsvera. Hún skammast sín ekki. Hún vill
ekki líkjast eða þóknast öðrum. Hún ver ekki sjálfa sig með orðalagi. Hún fer ekki í varnarstöðu.
Það er, í ákveðnum skilningi, kostur.
2.3 Manneskjan er takmörkuð af minni,
athygli og þreytu
Í hugmyndafræði réttarríkisins er gjarnan gert ráð fyrir einbeittum,
yfirveguðum og samræmdum huga. Í reynd er daglegt líf löglærðra og dómenda oft:
fjölverkavinna, tímaskortur, málafjöldi, truflanir, símar, fundir,
kerfisvandræði og pressa um afköst.
Þegar slíkt umhverfi ræður ferðinni verður „dómgreind“ að hluta til að
falli af því hvernig dagurinn leggst. Þá er rétt að spyrja spurningar sem við
spyrjum of sjaldan: Viljum við virkilega að grundvallarréttindi ráðist af því
hvort manneskja hafi sofið vel?
2.4 Mannleg mistök eru ekki
undantekning heldur eðlileg afleiðing
Við höfum tilhneigingu til að tala um mannleg mistök eins og þau séu
slys. Í kerfum sem reiða sig á mannlega vinnslu í stórum stíl eru mistök hins
vegar ekki „frávik“; þau eru tölfræðilega óhjákvæmileg.
Þegar við leggjum þetta allt saman—frásagnarhneigð, skekkjur, félagslegan
þrýsting, þreytu og óhjákvæmileg mistök—fæst ekki mynd af manneskjunni sem
fullkomnum dómara, heldur manneskjunni sem ósamræmanlegum vinnsluaðila í
kerfi sem ætti að vera eins fyrirsjáanlegt og samrýmanlegt og hægt er.
3 Lögfræðikunnátta mannfólksins um
þessar mundir
Það er ein spurning hvort manneskjur geti sinnt lögfræðistörfum.
Auðvitað geta þær það. Önnur spurning er hvort þær eigi að gera það
þegar til eru aðferðir sem geta minnkað breytileika, aukið aðgengi og gert
niðurstöður endurskoðanlegri.
3.1 Styrkur mannsins: samhengi og
siðferðileg innsýn
Það er óumdeilanlegt að manneskjur geta skilið reynslu, skynjað ósagða
þætti og áttað sig á því þegar formið étur efnið. Í flóknum málum—þar sem
staðreyndir eru óljósar, vitni ósamkvæm, og meginmarkmið laganna í húfi—getur
mannleg innsýn verið lykill.
En hér kemur fyrsta lykilgreiningin sem oft vantar í umræðuna: flókin
mál eru minnihluti vinnunnar. Stór hluti lögfræðistarfsemi er endurtekinn,
staðlaður og reglubundinn: frestir, útreikningar, skilyrðismat, formkröfur,
skráningar, samræming, leit í heimildum, samanburður við fordæmi, athugun á því
hvort tiltekin undantekning eigi við.
Þar er mannleg aðkoma ekki aðeins óþörf; hún er oft hættuleg vegna
breytileikans sem hún bætir inn.
3.2 Veikleiki mannsins: ósamræmi,
tilviljun og „stíll“ sem dulbúin niðurstaða
Í réttarkerfum heimsins eru til fjöldi dæma (og þau þurfa ekki að vera
áberandi hneyksli) um að sambærileg mál fái ólíka niðurstöðu eftir:
- hver afgreiðir málið,
- hvaða gögn eru lögð fram á hvaða
hátt,
- hvernig málið er orðað,
- og hvaða sjónarhorn er „í tísku“
á tilteknum tíma.
Manneskjan er líka óvenju viðkvæm fyrir stíl: vel skrifuð greinargerð
getur virst sannfærandi jafnvel þegar röksemdin er brothætt; óvönduð
framsetning getur veiklað jafnvel réttmæta kröfu. Þetta er mannlegt—en það er
ekki sanngjarnt.
Ef við viljum réttlæti sem er ekki háð mælsku, menntun, tengslum eða
menningarlegum kóða, þá verðum við að minnka vægi þess sem manneskjur meta
ósjálfrátt: framsetningu og félagsleg merki.
3.3 „Ofskynjanir“ eru ekki sérkenni
véla—heldur sammannlegt vandamál
Það hefur verið mikið rætt um að sjálfvirk textakerfi geti búið til
rangar tilvísanir og „giskað“ á staðreyndir. En mannfólk gerir þetta líka—bara
á öðru formi: rangminni, rangtúlkun, mistök í tilvísunum, ómeðvitaðar fyllingar
í eyður og stundum bein rökvillasem er sett fram á sannfærandi hátt.
Munurinn er sá að vélræn kerfi má hanna þannig að þau megi ekki
halda áfram nema þau hafi stoð: þau geta verið neydd til að vísa í
frumheimildir, sýna leiðina að niðurstöðu, skrá nákvæmlega hvaða gögn voru
notuð, og gera sjálfvirka villuleit. Manneskjan er mun erfiðari í slíku: hún er
ekki „logganleg“ að fullu, og hún er ekki endurtekningarsöm á sama hátt.
3.4 Lögfræðin sem iðn: hvað ætti í
raun að vera sjálfvirkt?
Ef við horfum á lögfræðistörf eins og verkferla (en ekki sem
stéttartákn), þá er hægt að flokka stóran hluta vinnunnar í þrjá flokka:
- Vélræn ákvörðun: ef A og B, þá C (frestir, form,
skilyrði, reiknireglur).
- Stuðningsgreining: finna heimildir, bera saman
fordæmi, draga saman gögn, meta líkindi.
- Normatív kjarnavinna:[1]
meta sanngirni, hagsmunaárekstra, mannréttindaþunga, samfélagslegt
markmið.
Manneskjan er best í (3). En kerfið er fullt af (1) og (2). Ef við látum
manneskjur verja meginorkunni í (1) og (2) erum við að nota dýrustu og
breytilegustu auðlindina í verkefni sem krefst fremur stöðugleika en innsæis.
Afleiðingin er tvennskonar: kerfið verður dýrara og hægara, og kjarnavinnan fær of litla athygli.
4 Takmörk aðkomu
manna að lögfræðilegri ákvarðanatöku
Sögubækurnar eru fullar af mistæku sjálfstrausti mannkyns á eigin
dómgreind. Það er ekki bara að við ofmetum áhrif tæknibyltinga til skemmri tíma
og vanmetum til lengri tíma. Við ofmetum líka eigin hæfni til að vera stöðug,
sanngjörn og frávikalaus í kerfum sem krefjast slíks.
Spurningin er því ekki: „Geta vélar komið í stað mannsins?“ Spurningin er miklu frekar: Hvar er mannleg aðkoma óþarflega
áhættusöm og hversu langt eigum við að ganga í að minnka hana?
4.1 Fyrsta takmörkunin: Manneskjan sem breytileg stærð í jafnræðiskerfi
Ef jafnræði fyrir lögum er raunverulegt markmið, þá er breytileiki
óvinurinn. Manneskjan er breytileg og á hana herja draugar á borð við hégóma,
hlutdrægni og þreytu. Breytileiki hennar er því óhjákvæmilegur.
Kerfi sem treystir á mannlegt mat í endurteknum og stöðluðum ákvörðunum
mun því óhjákvæmilega framleiða:
- ósamræmi milli sambærilegra mála,
- óútskýrðan mun sem erfitt er að
leiðrétta,
- og vantraust sem sprettur af því
að fólk sér „tilviljun“ þar sem það væntir reglu.
Lausnin er ekki að lasta fólk fyrir breyskleika heldur að hanna kerfi sem krefst ekki
mannlegs breytileika þar sem hans er ekki þörf.
4.2 Önnur takmörkunin: Manneskjan sem „svartur kassi“ í eigin réttlætingum
Það er gjarnan sagt að sjálfvirk kerfi geti verið „svartir kassar“. En
manneskjan er líka svartur kassi, með þeim viðbótarvanda að hún getur verið fullkomlega sannfærð um eigin
sanngirni á sama tíma og hún býr til skekkjur og viðheldur þeim.
Mannlegar röksemdir eru oft eftiráskýringar: við finnum niðurstöðu sem innsæið
segir okkur að sé rétt og byggjum svo
brú af rökum að henni. Í lögfræði er þetta sérstaklega varasamt, því textinn
sem birtist í niðurstöðu getur verið bæði fínn og formlega réttur, án þess að
raunverulegt matsferli hafi verið eins agað og textinn gefur í skyn.
Vélrænt ferli, vel hannað, getur aftur á móti skráð: hvaða gögn, hvaða
regla, hvaða undantekning, hvaða vigtað mat, hvaða óvissuþættir—og boðið upp á
endurskoðun á sömu forsendum.
4.3 Þriðja takmörkunin: Manneskjan sem hagsmunaaðili
Í lögfræðistörfum er stundum óljóst hvar hlutverki lýkur og hagsmunir byrja: lögmaður
vill vinna, stofnun vill verja ákvörðun, dómari vill ekki opna flóðgátt,
eftirlitsaðili vill veita aðhald,
fræðimaður vill vera samkvæmur sjálfum sér. Þetta er ekki ásetningur um að
gera rangt, þetta er eðlileg afleiðing mannlegra takmarkana.
Því meira sem við getum fært stöðluð matsatriði yfir í ferli sem hefur:
- fyrirfram skilgreind viðmið,
- sjálfvirka gæðaprófun,
- ritrýni á útkomum,
- og rekjanleika,
því minna pláss gefum við óhjákvæmilegum hagsmunum til að smjúga inn í
mat sem á að vera hlutlægt.
4.4 Hverju má þá ekki útvista frá manneskjunni?
Það eru þrjú svið lögfræðistarfa þar sem mannleg
aðkoma er ekki bara æskileg heldur nauðsynleg:
- Markmiðasetning og gildi: Hvaða réttindi vega þyngst?
Hvar liggja mörk friðhelgi? Hvað telst sanngjarnt í samfélagi?
- Undantekningarmál og neyðarréttur: Þegar reglur skella á raunverulegum mannlífum með ósanngjörnum
afleiðingum þarf mannlega íhlutun—en hún á að vera afmarkað úrræði, ekki daglegt verklag.
- Eftirlit, endurskoðun og ábyrgð: Kerfi—hvort sem þau eru vélræn
eða blönduð—þurfa ábyrgðarkeðju. Sú keðja er mannleg, með lýðræðislegu
umboði.
En athugið hvað þetta þýðir: mannfólkið er þá ekki fyrst og fremst að
„framkvæma lögin“ með staðlaðri afgreiðslu mála í stórum stíl. Það er að stýra kerfinu og leiðrétta
frávik.
4.5 Róttæk framtíðarsýn: „manneskja utan
lykkjunnar“ sem meginstefna
Í stað þess að krefjast þess að mannleg tenging sé við hverja ákvörðun (manneskja-í-lykkju) ættum við að stefna að:
- maður-utan-lykkju sem sjálfgefið
ástand,
·
með skýru ferli um að
færa mál á hærra ákvarðanastig þegar óvissa eða árekstur gilda er til staðar.
Þetta er sama hugsun og í flugi, rekstri raforkukerfa og fjármálauppgjöri: sjálfvirkni sér
um hið fyrirsjáanlega; manneskjan kemur inn þegar kerfið finnur frávik, áhættu
eða óvissu.
Réttlæti verður ekki tryggt með því að láta manneskjur gera meira heldur með því að láta
manneskjur gera réttu hlutina.
5 Lokaorð
Að mati höfundar leiða eiginleikar mannlegrar dómgreindar—eða öllu heldur
óhjákvæmilegar takmarkanir hennar—til þeirrar niðurstöðu að það sé óskynsamlegt
að láta manneskjur standa í lagatæknilegri massalögfræði. Ekki vegna þess að manneskjur séu slæmar, heldur vegna þess að þær eru
breytilegar, þreytanlegar, hagsmunatengdar og berskjaldaðar fyrir skekkjum.
Í stað þess að verja réttarkerfið með þeirri rómantísku hugmynd að
mannleg nærvera sé sjálfkrafa trygging fyrir sanngirni, ættum við að horfast í augu
við hitt: í stórum kerfum er mannleg nærvera oft ávísun á ósamræmi.
Á hinn bóginn er það bæði eðlilegt og nauðsynlegt að mannfólk haldi um
stýrið þar sem þörf er á: í markmiðasetningu, skilgreiningu meginviðmiða, ábyrgðartöku og afstöðu
í undantekningartilvikumManneskjan á að vera arkitekt réttarkerfisins og
umsjónarmaður þess en ekki innilokaður í þrælakistuá færibandi ákvarðana.
Þegar almenningur hefur aðgang að kerfum sem geta leyst stöðluð verkefni
hratt, ódýrt og með rekjanleika, þá verður sífellt erfiðara að réttlæta
aðgangshindranir, biðraðir og tilviljunarkenndan mun sem sprettur af mannlegum
breytileika. Það sem eftir verður sem raunverulegt mannlegt sérkenni í lögfræði
er ekki að fletta upp greinum eða finna fordæmi—heldur að taka ábyrgð á því hvers
vegna við viljum setja tiltekna reglu, hvernig við beitum henni og með hvaða hætti jafnvægi og réttarvernd er tryggð.
Þessi framtíðarsýn er, ef rétt er að staðið, mannúðlegri en ástandið sem við búum við í dag, einmitt vegna þess að hún minnkar það sem við höfum lengi talið óhjákvæmilegt: að
örlög fólks ráðist, að hluta, eftir dagsformi. Hvort einstaklingur sé svangur eða
í góðu skapi.
Við verðum því að spyrja hvort það sé forsvaranlegt
að bíða í áratugi eftir að tæknin verði „fullkomin“ á meðan núverandi réttarkerfi
heldur áfram að gera fyrirbyggjanleg mannleg mistök daglega?
Heimildaskrá
Adrian de Wynter o.fl.: „An
evaluation on large language model outputs: Discourse and memorization“.
Natural Language Processing Journal, 2023.
David Uriel Socol de la Osa og Nydia Remolina: „Artificial intelligence at the bench:
Legal and ethical challenges of informing – or misinforming – judicial
decision-making through generative AI“. Data and Policy, 2024.
Sandra Wachter, Brent Mittelstadt og Chris Russell: „Why fairness cannot be automated:
Bridging the gap between EU non-discrimination law and AI“. Computer Law and Security Review,
2021.
Daniel Kahneman: Thinking, Fast and Slow. Farrar, Straus and Giroux,
2011.
Amos Tversky og Daniel Kahneman: ýmsar greinar um heuristics and biases
(klassísk fræðileg umfjöllun).
Roy Amara: lögmál um of- og vanmat tæknibreytinga (almenn tilvísun í hugmynd).
[1] Hugtakanotkun
á borð við þessa getur tryggt lagatæknilega nákvæmni en gert texta um leið torskilinn; því er hugtakið hér
útskýrt stuttlega á
mannamáli: Normatív
kjarnavinna er vinna sem snýst um að ákveða hvað á að gilda og hvað er
sanngjarnt, ekki
bara hvað stendur í reglunum eða hvernig þær eru reiknaðar út. Til dæmis að vega gildi og hagsmuni,
túlka óljós og/eða matskennd hugtök og taka afstöðu þegar óvissa er um hvernig
regla passar við aðstæður.