Denne amerikanske lovgiveren ønsker større kontroll av algoritmer som brukes i straffesaker

Representanten Mark Takano (D CA) sier, Intellektuelle rettigheter skal ikke være i stand til å trumfe på grunn av prosess.

AP Photo / J. Scott Applewhite

Denne amerikanske lovgiveren ønsker større kontroll av algoritmer som brukes i straffesaker

Av Catherine MatacicSep. 23, 2019, 16:10

Siden det ble introdusert på 1980-tallet, har DNA-bevis blitt en gold standard av amerikanske rettssaler, noe som førte til overbevisningen og ustraffelser tusenvis av tiltalte kriminelle. Men eksperter sliter med å analysere degraderte eller forurensede prøver, og mange har begynt å bruke sofistikert probabilistisk genotypeprogramvare for å estimere sannsynligheten for at en mistenkt DNA matcher DNA på forbrytelsesområdet. Slike såkalte rettsmedisinske algoritmer er langt fra sjeldne: I økende grad pleide de å estimere fyrstikker for alt fra fingeravtrykk til pistolfat til ansikter i fotografier med sikkerhetskameraer.

Forsvarsadvokater har sjelden tilgang til kildekoden eller annen informasjon som kan forklare hvordan slik programvare som ofte er proprietær verk. Det skyldes at selskaper frykter at det å avsløre forretningshemmeligheter eller andre former for åndsverk når det leveres. Men uklarheten har vakt bekymring for rettferdighet og åpenhet.

I forrige uke introduserte representant Mark Takano (D CA) lovverk som ville gjøre det lettere for tiltalte som står overfor føderale straffskyld å få tilgang til rettsmedisinske algoritmer, og krever videre at produsentene av beregningsrettslig programvare oppfyller minimumsstandarder satt av National Institutt for standarder og teknologi (NIST).

ScienceInsider fanget opp Takano for å diskutere den nye lovforslaget. Dette intervjuet er redigert for kortfattethet og klarhet.

Spørsmål: Hvilke problemer vil denne regningen løse?

A: Det vi vet er at mennesker ofte blir dømt med sannsynlighetsmodeller som eneste bevis i saken. Folk kan settes i fengsel, de kan til og med miste livet [over bare] denne formen for bevismessige bevis. Og det vi også vet, er at selskaper som legger frem disse teknologiene ikke ønsker å åpne opp kildekoden eller forklare mye om de underliggende dataene og få spørsmålstegn ved dette fra forsvaret. Vi tror det er et grunnleggende problem med dette. Immaterielle rettigheter skal ikke være i stand til å trumfere rettferdig prosess.

Spørsmål: Hvilken av disse rettsmedisinske teknologiene er du mest bekymret for?

A: DNA-bevis [fra] probabilistisk genotypeprogramvare for DNA-analyse. Det ser ut til å være ironclad sannhet, på samme måte som for mange tiår siden en løgnedetektor test [gjorde]. Vitenskapens fangst kan føre til [falsk sikkerhet] for juryer og dommere. Det er helt passende, og faktisk nødvendig, for juryer og dommere å forstå grensene for teknologi og hvordan det fungerer.

Spørsmål: Denne regningen ber NIST om å teste kriminalteknisk programvare. Hva ville det være å teste?

A: Det er klart at de ville ha analytikerne sine til å se på teknologien for å måle hva begrensningene er, hva mulighetene er, og [de vil] se på hva vitenskapen der ute sier om data og hvordan disse algoritmene fungerer. Vi vil oppfordre dem til å [spørre selskaper]: Har du testet disse ut, og kan du vise oss data? Er det en feilrate som viser en uforholdsmessig innvirkning på minoriteter, med for eksempel at minoriteter blir identifisert falskt? ”Vi mener at alle vinkler bør sees på når det gjelder hvordan disse systemene kan mislykkes.

Spørsmål: Hva inspirerte denne regningen?

A: Jeg snakker mye om familiens fengsling under andre verdenskrig og internasjonal japansk amerikaner. Hva er sammenhengen der? Det har med personvernrettigheter å gjøre, det har med rettferdig prosess å gjøre. Samtidig er dette med på å holde regjeringen oppdatert med teknologi og hjelper Kongressen til å forstå den nyeste teknologien. Faren er at - enten det er stemmesystemer som ser lyse og skinnende ut eller fine små svarte bokser som spytter ut et resultat - borgere og juryer og dommere og påtalemyndigheter og forsvarsadvokater [ikke] forstår hvordan disse systemene fungerer.

Spørsmål: Hvilke utfordringer står dette lovforslaget overfor?

A: Jeg tror det er det generelle problemet med å prøve å få medlemmenes oppmerksomhet, kollegers oppmerksomhet og få de viktigste underutvalgets medlemmer til å plukke den opp og forstå det underliggende problemet. Jeg tror dette er veldig oppnåelige slags ting. Den andre barrieren er at [Representantenes hus] dommerkomité har mye på tallerkenen sin akkurat nå. [Takano refererte til etterforskningsutredninger mot president Donald Trump.] Det er større oppmerksomhetsemner som kan være min hindring på dette tidspunktet. Men jeg tror ... dette er et tilfelle der det amerikanske folket forstår [behovet], slik at innsatsen kan være på en topartisk måte.