Er kommunene ukritisk til ny datateknologi?

Publisert:14. september 2018Oppdatert:14. september 2018, 10:46
Chatbot'en Kommune-Kari deler gjerne råd om morfin, og hun forteller også vitser. Fascinasjonen for teknologi som ikke virker er noe overdrevet, mener Kai A. Olsen.

Datateknologi er mottakelig for “hype”, til spådommer at vi “om få år” vil vi ha helt nye og fantastiske tjenester.

Det kan være førerløse biler, dataprogrammer som underviser, algoritmer som tar beslutninger eller chatbots som vi kan snakke med. Vi har hatt slike spådommer gjennom hele datamaskinens historie. I dag er det igjen kunstig intelligens som skal gi oss alle de nye tjenestene. Jeg sier <<igjen>> for en hadde stor tiltro til denne teknologien allerede i datamaskinens barndom. Da skulle den gi oss ekspertsystemer som kunne ta beslutninger nær sagt innen et hvilket som helst område. Det var ikke så lett som en trodde. På 80-tallet så en nye muligheter med raskere datamaskiner. Nå skulle en utvikle algoritmer som kunne stille diagnose innen medisin. Det virket heller ikke, algoritmene feilet i møte med den virkelige verden.

I dag, gjennom teknologier for <<big data>> og <<deep learning>>, er spådommene revitalisert. Ideen er at algoritmene skal lære av store datamengder. Nå viser det seg at det er store svakheter ved mange av algoritmene. For eksempel er det mye som tyder på at algoritmen som skal beregne sannsynligheten for gjentagelse av kriminelle handlinger, aktuelt ved løslatelser, bruker hudfarge som en viktig faktor. Det har den nok lært av data fra et USA, som ikke har klart å behandle alle raser likt. Både ut fra de erfaringene en har høstet i andre land, og ut fra alle fadesene gjennom historien, bør en sunn skepsis til denne teknologien være på sin plass.

Nå er det kanskje ikke så farlig om en privat bedrift tar i bruk algoritmene. Om du ikke får lån i den ene banken kan du gå til den neste, og håpe at denne har en annen algoritme eller gir deg personlig behandling. Da er det vanskeligere med det offentlige. Kommunene har monopol på å levere mange tjenester.  Har de en sunn skepsis til ny teknologi?

Det ser ikke slik ut. Et sekstitalls kommuner over hele landet - deriblant Bergen - har tatt i bruk Kommune-Kari, en chatbot som blir lært opp på store datamengder. En enkel test av tjenesten viser helt klart at den ikke virker.  Det er helt unntaksvis at den kan gi et klart svar på det vi spør om. Mange av svarene er feilaktig og treffer langt fra mål. Noen av de mest spektakulære svarene er vist over. Husk at dette er svar fra en offentlig virksomhet, ikke fra hobbyrommet til en teknologientusiast. Vil du teste selv, finner du Kommune-Kari på forsiden til Bergen kommune.

Chatboter er også tatt i bruk av andre organisasjoner. For eksempel har Humanistisk Fakultet ved UiB en chatbot. Men, som vi ser vet den åpenbart ikke mye om det fagområdet den representerer.

Til tross for at teknologien ikke fungerer sier representanter for kommunene at de ønsker å beholde chatboten. Det som skremmer meg er at det ikke virker som om kommunene og andre har en kritisk holdning til ny teknologi. Her er det <<hypen>> som gjelder – åpenbart ikke et ønske om å yte bedre tjenester til innbyggerne.

De feilaktige svarene jeg har fått i min test er alvorlige nok, men neste gang er det kanskje ikke tale om et så enkelt system som en chatbot? Hva om kommunene er like ukritiske og tar i bruk algoritmer for å avgjøre søknader om eldreomsorg, tiltak for skolebarn, avgjørelse av byggesøknader og tilbud om sosialhjelp? Disse algoritmene vil også være lært opp på store datamengder, men de vil, i motsetning til Kommune-Kari, kunne være vanskelig å etterprøve.

Vi må bruke teknologi der vi får bedre eller mer effektive løsninger, helst begge deler. En sunn reaksjon fra kommunene måtte være å sparke Kommune-Kari og kun gi henne jobben tilbake først når hun svarer like bra som et menneske. Samtidig bør de tenke nøye over hvorfor de tar i bruk ny teknologi.

Meld deg på vårt nyhetsbrev og få oppdateringer rett til din e-post!

Abonner på På Høyden nyhetsbrev feed