Teknologi spiller en større og større rolle i vores liv. Det gælder også for kunstig intelligens, også kaldet AI, som efterhånden er blevet en fast del af vores dagligdag. Det seneste eksempel på AI, der har imponeret med sin kompleksitet og resultater, er programmet ChatGPT. Programmet, der ind til videre er gratis, har oplevet kæmpe popularitet hos både professionelle og studerende. ChatGPT og lignende programmer vil, uden tvivl, ændre den måde vi studerer og arbejder på.
Men der er udfordringer og risici forbundet med ureguleret brug af AI-systemer. De inkluderer mangel på gennemsigtighed, diskrimination, ansvarlighed for beslutningstagning, datasikkerhed og -fortrolighed.
Netop ansvarlighed for beslutningstagen, er meget aktuelt for vores egen branche. I denne episode af vores podcast, taler vi om implementeringen af AI i jura, blandt andet en robot der fører retssag.
Hvilke risici er der forbundet med AI?
Vi har spurgt ChatGPT om hvilke risici der er forbundet med AI. Den peger selv på følgende:
- Diskrimination: AI-systemer kan blive trænet på data, der indeholder ubevidste bias. Det kan føre til diskrimination mod bestemte grupper af mennesker.
- Manglende gennemsigtighed: AI-systemer kan være komplekse og svære at forstå, hvilket kan gøre det vanskeligt at forklare, hvordan beslutninger er truffet.
- Sikkerhed: AI-systemer kan være sårbare over for cyberangreb og manipulation. Det kan true integriteten og pålideligheden af systemet.
- Privatliv: AI-systemer kan indsamle og bruge personlige oplysninger om enkeltpersoner. Dette kan føre til brud på privatlivets fred og misbrug af data.
- Uforudsigelighed: AI-systemer kan træffe beslutninger på måder, der ikke er forudsigelige eller kan føre til uventede resultater. Dette kan have alvorlige konsekvenser.
For at minimere disse risici, er det vigtigt at gennemføre risikovurderinger af AI-systemer på et tidligt stadie af udviklingen. Dette kan omfatte en grundig analyse af træningsdata og algoritmer, en gennemgang af det etiske og juridiske rammeværk for systemet og en identifikation af mulige risici og bivirkninger.
Derudover er det vigtigt at implementere relevante sikkerhedsforanstaltninger, såsom kryptering af data, begrænsning af adgang til systemet og overvågning af systemets ydeevne. Endelig er det vigtigt at opretholde åbenhed og gennemsigtighed i beslutningstagningen og sikre, at der er passende mekanismer på plads for at håndtere eventuelle bivirkninger eller negative konsekvenser af AI-systemer.
Hvad er AI-forordningen?
De seneste år har det Europæiske Råd arbejdet med en indstilling til en forordning om kunstig intelligens. Den 21. april 2021, offentliggjorde Europa Kommissionen AI-forordningen, som er en del af EU’s bredere strategi for digital transformation. Lovgivningen vil blive gennemført i hele EU og vil omfatte alle typer af AI-systemer, fra simple chatbots til mere komplekse systemer, der bruger maskinlæring og dyb læring.
Formålet med forordningen er, at tackle de ovennævnte risici og sikre at systemer med AI overholder eksisterende lovgivning om grundlæggende rettigheder og Unionens værdier. AI-forordningen har også til formål at skabe tillid og sikkerhed i anvendelsen af kunstig intelligens, samtidig med at den fremmer innovation og vækst i EU.
Ved at sikre en høj grad af sikkerhed, gennemsigtighed, pålidelighed og ansvarlighed vil forordningen skabe en ramme, hvor AI-systemer kan anvendes på en etisk og ansvarlig måde, der beskytter borgernes rettigheder.
Hvad er fremtiden for AI i EU?
Når forordningen vedtages, vil den fungere som en lovsamling rettet mod både udbydere og brugere af AI-systemer. Forordningen vil omfatte offentlige myndigheder, såvel som private virksomheder og den vil indeholde et forbud mod visse former for anvendelser af kunstig intelligens.
Der vil, ved indførelsen af AI-forordningen, blive indført forskellige niveauer af forpligtelser for udbyderen eller brugeren. Disse vil afhænge af hvilken risiko, anvendelsen af det pågældende AI-system indebærer.
AI-forordningen har 4 forskellige kategorier af risikovurderinger:
-
- Uacceptabel risiko: her gælder der skrappe krav til anvendelsen af AI-systemer, som indgår. Kravene er oplistet i forordningens afsnit III, og omfatter både udbyderne såvel som brugere og øvrige aktører. Et eksempel på det, som EU-forordningen anser for værende en uacceptabel risiko af et AI-system, er ansigtsgenkendelse i offentlige rum.
- Høj risiko: her vil der være specifikke krav forbundet med anvendelsen af AI-systemet. Et eksempel på et høj-risiko AI-system er biometri, hvilket er en metode som benyttes til at identificere en person ud fra specifikke kendetegn, såsom fingeraftryk.
- Begrænset risiko: her vil der være en række gennemsigtighedsforpligtelser for visse AI-systemer. Hvorvidt et AI-system indgår i denne kategori, afhænger af en konkret vurdering af systemets gennemsigtighed.
- Lav eller minimal risiko: her vil der som udgangspunkt ikke være specifikke krav, hvorfor AI-systemer, som indgår i denne kategori kan omsættes og anvendes frit. Udbydere af et sådan AI-system kan selv udarbejde og gennemføre adfærdskodekser.
AI-forordningen er en af de mest omfattende lovgivninger om AI i verden og vil sandsynligvis have betydelige konsekvenser for udviklingen og anvendelsen af AI i hele EU.
I Mieritz Advokatfirma følger vi udviklingen af lovgivningen vedrørende AI-systemerne tæt.
Ofte stillede spørgsmål
Hvordan påvirker AI-forordningen brugen af ChatGPT og lignende AI-systemer?
AI-forordningen kommer til at påvirke brugen af ChatGPT og lignende AI-systemer ved at indføre specifikke krav til gennemsigtighed, ansvarlighed og sikkerhed. Forordningen har til formål at sikre, at AI-systemer overholder eksisterende lovgivning om grundlæggende rettigheder og Unionens værdier. Udbydere af sådanne AI-systemer skal derfor i fremtiden gennemføre risikovurderinger og implementere passende sikkerhedsforanstaltninger. Dette kan betyde øgede omkostninger og mere omfattende dokumentation, men det vil også skabe tillid og sikkerhed for brugerne.
Hvad er de største risici forbundet med ureguleret AI?
De største risici forbundet med ureguleret AI inkluderer diskrimination, mangel på gennemsigtighed, datasikkerhed, privacy og uforudsigelighed. Uden regulering kan AI-systemer trænes på data med bias, hvilket kan føre til diskriminerende resultater. Manglende gennemsigtighed kan i sig selv gøre det svært at forklare beslutninger truffet af AI. Datasikkerhed og privacy er i fare, idet AI kan indsamle og misbruge personlige oplysninger.
Hvordan kan virksomheder forberede sig på at overholde AI-forordningen?
Virksomheder kan forberede sig på at overholde AI-forordningen ved at gennemføre grundige risikovurderinger af deres AI-systemer tidligt i udviklingsprocessen. De bør analysere træningsdata og algoritmer for bias, sikre gennemsigtighed i beslutningsprocesserne og implementere sikkerhedsforanstaltninger som datakryptering og adgangsbegrænsning. Desuden skal virksomheder opretholde åbenhed og være parate til at håndtere eventuelle negative konsekvenser af deres AI-systemer gennem passende mekanismer.
Hvad betyder de fire risikokategorier i AI-forordningen for virksomheder og udviklere?
De fire risikokategorier i AI-forordningen betyder forskellige niveauer af forpligtelser for virksomheder og udviklere afhængigt af risikoen ved deres AI-systemer. Uacceptabel risiko indebærer skrappe krav og forbud mod visse anvendelser som ansigtsgenkendelse i offentlige rum. Høj risiko kræver specifikke foranstaltninger som biometri-identifikation. Begrænset risiko kræver gennemsigtighedsforpligtelser, mens lav eller minimal risiko tillader fri anvendelse uden specifikke krav. Udbydere skal tilpasse deres systemer i overensstemmelse med disse kategorier for at overholde forordningen.
Hvordan vil AI-forordningen fremme innovation og vækst i EU?
AI-forordningen vil fremme innovation og vækst i EU ved at skabe en ramme, der sikrer høj sikkerhed, gennemsigtighed og ansvarlighed for AI-systemer. Ved at regulere anvendelsen af AI og minimere risici, vil forordningen opbygge tillid blandt brugere og virksomheder. Dette vil skabe et mere stabilt og forudsigeligt marked for AI-udvikling, hvilket vil tiltrække investeringer og stimulere innovation. Samtidig vil klare regler og retningslinjer hjælpe virksomheder med at navigere i den komplekse juridiske og etiske landskab, hvilket fremmer bæredygtig vækst.