Evropski Akt o umetni inteligenci (Uredba (EU) 2024/1689, »AI Act«) določa pravila za sisteme umetne inteligence v EU. Tukaj na kratko pojasnjujemo, kako se nanaša na fjuu.
1. Vloge
fjuu je sistem umetne inteligence v smislu člena 3(1). FJUU d.o.o. je njegov ponudnik. Podjetje, ki fjuu uporablja na svoji telefonski številki, je uvajalec.
2. Stopnja tveganja
fjuu sprejema in opravlja telefonske klice, odgovarja na vprašanja o podjetju, beleži naročila in rezervira termine. Ne uporablja nobene od prepovedanih praks iz člena 5 (npr. manipulacije, socialnega točkovanja ali prepoznavanja čustev).
Ne odloča o zaposlitvi, izobraževanju, kreditih, zavarovanju ali dostopu do javnih storitev in ni namenjen razvrščanju nujnih klicev ali triaži pacientov. Po naši oceni zato ne sodi med visokotvegane sisteme iz člena 6 in Priloge III. Zanj veljajo predvsem obveznosti glede preglednosti (člen 50) in pismenosti na področju umetne inteligence (člen 4).
3. Preglednost do klicateljev
Asistentka se ne izdaja za človeka. Na vprašanje, ali govori z umetno inteligenco, vedno resnično odgovori, da je AI asistentka.
Podjetje lahko v pozdrav vključi tudi najavo, da klic sprejema AI asistentka, tako da klicatelj to izve že na začetku pogovora.
4. Človeški nadzor
Asistentka ne sprejema odločitev s pravnimi ali podobno pomembnimi posledicami za klicatelja. Vsak klic je s prepisom in povzetkom viden v nadzorni plošči podjetja, ki tako preveri, kaj je bilo dogovorjeno, in po potrebi ukrepa. Kjer je tako dogovorjeno, asistentka klic preveže na sodelavca.
5. Pismenost na področju umetne inteligence
Ob vzpostavitvi s podjetjem pregledamo, kako asistentka deluje, katere naloge opravlja, kje so njene meje in kako spremlja klice v nadzorni plošči. Ekipa FJUU pozna delovanje sistema in pravila, ki zanj veljajo.
6. Osebni podatki
Kako obdelujemo osebne podatke, pojasnjuje politika zasebnosti.
7. Vprašanja in spremembe
Pišite na [email protected]. Opis bomo posodobili, ko bodo izšle nove smernice in standardi za AI Act; vedno velja različica, objavljena na tej strani.