"Kundanti diġitali": Kif deċiżjoni tal-qorti fil-Kenja ddgħajjef l-esternalizzazzjoni ta' multinazzjonali tal-web

Ilmenti reċenti fil-Kenja jesponu l-ispejjeż umani tal-AI u l-moderazzjoni tal-web, moħbija fil-ktajjen ta 'esternalizzazzjoni.

L-istorja tibda f'Mejju 2022 fil-Kenja: Daniel Motaung, eks moderatur tal-kontenut mill-kumpanija lokali Samasource Ltd imbagħad jippreżenta a ilment kontra l-mexxejja tagħha, kif ukoll il-prinċipali tagħhom, ħafna ġganti tal-web, inkluż Meta (il-kumpanija prinċipali ta’ Facebook).

F'dan l-ilment, Daniel Motaung jakkuża lil Sama u Meta bi traffikar tal-bnedmin, li żarmaw unions u li naqsu milli jipprovdu appoġġ adegwat għas-saħħa mentali.

Sama – mexxej fil-qasam tal-annotazzjoni – timpjega "labelers", li l-missjoni tagħha hija li tara u ttikketta kontenut eclettiku ħafna, ħafna drabi tal-biża', xi drabi estremament vjolenti, minn diversi netwerks soċjali u mill-internet. L-għan: li timmodera l-kontenut fuq in-netwerks soċjali u tipprovdi databases bilanċjati għat-tagħlim tal-intelliġenza artifiċjali.

Disa’ xhur wara, fis-6 ta’ Frar, 2023, ingħatat l-ewwel deċiżjoni storika mill-imħallef Il-Kenjan Jakob Gakeri : din tal-aħħar iddeċidiet fuq il-fatt li l-qrati Kenjani kienu kompetenti biex jiġġudikaw kumpaniji barranin li s-sussidjarji tagħhom jinsabu fil-Kenja, kif ukoll ir-responsabbiltà tal-prinċipali. Il-proċedura għaddejja għal seduti ġodda.

Din hija l-ewwel darba li każ bħal dan ġie ġġudikat fil-pajjiżi fejn jgħixu dawn il-“kundannati diġitali”, u li s-sentenza ssir skont it-termini tal-ilment ippreżentat. Mod kif il-pjaneta kollha tesponi għall-ispejjeż umani tat-teknoloġija diġitali.

It-termini tal-ilment

Sama għalhekk timpjega eluf ta’ operaturi minn madwar l-Afrika sub-Saħarjana kollha biex jimmodera u jittikketta kontenut minn ġganti tal-web bħal Meta, Microsoft u OpenAI (il-kumpanija wara ChatGPT) fi ħdan il-qafas ta’ “sħubijiet ta’ esternalizzazzjoni”. Dan tal-aħħar għandu barra minn hekk ikkonfermat li l-impjegati ta’ Sama kienu għenuh jiffiltra xi kontenut tossiku.

L-imħallef irratifika t-termini tal-petizzjoni dwar il-ksur tad-drittijiet kostituzzjonali ta’ dawn l-operaturi, u b’hekk tiddenunzja l-kundizzjonijiet materjali u psikoloġiċi deplorevoli li jaħdmu fihom.

B’din id-deċiżjoni, l-imħallef aċċetta wkoll il-merti tat-termini tat-talba li, filwaqt li jelabora fuq is-salarji insuffiċjenti biex wieħed jgħix b’mod diċenti f’Nairobi, fuq it-tbatija psikoloġika tal-impjegati (ir-rikorrent li jbati minn disturb ta’ stress post-trawmatiku – skont tiegħu parir) u dwar id-definizzjoni tal- Uffiċċju tal-Kummissarju Għoli tan-Nazzjonijiet Uniti għad-Drittijiet tal-Bniedem (OHCHR), sostniet li s-sitwazzjoni esperjenzata mit-tikkettar setgħet tiġi kkwalifikata bħala sfruttament għal gwadann ekonomiku, fi kliem ieħor, "traffikar tal-bnedmin"... speċjalment peress li l-appoġġ psikoloġiku mħabbar kuntrattwalment qatt ma kien ikun implimentat (għal darb'oħra, skont il- premessi tal-petizzjoni u t-termini tal-avukat tal-attur).

Meta pprova jappella din id-deċiżjoni tal-Imħallef Gakeri sabiex jevita l-ġuri, mingħajr suċċess. Barra minn hekk, wara din id-deċiżjoni tal-Imħallef Gakeri, il-kuntratt ta’ Sama ma’ Meta ġie kkanċellat, u x-xerrej, Majorel, allegatament ipprova jagħmel lista sewda tat-taggers ta’ Sama. Mitejn minnhom ressqu ilment kontra Meta u Sama għal tkeċċija inġusta, fi proċedura oħra.

It-tikkettjar tad-dejta jippermetti servizzi ta' moderazzjoni tal-web u sistemi ta' tagħlim tal-IA

Din id-deċiżjoni tal-Imħallef Gakeri – u dawk li ġejjin – jista’ jkollha impatt kbir fuq is-servizzi ta’ moderazzjoni li jġorru l-pjattaformi ewlenin tal-Internet, b’mod partikolari dawk li jużaw l-intelliġenza artifiċjali.

Tabilħaqq,It-tikkettar preċiż tad-dejta huwa essenzjali għall-algoritmi tal-IA biex jitgħallmu u jarbitraw b'mod xieraq ir-riżultati tagħhom : pereżempju, jekk immaġini tkun ittikkettata "triq" meta tkun ħajt, l-AI li tgħammar karozza li ssuq waħedha tista' tagħmel żball u tikkawża inċident.

It-tikkettjar tad-dejta huwa dwar il-provvista ta' informazzjoni biex tgħin lill-magni jitgħallmu minn dejta mhux ipproċessata bħal stampi, fajls ta' test u vidjows. Madankollu, tipi differenti ta’ tagħlim jeżistu (superviżjoni, semi-superviżjoni, bit-tisħiħ...) u neħtieġu aktar jew inqas dejta skont l-esperjenza mistennija tal-utent.

It-tikkettar tad-dejta huwa sors ta' valur għall-atturi diġitali

Din l-informazzjoni ġejja minn databases miġbura mill-ġganti tal-Internet waqt it-tikkettjar u moderazzjoni tal-kontenut. Dawn huma maħsuba biex jipprevjenu u jipproteġu lill-individwi kollha minn aċċess mhux mixtieq għal ċerta data – bħal vidjow tat-tqattigħ tar-ras, pereżempju – billi joħolqu u jimlew metadata, data li tinforma dwar il-kontenut tal-fajl assoċjat. Din il-metodoloġija ppermettiet il-ħolqien ta' databases enormi ta' metadata, infurmati – u li jgħarrfu – f'ħin reali dwar in-natura tal-kontenut li jgħaddi min-netwerks.

Il-metadata tagħmel ir-rabta bejn il-kontenut u l-informazzjoni, li għamlitha possibbli li jiġi rinnovat il-mudell ekonomiku tal-atturi tal-web u netwerks, li għamel il- valur ta' din il-metadata. Tabilħaqq, dawn jistgħu jintużaw biex jitħarrġu ċerti algoritmi ta 'intelliġenza artifiċjali: mhux b'kumbinazzjoni li Facebook biddel isimha għal Meta. L-ispejjeż tal-moderazzjoni huma kolossali, għax biex l-algoritmi tal-moderazzjoni jkunu preċiżi u effiċjenti, id-dejta trid tkun ikkontrollata u deskritta bir-reqqa - biċċa xogħol li teħtieġ analiżi ta’ kwalità għolja u għalhekk għaljin – u aktar u aktar peress li trid tkun soġġetta għal validazzjonijiet multipli sabiex tiġi evitata preġudizzju tal-labeler.

Soġġett għaż-żamma tal-kwalità, dawn l-ispejjeż għalhekk saru valur għall-ġganti tal-internet. Tabilħaqq, algoritmu mħarreġ ħażin jista 'jsir malajr tossiku, preġudikata jew saħansitra jipproduċu alluċinazzjonijiet (jiġifieri l-ħolqien ta’ riżultati li ma jaqblux ma’ xi dejta li l-algoritmu kien imħarreġ fuqha, jew isegwu xi mudell ieħor li jingħaraf). Dan jiddeterjora l-fiduċja fil-kontenut, li taffettwa l-udjenza u għalhekk l-interess ta 'min jirreklama.

Fir-rigward tal-algoritmi tat-tagħlim tas-sistemi AI, bħal tagħhom il-kredibbiltà hija fuq kollox ibbażata fuq il-ħila li tipprovdi tweġibiet plawsibbli u preċiżiAn kompitu impossibbli mingħajr data ttikkettjata sew.

Għal dawn ir-raġunijiet varji, kwalità tajba tat-tikkettar teħtieġ numru kbir ta 'labellers. Fi kliem ieħor, dan l-industrija hija intensiva tax-xogħol… speċjalment peress li mill-inqas 10% sa 15% tad-dejta maħluqa kuljum hija ġdida u unika.

Liema mudell ekonomiku għat-tikkettar?

Il-manifatturi jfittxu li jsibu bilanċ bejn il-ħtieġa li jinnovaw u l-ispiża ta 'din l-innovazzjoni. Per eżempju, il- it-tmexxija ta 'ChatGPT tiswa $700 kuljum mingħajr titjib fil-mudell, filwaqt li tinkoraġġixxi adozzjoni ta’ għodda diġitali, ġeneralment jitqies li l-prezz għandu jkun moderat għall-utent (madwar 20 euro fix-xahar għal ChatGPT+ pereżempju).

L-ispejjeż tax-xogħol (it-tikkettar) huma a parti kbira tan-nefqa f’dan is-settur. F'approċċ a daqsxejn skaduti tad-diviżjoni tax-xogħol u tnaqqis fl-ispejjeż, it-tikkettjar għalhekk ġie sottokuntrattat lil atturi speċjalizzati bħal Sama fl-Istati Uniti jew Majorel fil-Lussemburgu, li għandhom sussidjarji fil-Kenja.

Dan ix-xogħol jinvolvi espożizzjoni kontinwa għal immaġini, ħsejjes, kontenut li kultant ikun insupportabbli. Fil-każ ta’ Sama, huwa tħallas €1,5 fis-siegħa wara t-taxxa – inqas minn nofs is-salarju medju fis-settur tal-IT tal-Kenja, li huwa ta’ 4,3 ewro fis-siegħa.

Dawn huma l-kundizzjonijiet ta’ dan is-sottokuntrattar li huma fl-oriġini tad-deċiżjoni tal-Imħallef Gakeri.

L-impatti tad-deċiżjonijiet tal-imħallfin

L-oriġinalità ta’ dan il-qari legali tinsab fil-fatt li ddgħajjef l-istrateġija tas-soltu ta’ kumpaniji fis-settur tat-teknoloġija tal-informatika, li fil-fatt huma kumpaniji li jagħmlu ħafna xogħol, iżda li jirrifjutaw li jkunu kwalifikati bħala tali u jaħbu l-bżonnijiet umani importanti tagħhom wara katina. tas-sottokuntratturi – bogħod mill- produzzjonijiet mingħajr bnedmin fantasizzat fl-aħħar tas-seklu XNUMX.

Din il-prattika hija a bla sens ekonomiku, peress li huwa l-għarfien, il-kontroll tal-fażijiet kollha tal-proċessi tal-produzzjoni u l-ottimizzazzjoni tagħhom li jippermettu l-konsolidazzjoni tal-marġini u s-sostenibbiltà tal-mudelli kkonċernati.

Forsi l-pożizzjoni tal-Imħallef Gakeri se tipprovdi lill-multinazzjonali tal-web b'għajnuna siewja biex itejbu l-profittabbiltà tagħhom u l-mudell tan-negozju tagħhom. Xorta waħda, minn issa 'l quddiem, il-prinċipal se jkun responsabbli u ġudizzjarju daqs il-fornitur tas-servizz tiegħu f'termini ta' kundizzjonijiet tax-xogħol, jew saħansitra aktar.

Illum, aħna niskrutinizzaw l-impatt ambjentali ta 'struttura fir-ramifikazzjonijiet planetarji kollha tagħha. Ir-responsabbiltà soċjali korporattiva se tiġi vvalutata bl-istess mod għada, meta wieħed iqis il-proċess tal-produzzjoni tat-teknoloġija tal-informazzjoni bħala ħaġa globali globalizzata?

Lil hinn mill-etika tal-użi tal-AI, għandna nivvintaw etika tal-proċessi tal-manifattura tagħha?

L-użu ta' teknoloġiji ta' intelliġenza artifiċjali diġà jqajjem mistoqsijiet etiċi, pereżempju dak ta'jekk tużax jew le id-deċiżjoni algoritmika biex tistabbilixxi talbiet għar-rimborż tal-benefiċċji soċjali.

Issa nistgħu naraw il-ħtieġa urġenti għal a etika ta' produzzjoni sistemi ta' intelliġenza artifiċjali, għaliex hawn in-nuqqas ta 'sanzjonijiet etiċi fil-ħin reali l-kwalità u l-kunfidenza li wieħed jista' jkollu fl-algoritmi prodotti. Jekk a algoritmu mħarreġ ħażin għada jista 'jneħħi ferrovija jew linja ta' produzzjoni, il-kwalità tal-annotazzjoni ssir mhux negozjabbli - u din l-attività teħtieġ aħjar u aktar mill-kundizzjonijiet misjuba fil-Kenja.

Il-proċess li għaddej minn Marzu (peress li l-imħallef ivvalida l-ġurisdizzjoni tal-qrati Kenjani f’dan il-qasam) jista’ jibdel is-sitwazzjoni. Setturi oħra li jiffaċċjaw dawn il-kwistjonijiet, il-moda pereżempju, għandhom tejbu l-prattiki tagħhom, it-trasparenza tal-fornituri tagħhom u l-metodoloġiji tal-produzzjoni tagħhom, b'mod partikolari minħabba operazzjonijiet massivi "Isem u mistħija" mis-soċjetà ċivili, li gradwalment wasslu lill-utenti finali biex jitbiegħdu minn ditti mhux virtuż (mingħajr ma dawn tal-aħħar saru kollha hekk).

Mhuwiex ċert li, fil-qasam tat-teknoloġija tal-informazzjoni u l-intelliġenza artifiċjali, l-utent aħħari jista jagħmel dan it-tip ta kompromess, peress li dawn qed isiru dejjem aktar parti integrali mill-għodod tal-produttività.kompjuter użat kuljum minn kulħadd. Barra minn hekk, il-kriterji li jikkostitwixxu l-proċessi ta’ produzzjoni etika tal-IA għad iridu jiġu ivvintati. Jista' l-każ attwali jkun motivazzjoni tajba biex wieħed jaħseb dwar dan tal-aħħar?

Caroline Gans Combe, Professur Assoċjat Data, ekonometrija, etika, Edukazzjoni OMNES

Dan l-artikolu huwa ppubblikat mill-ġdid minn Il Konversazzjoni taħt liċenzja Creative Commons. Aqra l-artikolu oriġinali.