Gugl i etika - otpuštanja istraživačica za etiku veštačke inteligencije

Ponedeljak , 2021-02-22 | 11:08:17




Kompanija Gugl otpustila je, dva meseca posle odlaska poznate istraživačice sistema veštačke inteligencije (AI) koja je tražila veću raznolikost medju istraživačkim osobljem, i drugu istraživačicu za etiku što ukazuje na sve veće napetosti izmedju uprave i radne snage, ali i mogući problem pristrasnosti u sistemima AI.

Kako danas prenosi Radio slobodna Evropa (RSE) pisanje svetskih medija, Gugl je otpustio jednu od svojih najboljih istraživačica za etiku veštačke inteligencije Margaret Mičel, eskalirajući unutrašnja previranja u kompaniji posle odlaska Timnit Gebru, takodje istraživačice u Guglovom timu za etiku AI.

Guglova istraživačka jedinica za etiku u veštačkoj inteligenciji bila je pod lupom od decembra kada je, ukazuje Gardijan, otpuštena Gebru, istaknuta istraživačica u Silicijumskoj dolini koja je crnkinja.

Gebru i Mičel vodile su tim za etiku u veštačkoj inteligenciji oko dve godine.

One su, ističe list, ukazivale na potrebu za većom raznolikošću medju Guglovim zaposlenicima i izrazile zabrinutost da je kompanija počela da cenzuriše istraživanje koje kritikuje njene proizvode.

Gebru je rekla da ju je Gugl otpustio pošto je dovela u pitanje naredbu o neobjavljivanju članka u kojem se tvrdi da veštačka inteligencija oponaša jezik koji bi mogao naštetiti marginalizovanoj populaciji.

Gugl je, naglašava Gardijan, regrutovao vrhunske naučnike s obećanjima o istraživačkoj slobodi, ali granice su dovedene u pitanje jer istraživači sve više pišu o negativnim učincima tehnologije i nude neugodne perspektive proizvoda svog poslodavca.

Mičel je pre otkaza bila suspendovana s posla prošlog meseca kao odgovor na njeno preuzimanje i deljenje dokumenata kompanije koji su ukazivali na diskriminacijski tretman njene ranije otpuštene koleginice, navodi agencije Frans pres.

U decembru je, dodaje AFP, više od 1.400 zaposlenih u Guglu tražilo da kompanija objasni zašto je Gebru otpuštena.

Gebru je, podseća agencija, u tvitu napisala da joj je Gugl rekao da je prihvaćena ostavka koju nije ponudila, nakon što je internoj grupi poslala poruku u kojoj žali zbog "ućutkivanja marginalizovanih glasova".

Tehnološki div Gugl otpustio je u petak Mičel uz obrazloženje da je prekršila kodeks ponašanja i sigurnosna pravila uključujući neautorizovani transfer "poverljivih poslovnih dokumenata i privatnih podataka ostalih zaposlenih", piše Fajnenšel tajms.

Odlazak druge istraživačice iz tima za etiku veštačke inteligencije - osnovanog kako bi vodio istraživanje novih tehnika s ciljem da se AI tehnologija kompanije koristi na pošten i nepristran način - ukazuje na probleme upravljanja osetljivim pitanjima veštačke inteligencije ali i šireg nezadovoljstva zbog pitanja rasa i rodne raznolikosti, ocenjuje list.

Fajnenšel tajms ističe da je u vreme odlaska istraživačice Gebru, u pismu objavljenom unutar kompanije i kasnije javno objavljenom, Mičel tvrdila da spor proizlazi iz maltretiranja njene koleginice.

Odlazak Margaret Mičel iz Gugla verovatno će samo povećati napetosti koje su se pojavile unutar tima i kompanije poslednjih meseci a koji, ističe CNN, dolaze u trenutku kada se činilo da Gugl pokušava da okrene novi list, najavljujući promene politike unutar firme.

Iznenadni izlazak Gebru, ističe CNN, izazvao je ljutnju mnogih zaposlenih ne samo u Guglu već i ostalih u tehnološkoj industriji. Ove godine dvoje zaposlenih Gugla dali su otkaz zbog odlaska Gebru - pionira u istraživanju pristrasnosti i nejednakosti u AI, i jedne od retkih crnkinja koji su radili u Guglu.

Prema godišnjem izveštaju o raznolikosti za 2020, oko 3,7 odsto Guglovih zasposlenih su pripadnici crne rase, napomenuo je CNN.

Osim što je još jedan primer sve veće napetosti izmedju Guglovog višeg menadžmenta i njegove radne snage, odlazak Mičel iz kompanije takodje naglašava rastući sukob u tehnološkoj industriji zbog problema pristrasnosti u AI sistemima, koja uključuju pitanje zapošljavanja iz nedovoljno zastupljenih zajednica, ukazuje Njujork tajms.

Današnji AI sistemi, naglašava Njujork tajms, mogu usvojiti ljudske pristrasnosti jer svoje veštine uče analizirajući ogromne količine digitalnih podataka. Budući da su istraživači i inženjeri koji grade ove sisteme često belci, mnogi se brinu da istraživači ne posvećuju potrebnu pažnju ovom pitanju.

Gugl je, prema pisanju njujorškog lista, krajem prošle sedmice na blogu objavio da će direktorka Marien Kroak, Afroamerikanka, nadgledati novu grupu unutar firme posvećenu odgovornom sistemu veštačke inteligencije.
 

Napiši komentar: