Upozorenje stručnjaka: Sprečiti da veštačka inteligencija preuzme seksističke predrasude

Petak , 2018-03-02 | 10:28:04




Veštačka inteligencija bi mogla da potpomogne opstanak predrasuda, uključujući i segregaciju ljudi po polu, ako se ne bude oprezno postupalo s podacima koji se koriste za nju, upozorili su danas stručnjaci na Svetskom kongresu o mobilnoj tehnologiji (MWC) u Barseloni.

"Svi smo veoma svesni da će mašine preuzeti predrasude onih koji sastavljaju programe za njih", upozorila je Ema MekGigan, direktorka tehnologije u konsultantskoj firmi "Aksenčer" (Accenture), tokom konferencije o promovisanju uloge žena u novim tehnologijama.

"Za veštačku inteligenciju (AI), potrebna je ogromna količinu podataka što zahteva veliko ljudsko učešće, te se i predrasude unose u AI", objasnila je Džuli Vuds-Mos, predsednica mobilnog operatera Indije, "Tata komunikejšns" (Tata Communications).

"Moramo biti veoma pažljivi da ne doprinosimo da i AI postane žrtva predrasuda", dodala je ona, pozivajući stručnjake da nađu način da predrasude identifikuju kao "svesne".

Džuli Vuds-Mos je kao primer navela šemu programiranja koje profesiju lekara povezuju s muškarcima, a profesiju medicinskog tehničara sa ženama.

Ona je kritikovala i to što većina kompjuterskih "ličnih asistenata" ima ženski glas. Ti programi već koriste elemente veštačke inteligencije, analizirajući razgovore svog korisnika, kako bi mogli da odgovore na pitanja ili izvrše naloge.

Jedan od programa za kompjutere i mobilne telefone, koji je razvio trgovinski gigant "Amazon", pod nazivom "Aleksa" (Alexa) nedavno se povinovao pritisku pokreta "Mi tu" (MeToo) koji na društvenim mrežama podstiče žene da prijave ako su bile žrtve seksualnog zlostavljanja.

"Pre, ako joj je neko govorio užasne seksualne uvrede, 'Aleksa' je odgovarala: 'Hvala za vaš komentar', a sada na to kaže: 'Ne odgovoram na to' ", rekla je ona.

Ipak, postoji "značajan broj inovacija" za tehničko rešenje tih problema, rekla je Vuds-Mos.

"Nažalost, više od 90 odsto stručnjaka za IT koji razvijaju tehnologiju veštačku inteligenciju su muškarci", rekla je Liza Vang, osnivačica platforme "Šivorks" (SheWorx) za finansiranje preduzetnica.

Debata u Barseloni dolazi posle niza sličnih o seksističkim ili rasnim "predrasudama" u algoritmima koji pokreću mnoge aplikacije.

Američki Savez za građanske slobode je 2017. pokrenuo inicijativu za borbu protiv predrasuda skrivenih u algoritmima i drugde u okvirima AI, pošto je otkriven kompjuterski program korišćen pri zapošljavanju koji je sistematski diskriminisao neke profile ljudi.

Po izveštaju Svetskog ekonomskog foruma iz 2016. o zapošljavanju, samo 19 odsto zaposlenih u industriji mobilne tehnologije su žene.
 

Napiši komentar: