Горна линија
Алатките за регрутирање работни места кои тврдат дека користат вештачка интелигенција за да се избегнат родовите и расните предрасуди можеби нема да ја подобрат различноста при вработувањето и всушност би можеле да ги овековечат тие предрасуди, тврдат во неделата истражувачите од Универзитетот во Кембриџ, пренесувајќи ги програмите - кои привлекоа критики во минатото - како начин за користење на технологијата за да се понуди брзо решение за подлабок проблем.
Прикажан е системот за препознавање лице на Google Vision напојуван со вештачка интелигенција.
Getty Images
Клучни факти
Во трудот објавен од Филозофија и технологија, истражувачите разгледаа тврдења од неколку компании кои нудат алатки за регрутирање напојувани со вештачка интелигенција, од кои многу тврдат дека ги елиминираат предрасудите и промовираат различност со криење на имињата, половите и другите идентификатори на кандидатите, а некои од нив рангира кандидати врз основа на скенирање на биографија, онлајн проценки и анализа на говорот и изразите на лицето на апликантите.
Истражувачите - двајца професори од Центарот за родови студии на Универзитетот во Кембриџ - тврдеа дека овие алатки всушност може да промовираат униформност при вработувањето бидејќи ги репродуцираат културните предрасуди на „идеалниот кандидат“, кој историски бил бел или европски маж.
Алатките, исто така, можеби нема да ја подобрат различноста бидејќи се засноваат на податоци од минатото на компанијата и на тој начин може да промовираат кандидати кои се најслични на сегашните вработени.
Има „мала одговорност за тоа како се градат или тестираат овие производи“, рече во изјавата Елеонор Драге, ко-автор на студијата и истражувач од Центарот за родови студии на Универзитетот во Кембриџ, додавајќи дека технологијата може да послужи како „опасна“. извор на „дезинформации за тоа како регрутирањето може да биде „де-пристрасно“ и да се направи поправедно“.
Клучен цитат
„Со тврдењето дека расизмот, сексизмот и другите форми на дискриминација може да се одземат од процесот на вработување со помош на вештачка интелигенција, овие компании ја намалуваат расата и полот на незначителни точки на податоци, наместо системи на моќ кои го обликуваат начинот на кој се движиме низ светот. “, се вели во соопштението на Драге.
тангента
Амазон објави во 2018 година дека ќе запре користејќи алатка за регрутирање вештачка интелигенција за да ги прегледа резимеата на кандидатите за работа откако утврди дека системот силно ги дискриминира жените. Тоа е затоа што компјутерските модели на кои се потпираше беа развиени врз основа на резимеа доставени до компанијата во текот на изминатите 10 години, кои главно доаѓаа од машки апликанти.
Главна позадина
Организациите се повеќе се свртуваат кон вештачката интелигенција за да помогнат во управувањето со процесите за регрутирање работни места. Во еден Анкета на 2020 од повеќе од 300 лидери за човечки ресурси наведени од авторите на неделниот труд, консултантската фирма Гартнер откри дека 86% од работодавците користат виртуелна технологија во нивните практики за вработување, тренд што се забрза откако пандемијата „Ковид-19“ принуди многумина да ја префрлат работата преку Интернет. Додека некои компании тврдат дека вештачката интелигенција може да понуди поекономичен и временски поефективен процес на вработување, некои експерти имаат најде системите имаат тенденција да промовираат-наместо да елиминираат-расно и родово пристрасно вработување преку реплицирање на постоечките предрасуди од реалниот свет. Неколку американски законодавци имаат цел да се решат предрасудите во системите за вештачка интелигенција, бидејќи технологијата продолжува да се развива брзо и постојат неколку закони за да ја регулираат. Белата куќа оваа недела објави „Блупринт за Бил за правата на вештачката интелигенција“, кој тврди дека алгоритмите што се користат при вработувањето е откриено дека ги „рефлектираат и репродуцираат постоечките несакани нееднаквости“ или вградуваат нова „пристрасност и дискриминација“. Планот - кој не е правно обврзувачки или официјална владина политика - ги повикува компаниите да обезбедат вештачката интелигенција да не ја дискриминира или да ја нарушува приватноста на податоците и да ги информираат корисниците кога се користи технологијата.
Што да внимавате
Во списокот на препораки, авторите на неделата Филозофија и технологија Документот предложи компаниите кои развиваат технологии за вештачка интелигенција да се фокусираат на пошироки, систематски нееднаквости наместо на „индивидуализирани случаи на пристрасност“. На пример, тие предлагаат развивачите на софтвер да ги испитаат категориите што се користат за сортирање, обработка и категоризација на кандидатите и како овие категории може да промовираат дискриминација потпирајќи се на одредени претпоставки за полот и расата. Истражувачите исто така тврдат дека професионалците за човечки ресурси треба да се обидат да разберат како функционираат алатките за регрутирање со вештачка интелигенција и кои се некои од нивните потенцијални ограничувања.
Изненадувачки факт
Европската унија го класифицираше софтверот за вработување напојуван со вештачка интелигенција и алатките за евалуација на перформансите како „висок ризик“ во својата нова Нацрт правна рамка за вештачката интелигенција, што значи дека алатките ќе бидат предмет на поголема контрола и ќе треба да исполнат одредени барања за усогласеност.
Дополнителни информации
DC сака да ја води борбата против пристрасноста на вештачката интелигенција (Аксиос)
Извор: https://www.forbes.com/sites/madelinehalpert/2022/10/09/ai-powered-job-recruitment-tools-may-not-improve-hiring-diversity-experts-argue/