Во сложениот пејзаж на здравствената заштита, улогата на вештачката интелигенција (ВИ) беше и благодет и потенцијален зло. Додека вештачката интелигенција ветува дека ќе им помогне на лекарите да донесат поинформирани одлуки, една неодамнешна студија објавена во Журналот на Американското медицинско здружение (JAMA) открива една вознемирувачка реалност.
Студијата навлегува во реперкусиите на вештачката интелигенција во здравството, конкретно расветлувајќи ги опасностите од пристрасните информации што им се даваат на лекарите. И покрај ригорозните напори на регулаторните тела како Администрацијата за храна и лекови (ФДА) за да се обезбеди сигурност и безбедност на алатките за вештачка интелигенција, студијата сугерира дека дури и со објаснувања, лекарите може да бидат заведени ако вештачката интелигенција учи од погрешни и пристрасни податоци.
Истражување на влијанието на вештачката интелигенција во здравствените дијагнози
Истражувањето, предводено од Сара Џабур, д-р по компјутерски науки. студент на Универзитетот во Мичиген, фокусиран на модели на вештачка интелигенција дизајнирани да помогнат во дијагностицирањето на пациентите со акутна респираторна инсуфициенција - критична состојба кога пациентите се борат со тешкотии со дишењето. Соработувајќи со медицински професионалци, вклучувајќи лекари, медицински сестри и лекарски асистенти, тимот истражуваше како одлучувањето на вештачката интелигенција влијаело на дијагностичката точност.
Изненадувачки, кога медицинските професионалци се потпираа само на одлуката на вештачката интелигенција, нивната точност се зголеми за приближно 3%. Но, со воведување објаснување, претставено како мапа со детали за фокусот на вештачката интелигенција на рендген на граден кош, дополнително ја подобри прецизноста за 4.4%.
Студијата направи клучен пресврт со намерно воведување пристрасност во процесот на донесување одлуки на вештачката интелигенција. На пример, вештачката интелигенција може неточно да сугерира дека постарите пациенти, на возраст од 80 и повеќе години, имаат поголема веројатност да имаат пневмонија.
Џена Виенс, професорка вклучена во студијата, ги истакна вродените предрасуди на вештачката интелигенција кога се учи од погрешни податоци, наведувајќи пример каде погрешните дијагнози засновани на пол може да доведат до искривени резултати. За жал, кога на лекарите им беа презентирани објаснувања од пристрасната вештачка интелигенција, нивната точност падна за околу 11.3%, дури и кога беше очигледен ирелевантниот фокус на вештачката интелигенција.
Предизвикот за разоткривање на предрасудите на вештачката интелигенција
Сара Џабур признава дека иако објаснувањата за вештачката интелигенција нудат потенцијална авенија за подобрување, студијата ги нагласува предизвиците. Падот на перформансите, во согласност со другите студии, сигнализира дека дури и со објаснувања, моделите со вештачка интелигенција сè уште можат да ги доведат во заблуда медицинските работници.
Џабур ја нагласува потребата од заеднички напори на различни полиња за да се развијат подобри методи за објаснување на одлуките за вештачка интелигенција на лекарите на разбирлив начин. Студијата служи како јасен повик за понатамошно истражување, повикувајќи на истражување на начини за безбедно искористување на придобивките од вештачката интелигенција во здравството. Таа, исто така ја нагласува потребата за силно медицинско образование за да им овозможат на професионалците со знаење за навигација на потенцијалните предрасуди на вештачката интелигенција.
Како што напредува интеграцијата на вештачката интелигенција во здравството, студијата покренува клучно прашање: Како можеме да обезбедиме безбедно и ефективно користење на вештачката интелигенција додека ги ублажуваме ризиците од пристрасни информации? Наодите ја нагласуваат итноста за справување со овие предизвици, притискајќи за иновации кои го премостуваат јазот помеѓу напредокот на вештачката интелигенција и разбирањето на лекарите.
Дали заедничките напори на експерти од различни области можат да го отворат патот кон иднината каде што вештачката интелигенција во здравството ја подобрува прецизноста без да се загрози сигурноста и безбедноста? Студијата служи не само како предупредувачка приказна, туку и како катализатор за континуирано истражување на нијансираната врска помеѓу вештачката интелигенција и здравствената заштита, повикувајќи ги засегнатите страни да се движат низ пејзажот што се развива со голема свест за потенцијалните стапици.
Извор: https://www.cryptopolitan.com/how-ai-in-healthcare-can-mislead-doctors/