Корпорацијата Мајкрософт додаде голем број безбедносни карактеристики во студиото за вештачка интелигенција Azure, кои со текот на времето треба да продолжат да ја намалуваат веројатноста неговите корисници да ги конфигурираат моделите со вештачка интелигенција во режим што би ги натерало да дејствуваат ненормално или несоодветно. Мултинационалната технолошка компанија со седиште во Редмонд. Вашингтон, ги наведе подобрувањата во блог пост, нагласувајќи го гарантирањето на интегритетот на интеракциите со вештачка интелигенција и поттикнувањето доверба во базата на корисници.
Навремени штитови и многу повеќе
Меѓу главните случувања е создавањето на „промптни штитови“, технологија која е дизајнирана да наоѓа и убива брзи инјекции додека разговара со чат-ботови со вештачка интелигенција. Ова се таканаречените џеилбрејкови и во основа се влезови од корисници кои се намерни да се формираат на таков начин што ќе предизвикаат несакан одговор од моделите со вештачка интелигенција.
На пример, Мајкрософт ја игра својата улога индиректно со брзи инјекции, каде што е можно извршување на зли наредби, а такво сценарио може да доведе до сериозни безбедносни последици како кражба на податоци и киднапирање на системот. Механизмите се клучни за откривање и одговор на овие единствени закани во реално време, според Сара Бирд, главен директор за производи на Microsoft за одговорна вештачка интелигенција.
Мајкрософт додава дека наскоро ќе има предупредувања на екранот на корисникот, кои ќе укажат кога моделот е веројатно да изразува лажни или погрешни информации, со што ќе се осигури поголема пријатност и доверба.
Градење доверба во алатките за вештачка интелигенција
Напорот на Мајкрософт е дел од поголема иницијатива, со цел да им даде на луѓето доверба во сè попопуларната генеративна вештачка интелигенција која се применува интензивно во услугите насочени кон индивидуалните потрошувачи и корпоративната клиентела. Мајкрософт помина со чешел со фини заби, откако се појавија случаите, при што корисниците имаа можност да го играат четботот Copilot за да произведуваат бизарни или штетни резултати. Ова ќе биде поддршка на резултатот што ја покажува потребата од силна одбрана против споменатите манипулативни тактики, кои веројатно ќе се издигнат со технологиите на вештачка интелигенција и популарното знаење. Предвидувањето, а потоа ублажувањето е во препознавањето на шемите на напад, како што се случува кога напаѓачот повторува испрашување или поттикнува играње улоги.
Како најголем инвеститор и стратешки партнер на OpenAI, Мајкрософт ги поместува границите како да се вградат и создадат одговорни, безбедни генеративни технологии за вештачка интелигенција. И двајцата се посветени на одговорното распоредување и основните модели на Generative AI за безбедносни мерки. Но, Бирд призна дека овие големи јазични модели, дури и кога се гледаат како основа за голем дел од идните иновации на вештачката интелигенција, не се доказ за манипулации.
Градењето на овие основи ќе потрае многу повеќе од само потпирање на самите модели; ќе треба сеопфатен пристап кон безбедноста и безбедноста на вештачката интелигенција.
Мајкрософт неодамна најави зајакнување на безбедносните мерки за своето студио за вештачка интелигенција Azure за да ги покаже и гарантира проактивните чекори што се преземаат за да се заштити пејзажот на променливите закани со вештачка интелигенција.
Тој се стреми да избегне злоупотреба на вештачката интелигенција и да го зачува интегритетот и доверливоста на интеракцијата со вештачка интелигенција со инкорпорирање на навремени екрани и предупредувања.
Со постојаната еволуција на технологијата за вештачка интелигенција и нејзиното усвојување во многу вклучувања од секојдневниот живот, крајно време ќе биде Мајкрософт и остатокот од заедницата на вештачка интелигенција да задржат многу внимателен безбедносен став.
Извор: https://www.cryptopolitan.com/microsoft-ai-chatbot-security-to-tricksters/