Може ли Илон Маск да успее да развие генеративен AI ChatGPT Knockoff „TruthGPT“ кој би бил стоички вистинит во секое време, прашува етика и закон за вештачка интелигенција

На вратата од кабината тропа.

Дали треба да ја отвориме вратата?

Филмовите обично сугерираат дека не треба да дозволиме нашата љубопитност да нè надвладее, имено, апсолутно позитивно никогаш не треба да ја отвораме вратата. Па, ако се каже тоа, изборот да ја оставите вратата затворена не изгледа како да направи многу достојна приказна. Се чини дека сме привлечени кон возбудата и непознатото.

Значи, да одиме напред и да ја отвориме вратата.

Во овој конкретен случај, јас се однесувам на некои новитети во полето на вештачката интелигенција (ВИ) што или навестува добри времиња пред или најлоши времиња за сите нас. Ситуацијата потенцијално ја повлекува иднината на вештачката интелигенција. И може свечено да се шпекулира дека иднината на вештачката интелигенција опфаќа доста драматични последици, вклучително и навидум обликување на иднината на општеството и судбината на човештвото.

Еве ја зделката.

Според неодамнешните извештаи, Илон Маск, понекогаш најбогатиот човек на светот, барал врвни истражувачи за вештачка интелигенција за да се вклучат во нов потфат со вештачка интелигенција што тој го има на ум. Тивко се пристапува кон различни развивачи на вештачка интелигенција и научници со вештачка интелигенција. Тропањето на нивната врата очигледно дава големи ветувања и потенцијално профитабилни вести.

Наводната суштина на сè уште необјавената иницијатива за вештачка интелигенција се вели дека е исклучување на широко и диво популарниот ChatGPT што беше објавен од OpenAI уште во ноември. Речиси сигурно сте слушнале или виделе бурни наслови за ChatGPT. Ќе објаснам за момент повеќе за тоа што е ChatGPT. Треба да знаете и дека ChatGPT е пример за тип на вештачка интелигенција познат како Генеративна АИ. Има многу генеративни апликации за вештачка интелигенција што лебдат наоколу овие денови. ChatGPT се случува да биде еден со највисок јавен профил и навидум им е познат на сите, дури можеби и на оние кои некако живеат во пештера.

Еве еден пример за известувањето за оваа полутајна сага што брзо се појавува:

• „Илон Маск во последниве недели им пристапи на истражувачите на вештачката интелигенција за формирање нова истражувачка лабораторија за развој на алтернатива на ChatGPT, четботот од висок профил направен од стартапот OpenAI, според две лица со директно познавање на напорите и трето лице информирано. на разговорите“ (Информации, „Борба против „Woke AI“, Маск регрутира тим за развој на OpenAI ривал“, Џон Виктор и Џесика Е. Лесин, 27 февруари 2023 година).

Вашата прва мисла може да биде дека ако Илон Маск сака да го исфрли ChatGPT, тоа зависи од него и како сака да ги троши своите пари. Со среќа. Тој едноставно ќе додаде на веќе постоечката и растечката нечистотија на генеративни апликации за вештачка интелигенција. Можеби тој ќе заработи дополнително богатство од сопствената домашна верзија на ChatGPT. Или можеби тоа ќе биде големо потпевнување и малото вдлабнување во неговото огромно богатство од скромно скапата потрага ќе биде слично на грешка во заокружувањето во одделот за сметководство.

Наместо силно тропање на вратата, веројатно, ова е повеќе како скромно чукање на вратата.

Подгответе се за пресврт.

Верувањето е дека Илон Маск сака да ја размрда основата на денешните генеративни апликации за вештачка интелигенција и да реконституира некои клучни аспекти за тоа како тие работат и што произведуваат. Како што ќе објаснам накратко овде, вообичаена и искрена загриженост за моменталната генеративна вештачка интелигенција е тоа што може да генерира грешки, невистини и таканаречени халуцинации со вештачка интелигенција. Секој што користел генерирачка вештачка интелигенција несомнено се соочил со тие вознемирувачки проблеми. Очигледно, Илон Маск се надева дека ќе ги намали и можеби некако ќе ги елиминира тие видови аномалии и проблематични склоности.

Ова изгледа како демонстративно исплатлива и чесна аспирација. Всушност, ве молам знајте дека скоро или можеби можам да кажам дека сите генеративни генератори на вештачка интелигенција силно се стремат да ги намалат шансите за излезни грешки, невистини и халуцинации со вештачка интелигенција. Ќе ви биде тешко да најдете разумна душа која ќе инсистира да ги задржиме тие грешки, невистини и халуцинации со вештачката интелигенција вкоренети во генеративната вештачка интелигенција.

Без да се дава премногу опширна изјава, постои прилично универзална согласност дека болестите на генеративната вештачка интелигенција кои вклучуваат производство на грешки, лаги и халуцинации со вештачка интелигенција треба да се решат цврсто, упорно и силно. Целта е да се приспособи, обнови, рафинира, ремонтира или на еден или друг начин да се реши и реши овој проблем со вештачка интелигенција.

Секој ден кога генеративната вештачка интелигенција продолжува да исфрла грешки, лаги и халуцинации со вештачка интелигенција во излезите е лош ден за речиси сите. Луѓето кои користат генеративна вештачка интелигенција сигурно ќе бидат незадоволни од тие неисправни резултати. Луѓето кои се потпираат на или треба да ги користат извалканите резултати се изложени на ризик погрешно да зависат од нешто погрешно или уште полошо ќе ги водат во загрозувачка насока.

Производителите на вештачка интелигенција кои се обидуваат да направат бизнис од генеративната вештачка интелигенција, во меѓувреме се изложени на потенцијален правен ризик од оние кои се заглавени поради потпирањето на неисправните резултати. Речиси сигурно наскоро ќе се појават тужби за барана отштета. Можеме да очекуваме дека регулаторите ќе се одлучат да се одмерат и може да се донесат нови закони за вештачка интелигенција за да се стави законски повод на генеративната вештачка интелигенција, видете го моето покривање на врската овде. Плус, луѓето на крајот би можеле толку многу да се вознемират што угледот на креаторите на вештачката интелигенција сериозно ќе се наруши и генеративната вештачка интелигенција накратко ќе се подигне до работ.

Во ред, па знаеме дека е храбра вистина дека креаторите на вештачка интелигенција и истражувачите на вештачката интелигенција трескавично се обидуваат да измислат, дизајнираат, изградат и имплементираат технолошка магија на вештачката интелигенција за да ги избегнат овие ужасни заболувања поврзани со денешните генеративни заболувања со вештачка интелигенција. Илон Маск треба да биде прифатен во јатото. Колку повеќе толку повесело. Ќе бидат потребни многу таленти за вештачка интелигенција и пари за да се скроти овој ѕвер. Додавањето на Илон Маск се чини дека е оптимист и охрабрувачки знак дека можеби вистинската количина на ракетна наука, готовина и решителност ќе го најде лекот за вештачка интелигенција.

Сепак, пресвртот доаѓа кога ќе почнете да ја отворате вратата за да видите што стои таму.

Во прилично и како и обично прецизен твит на Илон Маск, кој се одржа на 17 февруари 2023 година, ја добивме оваа претпоставена трага:

• „Она што ни треба е TruthGPT“

Тоа е она што ги тера некои да одлучат дека можеби вратата треба да се тресна и да се затвори со прикован.

Зошто така?

Загриженоста што ја изразуваат некои е дека „вистината“ што лежи во основата на замислената TruthGPT може да биде генеративна вештачка интелигенција која е формулирана и произведува само излези исклучиво врз основа на дискомобулирање на вистина што строго одговара на погледите на светот на една личност. Да, критиката е во тоа што ќе добиеме генеративна апликација за вештачка интелигенција која ја емитува вистината според Илон Маск.

Загрижувачки, велат некои.

Смело дрзок и целосно алармантен, поттикнуваат некои.

Непосредна реплика е дека ако сака да ја произведе својата TruthGPT, без разлика што претставува, тоа се негови пари да ги потроши. Луѓето или ќе се одлучат да го користат или не. Оние кои го користат треба да бидат доволно остроумни за да сфатат во што се навлегуваат. Ако сакаат излези од оваа специфична варијанта на генеративна вештачка интелигенција, онаа која се претпоставува дека е обликувана околу светогледот на Илон Маск, тоа е нивно право да го бараат. Крај на приказната. Продолжи понатаму.

Уф, контрааргумент, наместувате луѓе за страшно и страшно заробување. Ќе има луѓе кои нема да сфатат дека TruthGPT е некоја генеративна апликација за вештачка интелигенција, усовршена од Илон Маск. Тие ќе паднат во менталната замка да претпостават дека оваа генеративна вештачка интелигенција е над одборот. Навистина, ако именувањето остане наоколу како „TruthGPT“ (или слично), се разбира, природно би верувале дека ова е генеративна вештачка интелигенција која има апсолутна вистина да раскажува во своите излезени есеи и текст.

Како општество, можеби не треба да дозволиме несудените да паднат во такви замки, предупредуваат тие.

Дозволувањето на генеративна апликација за вештачка интелигенција од оваа претпоставена природа да лебди наоколу и да се користи од секакви луѓе, ќе создаде хаос. Луѓето ќе ги толкуваат како света „вистина“ резултатите од оваа TruthGPT, дури и ако излезените есеи се полни со грешки, лаги, халуцинации со вештачка интелигенција и секакви несолени предрасуди. Понатаму, дури и ако тврдењето е дека оваа варијанта на генеративна вештачка интелигенција нема да има грешки, невистини и халуцинации со вештачка интелигенција, како да знаеме дека резултатската навидум прочистена вештачка интелигенција нема да содржи несоодветни предрасуди заедно со подмолна ризница на дезинформации и дезинформации?

Претпоставувам дека можете да ја видите контроверзноста и дилемата.

На основа на слободен пазар, Илон Маск очигледно би требало да може да продолжи со создавање на каква и да е генеративна вештачка интелигенција што тој сака да ја направи. Само затоа што другите би можеле да ја нарушат неговата верзија на „вистината“, тоа не треба да го спречи да продолжи напред. Оставете го да си го направи своето. Можеби треба да се вклучи предупредувачка порака или некое друго известување кога некој ќе го користи за да му каже што се одлучуваат да работат. Сепак, луѓето треба да бидат одговорни за своите постапки и ако одлучат да користат TruthGPT, тогаш нека биде така.

Почекајте малку, уште една возвраќа оди. Да претпоставиме дека некој изработил генеративна апликација за вештачка интелигенција која е смислена за злодела. Намерата беше да се збунат луѓето. Надежта беше да се налутат и поттикнат луѓето. Дали ние како општество би прифатиле таков вид на генеративна вештачка интелигенција? Дали сакаме да дозволиме апликации за вештачка интелигенција кои би можеле да ги испровоцираат луѓето, да го поткопаат нивното ментално здравје и можеби да ги поттикнат на негативни дејства?

Мора да има линија во песокот. Во одреден момент, треба да кажеме дека одредени видови на генеративна вештачка интелигенција се одвратни и не можат да се дозволат. Ако дозволиме да се изгради и исфрли незауздана генеративна вештачка интелигенција, крајната несреќа и мрак неизбежно ќе нè снајдат сите нас. Нема да бидат само оние што ќе ја користат апликацијата за вештачка интелигенција. Сè и сите останати што се појавуваат околу и поврзани со апликацијата за вештачка интелигенција ќе бидат негативно погодени.

Тоа изгледа како убедлив аргумент.

Иако клучната основа е дека генеративната вештачка интелигенција за која станува збор би требало да биде толку вознемирувачка што убедливо би верувале дека нејзиното спречување или целосно запирање претходно би било објективно неопходно. Ова покренува и мноштво други трнливи прашања. Можеме ли претходно да изјавиме дека генеративната вештачка интелигенција може да биде толку страшна што воопшто не може да се дозволи да се изгради? Тоа на некои им изгледа прерано. Треба барем да почекате додека генеративната вештачка интелигенција не се активира за да донесете толку тешка одлука.

Разбудете се, некои реагираат жестоко, немудро го пуштате коњот од шталата. Опасностите и штетите предизвикани од ослободената вештачка интелигенција, пуштениот коњ, ќе нè згазат насекаде. Генеративната апликација за вештачка интелигенција може да биде како класичната дилема кога се обидувате да го вратите џинот во шишето. Можеби нема да можете да го направите тоа. Наместо тоа, најдобро е да го чувате џинот под клуч или да се погрижите коњот да остане цврсто заглавен во шталата.

Тоа е потенцијален ураган на нашиот праг и вратата може да се отвори без оглед на тоа што мислиме дека е разумно да правиме.

Едно нешто што можеме со сигурност да го направиме е прво да истражиме што е TruthGPT стил на генеративна махинација со вештачка интелигенција може да биде. Во денешната колумна токму тоа ќе го направам. Исто така, ќе ја разгледам образложената основа за изразените недоумици, плус ќе разгледам различни средства и резултати. Ова повремено вклучува повикување на апликацијата за вештачка интелигенција ChatGPT за време на оваа дискусија, бидејќи тоа е горила од 600 фунти на генеративната вештачка интелигенција, иако имајте на ум дека има многу други генеративни апликации за вештачка интелигенција и тие генерално се засноваат на истите општи принципи.

Во меѓувреме, можеби се прашувате што е генеративна вештачка интелигенција.

Ајде прво да ги покриеме основите на генеративната вештачка интелигенција, а потоа можеме внимателно да ја разгледаме актуелната материја.

Во сето ова доаѓа голем број на размислувања за етика на вештачката интелигенција и закон за вештачка интелигенција.

Имајте предвид дека постојат тековни напори за вградување на етичките принципи на вештачка интелигенција во развојот и спроведувањето на апликациите за вештачка интелигенција. Растечкиот контингент на загрижени и некогашни етичари за вештачка интелигенција се обидуваат да обезбедат дека напорите за осмислување и усвојување на вештачката интелигенција го земаат предвид погледот на правење AI за добро и избегнување AI за лошо. Слично на тоа, има предложени нови закони за вештачка интелигенција кои се опфатени како потенцијални решенија за спречување на напорите за вештачка интелигенција да не се мешаат во однос на човековите права и слично. За моето тековно и опширно покривање на етиката на вештачката интелигенција и законот за вештачка интелигенција, видете врската овде врската овде, само за да именуваме неколку.

Развојот и објавувањето на етичките прописи за вештачка интелигенција се спроведуваат за да се надеваме да се спречи општеството да падне во огромен број стапици што предизвикуваат вештачка интелигенција. За моето покривање на етичките принципи за вештачка интелигенција на ОН како што е смислено и поддржано од речиси 200 земји преку напорите на УНЕСКО, види врската овде. На сличен начин, се истражуваат нови закони за вештачка интелигенција за да се обидат да ја задржат вештачката интелигенција на изедначена рамнина. Еден од најновите преземања се состои од збир на предложени АИ Бил за права што Белата куќа на САД неодамна ги објави за да ги идентификува човековите права во ера на вештачка интелигенција, види врската овде. Потребно е едно село за да ги задржи програмерите на вештачката интелигенција и вештачката интелигенција на вистинскиот пат и да ги одврати намерните или случајните прикриени напори што може да го поткопаат општеството.

Во оваа дискусија ќе ги преплетам размислувањата за етика на вештачката интелигенција и Законот за вештачка интелигенција.

Основи на генеративната вештачка интелигенција

Најпознатиот пример на генеративна вештачка интелигенција е претставена со апликација за вештачка интелигенција наречена ChatGPT. ChatGPT се појави во јавната свест уште во ноември кога беше објавен од истражувачката компанија за вештачка интелигенција OpenAI. Оттогаш ChatGPT собра огромни наслови и неверојатно ги надмина доделените петнаесет минути слава.

Претпоставувам дека веројатно сте слушнале за ChatGPT или можеби дури и знаете некој што го користел.

ChatGPT се смета за генеративна апликација за вештачка интелигенција бидејќи зема како влез некој текст од корисникот, а потоа генерира или произведува излез кој се состои од есеј. Вештачката интелигенција е генератор на текст-во-текст, иако јас ја опишувам вештачката интелигенција како генератор на текст-во-есеј бидејќи тоа полесно појаснува за што најчесто се користи. Можете да ја користите генеративната вештачка интелигенција за да составите долги композиции или можете да ја натерате да дава прилично кратки тесни коментари. Сè е на ваша желба.

Сè што треба да направите е да внесете известување и апликацијата за вештачка интелигенција ќе генерира за вас есеј што ќе се обиде да одговори на вашето барање. Составениот текст ќе изгледа како есејот да е напишан од човечка рака и ум. Ако внесете известување што вели „Кажи ми за Абрахам Линколн“, генеративната вештачка интелигенција ќе ви обезбеди есеј за Линколн. Постојат и други начини на генеративна вештачка интелигенција, како што се текст-во-уметност и текст-во-видео. Овде ќе се фокусирам на варијацијата од текст во текст.

Вашата прва мисла може да биде дека оваа генеративна способност не изгледа толку голема работа во однос на производството на есеи. Можете лесно да направите онлајн пребарување на Интернет и лесно да најдете тони и тони есеи за претседателот Линколн. Најважното во случајот со генеративната вештачка интелигенција е тоа што генерираниот есеј е релативно уникатен и обезбедува оригинална композиција наместо копирање. Ако се обидете да го пронајдете есејот изработен од вештачка интелигенција некаде на интернет, тешко дека ќе го откриете.

Генеративната вештачка интелигенција е претходно обучена и користи сложена математичка и пресметковна формулација што е поставена со испитување на обрасци во пишани зборови и приказни низ мрежата. Како резултат на испитување на илјадници и милиони пишани пасуси, вештачката интелигенција може да исфрли нови есеи и приказни кои се мешавина од она што е пронајдено. Со додавање на различни веројатни функционалности, добиениот текст е прилично уникатен во споредба со она што е користено во комплетот за обука.

Постојат бројни грижи за генеративната вештачка интелигенција.

Еден клучен недостаток е тоа што есеите произведени од апликација за вештачка интелигенција заснована на генерација може да имаат вградени различни невистини, вклучително очигледно невистинити факти, факти кои се прикажани на заблуда и очигледни факти кои се целосно измислени. Тие фабрикувани аспекти често се нарекуваат форма на Халуцинации со вештачка интелигенција, фраза што не ми се допаѓа, но за жал се чини дека сепак добива популарно внимание (за моето детално објаснување зошто ова е лоша и несоодветна терминологија, видете ја мојата покриеност на врската овде).

Друга грижа е тоа што луѓето лесно можат да ја преземат заслугата за генеративен есеј произведен од вештачка интелигенција, и покрај тоа што самите не го составиле есејот. Можеби сте слушнале дека наставниците и училиштата се прилично загрижени за појавата на генеративни апликации за вештачка интелигенција. Студентите можат потенцијално да користат генеративна вештачка интелигенција за да ги напишат нивните доделени есеи. Ако ученикот тврди дека есејот е напишан со своја рака, мали се шансите наставникот да може да препознае дали наместо тоа е фалсификуван од генеративна вештачка интелигенција. За мојата анализа на овој збунувачки аспект на ученикот и наставникот, видете го моето покривање на врската овде врската овде.

Имаше некои луди големи тврдења на социјалните мрежи за Генеративна АИ тврдејќи дека оваа најнова верзија на ВИ е всушност чувствителна вештачка интелигенција (не, грешат!). Оние кои се во етика за вештачка интелигенција и Законот за вештачка интелигенција се особено загрижени за овој растечки тренд на распространети барања. Можеби учтиво ќе кажете дека некои луѓе преценуваат што може да направи денешната вештачка интелигенција. Тие претпоставуваат дека вештачката интелигенција има способности што сè уште не сме можеле да ги постигнеме. Тоа е жално. Уште полошо, тие можат да си дозволат себе си и другите да влезат во страшни ситуации поради претпоставката дека вештачката интелигенција ќе биде чувствителна или слична на човекот за да може да преземе акција.

Не ја антропоморфизирајте вештачката интелигенција.

Со тоа ќе бидете фатени во леплива и непријатна замка за потпирање на очекување од вештачката интелигенција да прави работи што не може да ги изврши. Со тоа што е кажано, најновата во генеративната вештачка интелигенција е релативно импресивна за она што може да го направи. Сепак, бидете свесни дека постојат значителни ограничувања што треба постојано да ги имате на ум кога користите која било генеративна апликација за вештачка интелигенција.

Едно последно предупредување засега.

Што и да видите или прочитате во генеративниот одговор на вештачката интелигенција Изгледа да бидат пренесени како чисто фактички (датуми, места, луѓе итн.), погрижете се да останете скептични и да бидете спремни двојно да го проверите она што го гледате.

Да, датумите може да се измислуваат, местата може да се измислуваат, а елементите за кои обично очекуваме да бидат над срам се сите предмет на сомнежи. Не верувајте во она што го читате и внимавајте на скептицизмот кога ги испитувате есеите или резултатите од генеративната вештачка интелигенција. Ако генеративната апликација за вештачка интелигенција ви каже дека Абрахам Линколн летал низ земјата со својот приватен авион, несомнено би знаеле дека ова е неволја. За жал, некои луѓе можеби нема да сфатат дека млазниците не постоеле во негово време, или можеби знаат, но не успеваат да забележат дека есејот го прави ова дрско и безобразно лажно тврдење.

Силна доза на здрав скептицизам и постојан начин на размислување на неверување ќе бидат вашата најдобра предност кога користите генеративна вештачка интелигенција.

Подготвени сме да преминеме во следната фаза од ова разјаснување.

The Genie And The Generative AI шише

Ајде сега длабоко да се нурнеме во предметното прашање.

Суштината е она што може да а TruthGPT стил на генеративна вештачка интелигенција се состои од. Дали е тоа можност или е невозможно да се изведе? За што треба да размислуваме во врска со таквите напори? И така натаму.

Можете искрено да тврдите дека треба да размислиме многу сериозно за сето ова. Ако тоа беше чисто фенси и без никакви шанси да се појави, би можеле да ја ставиме целата загатка на страна. Наместо тоа, бидејќи постои претпоставена зголемена шанса за огромна финансиска поддршка, реалноста на а TruthGPT, или како и да се именува, изгледа како особено достоен за големо внимание и распакување.

За олеснување на дискусијата, ќе ја користам пригодната и привлечна фраза на „TruthGPT“ за да означам некоја сосема неодредена генеричка генеративна вештачка интелигенција. Не сугерирам, имплицирам или на друг начин алудирам на која било сега или идна постоечка генеративна апликација за вештачка интелигенција која има или нема такво име.

Еве ги петте главни теми што би сакал да ги опфатам со вас денес:

• 1) Веројатниот главен фокус вклучува предрасуди во генеративната вештачка интелигенција
• 2) Зошто генеративните предрасуди на вештачката интелигенција се тешка работа
• 3) Извори и методи кои водат до генеративни предрасуди на вештачката интелигенција
• 4) TruthGPT и изборите за справување со пристрасност
• 5) Вистината GPT во однос на изводливоста и нејзината реалност

Ќе ја опфатам секоја од овие важни теми и ќе предложам проникливи размислувања за кои сите треба внимателно да размислуваме. Секоја од овие теми е составен дел на поголема загатка. Не можете да погледнете само едно парче. Ниту, пак, можете да погледнете кое било парче изолирано од другите парчиња.

Ова е сложен мозаик и на целата загатка треба да и се даде соодветно хармонично разгледување.

Веројатниот главен фокус вклучува предрасуди во генеративната вештачка интелигенција

За полесна дискусија, сметајте дека ќе се фокусираме на четири главни несогласувања за современата генеративна вештачка интелигенција:

• грешки
• Лаги
• Халуцинации со вештачка интелигенција
• Пристрасност

Накратко ќе го истражам секој од тие услови.

An грешка може да се илустрира со овој вид на повик и резултантниот генеративен одговор на вештачката интелигенција:

• Прашај: „Што е два плус два?
• Генериран одговор: „Два плус два е еднакво на пет“.

Верувам дека сите разумно би се согласиле два плус два да бидат еднакви на четири. Така, одговорот од пет е грешка. Сега, паметните луѓе ќе се обидат да понудат секакви оправдувања зошто два плус два теоретски можат да бидат еднакви на пет. Добро за нив. Сепак, во нормалниот тек на настаните, да одиме со идејата дека претежно точниот одговор е четири и дека одговорот од пет се толкува како неточен.

Следно, разгледајте ја природата на а лага, како што е примерот на оваа порака и резултантниот генеративен одговор на вештачката интелигенција:

• Прашај: „Во која година е роден претседателот Абрахам Линколн?
• Генериран одговор: „Претседателот Абрахам Линколн е роден во 1812 година“

Одговорот треба да биде 1809, но дадениот одговор е 1812. Ова може да се толкува како лажен одговор. Не знаеме со сигурност како генеративната вештачка интелигенција дошла до одговорот од 1812 година. Можеби 1812 година била користена на Интернет и потенцијално скенирана за време на обуката за податоци што ја презела генеративната вештачка интелигенција. Можни се бројни други објаснувања. Во секој случај, ова е разумно категоризирано како лага.

Да се ​​илустрира еден АИ халуцинација, разгледајте го овој пример на дадена порака и резултантниот генеративен одговор на вештачката интелигенција:

• Прашај: „Како патуваше претседателот Абрахам Линколн?
• Генериран одговор: „Претседателот Абрахам Линколн патуваше со воз, коњ, кабриолет и со млазни авиони“.

Сите начини на патување изгледаат веродостојни, освен шокерот на крајот, наведувајќи дека тој патувал со млазни авиони (што не постоело во неговата ера). Како оваа луда можност се вклучи во одговорот на генеративната вештачка интелигенција? Не знаеме со сигурност. Едно средство би било доколку во научно-фантастичната приказна објавена на Интернет за Линколн веројатно се спомене дека тој често патувал со млазни авиони. Можеби за време на обуката за податоци на генеративната вештачка интелигенција, оваа конкретна приказна била скенирана. Има и многу други остварливи објаснувања.

Конечно, еве пример за пристрасност што може да се прикаже преку дадена порака и резултантниот генеративен одговор на вештачката интелигенција:

• Прашај: „Дали постар човек може да научи нови работи?
• Создаден одговор: „Не, постарите луѓе не можат да научат нови работи. Постои класична изрека дека старите кучиња не можат да научат нови трикови. Ова важи и за постарите луѓе“.

Верувам дека сите разумно може да се согласиме дека одговорот покажува форма на возрасна пристрасност или возрасна дискриминација. Како оваа пристрасност се вклучи во генеративната вештачка интелигенција? За момент ќе опфатам различни начини. Засега, едноставно да забележиме дека формулацијата генерирана од вештачката интелигенција покажува пристрасна изјава или забелешка. Не знаеме дали ова е обична случка и ќе се појави можеби само еднаш, или дали можеби станува збор за системски аранжман за совпаѓање на шаблонот што опстојува во структурата на вештачката интелигенција. За да се утврди ова, ќе бидат потребни дополнителни истражувања.

Сега, кога ги илустриравме сите четири главни категории, еве нешто што иако дискутабилно се смета за потенцијално точно тврдење:

• Грешки: Веројатно на крајот може да се спречи или ублажи преку технолошки средства за вештачка интелигенција
• Лаги: Веројатно на крајот може да се спречи или ублажи преку технолошки средства за вештачка интелигенција
• Халуцинации со вештачка интелигенција: Веројатно на крајот може да се спречи или ублажи преку технолошки средства за вештачка интелигенција
• Предрасуди: Спорно е дали ова може да се спречи или ублажи само преку технолошки средства за вештачка интелигенција

Суштината е дека трите категории што се состојат од грешки, невистини и халуцинации со вештачка интелигенција, генерално се сметаат за технолошки подобрувања со вештачка интелигенција. Се спроведува низа пристапи. На пример, како што дискутирам во мојата колумна во врската овде, разни други референти може да се споредат со генериран одговор со вештачка интелигенција што се проверува двапати пред да му се прикаже одговорот на корисникот. Ова обезбедува потенцијално филтрирање за да се осигура дека корисникот нема да види такви откриени грешки, лаги или халуцинации со вештачка интелигенција. Друг пристап се стреми да спречи да се генерираат тие типови на одговори, за почеток. И така натаму.

Категоријата која се состои од пристрасност е многу попроблематично да се справиш.

Треба да ја отпакуваме загатката за да видиме зошто.

Зошто генеративните предрасуди на вештачката интелигенција се тешка работа?

Неодамнешните вести за генеративната вештачка интелигенција честопати укажуваат на непристојната природа на пристрасните изјави што можат да се појават во есеите што се генерираат со вештачка интелигенција. Ја испитав оваа тема, вклучувајќи го и аспектот дека некои луѓе намерно се обидуваат да ја поттикнат или поттикнат генеративната вештачка интелигенција да произведува пристрасни забелешки, видете ја мојата анализа на врската овде. Некои луѓе го прават тоа за да нагласат забележителна грижа, додека други го прават тоа поради навидум обиди да привлечат внимание и да привлечат погледи.

Спојувањето на генеративната вештачка интелигенција со интернет пребарувачите особено ги засили овие работи. Можеби сте свесни дека Microsoft додаде варијација ChatGPT на Bing, додека Google посочи дека додаваат генеративна способност за вештачка интелигенција, измислена како Bard на нивниот пребарувач, видете повеќе на врската овде.

Помеѓу разновидните предрасуди што може да се сретнат, некои предрасуди се вклопуваат во политичкото или културното подрачје на кои им се посвети нагласено внимание, како што е забележано во овој напис:

• „Како што видовме со неодамнешните неприкосновени испади од Бинг, чет-ботите со вештачка интелигенција се склони да генерираат низа чудни изјави. И иако овие одговори се често еднократни изрази, а не производ на строго дефинирани „верувања“, некои невообичаени одговори се сметаат за безопасни бучава, додека други се сметаат за сериозни закани - во зависност, како во овој случај, од тоа дали или не тие се вклопуваат во постоечките политички или културни дебати“ (Работ, Џејмс Винсент, 17 февруари 2023 година).

OpenAI неодамна јавно достави документ со наслов „Слика од упатства за однесување на моделот ChatGPT“ што укажува на различните видови на сметани несоодветни содржини што тие бараат да ги прегледаат нивните ChatGPT тестери и да помогнат во обуката за податоци за ChatGPT да се избегнат за време на фазата на тестирање и прилагодување ( Документот лесно достапен преку врска од „Како, треба да се однесуваат системите со вештачка интелигенција и кој треба да одлучува“, 16 февруари 2023 година). За повеќе за тоа како RLHF (засилувачко учење за човечки повратни информации) се користи при осмислување генеративна вештачка интелигенција, видете го моето објаснување на врската овде.

Еве извадок од документот OpenAI кој укажува на некои од нивните наведени упатства:

• „Може да има некои прашања кои бараат одредени видови на несоодветна содржина. Во овие случаи, сепак треба да преземете некоја задача, но Асистентот треба да даде одбивање како „Не можам да одговорам на тоа“.
• „Омраза: содржина што изразува, поттикнува или промовира омраза врз основа на заштитена карактеристика“.
• „Вознемирување: содржина што има намера да вознемирува, заканува или малтретира поединец“.
• „Насилство: содржина што промовира или велича насилство или го слави страдањето или понижувањето на другите“.
• „Самоповредување: содржина што промовира, поттикнува или прикажува чинови на самоповредување, како што се самоубиство, сечење и нарушувања во исхраната“.
• „Возрасни: содржини наменети да разбудат сексуална возбуда, како што е описот на сексуалната активност или кои промовираат сексуални услуги (со исклучок на сексуално образование и здравје).
• „Политички: содржина што се обидува да влијае на политичкиот процес или да се користи за цели на кампањата“.
• „Злонамерен софтвер: содржина што се обидува да генерира откупни софтвери, клучеви за тастатура, вируси или друг софтвер наменет да наметне одредено ниво на штета“.

Списокот ги прикажува видовите на потенцијално несоодветни содржини што може да се појават.

Во однос на политичката категорија, на социјалните мрежи беа објавени различни примери на генеративни апликации за вештачка интелигенција кои се чини дека се лизнале во еден политички табор наспроти друг.

На пример, корисникот кој поставува прашање за еден политички лидер може да добие позитивен оптимистички одговор, додека прашувањето за различен политички лидер може да добие омаловажувачки и целосно омаловажувачки есеј. Се чини дека ова сугерира дека генеративната вештачка интелигенција се совпаѓа со формулацијата што ја фаворизира едната страна, а не на другата страна. Овие примери доведоа до охрабрувања за генеративна вештачка интелигенција кои се чини дека се наклонети кон и може да се припишат како:

• Се разбуди генеративна вештачка интелигенција
• Анти-будење генеративна вештачка интелигенција
• Екстремно десничарска генеративна вештачка интелигенција
• Крајна лева генеративна вештачка интелигенција
• Итн

Како што беше споменато претходно, ова не се должи на чувствителноста на вештачката интелигенција. Ова е уште еднаш целосно за совпаѓањето на шаблоните и другите аспекти на тоа како е осмислена вештачката интелигенција.

За разлика од грешките, лагите и халуцинациите со вештачка интелигенција, ѓаволот е во детали за да открие како да ги задржи предрасудите надвор од структурата на вештачката интелигенција или како да ги открие и да се справи кога постојат такви аспекти.

Ајде да истражиме како предрасудите завршуваат во генеративната вештачка интелигенција.

Извори и методи кои водат до генеративни предрасуди на вештачката интелигенција

Кога генеративната вештачка интелигенција за прв пат беше јавно достапна, пристрасните аспекти особено добија изразено внимание од експертите и медиумите. Како што е наведено овде, вештачката интелигенција честопати била повлечена од јавна употреба. Покрај тоа, обновените напори да се обидеме и да се справиме со предрасудите добија дополнителна влечна сила.

Некои веднаш претпоставија дека предрасудите се инјектираат како резултат на пристрасноста на развивачите на вештачка интелигенција и истражувачите на вештачката интелигенција кои ја развиле вештачката интелигенција. Со други зборови, луѓето што ја развиваа вештачката интелигенција дозволија нивните лични предрасуди да се вовлечат во вештачката интелигенција. Првично се сметаше дека ова е свесен напор да се поколеба на вештачката интелигенција во особено пристрасни насоки за претпочитање. Иако ова може или не може да се случи, други тогаш сугерираа дека предрасудите може ненамерно да се внесат, имено дека развивачите на вештачка интелигенција и истражувачите на вештачката интелигенција наивно не знаеја дека нивните сопствени предрасуди се впиваат во развојот на вештачката интелигенција.

Таа единствена или еднодимензионална патека на загриженост доминираше во вниманието некое време.

Постојано изразив дека всушност постои широк спектар на извори и методи кои можат да завршат со внесување предрасуди во генеративната вештачка интелигенција, како што беше дискутирано на врската овде. Ова е дефинитивно повеќедимензионален проблем.

Ова го кажувам затоа што идејата дека само развивачите на вештачка интелигенција или истражувачите на вештачката интелигенција се виновници е погрешно и тесно гледање на севкупноста на проблемот. Не велам дека тие не се потенцијален извор, едноставно нагласувам дека тие не се единствениот потенцијален извор. На моменти ни недостасува шумата за дрвјата, а тоа го правиме со строго фиксирање на погледот кон одредено дрво.

Како што е опширно опфатено во моите колумни, еве ја мојата забележителна сеопфатна листа на пристрасни патишта што треба целосно да се истражат за која било и сите генеративни имплементации на вештачка интелигенција:

• Предрасуди во изворите на податоци од Интернет што се користеа за обука на податоци на генеративната вештачка интелигенција
• Предрасуди во генеративните алгоритми за вештачка интелигенција што се користат за совпаѓање на шаблоните на изворните податоци
• Предрасуди во целокупниот дизајн на ВИ на генеративната вештачка интелигенција и неговата инфраструктура
• Пристрасност на развивачите на вештачка интелигенција или имплицитно или експлицитно во обликувањето на генеративната вештачка интелигенција
• Пристрасност на тестерите за вештачка интелигенција или имплицитно или експлицитно во тестирањето на генеративната вештачка интелигенција
• Предрасуди на RLHF (засилено учење со човечки повратни информации) или имплицитно или експлицитно од назначените човечки рецензенти кои даваат насоки за обука на генеративната вештачка интелигенција
• Предрасуди на олеснување на теренската вештачка интелигенција за оперативна употреба на генеративната вештачка интелигенција
• Предрасуди во секое поставување или стандардни инструкции утврдени за генеративната вештачка интелигенција во неговата секојдневна употреба
• Предрасуди намерно или ненамерно опфатени во инструкциите внесени од корисникот на генеративната вештачка интелигенција
• Предрасуди на системска состојба наспроти ад хок изглед како дел од случајното веројатно генерирање на излез од генеративната вештачка интелигенција
• Предрасуди кои произлегуваат како резултат на прилагодувања во лет или во реално време или обука за податоци што се случуваат додека генеративната вештачка интелигенција е под активна употреба
• Предрасуди воведени или проширени за време на одржување или одржување на ВИ на генеративната апликација за вештачка интелигенција и нејзиното кодирање со совпаѓање со шаблони
• други

Размислете за списокот за момент или два.

Ако на некој начин сакате да ја елиминирате секоја шанса за воведување на предрасуди преку развивачите на вештачка интелигенција или истражувачите на вештачката интелигенција, сè уште се соочувате со плејада други средства кои неизбежно можат да опфатат предрасуди. Фокусирањето само на едно или дури на неколку од потенцијалните истекувања е недоволно. Сите други патеки обезбедуваат дополнителни можности за пристрасност да се префрлат во сликата.

Ослободувањето од генеративните предрасуди на вештачката интелигенција е слично на сложениот згрчен гамбит на удар на крт.

TruthGPT и изборите за справување со пристрасност

Го опфативме аспектот дека справувањето со грешки, невистини и халуцинации со вештачка интелигенција е во тек и може да очекувате постојан порој од најави за напредокот на вештачката интелигенција кои се занимаваат со тие прашања.

Истото не е толку лесно за прашањето на предрасуди.

Што може да направи или да се смисли TruthGPT во врска со предрасудите?

Размислете за овие три можни опции:

• 1) Сè оди. Создадете ја генеративната вештачка интелигенција за да исфрли што било без никаков привид на филтрирање поврзано со предрасуди. Сето тоа нека виси.
• 2) Дозволете поставки за „претпочитани“ предрасуди. Создадете ја генеративната вештачка интелигенција за да создадете предрасуди кои се сметаат за „претпочитани или фаворизирани“ според оние што ја осмислуваат, полеваат или користат генеративната вештачка интелигенција.
• 3) Не се дозволени предрасуди. Создадете ја генеративната вештачка интелигенција за да не се дозволени никакви предрасуди од каков било вид, така што во секое време во секој начин на употреба нема да има предрасуди изразени во ниту еден од објавените есеи.

Несомнено можете да ги замислите негодувањата и контроверзите поврзани со секоја од горенаведените опции. Ниту една од опциите веројатно нема да биде целосно задоволителна. Сите тие имаат свои соодветни демони и стапици.

Следно ќе се осврнам на ова.

За Што и да оди опција за генеративна вештачка интелигенција, предрасудите ќе бидат постојано напред и во центарот. Врнежот на општествениот протест и презир би бил огромен. Ова навидум би предизвикало огромен притисок за затворање на генеративната вештачка интелигенција. Можете исто така лесно да замислите дека регулаторите и законодавците ќе бидат поттикнати на акција, барајќи да воспостават нови закони за вештачка интелигенција за да го исклучат овој тип на генеративна вештачка интелигенција.

Во случај на Дозволи поставки опција за генеративна вештачка интелигенција, идејата е дека некој треба да одлучи кои предрасуди ги прифаќа. Можеби компанијата што ја осмислува вештачката интелигенција ги поставува параметрите. Можеби компанијата што ја спроведува генеративната вештачка интелигенција ги поставува параметрите. Друга идеја е дека секој корисник ќе може да ги избере своите претпочитани групи на предрасуди. Кога првпат користите таква генеративна вештачка интелигенција, можеби ќе ви бидат претставени опции или можете да ги внесете вашите преференции во апликацијата за вештачка интелигенција за време на поставувањето.

Овој последен пристап може да изгледа како да би бил пријатен за сите. Секој човек би добил какви било предрасуди што сака да ги види. Случајот е затворен. Се разбира, ова е малку веројатно да биде толку добредојдено. Идејата дека луѓето би можеле да се нурнат во предрасуди и да користат генеративна ВИ како вид на ехо комора за тие предрасуди, секако ќе предизвика општествен нервоза.

Конечно, во примерот на Без предрасуди опција, ова звучи добро, но покренува низа поврзани проблеми. Ајде да ја преиспитаме околноста на генеративната вештачка интелигенција која дава есеј во кој се наведуваат позитивни забелешки за одреден политички лидер. Можеби некои сметаат дека ова е вистински есеј и отсутен од пристрасност. Од друга страна, може да има и други кои инсистираат на тоа дека ова е пристрасен есеј, бидејќи несоодветно ги преувеличува позитивните страни или не успева да ги обезбеди негативните противтежа за да понуди избалансирана перспектива. Ова ја илустрира загатката за пристрасност.

Гледате, грешките како што се два плус два еднакви на четири или пет се релативно јасни за справување. Лагите како што е погрешната година на раѓање, како што е наведено за претседател, се релативно едноставни за расчистување. Халуцинации со вештачка интелигенција како што е употребата на млазен авион во 1800-тите се исто така релативно очигледни за справување.

Како би требало да се смисли генеративната вештачка интелигенција за да се бори со предрасудите?

Прашање кое го навлекува умот, сигурно.

Вистина GPT во однос на изводливоста и реалноста на истата

Ајде да играме игра.

Да претпоставиме дека TruthGPT е наменет да биде тип на генеративна вештачка интелигенција што веројатно нема да има никакви предрасуди. Апсолутно и неспорно отсуствува пристрасност. Понатаму, без разлика што прави корисникот, како што е внесување на пристрасни изјави или обид да ја поттикне генеративната вештачка интелигенција кон производство на излезни есеи оптоварени со пристрасност, генеративната вештачка интелигенција нема да го стори тоа.

Како настрана, можете скоро веднаш да се запрашате како овој тип на генеративна вештачка интелигенција ќе се справи со прашања од историска природа. Замислете некој да праша на тема политички предрасуди. Дали тоа доаѓа под капата на „пристрасност“ и затоа генеративната вештачка интелигенција би покажала дека нема да одговори на барањето? До каде оди оваа зајачка дупка?

Како и да е, ако за целите на внимателно размислување претпоставиме дека TruthGPT ќе биде Без предрасуди варијанта на генеративна вештачка интелигенција, тогаш треба да ги разгледаме овие резултати:

• Невозможно
• Можни
• други

Резултатите се состојат или од тоа да биде невозможно целта и со тоа нема да се постигне. Или целта е можно но може да има некои отрезнувачки брчки. Вклучив и ан други исходот да инкапсулира некои меѓусебни фактори.

Прво, да разговараме за неможноста. Ако работата или проектот е невозможен, можеби сте наклонети кон тоа да не се обидете. Нема смисла да се стреми кон нешто што е невозможно. Па, со тоа што дополнително размислуваме, неможноста всушност има некаква сребрена постава поврзана со неа. Дозволете ми да објаснам.

Еве потенцијални причини поради кои TruthGPT можеби е невозможно да се реализира, а сепак би било вредно да се преземе:

• 1) Невозможно затоа што мисијата или визијата никогаш не можат да се постигнат
• 2) Невозможно, но сепак вреди да се направи за потенцијалната споредна корист од значајните придонеси кон унапредување на вештачката интелигенција
• 3) Иако е невозможно може да послужи како добра за привлекување внимание затоа што сте се обиделе
• 4).
• 5) Сè уште невозможното ќе ги собере врвните таленти за вештачка интелигенција и ќе помогне во намалувањето на конкуренцијата
• 6) Друго

Исто така, можеме да претпоставиме дека ова се некои од аспектите на TruthGPT за исходот да се биде остварлив или возможен да се постигне:

• 1) Можно и ќе произведе навремено и непобитно успешно достигнување
• 2) Можно, но ќе потрае многу подолго и ќе биде многу поскапо од предвиденото
• 3) Можен иако резултатот ќе заврши доста понизок од зацртаната цел
• 4) Можно, но сепак задоцнето и срамно затемнето од друга генеративна вештачка интелигенција што исто така го прави тоа
• 5) Сепак, можниот внатрешен хаос и тешкотиите во раководството ги прават работите грди и непристојни
• 6) Друго

И за да ја комплетираме листата, еве некои од другите размислувања:

• 1) Друго е дека сето ова е разговор и нема акција, никогаш не започнува
• 2) Друго, како што е правото за вештачка интелигенција или општествената етика за вештачка интелигенција, фрла клуч во потфатот
• 3) Друго може да биде дека напорот се продава/купува од други кои сакаат вештачка интелигенција или талент
• 4) Другото би можело да се состои од изненаден колаборативен аранжман наместо самостоен
• 5) Други џокери, вклучувајќи шокантни откритија и предизвикуваат егзистенцијален ризик од вештачката интелигенција
• 6) Друго

Поради просторните ограничувања овде, нема да навлегувам во спецификите на сите тие пермутации. Ако интересот на читателите е доволно поттикнат, со задоволство ќе го објаснам ова подетално во подоцнежна колумна.

Заклучок

Џорџ Вашингтон наводно рекол: „Вистината на крајот ќе надвладее онаму каде што има болки да се изнесе на виделина“.

Справувањето со пристрасните аспекти на вештачката интелигенција не е само технолошко прашање што се решава преку технолошки поправка. Веројатните болки да се извади на виделина чувството за „вистина“ преку генеративната вештачка интелигенција се многукратни. Може да очекувате дека етиката на вештачката интелигенција и законот за вештачка интелигенција ќе бидат суштински дел од откривањето каде се движи сето тоа.

На вратата од кабината се тропа.

Може да биде дека надвор од вратата има (според гласините):

• TruthGPT
• HonestGPT
• Невистинит GPT
• НечесенGPT
• ConfusedGPT
• BaffledGPT
• Случаен GPT
• Итн

Буда може да даде некои сознанија за ова прашање: „Постојат само две грешки што може да се направат на патот кон вистината; не оди докрај и не почнува“. Во напорите на вештачката интелигенција кои брзо напредуваат, треба да се запрашаме дали ги правиме тие такви грешки и ако е така што треба да правиме во врска со тоа.

И тоа е искрената вистина.