Етика на вештачката интелигенција и потрагата по самосвест во вештачката интелигенција

Дали сте самосвесни?

Се обложувам дека веруваш дека си.

Работата е што, наводно, малкумина од нас се особено самосвесни. Постои опсег или степен на самосвест и сите ние наводно се разликуваме во тоа колку остроумно сме свесни за себе. Можеби мислите дека сте целосно самосвесни и дека сте само маргинално. Можеби сте слабо самосвесни и сфаќате дека тоа е вашата ментална состојба.

Во меѓувреме, на највисокиот дел од спектарот, може да верувате дека сте целосно самосвесни и навистина искрено сте онолку самосвесни како што доаѓаат. Добро за тебе.

Кога веќе зборуваме, каква корист има да се биде претерано свесен за себе?

Според истражувањата објавени во Harvard Business Review (HBR) од Таша Еурих, наводно сте способни да донесувате подобри одлуки, посигурни сте во вашите одлуки, посилни сте во вашите комуникациски капацитети и поефективни во целина (по напис со наслов „Што е навистина самосвеста (и како да го негуваш). стремејќи се да бидете подобро човечко суштество и да го разубавите вашиот сонародник.

Целиот овој разговор за самосвеста покренува донекаде очигледно прашање, имено, што всушност означува фразата самосвест. Можете лесно да најдете тони различни дефиниции и толкувања за комплексот и да речеме масна конструкција што подразбира самосвесност. Некои би ги поедноставиле работите со тоа што сугерираат дека самосвеста се состои од следење на сопственото јас, знаејќи што сте вие ​​самите. Вие сте многу свесни за вашите сопствени мисли и постапки.

Веројатно, кога човек не е самосвесен, не би сфатил што прави, ниту зошто е така, а исто така не би знаел што другите луѓе имаат да кажат за него. Сигурен сум дека сте запознале такви луѓе.

Некои луѓе изгледаат како да одат на оваа земја без поим за тоа што тие самите прават, ниту пак имаат навидум што другите зборуваат за нив. Претпоставувам дека може да тврдите дека тие се како бик кој со главите надолу полни во нежен бутик за кршливи производи. Вообичаено тежнееме да веруваме дека бикот не знае што прави и останува несвесен за гледиштата на другите, освен ако тие другите не се обидат физички да маневрираат или да го збркаат бесмисленото суштество.

Се вели дека самосвеста може да биде донекаде рекурзивна.

Дозволете ми да скицирам пример за да ја илустрирам оваа рекурзија. На вашиот паметен телефон гледате видео со мачки што многу впива (се чини дека сите го прават ова). Некои луѓе не би имале други очигледни мисли освен чудесните лудории на оние мили мачки кои го загреваат срцето. Во меѓувреме, секој со малку самосвест, свесен е дека гледа видео за мачки. Можеби се свесни дека другите околу нив забележуваат дека гледаат видео со мачка.

Забележете дека можете да бидете самосвесни и сепак да бидете потопени во некоја, да речеме, одредена примарна активност. Примарната активност во овој пример е гледањето на видеото за мачки. Второ, а истовремено, можете да ја носите мислата дека всушност гледате видео за мачка. Можете исто така да ја носите мислата дека другите ве набљудуваат додека го гледате целосно забавното видео со мачки. Не мора нужно да прекинете со една активност, како што е да престанете да го гледате видеото за мачки, за потоа одделно да размислите дека гледате (или само сте) гледате видео за мачки. Тие мисли навидум можат да се појават паралелно една со друга.

Понекогаш, нашата самосвест може да не исфрли или барем да ја прекине основната ментална активност. Можеби, додека размислувате за вашето гледање на видеото за мачки, вашиот ум делумно се зонира бидејќи е претерано да се концентрирате само на самото видео. Потоа се одлучувате да го премотате видеото за повторно да го погледнете делот што некако сте го виделе, но што сте биле ментално одвлечени од целосно разбирање. Самосвеста ја наруши вашата примарна ментална активност.

Добро, сега сме подготвени да се појават рекурзивните аспекти.

Дали сте подготвени?

Гледате видео за мачка. Вашата самосвест ве информира дека гледате видео со мачка и дека другите ве гледаат додека вие го гледате видеото. Тоа е статус кво.

Следно правите дополнителен ментален скок. Почнувате да размислувате за вашата самосвест. Вие сте самосвесни дека ја вклучувате вашата самосвест. Еве како оди тоа: Дали премногу размислувам за моето гледање на видеото со мачката, се прашувате очајно? Ова е уште еден слој на самосвест. Рангирање на самосвеста над другата самосвест.

Има една стара поговорка дека се работи за желки до долу. За феномените на самосвест, може да бидете:

• Не се свесни за себе
• Самосвесни за себе
• Самосвесни за вашата самосвест за себе
• Самосвесни дека сте самосвесни за вашата самосвест за себе
• Ad Infinitum (т.е. и така натаму)

Можеби сте сфатиле дека претходно суптилно укажував дека се чини дека постојат две главни категории на самосвест. Една конкретна теорија постулира дека имаме еден вид внатрешна самосвест која се фокусира на нашите внатрешни состојби, а исто така имаме и надворешна самосвест што помага во мерењето на перцепциите за нас на оние околу нас кои нè гледаат.

Според написот HBR, еве брз приказ на теоретизираните два типа на самосвест: „Првиот, кој го нарековме внатрешна самосвест, претставува колку јасно ги гледаме нашите сопствени вредности, страсти, аспирации, се вклопуваме во нашата околина, реакции (вклучувајќи мисли, чувства, однесувања, силни страни и слабости) и влијание врз другите“. А во меѓувреме другото е: „Втората категорија, надворешна самосвест, значи разбирање како другите луѓе гледаат на нас, во однос на истите тие фактори наведени погоре. Нашето истражување покажува дека луѓето кои знаат како другите ги гледаат се повешти да покажат емпатија и да ги земат туѓите перспективи“.

Корисна матрица два-по-два или четири квадрати може да се изведе со тврдење дека и внатрешната и надворешната самосвест се движат од високо до ниско и дека можете да ги споите двете категории една со друга. Истражувањето HBR покажува дека се вели дека сте еден од овие четири архетипи за самосвест:

• Интроспектор: Ниска надворешна самосвест + висока внатрешна самосвест
• Трагач: Ниска надворешна самосвест + ниска внатрешна самосвест
• Ве молиме: Висока надворешна самосвест + ниска внатрешна самосвест
• Свесни: Висока надворешна самосвест + висока внатрешна самосвест

Врвот би бил „свесниот“ архетип кој се состои од тоа да се биде на врвот на надворешно самосвесен и исто така на врвот на внатрешно самосвесен. Да појасниме, не ја постигнувате оваа фалена поза на нужно постојан начин. Можете да се лизгате напред-назад помеѓу високото и ниското ниво, меѓу внатрешните и надворешните сфери на самосвест. Тоа може да зависи од времето од денот, ситуацијата во која се наоѓате и голем број други истакнати фактори.

Сега, кога пријатно опфативме некои основни елементи за самосвеста, можеме да се обидеме да го поврземе ова со темата за етичко однесување.

Вообичаеното тврдење дека сте самосвесни е дека поголема е веројатноста да бидете над одборот кога сте свесни за себе. Ова значи, како што веќе беше наведено, вие сте помалку склони кон негативно етичко однесување како што се крадење, мамење и лажење. Образложението за оваа тенденција е дека активноста на вашата самосвест ќе ве натера да сфатите дека вашето сопствено однесување е несолено или неетичко. Не само што се фаќате себеси додека скршнувате во матните неетички води, туку исто така сте склони да се насочите назад и кон суво (светоста на етичката територија), како да се каже.

Вашата самосвест ви помага да вежбате самоконтрола.

Контраст веројатно би бил кога има малку или воопшто нема самосвест, што сугерира дека некој можеби не заборава на нивното наклонетост кон неетичко однесување. Можеш да тврдиш дека таква несвесна личност можеби нема да сфати дека има негативно дејство. Слично на бикот во продавницата за кршливи производи, додека нешто поочигледно не им го привлече вниманието, тие веројатно нема да се саморегулираат.

Патем, не секој го купува ова. Некои би рекле дека самосвесноста може лесно да се примени за да се биде неетички како и да се биде етички. На пример, некој злосторник може да биде целосно свесен за себе и да му се допадне што го прави неправилното дело. Нивната самосвест дури и построго ги тера кон се поголеми и поголеми акти на злобно недолично однесување.

На ова има повеќе облачност отколку што може директно да се види. Да претпоставиме дека некој е многу самосвесен, но не е свесен за етичките обичаи на даденото општество или култура. На тој начин тие немаат никакво етички насоки и покрај наведеното дека се самосвесни. Или, ако сакате, можеби личноста знае за етичките правила и не верува дека тие се однесуваат на нив. Тие се сметаат себеси за единствени или надвор од границите на конвенционалното етичко размислување.

Круг и круг оди.

Самосвеста може да се толкува како меч со две острици ориентиран кон етика, некои жестоко би нагласиле.

Засега, ајде да одиме со верзијата за среќно лице која се состои од самосвест, во голема мера, нè наведува или поттикнува кон етичко однесување. Со оглед на тоа што сè друго е еднакво, ќе направиме дрска претпоставка дека колку повеќе има самосвест, толку поетички ќе се наклоните. Се чини дека е пријатно и инспиративно да се посака тоа.

Ајде да ја смениме брзината и да ја донесеме вештачката интелигенција (ВИ) на сликата.

Ние сме на момент во оваа дискусија да ги поврземе сите тековни заплетки со растечкото царство на етичка вештачка интелигенција, исто така познато како етика на вештачката интелигенција. За моето тековно и опширно покривање на етиката на вештачката интелигенција, видете врската овде врската овде, само за да именуваме неколку.

Поимот за етичка вештачка интелигенција подразбира испреплетување на полето на етиката и етичкото однесување до појавата на вештачката интелигенција. Сигурно сте виделе наслови кои кренаа тревога за вештачката интелигенција која е полна со нееднаквости и разни предрасуди. На пример, постои загриженост дека системите за препознавање лице базирани на вештачка интелигенција понекогаш можат да покажат расна и родова дискриминација, обично како резултат на тоа како основните капацитети за машинско учење (ML) и длабоко учење (DL) биле обучени и изведени (видете ја мојата анализа на оваа врска тука).

Да се ​​обидеме да го запреме или барем да го ублажиме налетот на пепелниците кон AI за лошо, кои се состојат од системи за вештачка интелигенција кои се или ненамерно или понекогаш намерно обликувани да дејствуваат лошо, неодамна имаше итност да се применат етичките правила за развојот и употребата на вештачката интелигенција. Сериозната цел е да се обезбедат етички насоки за развивачите на вештачка интелигенција, плус фирмите кои градат или спроведуваат вештачка интелигенција и оние кои зависат од апликациите за вештачка интелигенција. Како пример за етичките принципи за вештачка интелигенција што се изработуваат и се усвојуваат, видете ја мојата покриеност во врската овде.

Дајте рефлексивен момент за да ги разгледате овие три многу клучни прашања:

• Можеме ли да ги натераме развивачите на вештачка интелигенција да ги прифатат принципите на етичките ВИ и да ги применат тие упатства во вистинска употреба?
• Можеме ли да ги натераме фирмите што се занимаваат со вештачка интелигенција да го прават истото?
• Можеме ли да ги натераме оние што користат вештачка интелигенција на сличен начин да ги познаваат аспектите на етичката вештачка интелигенција?

Несрамно би го кажал ова, тоа е висок ред.

Возбудата од правењето вештачка интелигенција може да го надмине секое навестување на вниманието кон етиката на вештачката интелигенција. Па, не само возбудата, туку и правењето пари е составен дел на таа равенка. Можеби ќе бидете изненадени кога знаете дека некои од областа на вештачката интелигенција се способни да кажат дека ќе се справат со „работите“ за етичка вештачка интелигенција откако ќе ги изнесат своите системи за вештачка интелигенција надвор од вратата. Ова е типична технолошка мантра за да се уверите дека брзо и често не успевате додека не го направите правилно (се надеваме дека ќе успеете).

Се разбира, оние што накратко ја туркаат етички сомнителната вештачка интелигенција во јавноста, го пуштаат коњот од шталата. Нивната прокламирана раширена идеја е дека AI за лошо ќе се поправи откако ќе биде во секојдневна употреба, што штетно е задоцнето бидејќи коњот веќе несакано галопира наоколу. Може да се направи штета. Исто така, постои зголемена шанса ништо да не се поправи или прилагоди додека вештачката интелигенција е во употреба. Честото оправдување е дека препукувањето со вештачката интелигенција во тој момент може да го направи уште полошо во однос на веќе неетичкото алгоритамско одлучување (ADM) целосно да се прекине.

Што може да се направи за да се добие корисноста и виталноста да се има етичка вештачка интелигенција како светло сјае и водечко светло во главите на оние кои градат вештачка интелигенција, ја развиваат вештачката интелигенција и користат вештачка интелигенција?

Одговор: Самосвест.

Да, идејата е дека ако луѓето беа посвесни за тоа како користат или комуницираат со вештачката интелигенција, тоа може да ја зголеми нивната склоност кон желбата Етичката вештачка интелигенција да биде норма. Истото може да се каже и за развивачите на вештачка интелигенција и за компаниите поврзани со системи со вештачка интелигенција. Кога би биле посвесни за она што го прават, можеби повеќе би ја прифатиле етиката на вештачката интелигенција.

Дел од логиката како што е веќе наведено е дека да се биде самосвесен нуди тенденција да се биде етички подобра личност, а исто така да се избегне да се биде етички вошлива личност. Ако можеме да ја одржиме таа премиса, тоа имплицира дека развивачите на вештачка интелигенција кои се повеќе склони кон самосвест ќе бидат склони кон етичко однесување и затоа ќе бидат склони кон производство на етички здрава вештачка интелигенција.

Дали е тоа мост предалеку за тебе?

Некој би рекол дека индиректноста е малку голема. Преголемиот синџир на врски помеѓу да се биде свесен за себе, да се биде етички доблесен и да се применуваат етичките правила за вештачката интелигенција е можеби тешко да се проголта. Контрааргумент е дека не може да биде лошо да се обиде.

Скептиците би рекле дека развивачот на вештачка интелигенција можеби е самосвесен и можеби е поетички настроен, но тие не мора нужно да скокаат кон примена на тој ментален логор на обичаите на етичката вештачка интелигенција. Одговорот на таа дилема е дека ако можеме да ги публикуваме и популаризираме прашањата за етичката вештачка интелигенција, инаку навидум слабата врска ќе стане поочигледна, очекувана и веројатно ќе стане стандарден начин на правење работи кога станува збор за изработка на вештачка интелигенција.

Сега ќе додадам пресврт на оваа сага. Извртувањето може да ви ја заврти главата. Ве молиме, проверете дали сте добро седнати и подготвени за она што ќе го наведам.

Некои посочуваат дека треба да изградиме етичка вештачка интелигенција директно во самата вештачка интелигенција.

Можеби не сте воодушевени од таа изјава. Ајде да го отпакуваме.

Програмер може да создаде систем за вештачка интелигенција и тоа да го направи со сопствена програмска самосвест дека се обидува да спречи вештачката интелигенција да отелотворува предрасуди и нееднаквости. Наместо само да го заобиколи програмирањето, развивачот го набљудува своето рамо за да праша дали пристапот што го преземаат ќе резултира со неопходно отсуство на негативни елементи во ВИ.

Одлично, имаме развивач на вештачка интелигенција кој се чини дека е доволно свесен за себе, се обиде да прифати етичко однесување и виде светлина да вклучи етички правила додека го создаваат својот систем за вештачка интелигенција.

Постигнете победа за етичка вештачка интелигенција!

Сè добро и добро, иако еве нешто што подоцна може да се појави. Вештачката интелигенција е ставена на терен и се става во секојдневна употреба. Дел од вештачката интелигенција вклучуваше компонента за да може да се „учи“ во лет. Ова значи дека вештачката интелигенција може да се приспособи врз основа на нови податоци и други аспекти од оригиналното програмирање. Настрана, ова не значи дека вештачката интелигенција е чувствителна. Немаме чувствителна вештачка интелигенција. Игнорирајте ги оние надуени наслови кои велат дека ние го правиме тоа. Никој не може да каже дали ќе имаме чувствителна вештачка интелигенција, ниту пак некој може доволно да предвиди кога дали некогаш тоа ќе се случи.

Враќајќи се на нашата приказна, вештачката интелигенција беше намерно осмислена да се подобри додека е во тек. Доста практична идеја. Наместо програмерите постојано да прават подобрувања, тие и дозволуваат на програмата за вештачка интелигенција да го направи тоа сама по себе (уф, дали е тоа без работа?).

Во текот на времето кога вештачката интелигенција се прилагодува сама по инч, се покажува дека разни гадни нееднаквости и предрасуди се вовлекуваат во системот на вештачка интелигенција со нејзините сопствени акти на промена. Со оглед на тоа што програмерот првично ги чуваше тие непријатни аспекти, тие сега се формулираат поради прилагодувањето на вештачката интелигенција во лет. За жал, ова може да се случи на толку суптилен начин зад сцената што никој не е помудар. Оние кои порано можеби и дадоа зелено светло на вештачката интелигенција по првичното исцрпно тестирање, сега слепо не се свесни дека вештачката интелигенција тргна по скапа патека на AI за лошо.

Едно средство или да се спречи или барем да се фати оваа непожелна појава би било да се вгради во вештачката интелигенција еден вид двојна проверка на етичка вештачка интелигенција. Компонента во ВИ е програмирана да го следи однесувањето на вештачката интелигенција и да открие дали почнува да се појавува неетички ADM. Ако е така, компонентата може да испрати предупредување до развивачите на вештачка интелигенција или да го стори тоа до фирма што работи со системот за вештачка интелигенција.

Понапредна верзија на оваа компонента може да се обиде да ја поправи вештачката интелигенција. Ова би било прилагодување на прилагодувањата, претворајќи ги неетичките аспекти кои произлегуваат назад во соодветните етички параметри. Можете да замислите дека овој тип на програмирање е незгоден. Постои шанса да залута, можеби неетичкото да се претвори во длабоко неетички. Исто така, постои можност лажно позитивно да ја активира компонентата во акција и можеби соодветно да ги измеша работите.

Како и да е, без да се заглавиме во тоа како би функционирала оваа двојна проверка, ние ќе направиме дрска изјава за тоа. Може да сугерирате дека на некој ограничен начин, се вели дека вештачката интелигенција е самосвесна.

Да, тоа се борбени зборови за многумина.

Скоро сите преовладува верување дека денешната вештачка интелигенција не е самосвесна. Точка, точка. Сè додека не дојдеме до чувствителна вештачка интелигенција, за која не знаеме дали или кога ќе се случи, не постои никаков вид на вештачка интелигенција што е самосвесна. Не барем во смисла на човечко ориентирана самосвест. Немојте ни да сугерирате дека тоа може да се случи.

Секако се согласувам дека треба да бидеме внимателни за антропоморфизирање на вештачката интелигенција. Ќе кажам повеќе за таа грижа за момент.

Во меѓувреме, ако сакате, заради дискусија, да бидете спремни да го користите фазното „самосвестување“ на невнимателен начин, верувам дека лесно можете да видите зошто би можело да се каже дека вештачката интелигенција се придржува до целокупниот поим за само-свесност. свесност. Имаме дел од вештачката интелигенција која го надгледува остатокот од вештачката интелигенција, следејќи го она што го прави остатокот од вештачката интелигенција. Кога остатокот од вештачката интелигенција почнува да претерува, делот за следење се обидува да го открие ова. Понатаму, делот за следење на вештачката интелигенција или двојната проверка може да го насочи остатокот од вештачката интелигенција назад во соодветните ленти.

Зарем тоа не изгледа малку како чинот на гледање видеа со мачки и да имате самосвест дека го правите тоа?

Има познат прстен на него.

Можеме да го прошириме ова уште повеќе. Компонентата за двојна проверка на вештачката интелигенција не само што е програмирана да го набљудува однесувањето на остатокот од вештачката интелигенција, туку исто така го забележува однесувањето на оние што ја користат вештачката интелигенција. Како им оди на корисниците кога ја користат вештачката интелигенција? Да претпоставиме дека некои корисници изразуваат огорченост што се чини дека вештачката интелигенција ги дискриминира. Двојната проверка на вештачката интелигенција можеби ќе може да го открие ова, користејќи го како уште едно црвено знаме за тоа дека остатокот од вештачката интелигенција ќе залута.

Ова доведува до категоризација на внатрешната самосвест и надворешната самосвест.

Двојната проверка на вештачката интелигенција скенира внатрешно и надворешно за да открие дали остатокот од вештачката интелигенција се упатил во вознемирувачки мориња. Откривањето ќе подигне знаменце или ќе предизвика да се спроведе самокорекција.

Ајде да додадеме уште една донекаде збунувачка екстензија. Изградуваме уште една двојна проверка на вештачката интелигенција која има за цел двојно да ја провери главната двојна проверка на вештачката интелигенција. Зошто така? Па, да претпоставиме дека двојната проверка на вештачката интелигенција се чини дека се колеба или не ја врши својата работа. Двојната проверка на вештачката интелигенција на двојната проверка ќе се обиде да ја открие оваа неисправност и соодветно да ги преземе потребните активности. Добредојдовте во рекурзивната природа на самосвеста, некои би можеле гордо да се изјаснат, како што е прикажано во системот за пресметковна вештачка интелигенција.

За оние од вас кои веќе се на работ на вашето место во врска со ова, последниот коментар, засега, е дека би можеле да се обидеме да предложиме дека ако ги направите системите за вештачка интелигенција „самосвесни“ тие тогаш потенцијално ќе гравитираат кон етичко однесување. Дали тие го прават ова на чувствителна основа? Одлучно, не. Дали го прават ова на пресметковна основа? Да, иако мора да бидеме јасни дека тоа не е од ист калибар како она на човечкото однесување.

Ако ви е непријатно што поимот за самосвест е погрешно искривен за да се вклопи во пресметковна шема, вашите сомневања за ова се добро забележани. Дали треба да ставиме крај на тековните напори за вештачка интелигенција кои го потпомагаат поимот е друго отворено прашање. Може убедливо да тврдите дека барем се чини дека нè води кон подобар исход од она што веројатно ќе го направи вештачката интелигенција. Треба да ги имаме очите широко отворени бидејќи тоа се случува.

Претпоставувам дека ќе треба да видиме како сето ова ќе се одвива. Вратете се на ова за пет години, десет години и педесет години и видете дали вашето размислување се променило за контроверзната работа.

Сфаќам дека ова беше донекаде бурно испитување на темата и можеби сте желни за некои секојдневни примери. Постои посебен и сигурно популарен сет на примери кои ми се при срце. Гледате, во моето својство како експерт за вештачка интелигенција, вклучувајќи ги етичките и правните последици, често ми се бара да идентификувам реални примери кои ги прикажуваат дилемите за етика на вештачката интелигенција, така што малку теоретската природа на темата може полесно да се сфати. Едно од најевокативните области што сликовито ја прикажува оваа етичка дилема за вештачката интелигенција е појавата на вистински самоуправувачки автомобили базирани на вештачка интелигенција. Ова ќе послужи како практичен случај или пример за обилна дискусија на темата.

Еве потоа едно важно прашање за кое вреди да се размисли: Дали доаѓањето на вистинските самоуправувачки автомобили базирани на вештачка интелигенција осветлува нешто за вештачката интелигенција која има привид на „самосвест“ и ако е така, што покажува ова?

Дозволете ми малку да го отпакувам прашањето.

Прво, забележете дека нема човек возач вклучен во вистински самоуправувачки автомобил. Имајте на ум дека вистинските самоуправувачки автомобили се возат преку систем за возење со вештачка интелигенција. Нема потреба од човек возач на воланот, ниту пак постои одредба за човек да управува со возилото. За моето опширно и тековно покривање на автономните возила (АВ) и особено самоуправувачките автомобили, видете врската овде.

Би сакал дополнително да објаснам што се мисли кога се однесувам на вистинските самоуправувачки автомобили.

Разбирање на нивоата на самовозечки автомобили

Како појаснување, вистинските автомобили што управуваат самостојно се оние што AI го управува автомобилот целосно сам и нема никаква помош од луѓе за време на задачата за возење.

Овие возила без возач се сметаат за Ниво 4 и Ниво 5 (видете го моето објаснување на оваа врска тука), додека автомобилот што бара човечки возач да го дели напорот во возењето обично се разгледува на Ниво 2 или Ниво 3. Автомобилите што заеднички ја делат задачата за возење се опишани како полуавтономни и обично содржат различни автоматизирани додатоци кои се наведени како ADAS (Advanced Driver-Assistance Systems).

Сè уште не постои вистински автомобил за возење на ниво 5 на Ниво, за што сè уште не знаеме дали тоа ќе биде можно да се постигне, ниту, пак, колку време ќе потрае за да стигнеме до таму.

Во меѓувреме, напорите на Ниво 4 постепено се обидуваат да добијат одредена влечна сила преку подложени на многу тесни и селективни испитувања на јавни патишта, иако има контроверзии околу тоа дали ова тестирање треба да биде дозволено само по себе (сите сме заморчиња за живот или смрт во експеримент кои се одвиваат на нашите автопати и патни патишта, некои тврдат, видете ја мојата покриеност на оваа врска тука).

Бидејќи полуавтономните автомобили бараат човечки возач, усвојувањето на тие типови автомобили нема да биде значително различно од возењето на конвенционалните возила, така што нема многу нови за да се покријат околу нив на оваа тема (иако, како што ќе видите во еден момент, следните поени се генерално применливи).

За полу-автономни автомобили, важно е јавноста да се предупреди за вознемирувачки аспект што се појавува во последно време, имено дека и покрај оние човечки возачи кои продолжуваат да објавуваат видеа од себе, заспиваат на воланот на автомобил Ниво 2 или Ниво 3 , сите треба да избегнеме да бидеме во заблуда во тоа да веруваме дека возачот може да им го одземе вниманието од возачката задача додека возите полу-автономен автомобил.

Вие сте одговорна страна за постапките на возење на возилото, без оглед на тоа колку автоматизација може да се фрли на Ниво 2 или Ниво 3.

Самоуправувачки автомобили и вештачка интелигенција кои имаат таканаречена самосвест

За вистинските самостојни возила на ниво 4 и ниво 5, нема да има човечки возач вклучен во возачката задача.

Сите патници ќе бидат патници.

АИ го прави возењето.

Еден аспект за веднаш да се дискутира подразбира фактот дека ВИ вклучениот во денешните системи за возење со ВИ не е чувствителен. Со други зборови, ВИ е целосно колектив на компјутерско базирање на програмирање и алгоритми, и сигурно не е во можност да расудува на ист начин како што можат луѓето.

Зошто овој дополнителен акцент е дека АИ не е чувствителен?

Бидејќи сакам да истакнам дека кога разговарам за улогата на системот за возење со АИ, не му припишувам човечки квалитети на АИ. Ве молиме, бидете свесни дека постои постојана и опасна тенденција овие денови да се антропоморфизира АИ. Во суштина, луѓето му даваат чувство слично на човекот на денешната ВИ, и покрај непобитен и неоспорен факт дека такво АИ сè уште не постои.

Со тоа појаснување, можете да замислите дека системот за возење со ВИ нема на некој начин да „знае“ за аспектите на возењето. Возењето и сето она што го вклучува ќе треба да се програмираат како дел од хардверот и софтверот на автомобилот што управува самостојно.

Ајде да се нурнеме во огромен број аспекти што можат да се појават на оваа тема.

Прво, важно е да сфатите дека не се сите самоуправувачки автомобили со вештачка интелигенција исти. Секој производител на автомобили и технолошка фирма за самоуправување го презема својот пристап кон осмислување на самоуправувачки автомобили. Како такво, тешко е да се дадат опсежни изјави за тоа што ќе прават или не прават системите за возење со вештачка интелигенција.

Понатаму, секогаш кога се наведува дека системот за возење со вештачка интелигенција не прави одредена работа, ова подоцна, може да го надминат програмерите кои всушност го програмираат компјутерот да го стори токму тоа. Чекор по чекор, системите за возење со вештачка интелигенција постепено се подобруваат и прошируваат. Постојното ограничување денес можеби повеќе нема да постои во идна итерација или верзија на системот.

Верувам дека обезбедува доволно литија предупредувања за да го поткрепам она за што ќе зборувам.

Подготвени сме сега да направиме длабоко нурнување во самоуправувачките автомобили и етичките прашања за вештачката интелигенција што подразбираат поим за кревање веѓи дека вештачката интелигенција има еден вид самосвест ако сакате.

Ајде да користиме лесно јасен пример. Автомобил самоуправувачки базиран на вештачка интелигенција е во тек по улиците на вашето соседство и се чини дека вози безбедно. Отпрвин, посветивте посебно внимание на секој пат кога ќе успеете да ѕирнете на самоуправувачкиот автомобил. Автономното возило се издвојуваше со решетка од електронски сензори кои вклучуваат видео камери, радарски единици, уреди LIDAR и слично. По многу недели од самоуправувачкиот автомобил кој крстареше низ вашата заедница, сега едвај го забележувате тоа. Што се однесува до вас, тоа е само уште еден автомобил на веќе зафатените јавни патишта.

За да не мислите дека е невозможно или неверојатно да се запознаете со гледањето самоуправувачки автомобили, честопати пишував за тоа како местата што се во опсегот на пробни автомобили со самоуправување постепено се навикнаа да ги гледаат разубавените возила. видете ја мојата анализа на оваа врска тука. Многумина од локалното население на крајот се префрлија од занесно гајлење што ја отвора устата до сега испуштајќи експанзивен зевање на здодевност за да бидат сведоци на оние што се вртат самоуправувачки автомобили.

Веројатно главната причина што во моментов може да ги забележат автономните возила е поради факторот на иритација и вознемиреност. Системите за возење со вештачка интелигенција кои се користат во книгата се сигурни дека автомобилите ги почитуваат сите ограничувања на брзината и правилата на патот. За бурните човечки возачи во нивните традиционални автомобили управувани од луѓе, се нервирате во моменти кога ќе се заглавите зад самоуправувачките автомобили што строго ги почитуваат законите базирани на вештачка интелигенција.

Тоа е нешто на кое можеби ќе треба сите да се навикнеме, со право или погрешно.

Назад на нашата приказна. Еден ден, да претпоставиме дека самоуправувачки автомобил во вашиот град или град се приближува до знакот Стоп и се чини дека не успорува. Небо, се чини дека системот за возење со вештачка интелигенција ќе има самоуправувачки автомобил да ора веднаш покрај знакот Стоп. Замислете пешак или возач на велосипед да се најде некаде во близина и да биде фатен невнимателен дека самоуправувачкиот автомобил нема да запре правилно. Срамно. Опасно!

И, незаконски.

Ајде сега да ја разгледаме компонентата за вештачка интелигенција во системот за возење со вештачка интелигенција која делува како стил на самосвесна двојна проверка.

Ќе одвоиме малку време за да истражиме детали за тоа што се случува внатре во системот за возење со вештачка интелигенција. Излегува дека видео камерите поставени на автономното возило детектирале нешто што изгледало можеби како стоп, иако во овој случај обраснатото дрво обилно го замаглува знакот Стоп. Системот за машинско учење и длабоко учење, кој првично беше обучен на знаците Стоп, беше осмислен на модели на главно знаци за целосно стоп, генерално неограничени. По пресметковното испитување на видео снимките, беше доделена мала веројатност дека знакот Стоп постоел на тоа конкретно место (како дополнителна компликација и дополнително објаснување, ова беше новообјавен знак Стоп што не се појави на претходно подготвените дигитални мапи што Се потпираше системот за возење со вештачка интелигенција).

Сè на сè, системот за возење со вештачка интелигенција пресметковно е решен да продолжи напред како знакот Стоп или да не постои или можеби е знак од друг вид што веројатно наликува на знак Стоп (ова може да се случи и се случува со одредена фреквенција).

Но, за среќа, самосвесниот двоен проверувач за вештачка интелигенција ги следеше активностите на системот за возење со вештачка интелигенција. По пресметковното разгледување на податоците и проценката на остатокот од вештачката интелигенција, оваа компонента одлучи да го отфрли нормалниот тек на постапката и наместо тоа му нареди на системот за возење со вештачка интелигенција да застане соодветно.

Никој не е повреден, а не настана незаконско дело.

Може да се каже дека самосвесната двојна проверка на вештачката интелигенција делуваше како да е вграден правен застапник, обидувајќи се да осигура дека системот за возење со вештачка интелигенција го почитува законот (во овој случај, знакот Стоп). Се разбира, безбедноста беше исто така клучна.

Се надеваме дека тој пример покажува како може да функционира замислената ВИ самосвесна двојна проверка.

Следно, можеме накратко да разгледаме еден поистакнат пример за етичка вештачка интелигенција кој илустрира како самосвесната двојна проверка на вештачката интелигенција може да обезбеди вградена функционалност ориентирана кон етичката вештачка интелигенција.

Прво, како позадина, една од грижите што беа изразени за појавата на самоуправувачки автомобили базирани на вештачка интелигенција е дека тие може да завршат да бидат користени на малку ненамерен дискриминаторски начин. Еве како. Да претпоставиме дека тие самоуправувачки автомобили се поставени за да се обидат да го максимизираат нивниот потенцијал за приходи, што дефинитивно има смисла за оние кои управуваат со флота од достапни самовозечки автомобили за споделување на возењето. Сопственикот на флотата би сакал да има профитабилно работење.

Може да биде дека во одреден град или град, роаминг самоуправувачките автомобили постепено почнуваат да опслужуваат некои делови од заедницата, а не други области. Тие го прават тоа за да заработат пари, затоа што посиромашните области можеби нема да произведуваат приходи како побогатите делови на локалитетот. Ова не е експлицитна аспирација да се служи на некои области, а не да се служи на други. Наместо тоа, органски произлегува како вештачката интелигенција на самоуправувачките автомобили пресметковно „сфаќа“ дека треба да се заработат повеќе пари со концентрирање на географски повисоките области. Разговарав за оваа општествена етичка грижа во мојата колумна, како на пр врската овде.

Да претпоставиме дека додадовме двојна проверка за самосвесна вештачка интелигенција во системите за возење со вештачка интелигенција. По некое време, компонентата за вештачка интелигенција пресметковно забележува шема каде роамираат самоуправувачките автомобили. Имено, во некои области, но не и во други. Врз основа на тоа што е кодиран со некои правила за етичка вештачка интелигенција, самосвесната двојна проверка на вештачката интелигенција започнува да ги води самоуправувачките автомобили до други делови од градот кои инаку биле запоставени.

Ова го илустрира самосвесниот поим за вештачка интелигенција и го прави тоа во комбинација со елементот Етички ВИ.

Уште еден таков пример може да даде увид дека ова размислување за етичка вештачка интелигенција може да биде и доста отрезнувачки и сериозно разграничување на живот или смрт.

Размислете за вести за неодамнешна сообраќајна несреќа. Наводно, човек возач доаѓал на прометна раскрсница и имал зелено светло за да продолжи право напред. Друг возач помина со буре покрај црвено светло и влезе на раскрсницата кога не требаше да го сторат тоа. Возачот со зелено светло во последен момент сфатил дека овој друг автомобил сериозно ќе удри во неговиот автомобил.

Според овој загрозен возач, тој умно пресметал дека или ќе го удри другиот автомобил, или може да се скршне за да се обиде да го избегне премешачот. Проблемот со скршнувањето бил што во близина имало пешаци кои би биле загрозени.

Кој избор би го направиле?

Можете да се подготвите да бидете погодени и да се надевате дека штетата нема да ве осакати или убие. Од друга страна, можете радикално да скршнете подалеку, но сериозно да ги загрозите и евентуално да ги повредите или убиете пешаците во близина. Ова е тежок проблем, кој опфаќа морално расудување и е целосно натопен во етички (и правни) импликации.

Постои општа намена етичка дилема која покрива ваков вид на дилема, славно или можеби неславно наречена Проблем со количката, видете го моето опширно покривање на оваа врска тука. Излегува дека станува збор за етички стимулативен мисловен експеримент кој потекнува од раните 1900-ти. Како таква, темата постои подолго време, а во поново време генерално се поврзува со појавата на вештачка интелигенција и самоуправувачките автомобили.

Заменете го човечкиот возач со систем за возење со вештачка интелигенција вграден во самоуправувачки автомобил.

Тогаш замислете дека автомобил со вештачка интелигенција влегува во раскрсница и сензорите на автономното возило одеднаш откриваат автомобил управуван од човек кој опасно доаѓа директно на црвено светло и нишани кон автомобилот без возач. Да претпоставиме дека самоуправувачкиот автомобил има неколку патници во возилото.

Што сакате да направи вештачката интелигенција?

Доколку системот за возење со вештачка интелигенција одлучи да продолжи напред и да се зарие во (најверојатно ќе им наштети или можеби ќе ги убие патниците во возилото), или сакате системот за возење со вештачка интелигенција да искористи шанса и да скршне, иако скршнувањето го одзема автономното возило опасно кон блиските пешаци и може да ги повреди или убие.

Многу од производителите на автомобили со вештачка интелигенција заземаат пристап „глава во песок“ кон овие етички проблеми со вештачката интелигенција. Општо земено, вештачката интелигенција, како што е сега програмирана, едноставно би орала напред и насилно би била удрена од другиот автомобил. Вештачката интелигенција не беше програмирана да бара други маневри за избегнување.

Постојано предвидував дека овој став-види-не-зло слуша-не-злост на производителите на автомобили со самоуправување со вештачка интелигенција на крајот ќе дојде и ќе ги гризне (мојата анализа е на врската овде). Може да очекувате тужби кои вклучуваат такви сообраќајни несреќи кои ќе бараат да се открие што е програмирана вештачката интелигенција да прави. Дали компанијата или развивачите на вештачка интелигенција или операторот на флота што ја развиле и подигнале вештачката интелигенција биле невнимателни или одговорни за она што вештачката интелигенција го направила или не? Може да очекувате и етичка огнена бура за подигање на вештачката интелигенција на ниво на јавноста штом ќе се појават вакви случаи.

Во оваа дилема за етичка вештачка интелигенција влегува нашата фалена двојна проверка за самосвесна вештачка интелигенција која е ориентирана кон етика. Можеби оваа специјална компонента за вештачка интелигенција може да се вклучи во вакви околности. Делот го следи остатокот од системот за возење со вештачка интелигенција и статусот на самоуправувачкиот автомобил. Кога ќе се појави страшен момент како овој, компонентата за вештачка интелигенција служи како решавач на проблеми со количка и нуди што треба да направи системот за возење со вештачка интелигенција.

Не е лесна работа за кодирање, ве уверувам.

Заклучок

Ќе ја споделам со вас последната мисла засега на оваа тема.

Веројатно ќе ви биде интригантно.

Дали знаете за тест за огледало?

Тоа е доста добро познато во проучувањето на самосвеста. Други имиња за ова прашање се тест за самопрепознавање на огледало, тест за црвени дамки, тест за руж и сродни фрази. Техниката и пристапот првично беа создадени во раните 1970-ти за проценка на самосвеста на животните. Животните кои наводно успешно го поминале тестот вклучуваат мајмуни, одредени видови слонови, делфини, страчки и некои други. Животните кои биле тестирани и наводно не го поминале тестот вклучуваат џиновски панди, морски лавови итн.

Еве ја зделката.

Кога животното се гледа себеси во огледало, дали животното сфаќа дека прикажаната слика е нивна или животното мисли дека е друго животно?

Веројатно, животното визуелно го препознава сопствениот вид, откако видел друг од својот вид, и затоа може да помисли дека животното прикажано во огледалото е братучед или можеби воинствен конкурент (особено ако животното грми на сликата од огледалото, што во се чини дека се врти назад кон нив). Можеби сте виделе дека вашата домашна мачка или саканото милениче куче го прават истото кога за прв пат се гледаат себеси во огледало на домаќинството.

Во секој случај, би претпоставиле дека диво животно никогаш претходно не се видело. Па, ова не мора да е точно, бидејќи можеби животното се видело во мирен базен со вода или преку сјајна формација на карпи. Но, тие се сметаат за помалку веројатни шанси.

Добро, сакаме некако да процениме дали животното може да сфати дека тоа е всушност животното прикажано во огледалото. Размислете за тој навидум едноставен чин. Луѓето уште на млада возраст сфаќаат дека постојат и дека нивното постоење се докажува со тоа што се гледаат себеси во огледало. Тие стануваат самосвесни за себе. Теоретски, можеби нема да сфатите дека сте вие, додека не се видите себеси во огледало.

Можеби животните не се способни когнитивно да станат самосвесни на ист начин. Можеби животното ќе се види себеси во огледало и постојано ќе верува дека тоа е некое друго животно. Без разлика колку пати се гледа себеси, сепак би помислил дека ова е различно животно од себе.

Трик дел од ова доаѓа да се игра. Ние правиме белег на животното. Оваа ознака треба да се гледа само кога животното се гледа себеси во огледало. Ако животното може да се изврти или сврти и да ја види ознаката на себе (директно), тоа го уништува експериментот. Понатаму, животното не може да почувствува, мириса или на кој било друг начин да ја открие трагата. Уште еднаш, ако го сторат тоа, ќе го уништи експериментот. Животното не може да знае дека сме ставиле ознака на него, бидејќи тоа ќе му покаже на ѕверот дека нешто има таму.

Сакаме да ги намалиме работите така што единствената можна причина зошто ознаката може да се открие би била преку гледање себеси во огледалото.

Аха, тестот сега е подготвен. Животното се става пред огледало или талка до него. Ако животното се обиде последователно да ја допре или копа ознаката, разумно би заклучиле дека единствениот начин на кој тоа би се случило е ако животното сфати дека жигот е на себе. Многу малку животински видови успеале успешно да го поминат овој тест.

Има еден куп критики за тестот. Ако човек тестер е во близина, тие би можеле да ги дадат работите со зјапање во ознаката, што може да предизвика животното да го четка или да го почувствува. Друга можност е животното сè уште да верува дека друго животно е прикажано во огледалото, но тоа е од ист тип, па така животното се прашува дали и тоа има белег како оној на другото животно.

На и на тоа оди.

Сигурен сум дека ви е драго што го знаете ова и отсега ќе разберете зошто има точка или некакво чудно обележување на животно кое инаку не би имало таков знак. Кој знае, можеби неодамна заврши експеримент за тестирање на огледало. Честитајте му на животното, безбедно, што беше дарежлив учесник.

Каква врска има тоа со самоуправувачките автомобили базирани на вештачка интелигенција?

Ќе ви се допадне овој дел.

По долг автопат се движи самовозен автомобил. Системот за возење со вештачка интелигенција користи сензори за да открие друг сообраќај. Ова е автопат со две ленти на кој сообраќајот оди кон север во едната лента и кон југ во другата лента. Од време на време, автомобилите и камионите ќе се обидат да поминат еден со друг, така што ќе влезат во спротивната лента и потоа ќе скокаат назад во нивната соодветна лента на патување.

Сте го виделе ова, несомнено сте го направиле ова.

Се обложувам дека овој следен аспект ви се случил и вам. Пред самоуправувачкиот автомобил е еден од оние големи цистерни. Изработен е од сјаен метал. Полиран и чист како свирче. Кога седнувате зад таков камион, можете да ја видите огледалната слика на вашиот автомобил преку задниот дел на танкерот. Ако сте го виделе ова, знаете колку хипнотизирачко може да биде. Таму сте вие ​​и вашиот автомобил, рефлектирани во огледалото од задниот дел на камионот-цистерна.

Седнете за лудиот пресврт.

Зад камионот-цистерна доаѓа самоуправувачки автомобил. Камерите детектираат слика на автомобил што е прикажана во рефлексијата слична на огледалото. Уф, вештачката интелигенција оценува, дали е тоа автомобил? Дали доаѓа во самоуправувачки автомобил? Како што самоуправувачкиот автомобил се приближува и поблиску до камионот-цистерна, се чини дека автомобилот станува сè поблиску и поблиску.

Да, вештачката интелигенција компјутерски би можела да пресмета дека ова е опасна ситуација и вештачката интелигенција треба да преземе евазивна акција од ова лудо непријателско возило. Гледате, вештачката интелигенција не се препознала себеси во огледалото. Не успеа на тестот за огледало.

Што да се прави? Можеби самосвесната двојна проверка на вештачката интелигенција влегува во работата и го уверува остатокот од системот за возење со вештачка интелигенција дека тоа е само безопасен одраз. Избегната опасност. Светот е спасен. Успешно поминување на AI Mirror Test!

Со необичен заклучок, би можеле дури да сугерираме дека понекогаш вештачката интелигенција е попаметна или барем посвесна од просечна мечка (иако, на признание на мечките, тие обично успеваат добро во тестот за огледало, честопати добиваат навикнати на нивниот одраз во базени со вода).

Корекција, можеби вештачката интелигенција може да биде посвесна за себе од џиновските панди и морските лавови, но немојте да им го кажувате тоа на животните, тие би можеле да бидат во искушение да ги скршат или удираат системите со вештачка интелигенција. Ние не го сакаме тоа, нели?