Етика на вештачката интелигенција и познатата чудна долина на вештачката интелигенција, која исто така штрака со самоуправувачки автомобили базирани на вештачка интелигенција

Понекогаш има малку чудни работи кои ви го привлекуваат вниманието и ги поттикнуваат вашите интуитивни сокови дека некако нешто не е во ред. Чудноста не е еклатантна, нималку флагрантно во твоето лице. Можеби дури и не можете веднаш да го ставите прстот на тоа што е неусогласеноста или како е тоа што вашиот пословичен пајак сетило трне.

Можеби се насетуваат суптилни кажувачки индиции. Можеби ви се случило во стомакот да сфатите дека постои дисонанца. Претпоставувам дека би можеле да кажете дека постои и најмала навестување на недооценено морничавост и дека вашиот нежен човечки радар прибира инаку навидум скриени сигнали.

Добредојдовте во чудната долина.

Ако никогаш не сте слушнале за чудната долина, тема која е релативно популаризирана во полето на вештачката интелигенција и особено роботиката, ќе бидете воодушевени бидејќи тоа е темата што тесно ќе ја дискутирам и анализирам овде.

Сеопфатниот поим може да се примени на многу работи што ги доживуваме во животот, иако клучните принципи и дефиницијата за потекло вклучуваат системи и роботи со вештачка интелигенција. Прво ќе ги истражиме потеклото и почетното значење на чудната долина, а потоа ќе продолжиме со проширување за да видиме како феномените се чини дека се применливи во поголеми контексти.

Може да додадам и дека ќе размислиме дали воопшто постои чудната долина.

Гледаш, некои скептици и циници тврдат дека целата работа е малку лукав и не држи вода. Бидете внимателни кога им ја поставувате темата на оние што знаат. Некои радосно ќе се насмевнат и ќе ви плескаат по грб дека сте многу запознаени со неверојатната долина, додека други жестоко ќе ви предаваат дека тоа е грозје од прашина и дека треба накратко да го исчистите вашиот ум со слатка лента сапун за ментално чистење. .

Добрата вест овде е што треба да одлучите дали чудната долина е реална или не, заедно со тоа дали има заслуги за внимателна примена или наместо тоа треба да се фрли без церемонија на ѓубрето од техно-идеи. Во таа смисла, вие сте на возачкото место.

Сето ова, исто така, се однесува тесно на растечкото поле на етичка вештачка интелигенција и растечкото сознание дека општеството мора сериозно и трезвено да обрнува внимание на етиката на вештачката интелигенција. Ќе го направиме тоа вратоврска за момент.

Најдоброто место за почеток е директно цитирање на професорот кој го смислил концептот на чудна долина и отворено го именувал овој прокламиран феномен. Во 1970 година, професорот Масахиро Мори од Технолошкиот институт во Токио објави прилично ситна статија во малку помалку познато списание наречено енергија (не е особено жариште за вештачка интелигенција и роботиката сама по себе), и го рече ова:

„Забележав дека, при искачувањето кон целта да направиме роботите да изгледаат како луѓе, нашиот афинитет кон нив се зголемува додека не дојдеме до долината, која јас ја нарекувам чудна долина.

Ве молиме имајте предвид дека горната фраза е прикажана на англиски, иако оригиналниот труд беше на јапонски. Преведената верзија на англиски јазик беше надгледувана од авторот и подоцна објавена во IEEE Spectrum во 2012 година и му се припишува на Масахиро Мори како автор. Весникот можете сами да го прочитате бидејќи е отворено и слободно достапен на интернет. Тоа е дефинитивно брзо читање од можеби десет минути или така и не содржи никаква технолошка тешка терминологија.

Како што е кажано, интересно и донекаде е неверојатно што една ваква брза статија, објавена во 1970 година, на крајот започна цела арена на истражување и започна огромен број поврзани студии, проекти, истражувања, а понекогаш и бура од контроверзии за тоа дали воведениот концептот на чудна долина навистина постои. Претпоставувам дека ова покажува дека интригантните идеи кои понекогаш ги менуваат гледиштата не мора да бидат масовно испреплетени или преполни со жаргон и возвишеност. Концизната идеја може да биде исто како да не е помоќна отколку што може да изгледа на лицето на нештата.

Верувам дека тоа ќе ве охрабри да се обидете и да ги поттикнете вашите нови идеи, правејќи го тоа со сфаќањето дека слаткото и едноставното може да биде исто толку величествено или понекогаш повеќе од згрчено и сложено.

Ајде да скокнеме назад во неверојатната елицитација на долината.

Наидувате на роботски систем кој има лице слично на лице со човечки изглед. Замислете дека ова роботско лице е измислено преку бројни повторувања. Програмерите на вештачката интелигенција, кои ја составуваат главата на роботот, постепено се стремат да направат роботскиот дел од лицето да изгледа сè повеќе како вистинско човечко лице.

Нивниот прв обид беше крајно примитивен. Лицето на роботот го имаше истиот изглед каков што сте виделе во научно-фантастичните филмови дека е целосно металик и прикажува запчаници и жици. Веднаш знаете кога ќе погледнете во измамата дека тоа е робот. Нема прашање во вашиот ум за тоа.

Следниот обид на развивачите на вештачка интелигенција вклучуваше обвиткување на некои пластични материјали околу металните парчиња. Иако ова изгледа малку попријателски, сепак веднаш знаете дека се работи за глава на робот и роботско лице. Повторно, лесно е да се открие.

Оние развивачи на вештачка интелигенција се решени да го продолжат ова. Тие ја вајаат пластиката и и даваат тонови на кожата. Тие додаваат карактеристики кои изгледаат многу слични на човечкото лице, како што се бенки, коса, флеки и слично.

На прв поглед, можеби ќе ве наведе да верувате дека ова е човечко лице. Ако е направена слика од роботското лице и од вас биде побарано да идентификувате дали сликата прикажува личност наспроти роботско лице, можеби ќе бидете спречени веднаш да можете да кажете што е тоа. Од друга страна, ако стоевте до уредот, веројатно по блиска проверка ќе можете да забележите дека не е човек, туку роботска измислица.

Работата е во тоа што пред да ја добиете таа шанса да направите преглед одблиску, имаше нешто во врска со лицето што не изгледаше целосно. Сигурно личеше на човечко лице. Но, нешто не беше во ред. Мораше постојано да зјапаш одново и одново за да го ставиш прстот на она што не изгледа баш правилно. Можеби тоа е вистинско лице. Потоа повторно, можеби не е. Според тоа, вашиот ум се тркала.

Привидот на морничавост ви влегува во умот.

Го немавте истиот привид на морничавост кога ги видовте двете претходни верзии. Можевте без пауза или двоумење да откриете дека роботот е робот. Само дете може да се измами да верува дека која било од тие верзии е вистинска личност.

Сепак, оваа најнова верзија беше поинаква. Сè уште не беше усовршен за да изгледа како човечко лице. Ниту, пак, беше толку далеку од вистинската работа што беше очигледно дека мора да биде робот. Беше постигнат еден вид заматена земја.

Да претпоставиме дека програмерите продолжиле понатаму во нивните истражувачки напори и направиле сè така што роботското лице речиси и не се разликува од човечкото лице. Без разлика колку долго гледате во нештото, не сте сигурни дали е човек или не. Кога ќе ве известат дека тоа е роботското лице, ќе бидете изненадени. Боже, тие направија одлична работа за да изгледаат реално.

Забележете дека досега ги разгледувавте роботските аспекти само врз основа на изгледот.

Можеме да додадеме движење на равенката. Ова додава дополнителна димензија за да сфатите дали роботот е робот наспроти човек. Не сакам целосно да го забавувам ова како повеќедимензионален вид проблем во оваа дискусија бидејќи го прави посложено разјаснувањето на оваа тема (иако неизбежно се испреплетени повеќедимензиони). Во секој случај, замислете дека не само што сте го виделе роботското лице, туку и можете да гледате како роботот ги движи цртите на лицето, како што се устата, очите, носот итн. Очигледно, тие можат да бидат и подароци за тоа дали ова е робот или човек.

Еден витален аспект што треба да се задржи во првите редови на чудната долина е тоа што оригиналната концепција го нагласува чинот на човечкиот афинитет. Тврдениот феномен е дека вашиот афинитет се зголемува додека ги гледате постепено подобрените лица на роботот, сè до моментот кога ќе се појави чудната варијанта. Во тој момент, се вели дека вашето чувство за афинитет драстично опаѓа, паѓајќи во бездна или долина на афинитет.

За конкретната верзија што ве натера да се сомневате дека нешто не е во ред, вашиот афинитет наводно радикално паднал. Понатаму, според теоријата, вашиот афинитет може да се зголеми до небо кога ќе наидете на понапредната верзија која е речиси идентична со вистински човечки облик.

Еве повеќе за она што авторот го изјавил за нашата нормална склоност да претпоставиме дека аспектите на животот непречено се зголемуваат: „Математичкиот термин монотоно зголемена функција опишува врска во која функцијата y = ƒ(x) постојано се зголемува со променливата x. На пример, како напор x расте, приход y се зголемува, или како што се притиска педалот за гас на автомобилот, автомобилот се движи побрзо. Овој вид на врска е сеприсутен и многу лесно разбирлив. Всушност, бидејќи таквите монотоно растечки функции ги покриваат повеќето појави од секојдневниот живот, луѓето можат да паднат во илузијата дека ги претставуваат сите односи. За овој лажен впечаток сведочи и фактот дека многу луѓе се борат низ животот упорно туркајќи без да ја разберат ефикасноста на повлекувањето. Затоа луѓето обично се збунети кога ќе се соочат со некоја појава што оваа функција не може да ја претстави“. Ова е цитирано на IEEE Spectrum преведена хартија.

Оваа речиси универзална претпоставка за постојано зголемување може да се поништи кога ќе наидеме на нешто што не е во ред. Морничавоста и сомнежот ќе предизвикаат релативно нагло и драматично опаѓање на афинитетот, вели теоријата, како на пример роботска рака што сте решиле да ја затресете и не можевте да ги почувствувате коскените карактеристики на човечката рака: „Кога тоа ќе се случи, го губиме нашето чувство на афинитет, а раката станува чудна. Во математичка смисла, ова може да се претстави со негативна вредност“.

Ако ја прифатите премисата дека постои овој феномен на чудна долина, сигурен сум дека се прашувате што е добро за вас да знаете дека необичната долина очигледно постои.

Тоа е класиката на сите времиња „па што? тест за практичност.

Излегува дека многу луѓе дошле до многу толкувања за тоа што треба или што можеме да направиме за чудната долина. Има тони мислења. Ќе се осврнам на некои од тоа наскоро.

Во меѓувреме, еве што понуди Масахиро Мори: „Се надеваме дека ќе дизајнираме и изградиме роботи и протетски раце кои нема да паднат во чудната долина. Така, поради ризикот својствен во обидот да го зголемат нивниот степен на човечка сличност за да го достигнат вториот врв, им препорачувам на дизајнерите наместо тоа да го земат првиот врв како своја цел, што резултира со умерен степен на човечка сличност и значително чувство на афинитет. . Всушност, предвидувам дека е можно да се создаде безбедно ниво на афинитет со намерно следење на нечовечки дизајн. Ги замолувам дизајнерите да размислат за ова“.

Брзата кондензација од моја страна на дванаесет практични правила за седење на панталоните за тоа што да се прави во врска со чудната долина оди вака особено за развивачите на вештачка интелигенција:

1) Бидете свесни за чудната долина и бидете на вашите прсти соодветно

2) Веројатно сакате да постигнете човечки афинитет за вашата вештачка интелигенција колку што е можно повеќе

3) Бидете подготвени за губење на човечкиот афинитет ако вашата вештачка интелигенција падне во чудната долина

4) Потрудете се да ја избегнете чудната долина така што ќе ја осмислите вашата вештачка интелигенција

5) За почит е да се има цел што е пократок од чудната долина

6) Свиткајте се до работ на чудната долина, но не паѓајте преку карпата

7) Немојте да бидете опседнати со одење подалеку од чудната долина

8) Постои шанса да ја прескокнете чудната долина

9) Немојте да бидете преокупирани со скокот бидејќи и онака може да паднете во долината

10) Максималниот човечки афинитет би требало да се постигне со поминување покрај чудната долина

11) Сепак, постои соодветен и соодветен афинитет пронајден пред чудната долина

12) Бидете постојано внимателни на чудната долина и не дозволувајте да ви се лизне од ум

Сите овие дузина се општи заповеди што може да се сметаат како клучни или закотвни точки на знаење за чудната долина. Веднаш ќе признаам дека има и други точки кои не се наведени во тие скудни десетици, а кои би можеле да се аргументираат како подеднакво важни. Јас, исто така, лесно ќе признаам дека сигурно ќе има несогласување за секоја од идентификуваните точки и може да следи долга жестока дебата за секоја ставена точка.

Уште повеќе, некои би рекле дека дванаесетте точки се целосно ѓубре бидејќи се засноваат на лага, за почеток. Не постои нешто како чудна долина, би се расправале. Сето тоа е само лукавство и измислена измислица која апелира единствено и за жал да им се допадне на слабите умови (ах, тоа искрено боли!). Секое внимание на чудната долина е залудно здив на воздух и некој треба да дојде и да стави остар дрвен теоретски столб во срцето на материјата (некои истражувачи се обиделе да го направат тоа).

Заради дискусија, ајде да одиме со текот и да претпоставиме дека има чудна долина и дека таа генерално се совпаѓа со она што го наведов досега. Оние кои не се согласуваат со концептуализацијата на чудна долина се добредојдени да се зонираат или да продолжат да читаат со стиснати заби и нивниот интелектуален гнев што се подготвува и врие (извинете за тоа).

Еве како доаѓа етичката вештачка интелигенција и фокусот на осмислување и спроведување на етичка вештачка интелигенција. Патем, за моите тековни и длабински истражувања на етиката на вештачката интелигенција, видете ја мојата дискусија на оваа врска тука оваа врска тука, само за да именуваме неколку.

Неверојатната долина е дефинитивно афера за љубов-омраза за оние кои се во етичка вештачка интелигенција.

Прво, потребна е позадина. Еден од највозбудливите етички проблеми поврзани со вештачката интелигенција е тоа што луѓето можат да бидат измамени да веруваат дека системот за вештачка интелигенција е чувствителен. Ве молиме имајте предвид дека денес не постои вештачка интелигенција што е блиску до тоа да биде чувствителна. Тоа едноставно не се случува во овој момент. Моето навидум „дрско“ тврдење е направено и покрај оние непрестајни и бурни наслови кои ја декларираат оваа вештачка интелигенција или дека вештачката интелигенција е или чувствителна или доволно блиска за да се смета како таква. Маларки. Ние не сме во чувство за вештачка интелигенција.

Не знаеме како да стигнеме таму. Не знаеме дали ќе се случи. Чувството за вештачка интелигенција е вреден сон и стремеж, иако немојте да скокате од пиштолот и да мислите дека сме на работ да го постигнеме.

Се разбира, многумина жестоко предупредуваат дека ако некако успееме да го извлечеме чувството за вештачка интелигенција, без разлика дали го правиме тоа со дизајн или чиста случајност, ќе се соочиме со егзистенцијален ризик. На тој начин на размислување, можеби барањето чувство за вештачка интелигенција не е толку вредно. Ризикот е дека оваа чувствителна вештачка интелигенција може да утврди дека луѓето не вредат да ги има наоколу. Можеме да бидеме згрчени како бубачка. Или станете робови на вештачката интелигенција. Ова може да се случи ако вештачката интелигенција отворено ќе избере да го стори тоа, или вештачката интелигенција може да заврши како наша машина за судниот ден што нè уништува со нашата сопствена неспособност. За моето покривање за оние вознемирувачки исходи од чувството или посебноста на вештачката интелигенција, видете врската овде.

Клучна грижа за етичката вештачка интелигенција е тоа што развивачите на вештачката интелигенција и оние што ја спроведуваат вештачката интелигенција понекогаш ги натеруваат луѓето да мислат дека вештачката интелигенција е чувствителна. Начинот на тоа како вештачката интелигенција се покажува себеси, како на пример со роботска формулација или со нејзината разговорна интерактивност може подмолно да ги поттикне луѓето да претпостават дека вештачката интелигенција е чувствителна. Ова за возврат ве води по потенцијално лоша патека на јаглика.

Ако паднете во менталната замка да мислите дека системот за вештачка интелигенција е чувствителен, веројатно ќе се потпрете на него за да правите работи што би ги направиле чувствителните суштества. Но, сè уште не постои здрав разум за квалитет сличен на човекот вграден во која било од денешната вештачка интелигенција. Вештачката интелигенција што ја доживуваме во моментов е исклучително кршлива и плитка кога станува збор за капацитети слични на луѓето. Може да се навлезете во некои несолени и опасни води со тоа што ќе верувате дека системот за вештачка интелигенција е чувствителен.

Како тоа се поврзува со чудната долина?

Еве ја зделката.

Потсетете се дека чудната долина се чини дека ни кажува дека човечкиот афинитет постепено ќе се зголемува како што системот за вештачка интелигенција или роботот се поблиску и поблиску до формулацијата слична на човекот. Во моментот кога системот за вештачка интелигенција се приближува до точката да биде прилично блиску, но сепак, не баш таму, добиваме морничаво чувство дека нешто не е во ред. Дотогаш знаевме дека вештачката интелигенција не е човек. Сега не сме сигурни. Нашиот човечки афинитет опаѓа. Само штом вештачката интелигенција или роботот ќе станат крајно уверливи во однос на човечките капацитети, ние повторно го добиваме нашиот изглед на афинитет со уредот.

Веројатно, програмерите на вештачка интелигенција кои ќе го земат ова срце намерно се стремат да ја задржат својата вештачка интелигенција надвор од чудната долина, со цел да застанат во однос на карактеристиките на вештачката интелигенција, непосредно пред да падне во чудната бездна (се потсетиме, тоа е исто така она што го нагласи Масахиро Мори). Програмерите очигледно би го направиле тоа така што ќе се уверат дека изобилството кажувачки индиции сè уште постоеле за да биде јасно јасно дека вештачката интелигенција е помалку од чувствителна вештачка интелигенција и дека не е човек или подеднакво.

Етичарите на вештачката интелигенција генерално би го поздравиле тој срдечен напор.

Расудувањето е директно. Оние кои се толку информирани и кои прифаќаат развивачи на вештачка интелигенција се обидуваат да се погрижат системот за вештачка интелигенција да не ги доведе луѓето во заблуда лажно да и припишуваат објекти слични на луѓето на вештачката интелигенција. Тоа е сигурно добра вест. Програмерите намерно ќе ја создадат вештачката интелигенција за да спречат нуркање во чудната долина. Луѓето лесно ќе сфатат дека вештачката интелигенција не е чувствителна.

Обидот да ги натерате развивачите на вештачка интелигенција да прифатат таков пристап не е лесно. Навистина, тоа може да биде контраинтуитивно на нивните вообичаени инстинкти и амбиции за возење.

Се прават многу тврдења дека развивачите на вештачка интелигенција и техничари, генерално, се трошат со цели. Тие гледаат цел и често слепо ќе ја остварат со голема желба. Нема време да застанете и да ги мирисате розите. Одиме на трките, одиме. На полето на вештачката интелигенција, нормативната цел би била идеализирана вештачка интелигенција која не се разликува од луѓето со тоа што вештачката интелигенција би можела да биде интелигентно еднаква по паритет. Но, ние сè уште не сме таму. Како таква, неверојатната долина обезбедува секундарна цел, слетување пред инаку неверојатната долина, и станува цел која сепак е прифатлива. Секако, тоа не е златниот прстен, но идејата е дека оваа „второстепена“ награда е во ред, ви благодарам многу и можете да се гордеете со тоа.

Ја сменивме уништената највисока амбиција за барање цел и ја искористивме во логично звучна основана основа за да ја направиме вистинската работа, како да е.

Ура!

Постигнете победа за етиката на вештачката интелигенција.

Но, почекајте второ предупредување за спојлер, има уште нешто што треба подеднакво да го земеме предвид.

Сега кога тие тактни развивачи на вештачка интелигенција знаат за чудната долина, тие би можеле да ја свртат својата памет и технолошка моќ кон намерно прескокнување преку бездната, а сепак да го направат тоа имајќи на ум привидна измама. Направете вештачката интелигенција да изгледа и да изгледа дека е целосно слична на човекот, иако програмерите знаат дека ова е невистинито.

Лошото размислување оди вака. Не дозволувајте вашиот систем со вештачка интелигенција да ја преврти капата и да ги натера луѓето да ја добијат таа неостварлива струја на морничавост. Акцизирајте ги аспектите што може да дадат каква било навестување или поим дека вештачката интелигенција не е од човечка способност. Направете го ова додека тајно сфаќате и неоправдано знаете дека вештачката интелигенција не е од човечка способност и сето ова е за криење на таа вистина од оние кои комуницираат со или се зависни од вештачката интелигенција.

Какви ѓаволски планови.

Иронично, чудната долина може да биде еден вид повик за будење за развивачите на вештачка интелигенција дека ако сакаат навистина да ги измамат луѓето, мора да бидат доволно паметни за да избегаат од бездната. Тие не го прават тоа со постигнување целосна вештачка интелигенција, туку со подигнување чад и огледала за да направат вештачката интелигенција да изгледа заблуда како да е човечка. Да не сфатија развивачите на вештачка интелигенција дека постои оваа чудна долина, тие во голема мера ќе паднеа во неа. Тоа е добро за човештвото затоа што луѓето би го изгубиле својот афинитет кон вештачката интелигенција во смисла да не се потпираат премногу на денешниот квалитет на вештачката интелигенција.

За жал, знаејќи дека стапицата постои, развивачите на вештачка интелигенција кои сакаат да се прикрадат околу неа, ќе пронајдат погубно паметни начини да го сторат тоа.

Постигнете хит против правилата на етичката вештачка интелигенција.

Дали гледате како ова создава врска љубов-омраза за етичарите на вештачката интелигенција за чудната долина?

Проклето ако го правиш, проклето ако не го правиш.

Сфаќам дека ова е донекаде високо испитување на веѓите на чудната долина и можеби копнеете за некои секојдневни примери. Постои посебен и сигурно популарен сет на примери кои ми се при срце. Гледате, во моето својство како експерт за вештачка интелигенција, вклучувајќи ги етичките и правните последици, често ми се бара да идентификувам реални примери кои ги прикажуваат дилемите за етика на вештачката интелигенција, така што малку теоретската природа на темата може полесно да се сфати. Едно од најевокативните области што сликовито ја прикажува оваа етичка дилема за вештачката интелигенција е појавата на вистински самоуправувачки автомобили базирани на вештачка интелигенција. Ова ќе послужи како практичен случај или пример за обилна дискусија на темата.

Еве потоа едно важно прашање за кое вреди да се размисли: Дали доаѓањето на вистинските самоуправувачки автомобили засновани на вештачка интелигенција осветлува нешто за чудната долина, и ако е така, што нè информира ова да правиме?

Дозволете ми малку да го отпакувам прашањето.

Прво, забележете дека нема човек возач вклучен во вистински самоуправувачки автомобил. Имајте на ум дека вистинските самоуправувачки автомобили се возат преку систем за возење со вештачка интелигенција. Нема потреба од човек возач на воланот, ниту пак постои одредба за човек да управува со возилото. За моето опширно и тековно покривање на автономните возила (АВ) и особено самоуправувачките автомобили, видете врската овде.

Би сакал дополнително да објаснам што се мисли кога се однесувам на вистинските самоуправувачки автомобили.

Разбирање на нивоата на самовозечки автомобили

Како појаснување, вистинските автомобили што управуваат самостојно се оние што AI го управува автомобилот целосно сам и нема никаква помош од луѓе за време на задачата за возење.

Овие возила без возач се сметаат за Ниво 4 и Ниво 5 (видете го моето објаснување на оваа врска тука), додека автомобилот што бара човечки возач да го дели напорот во возењето обично се разгледува на Ниво 2 или Ниво 3. Автомобилите што заеднички ја делат задачата за возење се опишани како полуавтономни и обично содржат различни автоматизирани додатоци кои се наведени како ADAS (Advanced Driver-Assistance Systems).

Сè уште не постои вистински автомобил за возење на ниво 5 на Ниво, за што сè уште не знаеме дали тоа ќе биде можно да се постигне, ниту, пак, колку време ќе потрае за да стигнеме до таму.

Во меѓувреме, напорите на Ниво 4 постепено се обидуваат да добијат одредена влечна сила преку подложени на многу тесни и селективни испитувања на јавни патишта, иако има контроверзии околу тоа дали ова тестирање треба да биде дозволено само по себе (сите сме заморчиња за живот или смрт во експеримент кои се одвиваат на нашите автопати и патни патишта, некои тврдат, видете ја мојата покриеност на оваа врска тука).

Бидејќи полуавтономните автомобили бараат човечки возач, усвојувањето на тие типови автомобили нема да биде значително различно од возењето на конвенционалните возила, така што нема многу нови за да се покријат околу нив на оваа тема (иако, како што ќе видите во еден момент, следните поени се генерално применливи).

За полу-автономни автомобили, важно е јавноста да се предупреди за вознемирувачки аспект што се појавува во последно време, имено дека и покрај оние човечки возачи кои продолжуваат да објавуваат видеа од себе, заспиваат на воланот на автомобил Ниво 2 или Ниво 3 , сите треба да избегнеме да бидеме во заблуда во тоа да веруваме дека возачот може да им го одземе вниманието од возачката задача додека возите полу-автономен автомобил.

Вие сте одговорна страна за постапките на возење на возилото, без оглед на тоа колку автоматизација може да се фрли на Ниво 2 или Ниво 3.

Самоуправувачки автомобили и чудната долина

За вистинските самостојни возила на ниво 4 и ниво 5, нема да има човечки возач вклучен во возачката задача.

Сите патници ќе бидат патници.

АИ го прави возењето.

Еден аспект за веднаш да се дискутира подразбира фактот дека ВИ вклучениот во денешните системи за возење со ВИ не е чувствителен. Со други зборови, ВИ е целосно колектив на компјутерско базирање на програмирање и алгоритми, и сигурно не е во можност да расудува на ист начин како што можат луѓето.

Зошто овој дополнителен акцент е дека АИ не е чувствителен?

Бидејќи сакам да истакнам дека кога разговарам за улогата на системот за возење со АИ, не му припишувам човечки квалитети на АИ. Ве молиме, бидете свесни дека постои постојана и опасна тенденција овие денови да се антропоморфизира АИ. Во суштина, луѓето му даваат чувство слично на човекот на денешната ВИ, и покрај непобитен и неоспорен факт дека такво АИ сè уште не постои.

Со тоа појаснување, можете да замислите дека системот за возење со ВИ нема на некој начин да „знае“ за аспектите на возењето. Возењето и сето она што го вклучува ќе треба да се програмираат како дел од хардверот и софтверот на автомобилот што управува самостојно.

Ајде да се нурнеме во огромен број аспекти што можат да се појават на оваа тема.

Прво, важно е да сфатите дека не се сите самоуправувачки автомобили со вештачка интелигенција исти. Секој производител на автомобили и технолошка фирма за самоуправување го презема својот пристап кон осмислување на самоуправувачки автомобили. Како такво, тешко е да се дадат опсежни изјави за тоа што ќе прават или не прават системите за возење со вештачка интелигенција.

Понатаму, секогаш кога се наведува дека системот за возење со вештачка интелигенција не прави одредена работа, ова подоцна, може да го надминат програмерите кои всушност го програмираат компјутерот да го стори токму тоа. Чекор по чекор, системите за возење со вештачка интелигенција постепено се подобруваат и прошируваат. Постојното ограничување денес можеби повеќе нема да постои во идна итерација или верзија на системот.

Верувам дека обезбедува доволно литија предупредувања за да го поткрепам она за што ќе зборувам.

Сега сме подготвени длабоко да се нурнеме во самоуправувачките автомобили и етичките прашања за вештачката интелигенција што ја опфаќаат чудната долина.

Постојат четири аспекти кои се однесуваат на ова прашање што ќе бидат опфатени овде:

1. Целокупниот изглед на самоуправувачките автомобили

2. Прашањето каде „изгледаат“ самоуправувачките автомобили

3. Возење со вештачка интелигенција на самоуправувачки автомобили

4. Роботи кои возат како средство за постигнување самоуправувачки автомобили

Дополнителни аспекти се исто така остварливо опфатени, но за ограничувања на просторот, овие четири теми ќе бидат доволни за да го осветлат лежиштето на чудната долина што се однесува на самоуправувачките автомобили базирани на вештачка интелигенција.

1. Севкупен изглед на самоуправувачките автомобили

Се обложувам дека сте виделе слики или видеа од денешните обиди на самоуправувачки автомобили. Како такви, можеби сте забележале дека повеќето од возилата се автомобили со конвенционален изглед кои се опремени со дополнителна специјализирана опрема. На пример, може да има багажник на покривот што содржи голем број електронски сензори. Сензорите понекогаш вклучуваат видео камери, радарски единици, LIDAR уреди, ултразвучни сензори и слично.

Футуристичките дизајни имаат тенденција да сугерираат дека би можеле да отстапиме од автомобилот со конвенционален изглед и наместо тоа да ги редизајнираме автомобилите и во внатрешноста и на надворешноста за да бидат автономни возила со помазен изглед. Во моментов, општото размислување е дека е поедноставно да се користат конвенционални автомобили и да не се троши енергија обидувајќи се да го истегне напорот со истовремено чепкање со автомобили со неконвенционален изглед (има некои исклучоци од ова општо гледиште, видете го мојот извештај на врската овде).

Суштината во моментов е дека ако возите по коловозот и наидете на автомобил со самоуправување во близина, речиси секогаш можете веднаш да забележите дека веројатно е самоуправувачки автомобил, само со тоа што ќе забележите дека сензорите се монтирани на автономното возило. Ова е брз визуелен подарок. Се разбира, не знаете со сигурност дека тоа е само-возење, бидејќи во овој момент контролите за возење обично се сè уште недопрени, а на воланот може да има човечки резервен возач.

На еден начин на размислување, можете да сугерирате дека е особено корисно тоа што самоуправувачките автомобили физички изгледаат како да се издвојуваат и лесно визуелно се забележани од човечки возачи во блиските автомобили управувани од луѓе, а исто така и од пешаците во близина. Сфаќањето дека во близина се шета автомобил самоуправен може да биде корисна трага за да бидете внимателни, што ќе ве поттикне да внимавате и да внимавате дека вештачката интелигенција е или можеби го вози возилото.

Да претпоставиме дека самоуправувачките автомобили изгледаат идентично со конвенционалните автомобили управувани од луѓе. Ова е реално изводливо на најмалку два начина. Прво, сензорите потенцијално би можеле да бидат скриени или обликувани за да не бидат толку очигледни за секојдневната визуелна инспекција. Второ, може да биде дека сите автомобили, вклучувајќи ги и конвенционалните автомобили управувани од луѓе, постепено се опремени со слични сензори, дури и ако возилото сепак ќе остане како автомобил претежно управуван од луѓе. Видете го моето дополнително покривање на оваа врска тука.

Ако внимателно размислите за тоа дали самоуправувачките автомобили можат или треба да бидат идентични по изглед со конвенционалните автомобили управувани од луѓе, може да дојдете до размислување дека во оваа чорба може да се крие чудна долина.

Гледате, автомобилите кои бесрамно личат на самоуправувачки автомобили може да се означат како да се наоѓаат на спој што е само пократок од чудната долина. Во основа, „знаете“ дека е робот или роботски вид на систем. Тоа е пресуда на која можете речиси веднаш да скокнете.

Кога самоуправувачките автомобили идентично гледаат на автомобилите управувани од луѓе, можеби ова сугерира дека автономните возила прескокнале покрај чудната долина во однос на нивниот роботски изглед. Дали постои средина помеѓу тие две физички појави што нè спушта во чудната долина?

Можеби ќе забележите самоуправувачки автомобил како слегува по улицата и некако изгледа како да е веројатно самоуправувачки автомобил, од друга страна, изгледот не е ниту строго автономен ниту изгледа строго управуван од човекот. Може да се расправате дека самоуправувачкиот автомобил сега е во морничава или вознемирувачка состојба на изглед.

Самоуправувачкиот автомобил наводно се потопил во чудната долина.

Како што е кажано, не секој би се согласил со таа категоризација. Некои би тврделе дека физичкиот изглед нема никаква врска со чудната долина. Некои, се разбира, исто така тврдат дека не постои ништо реално познато како чудна долина.

Како што споменавме порано, добредојдени сте сами да донесете одлука за ова.

2. Прашање за тоа каде изгледаат самоуправувачките автомобили

Моменталната загриженост што многумина ја имаат за самоуправувачките автомобили е тоа што обично им недостига човечки возач на возачкото седиште и затоа е тешко да се открие каде гледа „возачот“ додека го управува автомобилот.

Обично гледате во човечките возачи за да шпионирате каде гледаат. На пример, можеби сте пешак на пешачки премин и автомобил се приближува до преминот. Внимателно гледате во личноста која седи на возачкото седиште и се обидувате да забележите каде е свртена главата и каде гледаат очите. Ако мислите дека човек возач ве видел, можеби ќе ви биде поудобно да ја преминете улицата. Спротивно на тоа, ако човечкиот возач не ве видел, со право сте загрижени за преминувањето.

Во некои градови, постои еден вид гамбит на мачка и глушец на овие аспекти. Посебна културна норма во даден град може да биде дека ако воспоставите контакт со очи со возачот, возачот „победува“ и тој има навидум право да продолжи, без оглед на законитоста на ситуацијата со возењето. Други градови можеби се сосема спротивно, имено дека културната норма е дека кога се воспоставува контакт со очи, пешакот „победува“ и човечкиот возач треба да се одложува на постапките на пешакот.

Се чини дека го усвоивме овој обичај во текот на релативно долгото време кога автомобилите беа во средината на нашите градови и заедници. Проблемот со појавата на самоуправувачките автомобили е што нема човек возач на возачкото седиште и затоа секој пешак или човек во близина кој вообичаено ги користи главата и очите на возачите на автомобили како културен показател за намерата за возење е сега. без среќа.

Производителите на автомобили и развивачите на автомобили со самоуправување се многу свесни за овој проблем што се појавува. Едно предложено решение се состои од тоа што самоуправувачкиот автомобил трепка на фаровите на автономното возило или евентуално ја зафаќа сирената. Друга идеја е дека самоуправувачкиот автомобил може да има варијанта на звучник и да им каже на оние во близина кои се „намерите“ на системот за возење со вештачка интелигенција. Секоја од овие идеи има значителни негативни страни.

Сепак, различен предлог подразбира да се направи нешто за што на почетокот би можеле да помислите дека е смешно. Предлогот се состои од поставување на очното јаболко на надворешноста на автономното возило. Овие топчиња би изгледале како човечки очи на привидот дека можат да се вртат напред-назад, што ви дава непосредна индикација што сугерира дека вештачката интелигенција „те видела“ (ова би го протолкувале преку очните јаболка кои гледаат во вашата одредена насока). Го анализирав овој пристап во врската овде.

Каква би била твојата реакција кога ќе видиш автомобил што се вози самостојно како се спушта по коловозот и кога овие необични очно јаболко се појавуваат топчиња поставени на хаубата или покривот?

Претпоставувам дека можеби мислите дека е морничаво, можеби морничаво.

Некои би сугерирале дека морничавоста произлегува од тоа што како опремена самоуправувачка кола се наоѓа во чудната долина. Други жестоко би тврделе дека ова нема никаква врска со чудната долина. Од тие такви експерти, некои би рекле дека постои морничавост што може да биде морничаво без да мора да се вкорени во чудната долина (т.е. чудната долина навидум секогаш произведува морничавост, но не сета морничавост се создава исклучиво преку чудната долина). Другиот агол е дека топчињата веројатно би можеле да бидат дизајнирани да имаат помалку изглед на очното јаболко и да изгледаат како да изгледаат повеќе роботски, или дека сите ние неизбежно ќе го прифатиме изгледот на овие топчиња и почетната запрепастувачка реакција ќе се намали.

3. Возење со вештачка интелигенција на самоуправувачки автомобили

Многу од денешните обиди за самоуправувачки автомобили покажаа дека постојните системи за возење со вештачка интелигенција имаат тенденција да бидат програмирани да возат на прилично млаки и донекаде строго почитувани законски начини. Системот за возење со вештачка интелигенција вообичаено го запира автомобилот што самоуправува на знаците Стоп. Системот за возење со вештачка интелигенција не прави смели трчања низ раскрсниците кога сообраќајната сигнализација набргу ќе биде црвена. Овие необично возење практики се провинција на човечки возачи.

На некој начин говорејќи, речиси би можеле да погодите дека самоуправувачкиот автомобил е самоуправувачки автомобил според стилот на возење што го прикажува. Дури и ако се чини дека автономното возило визуелно е конвенционален автомобил управуван од луѓе, можете да ги набљудувате активностите на возење и можеби логично да заклучите дека најверојатно се вози од систем со вештачка интелигенција.

Некои веруваат дека ќе треба да направиме системите за возење со вештачка интелигенција да бидат повеќе слични на лудоријата на човечките возачи, така што тие ефективно ќе се вклопат во нормативните пристапи за возење. Претпоставувам дека ова може да го сфатите како борба против оган со оган.

Дали тоа има смисла да се направи?

Бидете свесни дека отворените скептици и критичари ја мразат идејата. Тие напорно би тврделе дека сакаме системите за возење со вештачка интелигенција да возат правилно и нежно. Додавањето на потенцијално милиони самоуправувачки автомобили на патиштата кои се програмирани да бидат како погрешни луѓе возачи би изгледало како колосален кошмар. Разговарав за овој контроверзен предлог во врската овде.

Да ја реконструираме дилемата со искористување на чудната долина.

Кога системот за возење со вештачка интелигенција е строго легален поради неговите постапки за возење, ова е можеби показател дека најверојатно станува збор за роботски систем (и покрај тоа што луѓето возачи го прават ова, иако во денешниот свет изгледаат многу малку). Ако системите за возење со вештачка интелигенција треба да возат толку чудни како човечките возачи, дали ова прескокнува низ чудната долина или паѓа во чудната долина?

Размислете за тоа.

4. Роботи кои возат како средство за постигнување на самоуправувачки автомобили

Оваа последна ставка за покривање е најзачудувачки од овие четири.

Можеби не сте целосно свесни дека некои развивачи на вештачка интелигенција се обидуваат да направат роботи што ќе возат автомобили. Роботот има тенденција да изгледа како човек во различни аспекти, имајќи роботски нозе и роботски раце како екстремитети. Кога сакате кој било конвенционален автомобил управуван од луѓе да биде самоуправувачки автомобил, вие само го ставате овој специјализиран робот за возење со вештачка интелигенција на возачкото седиште во вашиот автомобил. Видете ја мојата анализа на овој поим на врската овде.

Зошто би сакале да возиме роботи?

Убавината на таквиот робот е во тоа што сите денешни автомобили управувани од луѓе би можеле на начин на толкување да станат самоуправувачки автомобили, речиси преку ноќ. Вие само купувате, изнајмувате или некако добивате робот за возење. Го ставате роботот на возачкото седиште кога одите на возење. Роботот ве вози до вашата дестинација. Ако сакате да се префрлите на возење со луѓе, ќе го отстраните роботот од возилото, можеби ќе го ставите во багажникот за подоцнежна употреба.

Во Соединетите држави денес има околу 250 милиони конвенционални автомобили. Некои веруваат дека тие на крајот ќе бидат отфрлени бидејќи самоуправувачките автомобили ќе се појават. Наместо да ги отфрламе конвенционалните автомобили, можеби ќе се обидеме да ги реконструираме и да станат самоуправувачки автомобили, иако ова е веројатно прилично скапа идеја. Наизглед повнимателен пристап би бил да се направат достапни роботи за возење.

Ако видите автомобил со конвенционален изглед како се спушта по улицата во вашата населба и има робот на воланот, каква би била вашата реакција?

Најверојатно морничавост.

Едно додуша спорно тврдење е дека оваа морничавост се должи на роботот кој вози конвенционален автомобил кој се спушта во познатата или озлогласена чудна долина.

Заклучок

Од гледна точка на етичка вештачка интелигенција, чудната долина претставува интригантна загатка.

Има некои во вештачката интелигенција кои целосно веруваат во чудната долина, а некои кои не веруваат. Но, без разлика дали верувате во чудната долина или не го правите тоа, сепак самата тема е заплеткана. Не можете да ја скриете главата и да се преправате дека конструкцијата сама по себе не постои. Конструктот како идеја живее и на некој привид е вирално моќен. Мразете го или сакајте го, проклетата или можеби возвишената тема опстојува.

Според мојот претходен дискурс за заслугите на чудната долина од етиката на аголот на вештачката интелигенција, таму има двобојна врска љубов и омраза. Дали оние во етичкото царство на вештачката интелигенција треба да ја прифатат чудната долина или накратко да ја отфрлат чудната долина или да останат малку неутрални за вистинитоста и наместо тоа да се фокусираат на влијанието што се создава поради тековните различни верувања за неа.

Овој предизвик го покренува истакнатиот економист Адам Смит, како што еднаш рече (парафразирајќи) дека на патот од Градот на скептицизмот, треба да поминете низ Долината на двосмисленоста.