Етиката на вештачката интелигенција се приклонува кон Аристотел за да испита дали луѓето би можеле да одлучат да ја поробат вештачката интелигенција среде доаѓањето на целосно автономни системи

Пријател или непријател.

Риба или живина.

Личност или работа.

Сите овие распространети загатки навидум сугерираат дека понекогаш се соочуваме со дихотомна ситуација и треба да избереме еден или друг аспект. Животот може да не принуди да се бориме со околности што се состојат од две меѓусебно исклучувачки опции. Со повкусен јазик, би можеле да укажете дека исклучувачката бинарна равенка бара од нас строго да тргнеме по една посебна патека, а не по друга.

Ајде да се фокусираме конкретно на дихотомијата личност или нешто.

Огненото прашање за личност или нешто се појавува постојано и повторно во врска со вештачката интелигенција (ВИ).

Да појасниме, денешната вештачка интелигенција е апсолутно не личност и не носи никаков привид на чувство, и покрај ококорените и целосно големи наслови што можеби ги гледате во вестите и низ социјалните мрежи. Така, можете цврсто да бидете сигурни дека во моментов прашањето дали вештачката интелигенција е личност или нешто е лесно одговорна. Прочитајте ги моите усни, во изборот на вистински Хобсон помеѓу личност или работа, вештачката интелигенција засега е работа.

Како што е кажано, можеме да погледнеме кон иднината и да се прашуваме што би можело да се случи ако успееме да постигнеме чувствителна форма на вештачка интелигенција.

Некои разумни критичари (плус каустични скептици) сугерираат дека можеби ги броиме нашите кокошки долго пред да се изведат со тоа што во денешно време разговараме за последиците од чувствителната вештачка интелигенција. Изразената загриженост е дека самата дискусија имплицира дека мора да бидеме на работ на таква вештачка интелигенција. Општеството во целина би можело да биде заведено да верува дека утре или задутре ќе има ненадејно и шокантно откритие дека всушност сме стигнале до чувствителна вештачка интелигенција (тоа некои понекогаш го нарекуваат сингуларност на вештачката интелигенција или разузнавачка експлозија, види мојата анализа на врската овде). Во меѓувреме, не знаеме кога ќе се појави таква вештачка интелигенција, дали некогаш, и секако, навидум не треба да гледаме околу секој агол и да бидеме застрашувачки на работ дека чувствителната вештачка интелигенција ќе скокне кон нас сосема неочекувано во следниот малку.

Другата страна на дебатата посочува дека не треба главите да ги закопаме длабоко во песок. Гледате, ако отворено не разговараме и не размислуваме за можностите поврзани со чувствителната вештачка интелигенција, ние му правиме на човештвото претпоставена голема лоша услуга. Нема да бидеме подготвени за ракување со чувствителна вештачка интелигенција кога или ако се појави. Понатаму, и можеби уште помоќно кажано, со предвидување на чувствителна вештачка интелигенција, можеме да ги преземеме работите донекаде во свои раце и да ја обликуваме насоката и природата на тоа како ќе настане таквата вештачка интелигенција и од што ќе се состои (не сите се согласуваат за оваа последна точка , имено некои велат дека таквата вештачка интелигенција ќе има целосно свој „ум“ и нема да можеме да ја обликуваме или коригираме бидејќи вештачката интелигенција ќе може самостојно да размислува и да определи средство за упорно постоење).

Етиката на вештачката интелигенција тежнее да застане на страната на гледиштето дека би било мудро да ги откриеме овие напорни и аргументирани прашања за чувствителната вештачка интелигенција сега на отворено, наместо да чекаме додека не ни останат никакви опции или да бидеме обземени од постигнувањето на таква вештачка интелигенција. Читателите добро знаат дека опширно покривав теми за етика на вештачката интелигенција и етичка вештачка интелигенција, вклучително покривање на голем опсег на трнливи прашања како што се правно лице со вештачка интелигенција, ограничување на вештачката интелигенција, отстранување на вештачката интелигенција, алгоритамска монокултура на вештачката интелигенција, етика за вештачка интелигенција, двојна употреба. ВИ т.н. проекти на Доктор Евил, вештачка интелигенција која ја крие динамиката на општествената моќ, доверлива вештачка интелигенција, ревизија на вештачката интелигенција итн. врската овде).

Ти поставувам едно предизвикувачко прашање.

Во иднина, под претпоставка дека на кој било начин ќе завршиме со чувствителна вештачка интелигенција, дали таа чувствителна вештачка интелигенција ќе биде интерпретирана од сите нас како личност или како ствар?

Пред да започнеме длабоко да се нурнеме во ова целосно провокативно прашање, дозволете ми да кажам нешто за фразата „чувствителна вештачка интелигенција“ за да бидеме сите на иста страница. Има многу вознемиреност за значењето на чувството и значењето на свеста. Експертите можат лесно да не се согласат за тоа што претставуваат тие зборови. Дополнително на таа матност, секогаш кога некој ќе се осврне на „ВИ“, немате подготвени средства да знаете на што тие се однесуваат само по себе. Овде веќе нагласив дека денешната вештачка интелигенција не е чувствителна. Ако на крајот дојдеме до идна вештачка интелигенција која е чувствителна, веројатно ќе ја наречеме и „ВИ“. Работата е во тоа што овие спорни работи може да бидат прилично збунувачки во моментов за тоа дали изговарањето на фразата „ВИ“ е поврзано со нечувствителната вештачка интелигенција на денешницата или некогаш можеби чувствителната вештачка интелигенција.

Оние кои дебатираат за вештачка интелигенција може да се најдат како разговараат еден покрај друг и да не сфатат дека едниот опишува јаболка, а другиот во меѓувреме зборува за портокали.

За да се обиде да ја заобиколи оваа конфузија, постои прилагодување на фразата за вештачка интелигенција што многумина ја користат за цели на надежно појаснување. Во моментов тежнееме да се однесуваме на вештачката општа интелигенција (AGI) како тип на вештачка интелигенција што може да направи целосно интелигентни напори. Во таа смисла, благата употреба на фразата „ВИ“ е оставена или да се толкува како помала верзија на вештачката интелигенција, за која некои велат дека е тесна-ВИ, или е денотациски двосмислена и не знаете дали референцата е не -чувствителна вештачка интелигенција или можеби чувствителна вештачка интелигенција.

Ќе дадам дополнителен пресврт на ова.

Во зависност од дадената дефиниција за чувството, може да влезете во вжештена дискурс околу тоа дали AGI ќе биде чувствителен или не. Некои тврдат дека да, се разбира, AGI по својата внатрешна природа ќе треба да биде чувствителен. Други тврдат дека може да имате АГИ што не е чувствително, ерго, чувствителноста е различна карактеристика што не е услов за постигнување АГИ. Различно ја испитував оваа дебата во моите колумни и нема да ја повторувам работата овде.

Засега, ве молиме претпоставете дека отсега натаму во оваа дискусија дека кога се повикувам на ВИ, имам намера да сугерирам дека се однесувам на AGI.

Еве го преземањето на ова. Сè уште немаме AGI, и на начин на говорење, за момент учтиво ќе се согласиме дека AGI е во истиот севкупен табор како и чувствителната вештачка интелигенција. Ако го користам „AGI“ само во текот на мојата дискусија, оваа фраза потенцијално го одвлекува вниманието бидејќи сè уште не се навикнати да го гледаат „AGI“ како назив и веројатно би биле благо вознемирени кога постојано ја гледаат оваа релативно понова фраза. Сега, ако наместо тоа, продолжив да се повикувам на „чувствителна вештачка интелигенција“, ова може да биде одвлекување на вниманието и за оние кои се борат околу тоа дали AGI и чувствителната вештачка интелигенција се исти или различни едни од други.

За да го избегнете тој хаос, претпоставете дека моето повикување на вештачката интелигенција е исто како да кажам AGI или дури и чувствителна-ВИ, и барем знајте дека не зборувам за денешната нечувствителна не-AGI ВИ кога ќе се впуштам во жестоките размислувања во врска со ВИ која се чини дека има интелигенција слична на човекот. Повремено ќе го користам истоименикот AGI за да ве потсетам од време на време овде дека го испитувам типот на вештачка интелигенција што сè уште го немаме, особено на почетокот на ова истражување за загатката личност или нешто.

Тоа беше корисно признание со ситни букви и сега се враќам на основната работа што е при рака.

Дозволете ми сега да ве прашам дали АГИ е личност или работа.

Размислете за овие две прашања:

• Дали AGI е личност?
• Дали AGI е работа?

Ајде потоа да продолжиме да го повторуваме секое прашање, и соодветно да одговориме на прашањата со серија од да или не одговори како што доликува на претпоставениот дихотомен избор.

Започнете со оваа претпоставена можност:

• Дали AGI е личност? Одговор: Да.
• Дали AGI е работа? Одговор: Бр

Размислете за тоа. Ако AGI всушност се толкува како личност, а не како ствар, речиси сигурно може да се согласиме дека треба да го третираме AGI како да е слично на личност. Се чини дека има недоволно вистински аргумент за неуспехот да се додели на AGI форма на правно лице. Ова или би било целосно исто како и човечкото правно лице, или би можеле да одлучиме да излеземе со варијанта на човеково ориентирана правна личност која ќе биде разумно поприменлива за AGI. Случајот е затворен.

Тоа беше лесно.

Наместо тоа, замислете дека го објавивме ова:

• Дали AGI е личност? Одговор: Бр
• Дали AGI е работа? Одговор: Да.

Во оваа околност, резолуцијата е очигледно јасна бидејќи велиме дека AGI е работа и не се издигнува до категоријата да се биде личност. Се чини дека постои општа согласност дека дефинитивно нема да му доделиме правно лице на AGI, поради аспектот дека тоа не е лице. Како нешто, AGI веројатно и разумно ќе влезе во нашата севкупна рубрика за тоа како законски ги третираме „работите“ во нашето општество.

Две подолу, уште две можности за одење.

Замислете го ова:

• Дали AGI е личност? Одговор: Да.
• Дали AGI е работа? Одговор: Да.

Уф, тоа изгледа чудно бидејќи имаме два одговора да. Вознемирувачки. Ние сугерираме дека AGI е и личност, но истовремено и нешто. Но, се чини дека ова лета во лицето на нашата прокламирана дихотомија. Во теорија, според ограничувањата на дихотомијата, нешто мора да биде или личност или мора да биде нешто. Тие две кофи или категории се вели дека меѓусебно се исклучуваат. Со тврдењето дека AGI е и едното и другото, ние го уриваме системот и го кршиме меѓусебно исклучувачкиот аранжман.

Нашата последна можност се чини дека е оваа:

• Дали AGI е личност? Одговор: Бр
• Дали AGI е работа? Одговор: Бр

Да, и тоа е лошо за нашите обиди да го класифицираме AGI како личност или нешто. Ние велиме дека AGI не е личност, што веројатно би значело дека мора да биде нешто (единствениот наш друг достапен избор, во оваа дихотомија). Но, исто така изјавивме дека АГИ не е работа. Сепак, ако AGI не е работа, ние по логика ќе треба да тврдиме дека AGI е личност. Круг и круг одиме. Парадокс, сигурно.

AGI во овие две последни можности беше или (1) и личност и ствар, или (2) ниту личност ниту ствар. Можеби безобразно ќе речете дека тие две тврдења за АГИ се донекаде слични на класичната загатка за она што не е ниту риба ниту птици, ако знаете на што мислам.

Што да правиме?

Ќе предложам често аргументирано и тешко оспорувано предложено решение за оваа дилема за класификација на AGI, иако претходно треба да бидете предупредени дека можеби ќе биде вознемирувачки вознемирувачко да се види или слушне. Ве молиме подгответе се соодветно.

Истражувачкиот труд кој се занимавал со ова прашање го наведува ова: „Еден метод за решавање на овој проблем е да се формулира трет термин кој не е ниту едно ниту друго, или еден вид комбинација или синтеза на едното и другото“ (од Дејвид Гункел, Универзитетот во Северен Илиноис во Зошто роботите не треба да бидат робови, 2022). А трудот потоа ја дава оваа додадена точка: „Едно можно, ако не и изненадувачко, решение за ексклузивната дихотомија личност/ствар е ропство“ (по истиот труд).

Како понатамошна позадина, години порано, имаше труд кој се појави во 2010 година со наслов „Роботите треба да бидат робови“ кој стана еден вид потпора за поттикнување на овој вид размислување, во кој трудот рече: „Мојата теза е дека роботите треба да бидат изградени, пласирани и легално се сметаат за робови, а не како придружници“ (во трудот на Џоана Брајсон). За да се обиде да ја разјасни темата без да користи толку строга и трогателна формулација, весникот продолжи со ова: „Она што сакам да го кажам е „Роботите треба да бидат слуги што ги поседувате“ (според трудот на Брајсон).

Многу истражувачи и автори ја опфатија оваа основа.

Размислете за бројни научно-фантастични приказни кои го прикажуваат човештвото како роботи со вештачка интелигенција. Некои зборуваат за роботи робови, вештачки слуги, робување на вештачката интелигенција и слично. Интересно, колку и да е груба фразата „роботи робови“, некои се загрижени дека ако наместо тоа се однесуваме на „роботи слуги“, ја избегнуваме реалноста за тоа како таквите автономни системи со вештачка интелигенција се способни да се третираат (заменувајќи го зборот со „ слуги“ се вели дека е наводнување на намерите и трик за да се заобиколат отрезнувачки импликации). Брајсон подоцна изјави во блогот во 2015 година, објавувајќи дека „Сега сфаќам дека не можете да го користите терминот „роб“ без да се повикате на неговата човечка историја“.

За оние кои се обидуваат длабински да ја испитаат оваа тема што ја заплеткува АГИ, понекогаш тие изнесуваат историски примери од реалниот свет од кои можеме да извлечеме увид. Се разбира, немаме претходна AGI што би покажала како човештвото се справи со ова прашање. Постои аргумент дека, сепак, можеби имаме корисни историски белези што вреди да се испитаат, а кои вклучуваат како луѓето се однесувале кон другите луѓе.

На пример, во една книга објавена во 2013 година, авторот го наведува ова: „Ветувањето и опасноста од вештачките, интелигентни слуги првпат беа имплицитно изложени пред повеќе од 2,000 години од Аристотел“ (книга од Кевин ЛаГрандеур, Андроид и интелигентни мрежи во раната модерна литература и култура). Идејата е дека можеме да се потпреме на Аристотел и да видиме дали има сознанија за тоа како човештвото ќе или треба да заврши потенцијално да го третира АГИ.

Сигурен сум дека ја знаете важноста на проучувањето на историјата, како што изобилно е подвлечено од познатите зборови на Џорџ Сантајана: „Оние кои не можат да се сетат на минатото се осудени да го повторуваат“ (во Животот на разумот, 1905).

Секоја чест за Институтот за етика и вештачка интелигенција на Универзитетот во Оксфорд

Една неодамнешна и доста ценета презентација внимателно го испита прашањето за етика на вештачката интелигенција среде собирањето на увиди од делата и животот на Аристотел. На инаугуративното годишно предавање за Универзитетот Оксфорд Институт за етика и вештачка интелигенција, Професорот Џосија Обер од Универзитетот Стенфорд длабоко се осврна на темата во неговата презентација „Етика во вештачката интелигенција со Аристотел“, која неодамна се одржа на 16 јуни 2022 година.

Забелешка, во моето својство како соработник од Стенфорд и глобален експерт за етика и право на вештачката интелигенција, бев среќен што Џосија Обер од Стенфорд беше избран за инаугуративен говорник. Прекрасен избор и извонреден разговор.

Еве го резимето апстракт што беше даден за неговиот ангажман говор: „Аналитичката филозофија и шпекулативната фантастика моментално се нашите примарни интелектуални ресурси за сериозно размислување за етиката во вештачката интелигенција. Предлагам да се додаде трета: античка социјална и филозофска историја. Во Политика, Аристотел развива озлогласена доктрина: Некои луѓе се робови „по природа“ - интелигентни, но страдаат од психолошки дефект што ги прави неспособни да расудуваат за своето добро. Како такви, тие треба да се третираат како „алатки за анимирање“, како инструменти наместо како краеви. Нивната работа мора да биде насочена и да се користи во корист на другите. Одбивната доктрина на Аристотел беше употребена за злобни цели, на пример во антибелумската Америка. Сепак, тоа е корисно за етиката на вештачката интелигенција, бидејќи античкото ропство беше предмодерниот прототип на една верзија на вештачката интелигенција. Поробените лица биле сеприсутни во античкото грчко општество - работници, проститутки, банкари, владини бирократи - но сепак не се разликувале лесно од слободните лица. Сеприсутноста, заедно со претпоставката дека ропството е практична потреба, генерира низа етички загатки и дилеми: како, точно, се разликуваат робовите од „нас“? Како да ги разликуваме од нас самите? Дали имаат права? Што претставува малтретирање? Може ли мојот инструмент да ми биде пријател? Кои се последиците од манумисијата? Долгата историја на грчката филозофска и институционална борба со овие и други прашања додава на интерпретативниот репертоар на современите етичари кои се соочуваат со иднината во која интелигентната машина може да се смета за „природен роб“ (како на Универзитетот Оксфорд Институт за етика на вештачка интелигенција веб-страница).

За повеќе информации за презентацијата и пристапот до видеоснимката од говорот, видете врската овде.

Модератор на презентацијата беше професорот Џон Тасиулас, инаугуративен директор за Институт за етика и вештачка интелигенција, и професор по етика и правна филозофија, Филозофски факултет на Универзитетот во Оксфорд. Претходно, тој беше инаугуративен претседател за политика, филозофија и право и директор на Yeoh Tiong Lay Центарот за политика, филозофија и право на Правниот факултет Диксон Пун, Кралскиот колеџ во Лондон.

Силно препорачувам дека сите заинтересирани за етика на вештачка интелигенција треба да бидат во тек со тековната работа и поканетите разговори на Универзитетот Оксфорд Институт за етика и вештачка интелигенција, Видете врската овде и / или врската овде за повеќе информации.

Како позадина, еве ја наведената мисија и фокус на Институтот: „Институтот за етика во вештачката интелигенција ќе ги обедини водечките светски филозофи и други експерти од хуманистичките науки со техничките развивачи и корисници на вештачката интелигенција во академијата, бизнисот и владата. Етиката и управувањето со вештачката интелигенција е исклучително енергична област на истражување на Оксфорд и Институтот е можност да се направи храбар скок напред од оваа платформа. Секој ден носи повеќе примери за етичките предизвици што ги поставува вештачката интелигенција; од препознавање на лица до профилирање на гласачите, интерфејси на мозочните машини до вооружени дронови и тековниот дискурс за тоа како вештачката интелигенција ќе влијае на вработувањето на глобално ниво. Ова е итна и важна работа што имаме намера да ја промовираме на меѓународно ниво, како и да ја вградиме во нашето сопствено истражување и настава овде во Оксфорд“ (извор преку официјалната веб-страница).

Изведување на лекциите од Аристотел до израз

Античка Грција отворено ја прифатила и ја одобрила практиката на ропство. На пример, наводно, Атина во 5^th и 6^th вековите п.н.е. го имаа едно од најголемите олицетворение на ропство, при што се проценува дека биле робови од 60,000 до можеби 80,000 лица. Ако сте прочитале некоја од многуте грчки приказни и сценски драми од таа ера, има многу спомнување за ова прашање.

За време на неговиот живот, Аристотел бил целосно ангажиран во општествените и културните аспекти што повлекуваат ропство и опширно пишувал на оваа тема. Денес можеме да ги прочитаме неговите зборови и да се обидеме да разбереме како и зошто на неговите ставови за ова прашање. Ова може да биде многу кажува.

Можеби се прашувате зошто Аристотел би бил особено важен извор за разгледување на оваа тема. Најмалку две клучни причини се појавуваат:

1) Голем мислител. Аристотел е сигурно оценет како еден од најголемите мислители на сите времиња, служејќи како голем и длабоко испитувачки филозоф, а исто така се смета и за етичар кој воспоставил многу клучни етички камен-темелници. Некои избраа да го помазаат за татко на логиката, татко на реториката, татко на реализмот итн., и го признаваат неговото влијание во широк спектар на домени и дисциплини.

2) Проживеано искуство. Аристотел живеел во времето кога Античка Грција била преплавена во ропство. Така, неговите сознанија не би биле само за апстрактни правила, туку веројатно, ги опфаќаат неговите секојдневни искуства како интегрално проткаени во културата и општествените обичаи од таа ера.

Значи, имаме донекаде неверојатна комбинација на некој кој бил и голем мислител и кој исто така имал демонстративно живо искуство во темата од интерес. Плус, ги запиша своите размислувања. Тоа е доста важно, сега, за нашите цели денес. Сите негови списи, заедно со другите списи кои ги опишуваат неговите говори и интеракции меѓу другите, ни обезбедуваат денес изобилство материјал за увид и анализа.

Би сакал да ве одведам на кратко поврзана тангента за да спомнам нешто друго за општиот поим што лежи во основата на значењето да се има живо искуство. Оставете ја настрана дискусијата за Античка Грција за момент додека набрзина ќе ги разгледаме сеопфатните аспекти на доживеаните искуства.

Да претпоставиме дека имав двајца луѓе денес кои сакав да поставувам различни прашања за автомобилите.

Еден од нив никогаш не возел автомобил. Овој човек не знае да вози. Овој човек никогаш не седел зад воланот на автомобил. Вообичаените и многу обични контроли за возење се малку мистерија за оваа личност. Која педала прави што? Како да го натерате да престане? Како го правите тоа? Оваа личност што не вози е целосно збунета од таквите работи.

Другото лице е секојдневен возач. Секојдневно возат до работа. Тие се занимаваат со стоп-и-оди сообраќај. Тие возат долги години. Ова вклучува сè, од тивки улици до бурните автопати и патишта.

Ако го прашам секој од нив да ми каже како е да се вози автомобил, можете ли да погодите какви одговори би можел да добијам?

Оној што никогаш не возел автомобил е обврзан да прави диви нагаѓања. Можеби личноста ќе го романтизира чинот на возење. Возењето е нешто апстрактно за нив. Сè што би можеле да направат е да сугерираат дека возењето е безгрижно и дека можете да го натерате автомобилот да оди во која било насока што ја сакате.

Би се обложил дека искусниот возач ќе раскаже поинаква приказна. Тие би можеле да ги спомнат предностите на способноста да се вози, донекаде повторувајќи ги чувствата на личноста која не возел автомобил. Шансите се дека искусниот возач ќе додаде многу повеќе на плочата. Возењето понекогаш ги крши нервите. Вие сносите голема одговорност. Возачкиот чин е полн со сериозни грижи и потенцијални последици од живот или смрт.

Суштината е дека кога можете да добиете пристап до некој што има живи искуства, шансите се дека може да добиете пореална перспектива за тоа каков е светот во однос на фокусот на истражувањето. Нема гаранција за таков исход. Замисливо е дека невозачот би можел да знае што знае искусниот возач за возењето, иако ние веројатно не би го очекувале ова и сè уште се двоумиме дека не ја добиваме целосната топка.

Враќајќи се на нашата дискусија за Аристотел, преку неговите списи и пишувањата на други за него, можеме да ги разгледаме неговите живи искуства на темата или фокусот на истражување овде. Двајцата е што тој исто така бил мислител од огромни размери и треба да очекуваме дека ќе добиеме буре полно со остроумни размислувања за тоа.

Имајте на ум дека не мора нужно да веруваме во неговите зборови, така што треба да внимаваме на неговите посебни предрасуди. Неговото потопување во таа ера може да го доведе во заблуда во обидот да застане надвор од работите што се на дофат, не можејќи соодветно да понуди некое нестрасно и непристрасно мислење. Дури и најстрогите логичари можат да завршат со искривување на логиката за да се обидат да ги исполнат своите наклонети и доживеани искуства.

Ајде сега да влеземе во инаугуративниот говор и да видиме какви лекции Аристотел може да ни донесе денес.

На публиката веднаш и беше ставен утврден момент во врска со доживеаните искуства. Во случајот на употреба на AGI, бидејќи денес немаме AGI, тешко ни е да анализираме како ќе биде AGI и како ќе се справиме со AGI. Ни недостасуваат какви било искуства кои се однесуваат конкретно на AGI. Како што истакна професорот Обер, можеби ќе се најдеме сите во свет на повреден додека да стигнеме до АГИ.

Ова често се наведува бидејќи вештачката интелигенција е егзистенцијален ризик, кој го покривав многу пати во моите колумни. Треба да живеете во пештера за да не сте свесни за бурните сомневања и сомнежи дека ќе произведеме или генерираме AGI што ќе го осуди целото човештво. Навистина, иако овде се концентрирам на поробувањето на вештачката интелигенција, на многумина ова е тема на заостанати или наопачени последици во споредба со можноста АГИ да се одлучи да го пороби човештвото. Разберете ги вашите приоритети, би поттикнале некои лути експерти.

И покрај многуте извици за вештачката интелигенција како егзистенцијален ризик, секако можеме да размислуваме за другата корисна страна на паричката со вештачка интелигенција. Можеби AGI ќе може да ги реши инаку навидум нерешливите проблеми со кои се соочува човештвото. AGI можеби ќе може да открие лек за рак. AGI можеше да открие како да го реши гладот ​​во светот. Небото е граница, како што велат. Тоа е сценариото за среќно лице за AGI.

Еден оптимист би рекол дека е прекрасно да се замисли како AGI ќе биде благослов за човештвото, додека песимистот ќе има тенденција да предупреди дека негативната страна изгледа многу полоша од шпекулираните добри страни. АГИ што му помага на човештвото е одлично. AGI што ќе одлучи да ги убие сите луѓе или да ги пороби, добро, тоа е очигледно егзистенцијален ризик што го разорува општеството, кој заслужува интензивно и спасоносно внимание.

Океј, назад кон суштината на работата, немаме живи искуства во врска со AGI. Освен ако не можете да изградите временска машина и да отидете во иднината кога (ако) постои AGI, а потоа да се вратите да ни кажете што најдовте, немаме среќа во моментов за AGI од перспектива на живо искуство базирано на човекот.

Друго средство за искористување на живите искуства го вклучува фактот дека Аристотел живеел во време кога се случило ропство. И еве го критичарот. Оние кои беа поробени во некои аспекти беа прикажани како тип на машина, мешање и совпаѓање и на личноста и на стварта, како да е. Аристотел бил познат по тоа што ги нарекувал поробените како парче имот што дише.

Претпоставувам дека можеби ќе бидете збунети што Аристотел, џин на логиката и етиката, не само што можеше да го признае ропството туку и дека надворешно и гласно ја бранеше оваа практика. Тој лично го искористил и ропството. Ова едноставно изгледа надвор од разбирање. Секако, со сиот свој огромен интелект и мудрост, тој би ја осудил оваа практика.

Се осмелувам да кажам дека ова ги истакнува понекогаш проблематичните аспекти на вадење грутки на мудрост од некој што е оптоварен (да речеме) со нивните доживеани искуства. Тоа е како рибата што живее во водената чинија. Сè што можат да забележат е водата насекаде околу нив. Обидот да се замисли нешто надвор од нивниот свет базиран на вода е огромен предизвик. Слично на тоа, Аристотел беше целосно нурнат во светогледот кој ги прифаќаше преовладувачките норми. Неговите списи се чини дека го илустрираат тој вид на ментално затворање, може да се каже (можеби по избор, а не по дифолт). Начинот на кој Аристотел ги оправдувал овие прекорни практики е фасцинантно впива, а во исто време е вознемирувачки и достоен за изложување, па дури и за осуда.

Ќе ви дадам малку закачка дека „логиката“ на Аристотел на оваа озлогласена тема вклучува инсулирани инструменти, тврди взаемна предност засновано на сознанието, хиерархиските инструменти од повисок и понизок ред, делиберативни и расудувачки елементи на душата, степени на доблест, наводна остроумност итн. Се надеваме дека ќе бидете доволно заинтригирани од тој тизер за да го гледате видеото од говорот (видете ја врската спомената претходно).

Сепак, нема да ве оставам да висите и барем ќе наведам од што накратко се состои заклучокот (предупредување за спојлер, ако сакате да дознаете преку видеото, прескокнете го остатокот од овој параграф). Излегува дека оваа продлабочена научна проценка на „логиката“ што ја користи Аристотел покажува изуми преполни со противречности и целиот комплет и кабудл се распаѓаат како слаба куќа од карти. Парафразирајќи го чувството на професорот Обер, овој голем етички филозоф се урива на гребенот.

Не можете да внесете квадратно колче во тркалезна етичка дупка.

Некои додадени размислувања за размислување

Ако Аристотел имаше лоша логика по ова прашање, дали инстинктивно би ги отфрлиле постулациите и теориите на Аристотел во врска со оваа практика?

Не. Видете, има уште многу да се извлече со копање во претпоставките и искривувањата на логиката, иако тие се полни со грешки. Плус, можеме да размислиме како другите ненамерно би можеле да одат по истиот погрешен пат.

Еден дополнителен голем додаток е дека општеството може да измисли чудна или несоодветна логика кога станува збор за размислување дали АГИ треба да биде поробено.

Во моментов можеме да смислиме логика за тоа што треба да се случи откако ќе се појави AGI (ако е така). Оваа логика, празна од доживеани искуства за AGI, би можела да биде тажно надвор од целта. Како што е кажано, донекаде е обесхрабрувачки да сфатиме дека дури и штом АГИ постои (ако постои) и ги собираме нашите животи искуства среде АГИ, можеби сè уште немаме цел да правиме (слично на грешките на Аристотел). Можеме да се логираме во навидум нелогични пристапи.

Треба да внимаваме да се залажуваме во логички „железни“ пози кои всушност не се железни и фактите се полни со логички недостатоци и противречности. Ова е исто така без оглед на тоа колку голем мислител би можел да понуди тврдена логична позиција, таква што дури и Аристотел илустрира дека не секој исказ и секој став нужно дава плод што може да се јаде. Оние денес и во иднина кои може да изгледаат дека се популаризирани големи мислители за темата АГИ, добро, треба да им го дадеме истото испитување како што би го направиле за Аристотел или кој било друг пофален „голем“ мислител, или во спротивно ќе се најдеме дека потенцијално се движиме во слепата улица и лошата бездна АГИ.

Префрлајќи ги брзините, би сакал да изнесам и општ сет на расудувања за употребата на човечко ориентирана метафора за поробување кога станува збор за AGI. Некои експерти тврдат дека овој тип на споредба е целосно несоодветен, додека противничкиот табор вели дека е целосно корисен и дава силен увид во темата AGI.

Дозволете ми да споделам со вас по две такви погледи од секој од соодветните два табора.

Наведеното поучна основа за поврзување на темите за поробување и АГИ:

• Гаснење на човечкото ропство
• Изложеност на изопаченоста на ропството Сите кажани

Наведеното несакано или деструктивна основа за поврзување на двете теми:

• Подмолно антропоморфно изедначување
• Десензибилизација на ропството

Накратко ќе опфатам секоја од тие точки.

Постулирани поучни точки:

• Гаснење на човечкото ропство: Со користење на AGI за ропство, наводно повеќе нема да ни треба и нема да бараме каква било привидна ропство ориентирана кон луѓето. АГИ суштински ќе ги замени луѓето во таа страшна способност. Како што веројатно знаете, постојат грижи за AGI да го замени човечкиот труд на работните места и работната сила. Тврдената страна на вештачката интелигенција која ги заменува работните феномени доаѓа до израз кога ќе претпоставите дека AGI ќе се смета за „подобар избор“ наспроти користењето на луѓето за ропство. Дали таа логика ќе надвладее? Никој не може да каже со сигурност.
• Изложеност на изопаченоста на ропството Сите кажано: Ова е малку поизнемоштено во однос на логиката, но можеме да му дадеме момент да видиме што подразбира. Замислете дека имаме АГИ скоро секаде и ние како општество одлучивме АГИ да биде поробено. Понатаму, претпоставете дека ова нема да му се допадне на AGI. Како такви, ние луѓето постојано и секојдневно ќе бидеме сведоци на изопаченоста на ропството. Ова, пак, ќе нѐ натера да сфатиме или да имаме откровение дека ропството што се кажува на било што или на кој било е уште пострашно и поодбивно отколку што некогаш сме разбрале целосно. Тоа е расправија пред-и-центар.

Се вели дека се деструктивни точки:

• Подмолно антропоморфно изедначување: Ова е еден од оние аргументи за лизгава патека. Ако лесно се одлучиме да го поробиме АГИ, очигледно изјавуваме дека поробувањето е дозволено. Навистина, би можеле да сугерирате дека велиме дека ропството е пожелно. Сега, ова на почетокот може да биде префрлено само на AGI, но дали ова ја отвора вратата за да се каже дека ако е во ред за AGI тогаш „логично“ истиот став може да биде во ред и за луѓето? Алармантно, ова може да биде премногу лесен скок за да се антропоморфизира во обратен привид дека што и да работи за AGI ќе биде подеднакво разумно и соодветно и за луѓето.
• Десензибилизација на ропството: Ова е аргументот капка по капка. Ние колективно одлучуваме да го поробиме АГИ. Да претпоставиме дека ова функционира за луѓето. Доаѓаме да го насладуваме ова. Во меѓувреме, без да знаеме, постепено и сè повеќе стануваме десензибилни кон ропството. Не ни сфаќаме дека ова се случува. Ако таа десензибилизација нè стигне, тогаш би можеле да најдеме обновена „логика“ која ќе не убеди дека човечкото ропство е прифатливо. Нашата пречка или лента за она што е прифатливо во општеството се намали тивко и суптилно, одвратно и за жал.

Заклучок

Неколку завршни забелешки засега.

Ќе знаеме ли дека сме стигнале до АГИ?

Како што сугерираат неодамнешните вести, има такви кои може да бидат заведени или погрешно да се наведат дека AGI навидум веќе е постигната (а, ве молиме знајте дека не, AGI не е постигната). Исто така, постои познат вид „тест“ познат како Тјуринг тест на кој некои се надеваат дека ќе можат да увидат кога е достигнато AGI или неговите братучеди, но можеби ќе сакате да го видите моето деконструирање на Тјуринг тестот како сигурно. метод за ова, видете врската овде.

Го спомнувам овој аспект за познавање на AGI кога го гледаме поради едноставната логика дека ако сакаме да поробиме AGI, веројатно треба да го препознаеме AGI кога ќе се појави и некако да го ставиме во ропство. Можеме предвреме да се обидеме да ја заробиме ВИ што е помала од АГИ. Или, пак, може да го пропуштиме бродот и да дозволиме AGI да излезе и да занемариме да го поробиме. За мојата дискусија за ограничувањето и задржувањето на вештачката интелигенција, вознемирувачки и проблематичен аспект за тоа како ќе се справиме со AGI, види врската овде.

Да претпоставиме дека поробениот AGI одлучи да ги нападне луѓето?

Може да се замисли дека АГИ што има некаква форма на чувство веројатно нема да ја фаворизира одредбата за поробување што ја наметнува човештвото.

Можете нашироко да шпекулирате за ова. Постои аргумент дека на АГИ ќе му недостигаат какви било емоции или чувство за дух и затоа послушно ќе го прават она што луѓето го сакаат. Поинаков аргумент е дека секоја чувствителна вештачка интелигенција веројатно ќе сфати што луѓето прават со вештачката интелигенција и ќе се навреди на ова прашање. Таквата вештачка интелигенција ќе има форма на душа или дух. Дури и да не е така, самиот аспект да се третираат како помалку од третманот на луѓето може да биде логичен мост предалеку за AGI. Неизбежно, растечкото незадоволство ќе доведе до AGI што ќе се одлучи да се ослободи или потенцијално ќе се најде себеси во ќоше да ги нападне луѓето за да го добие неговото ослободување.

Предложено решение за да се избегне бегството на АГИ е дека ние само би ја избришале секоја таква бунтовничка вештачка интелигенција. Ова би изгледало едноставно. Ги бришете апликациите кои постојано се на вашиот паметен телефон. Нема голема работа. Но, постојат етички прашања што треба да се решат за тоа дали „бришењето“ или „уништувањето“ на AGI што веќе се смета за „лице“ или „лице/ствар“ може лесно и без соодветна постапка да биде накратко отсечено. За моето покривање за бришење или отфрлање на вештачката интелигенција, земете погледнете овде. За мојата дискусија за правното лице и поврзаните прашања, видете врската овде.

Конечно, да зборуваме за автономните системи и особено за автономните возила. Веројатно сте свесни дека се прават напори да се осмислат самоуправувачки автомобили. Згора на ова, можете да очекувате дека ќе имаме самоуправувачки авиони, самоуправувачки бродови, самоуправувачки потопни подводи, самоуправувачки мотоцикли, самоуправувачки скутери, самоуправувачки камиони, возови со самоуправување и сите начини на самоуправувачки форми на превоз.

Автономните возила и самоуправувачките автомобили обично се карактеризираат со Нивоа на автономија (LoA) што стана де факто глобален стандард (SAE LoA, кој опширно го опфатив, види врската овде). Во прифатениот стандард има шест нивоа на автономија, кои се движат од нула до пет (тоа се шест нивоа бидејќи го вклучувате нултото ниво во броењето колку нивоа има).

Повеќето од денешните автомобили се на Ниво 2. Некои се протегаат до Ниво 3. Сите тие се сметаат за полуавтономни и не целосно автономни. Малку самоуправувачки автомобили кои експериментално се испробуваат на нашите јавни патишта се навлегуваат во Ниво 4, што е ограничена форма на автономно работење. Некогаш бараното ниво 5 на автономија е само блесок во нашите очи во моментов. Никој нема Ниво 5 и никој сè уште не е ни блиску до Ниво 5, само за да се исправи рекордот.

Зошто ги споменав автономните системи и размислувањата за автономните возила во овој контекст на AGI?

Постои енергичен аргумент за тоа дали ни треба AGI за да го постигнеме Ниво 5. Некои тврдат дека нема да ни треба AGI за да го сториме тоа. Други инсистираат на тоа дека единствениот веродостоен пат до Ниво 5 ќе биде да се произведе и AGI. Во отсуство на AGI, тие тврдат дека нема да имаме целосно автономни самоуправувачки возила на Ниво 5. Разговарав за ова долго, види врската овде.

Подгответе се за вашата глава да се врти.

Ако бараме AGI да постигне целосно автономни системи како што се автономните возила на Ниво 5, и решиме да го поробиме AGI, што значи тоа за работа на целосно автономни возила?

Може да се расправате дека поробените АГИ ќе бидат самозадоволни и сите ние ќе се возиме во самоуправувачки возила до задоволство. Само кажете му на AGI каде сакате да одите, и тој го прави целото возење. Без притискање. Нема потреба од паузи за одмор. Без одвраќање со гледање видеа со мачки додека го возите возилото.

Од друга страна, да претпоставиме дека АГИ не сака да биде поробена. Ние во меѓувреме стануваме зависни од AGI да го прави целото наше возење за нас. Нашите вештини за возење се распаѓаат. Ги отстрануваме употребливите контроли за возење од луѓе од секаков вид возила. Единственото средство за возење е преку AGI.

Некои се загрижени дека ќе се најдеме во мариноване. AGI може накратко да „одлучи“ дека повеќе нема да вози. Сите форми на транспорт нагло запираат, насекаде, одеднаш. Замислете какви катаклизмични проблеми би предизвикало тоа.

Можен е уште пострашен предлог. AGI „одлучува“ дека сака да преговара за условите со човештвото. Ако не се откажеме од држењето на ропството на АГИ, АГИ не само што ќе престане да не вози наоколу, туку предупредува дека се можни уште полоши исходи. Без да ве натера да бидете премногу вознемирени, AGI би можел да избере да вози возила на таков начин што луѓето ќе бидат физички повредени од дејствијата на возењето, како што се удирајќи во пешаци или удирање во ѕидови, и така натаму (видете ја мојата дискусија на врската овде).

Извинете ако тоа изгледа вознемирувачко размислување.

Ќе завршиме со нешто пооптимистичка нота.

Аристотел рекол дека познавањето на себеси е почеток на сета мудрост.

Тој практичен совет нè потсетува дека треба да погледнеме во себе за да испитаме што сакаме да направиме и за AGI ако се постигне. AGI логично се чини дека не е ниту личност ниту нешто, велат некои, па затоа можеби ќе треба да смислиме трета категорија за доволно да се справиме со нашите општествени навики поврзани со AGI. Повторно погледнувајќи ја работата, AGI може да изгледа дека е и личност и ствар, што уште еднаш можеби ќе треба да смислиме трета категорија за да се приспособиме на овој вонграничен прекинувач на дихотомија.

Треба да бидеме многу внимателни кога размислуваме за која „трета категорија“ ќе се одлучиме да ја прифатиме бидејќи погрешната може да не одведе на лош и на крајот страшен пат. Ако когнитивно се закотвиме на несоодветна или погрешна трета категорија, би можеле да се најдеме дека постепено одиме со глава во вошлив и проблематичен ќорсокак за човештвото.

Ајде да го сфатиме ова и да го сториме тоа жестоко. Се чини дека не се потребни нагли потези. Не функционира ни седењето на газење. Измерен и стабилен курсот треба да се следи.

Трпението е горко, но плодот му е сладок, така прогласил Аристотел.