Причините за регулирање на алгоритмите со вештачка интелигенција се поедноставни отколку што мислите

Дали се грижите дека вештачката интелигенција ќе го заземе светот? Многумина го прават тоа. Од Илон Маск се грижи за DeepMind тепа луѓе во напредната игра Go во 2017 година, на членовите на Конгресот, европски креатори на политики (види Европски пристап кон вештачката интелигенција), и академици, постои чувство дека ова е деценија сериозно да се сфати вештачката интелигенција, и таа зазема. Сепак, не поради причините што можеби мислите и не поради некоја присутна закана.

Тука влегуваат алгоритмите. Што е алгоритам, можеби ќе прашате? Наједноставниот начин да се размислува за тоа е како збир на инструкции што машините можат да ги разберат и да научат од нив. Веќе можеме да и наложиме на машината да пресметува, обработува податоци и да расудува на структуриран, автоматизиран начин. Меѓутоа, проблемот е што откако ќе се дадат наведените упатства, машината ќе ги следи. Засега тоа е поентата. За разлика од луѓето, машините ги следат упатствата. Тие не учат толку добро. Но, штом ќе го направат тоа, може да предизвикаат проблеми.

Не сакам да правам сензационалистички аргумент за идејата дека компјутерите еден ден ќе ја надминат човечката интелигенција, попознат како аргумент за сингуларност (види филозоф од Њујорк, Дејвид Чалмерс размислувања на темата.) Наместо тоа, производството може да биде најдобриот пример за тоа зошто алгоритмите за вештачка интелигенција почнуваат да и се повеќе важни на пошироката јавност. Човек се плаши дека машините значително ќе ја забрзаат својата моќ на наша сметка. Не со некое напредно размислување, нужно, туку поради оптимизацијата во границите на она што го кажува еден алгоритам.

Производството е за правење работи. Но, кога машините прават работи, треба да обрнеме внимание. Дури и ако она што го прават машините е едноставно. Ќе објаснам зошто.

Од чизми за дожд до мобилни телефони и назад

Да речеме, фабрика правела чизми за дожд. Сакам чизми за дожд бидејќи пораснав во област на Норвешка каде што врне многу; Сакам да бидам надвор, подложен на многуте елементи на природата. Нокиа ги направи чизмите за дожд со кои пораснав. Да, Нокиата што денес ја знаеме како компанија за електроника користела за правење гумени чизми. Зошто е овој клуч? Затоа што штом ќе направите нешто, предодредени сте да сакате да направите подобрувања. Тоа има смисла. Може да се каже дека тоа е човечката природа.

Она што и се случи на Нокиа е добро познато и е малку вака: на почетокот фабриката за хартија, додека бев дете, производството на гумени чизми (и гуми) беше особено успешно за компанијата. Сепак, тие видоа дополнителни можности. Оттука, во одреден момент во 1980-тите, тие се префрлија на електроника и брзо ги променија фабриките наоколу, градејќи голема структура на локални добавувачи кога почнаа да произведуваат мобилни телефони. Ова ја воведе револуцијата во мобилните комуникации, која започна во Скандинавија и се прошири во остатокот од светот. Разбирливо, многумина ја напишале приказната за Нокиа во 1990-тите (види Тајните зад финското чудо: подемот на Nokia).

Мојот пример е јасен. Можеби, премногу едноставно. Но, размислете за тоа на овој начин. Ако една голема компанија може брзо да премине од правење хартија за пишување, до чизми кои го олеснуваат излегувањето на дожд, тогаш конечно, на мобилни телефони кои го менуваат начинот на кој луѓето комуницираат: колку ќе биде лесен следниот чекор? Да претпоставиме дека една компанија која произведува мобилни телефони одлучи да направи нано-ботови, а можеби и тие да полетаат за една деценија, менувајќи го човештвото со ситни машини кои автономно се движат насекаде, способни повторно да се соберат и да го променат човечкото искуство. Што ако тоа се случи без да размислиме како сакаме да се случи, кој сакаме да бидеме одговорни и крајните цели?

Да се ​​сугерира дека роботите свесно ѝ помагаат на Нокиа да одлучи да прави мобилни телефони, би било тешко. Но, признавањето дека технологијата има улога во дозволувањето на финската рурална област на нејзиниот северен брег да мисли дека може да добие светска доминација во нова индустрија игра значајна улога.

Приказната на Нокиа не беше толку розова во последната деценија со оглед на тоа што тие не ја земаа предвид појавата на софтверски оперативни системи iOS и Android. Сега, како резултат на тоа, Nokia веќе не произведува телефони. Во малку приказна за враќање, тие сега прават мрежна и телекомуникациска инфраструктура, мрежни безбедносни решенија, рутери за Wi-Fi, паметно осветлување и паметни телевизори (види Приказната за враќањето на Нокиа). Нокиа сè уште прави работи, тоа е вистина. Единственото набљудување што треба да се направи е дека Nokia секогаш ужива да ги меша работите што ги прави. Дури и одлуките за производство на човечките суштества понекогаш се тешко разбирливи.

Производството значи да се направат работите и работите да се развиваат. Општо земено, она што го правиме денес се смени од пред само една деценија. 3D печатачите имаат децентрализирано производство на многу напредни производи, како во индустријата така и во домот. Последиците од 3D печатењето кои го менуваат животот сè уште не се случиле. Не знаеме дали ова ќе трае, но знаеме дека фокусот на ФДА е на регулирање на производството на производи (види овде) како печатените апчиња или медицинските помагала што произлегуваат, очигледните проблеми со интелектуалната сопственост и одговорноста или проблемите околу можноста за печатење огнено оружје. На крајот на краиштата, дискусијата за политиката за тоа какви негативни последици може да има 3Д печатењето надвор од ова, не постои и малкумина од нас се мачеа да размислуваат за тоа.

Не сугерирам дека 3D печатењето е опасно само по себе. Можеби ова е лош пример. Како и да е, работите кои првично изгледаат вообичаено можат да го променат светот. Има многу примери: врв на стрела од ловец/собирач направен од метал кој започнува војни, ритуални маски кои нè штитат од СОВИД-19, клинци кои градат облакодери, подвижни машини за печатење кои (сеуште) ги полнат нашите фабрики со печатена хартија и ја напојуваат Би можел да продолжам со издавачка дејност, сијалици кои ви овозможуваат да гледате и да работите внатре ноќе. Никој за кого знам не седна во доцните 1800-ти и предвиде дека Nokia ќе го премести своето производство од хартија на гума на електроника, а потоа подалеку од мобилните телефони. Можеби треба да имаат.

Луѓето се лоши предвидувачи на промената на чекорите, процесот каде што една промена води до повеќе промени, и одеднаш, работите се радикално различни. Сè уште не го разбираме овој процес бидејќи имаме малку практично знаење за експоненцијалните промени; не можеме да го замислиме, да го пресметаме или да го сфатиме. Сепак, одново и одново нè погодува. Пандемии, раст на населението, технолошки иновации од печатење книги до роботика, тоа обично нè погодува без предупредување.

Финтата со футуризмот не е ако, туку кога. Можеби некој ќе може да ја предвиди промената само со избирање на некои нови методи на производство и наведување дека тие ќе станат поприсутни во иднина. Тоа е доволно едноставно. Тешкиот дел е да се открие точно кога и особено како.

Не се проблемот со штипки

Повторно разгледајте го мојот фабрички пример, но овој пат, замислете дека машините се задолжени за бројни одлуки, не сите одлуки, туку одлуки за производство како оптимизација. Во неговата книга СуперинтелигенцијаДистопискиот хуманист на Универзитетот Оксфорд, Ник Бостром, славно замислил алгоритам за оптимизација на вештачката интелигенција што работи на фабрика за клипови за хартија. Во одреден момент, вели тој, замислете дека машината објаснува дека учењето да ги пренасочува сè поголемите ресурси кон задачата е рационално, завршувајќи постепено да го претвора нашиот свет во клипови за хартија и да се спротивстави на нашите обиди да го исклучиме.

И покрај тоа што е паметен човек, примерот на Бостром е прилично глупав и погрешен (сепак, незаборавен). Како прво, тој не го објаснува фактот дека луѓето и роботите повеќе не се посебни ентитети. Ние комуницираме. Повеќето паметни роботи се развиваат во коботи или колаборативни роботи. Луѓето ќе имаат многу шанси да ја поправат машината. И покрај тоа, неговата основна поента останува. Може да има промена на чекор во одреден момент, и ако таа промена се случи доволно брзо и без доволен надзор, контролата може да се изгуби. Но, тој екстремен исход изгледа малку пресилен. Во секој случај, се согласувам, треба да ги регулираме луѓето кои управуваат со овие машини и да им наложиме на работниците секогаш да бидат во тек со соодветна обука. Тој тип на тренинзи не оди добро. Во моментов е потребно премногу долго и потребни се специјални вештини и за да се обучи и да се обучи. Знам една работа. Во иднина сите видови луѓе ќе работат со роботи. Оние кои не го прават тоа, ќе бидат прилично немоќни.

Зголемувањето на луѓето е подобро од безумната автоматизација, без разлика дали никогаш целосно не се спојуваме со машините. Двата концепта се логично различни. Можно е и луѓето и роботите да бидат заглавени во автоматизацијата заради автоматизацијата. Тоа ќе направи голема штета на производството понатаму. Дури и ако не произведува роботи убијци. Верувам дека спојувањето е стотици години далеку, но тоа не е поентата. Дури и да има само триесет години, самоодните машини кои работат на поедноставени алгоритми кои губат контрола, тоа сценарио веќе се случува на подот од продавницата. Некои од тие машини се стари триесет години и работат на стари, сопственички контролни системи. Нивниот главен предизвик не е тоа што се напредни, туку спротивното. Тие се премногу поедноставени за да можат да комуницираат. Ова не е проблем за утре. Тоа е веќе постоечки проблем. Мораме да ги отвориме очите за тоа. Размислете за ова следниот пат кога ќе влезете во вашите гумени чизми.

Сè уште ги имам моите Nokia чизми од 1980-тите. Имаат дупка во нив, но ги чувам за да се потсетам од каде сум и колку далеку сум пешачел. И дождот продолжува да паѓа, и се додека е доволно чист, не сакам подобар поправка за него од тие чизми. Потоа повторно, јас сум човек. Роботот веројатно веќе би продолжил понатаму. Која е верзијата со вештачка интелигенција на rainboots, се прашувам. Тоа не е мобилен телефон. Тоа не е сензор за дожд. Го заглавува умот.

Дигиталните чизми денес значат дека можете да ги персонализирате бидејќи имаат 3Д-печатени дизајни на нив. Постојат виртуелни чевли кои постојат само како NFT (незаменливи токени) кои можат да се продаваат и тргуваат. Најдобрите виртуелни патики деновиве вредат 10,000 долари (види Што е NFT патика и зошто вреди 10,000 долари?). Не се плашам од нив, но дали треба да се плашам? Ако виртуелниот свет стане повеќе ценет од физичкиот свет, можеби и јас ќе го направам тоа. Или треба да чекам да бидам загрижен додека сопствениот аватар на вештачката интелигенција не купи сопствена NFT подигање за да се справи со „дождот“? Ако изградиме алгоритми по сопствена слика, поверојатно е дека вештачката интелигенција би била добра во работи во кои посакуваме да сме добри, но обично не сме, како што се купување акции, градење лојални пријателства (можеби и со машините и со луѓето) и помнењето работи. Индустрискиот метаверс можеби е изненадувачки софистициран – полн со дигитални близнаци кои го имитираат нашиот свет и го надминуваат на плодни начини – или можеби е шокантно едноставен. Можеби и двете. Само уште не знаеме.

Треба да ги регулираме алгоритмите за вештачка интелигенција бидејќи не знаеме што има зад аголот. Тоа е доволна причина, но за тоа како го правиме тоа, тоа е подолга приказна. Дозволете ми уште едно брзо набљудување, можеби сите основни алгоритми треба да бидат јавно достапни. Причината е, ако не, не постои начин да се знае до што би можеле да доведат. Врвните се доста добро познати (види Топ 10 алгоритми за машинско учење), но не постои светски преглед каде и како ќе се навикнат. Особено ненадгледуваните алгоритми треба да се следат внимателно (види Шест моќни случаи за употреба за машинско учење во производството), без разлика дали се користат за предвидување на одржување или квалитет, за симулирање на производствени средини (на пр. дигитални близнаци), или за генерирање на нови дизајни на кои човекот никогаш не би помислил. Во денешниот пејзаж, овие алгоритми без надзор се типично таканаречени вештачки невронски мрежи, кои се обидуваат да го имитираат човечкиот мозок.

Почнав да се грижам за нервните мрежи, само затоа што ми е тешко да ја разберам нивната логика. Проблемот е што повеќето експерти, дури и оние што ги применуваат, не разбираат како овие алгоритми се движат од чекор до чекор или слој до слој. Мислам дека метафората за „скриени слоеви“, која често се користи, не е многу соодветна или многу смешна. Не треба да има скриени слоеви во производството, во автоматизираното собирање даноци, во одлуките за вработување или во приемот на факултет, за почеток. Можеби и вие треба да размислите да се грижите? Едно е сигурно, луѓето и машините што прават работи заедно ќе го променат светот. Веќе има, многукратно. Од хартија до чизми за дожд и слоевите на денешните вештачки мозоци, ништо не треба да остане неистражено. Не треба да се криеме од едноставниот факт дека од многу мали промени одеднаш може да се појави поголема промена.