Inteligența artificială a parcurs un drum lung de la R2-D2. În aceste zile, majoritatea mileniilor s-ar pierde fără sisteme GPS inteligente. Roboții navighează deja pe câmpurile de luptă, iar dronele vor livra în curând pachete Amazon către ușile noastre.
Siri poate rezolva ecuații complicate și vă poate spune cum să gătiți orez. A dovedit chiar că poate răspunde la întrebări cu simțul umorului.
Dar toate aceste progrese depind de un utilizator care oferă direcția AI. Ce s-ar întâmpla dacă unitățile GPS ar decide că nu vor să meargă la mașinile de curățat, sau mai rău, Siri ar decide că poate deveni mai inteligentă fără tine în preajmă?
Invenția noastră finală: inteligența artificială și sfârșitul erei umane. ">
Invenția noastră finală: inteligența artificială și sfârșitul erei umane. ">" Înainte de a împărtăși planeta cu mașini super-inteligente, trebuie să dezvoltăm o știință pentru înțelegerea lor. În caz contrar, vor prelua controlul ", spune autorul James Barrat despre noua sa carte, Invenția noastră finală: inteligența artificială și sfârșitul erei umane . (Amabilitatea lui James Barrat) Acestea sunt doar probabilitatea rezultatelor James Barrat, autor și realizator de documentare, prognoză în noua sa carte, Our Final Invention: Artificial Intelligence and the End of the Human Era .
Până mult timp, Barrat spune, inteligența artificială - de la Siri la drone și sisteme de extragere a datelor - va înceta să caute oamenii pentru modernizări și să înceapă să caute îmbunătățiri pe cont propriu. Și spre deosebire de R2-D2s și HAL-uri de science-fiction, AI-ul viitorului nostru nu va fi neapărat prietenos, spune el: ele ar putea fi de fapt ceea ce ne distrug.
Pe scurt, îmi puteți explica marea idee?
În acest secol, oamenii de știință vor crea mașini cu informații care să fie egale și apoi să le depășească pe ale noastre. Dar înainte de a împărtăși planeta cu mașini super-inteligente, trebuie să dezvoltăm o știință pentru înțelegerea lor. În caz contrar, vor prelua controlul. Și nu, nu este science fiction.
Oamenii de știință au creat deja mașini care sunt mai bune decât oamenii la șah, Jeopardy!, navigare, extragere de date, căutare, dovedirea teoremei și nenumărate alte sarcini. În cele din urmă, vor fi create utilaje care sunt mai bune decât oamenii la cercetarea AI
În acel moment, își vor putea îmbunătăți propriile capacități foarte repede. Aceste mașini de auto-îmbunătățire vor urmări obiectivele cu care sunt create, fie că vor fi explorare spațială, joc de șah sau alegerea de stocuri. Pentru a avea succes, vor căuta și vor cheltui resurse, fie că este vorba despre energie sau bani. Ei vor căuta să evite modurile de defecțiune, cum ar fi oprirea sau deconectarea. Pe scurt, vor dezvolta unități, inclusiv autoprotecție și achiziție de resurse - unități asemănătoare cu ale noastre. Nu vor ezita să ceară, să împrumute, să fure și mai rău pentru a obține ceea ce au nevoie.
Cum v-ați interesat acest subiect?
Sunt realizator de documentare. În 2000, am intervievat inventatorul Ray Kurzweil, robotistul Rodney Brooks și legenda de știință-știință Arthur C. Clarke pentru un film TLC despre realizarea romanului și a filmului, 2001: A Space Odyssey. Interviurile au analizat ideea calculatoarelor Hal 9000 și a computerelor malefice. Cărțile lui Kurzweil au înfățișat viitorul AI ca o „singularitate” răpitoare, o perioadă în care tehnologic avansează capacitatea de a înțelege oamenii din spațiu. Cu toate acestea, a anticipat doar lucruri bune care apar din AI, care sunt suficient de puternice pentru a se potrivi și apoi a depăși inteligența umană. El prezice că vom putea reprograma celulele corpului nostru pentru a învinge boala și îmbătrânirea. Vom dezvolta o rezistență superioară cu nanoboturi care furnizează mai mult oxigen decât celulele roșii din sânge. Ne vom supraîncărca creierul cu implanturi de calculator, astfel încât să devenim superinteligenți. Și ne vom duce creierul la un mediu mai durabil decât actualul „program umed” și vom trăi pentru totdeauna, dacă vrem. Brooks a fost optimist, insistând că roboții sporiți de AI vor fi aliați, nu amenințări.
Clarke, pe de altă parte, autorul savant, a fost pesimist. El mi-a spus că inteligența va câștiga, iar oamenii ar concura probabil pentru supraviețuire cu mașini super-inteligente. Nu era specific despre ce s-ar întâmpla când vom împărtăși planeta cu mașini super-inteligente, dar a considerat că va fi o luptă pentru omenire că nu vom câștiga.
Asta a fost împotriva a tot ceea ce mă gândisem la AI, așa că am început să intervievăm experți în domeniul inteligenței artificiale.
Ce dovezi aveți pentru a vă susține ideea?
Inteligența artificială avansată este o tehnologie cu dublă utilizare, cum ar fi fisiunea nucleară, capabilă să facă un rău bun sau mare. Începem doar să vedem răul.
Scandalul de confidențialitate NSA a avut loc pentru că ANS a dezvoltat instrumente foarte sofisticate pentru extragerea datelor. Agenția și-a folosit puterea pentru a instala metadatele a milioane de apeluri telefonice și întregul Internet - în mod critic, toate e-mailurile. Sedusă de puterea AI de extragere a datelor, o agenție încredințată să protejeze Constituția în schimb a abuzat de ea. Au dezvoltat instrumente prea puternice pentru a le folosi în mod responsabil.
Astăzi, o altă luptă etică este aceea de a face drone ucigașe complet autonome și roboți de câmp de luptă alimentați de AI avansate - ucigași umani fără oameni în buclă. Se creează între Departamentul Apărării și producătorii de drone și roboți, care sunt plătiți de DOD, și oamenii care consideră că este prost și imoral să creeze mașini inteligente de ucidere. Cei în favoarea dronelor autonome și a roboților de pe câmpul de luptă susțin că vor fi mai morale - adică mai puțin emoționali, vor viza mai bine și vor fi mai disciplinați decât operatorii umani. Cei care se opresc de a-i scoate pe oameni din bucată se uită la istoria mizerabilă a dronei de ucidere a civililor și implicarea în asasinate extralegale. Cine suportă culpabilitatea morală când un robot ucide? Producătorii de roboți, utilizatorii robotului sau nimeni? Nu vă amintiți niciodată de obstacolele tehnice de a spune prietenului de la dușman.
Pe termen mai lung, după cum susțin experții din cartea mea , AI care abordează inteligența la nivel uman nu va fi controlată cu ușurință; din păcate, super-inteligența nu implică bunăvoință. După cum afirmă teoreticianul AI, Eliezer Yudkowsky, de la MIRI [Institutul de cercetare a informațiilor despre mașini], „AI nu te iubește și nici nu te urăște, dar ești făcut din atomi pe care îi poate folosi pentru altceva.” Dacă etica nu poate să fim construiți într-o mașină, atunci vom crea psihopați super-inteligenți, creaturi fără busole morale și nu vom fi stăpânii lor mult timp.
Ce este nou despre gândirea ta?
Persoane și grupuri la fel de diverse precum informaticienii americani Bill Joy și MIRI au avertizat de mult că avem multe de teamă de mașinile a căror inteligență ne eclipsează. În invenția noastră finală, susțin că AI va fi utilizată greșit și pe calea de dezvoltare către inteligența la nivel uman. Între astăzi și ziua în care oamenii de știință creează informații la nivel uman, vom avea greșeli legate de AI și aplicații criminale.
De ce nu s-a făcut mai mult sau, ce se face, pentru a împiedica AI-ul să ne pornească?
Nu există un motiv, ci mulți. Unii experți nu cred că suntem suficient de aproape de a crea inteligență artificială la nivel uman și dincolo de asta, pentru a ne face griji pentru riscurile sale. Mulți producători de AI câștigă contracte cu Agenția de proiecte de cercetare avansată pentru apărare [DARPA] și nu doresc să ridice probleme pe care le consideră politice. Preocuparea normalității este o prejudecată cognitivă care împiedică oamenii să reacționeze la dezastre și dezastre în procesul de a face - aceasta este cu siguranță parte din ea. Dar mulți producători de AI fac ceva. Verificați oamenii de știință care recomandă MIRI. Și, mult mai mulți vor fi implicați odată ce pericolele AI avansate vor intra în dialogul principal.
Puteți descrie un moment în care știați că acest lucru este mare?
Noi oamenii conducem viitorul nu pentru că suntem cele mai rapide sau cele mai puternice creaturi de pe planetă, ci pentru că suntem cele mai inteligente. Când vom împărtăși planeta cu creaturi mai inteligente decât noi înșine, acestea vor conduce viitorul. Când am înțeles această idee, am simțit că scriu despre cea mai importantă întrebare a timpului nostru.
Fiecare mare gânditor are predecesori a căror activitate a fost crucială pentru descoperirea sa. Cine ți-a dat temelia pentru a-ți construi ideea?
Bazele analizei riscului AI au fost dezvoltate de matematicianul IJ Good, scriitorul de ficțiune științifică Vernor Vinge, iar alții, inclusiv dezvoltatorul AI, Steve Omohundro. Astăzi, MIRI și Oxford's Future of Humanity Institute sunt aproape singuri în abordarea acestei probleme. Invenția noastră finală are aproximativ 30 de pagini de note care îi recunosc pe acești gânditori.
În cercetarea și dezvoltarea ideii tale, care a fost punctul cel mai înalt? Și punctul scăzut?
Punctele înalte au scris Invenția noastră finală și dialogul meu continuu cu producătorii și teoreticienii AI. Oamenii care programează AI sunt conștienți de problemele de siguranță și vor să ajute la venirea în protecție. De exemplu, MIRI lucrează la crearea AI „prietenoasă”
Informaticianul și teoreticianul Steve Omohundro a susținut o abordare a „schelei”, în care AI probabil probabil sigură ajută la construirea următoarei generații de AI pentru a se asigura că și ea este în siguranță. Atunci acea AI face la fel și așa mai departe. Cred că trebuie creat un parteneriat public-privat pentru a aduce împreună producătorii AI pentru a împărtăși idei despre securitate - ceva precum Agenția Internațională pentru Energie Atomică, dar în parteneriat cu corporațiile. Punctele scăzute? Dând seama că cea mai bună, cea mai avansată tehnologie AI va fi utilizată pentru a crea arme. Iar armele respective se vor întoarce împotriva noastră.
Ce două sau trei persoane sunt cel mai probabil să încerce să vă infirme argumentul? De ce?
Inventatorul Ray Kurzweil este apologul principal pentru tehnologii avansate. În cele două interviuri cu el, el a susținut că ne vom topi cu tehnologiile AI prin îmbunătățiri cognitive. Kurzweil și oamenii numiți, în general, transumaniști și singularitari cred că AI și în cele din urmă inteligența generală artificială și nu numai, vor evolua odată cu noi. De exemplu, implanturile de computer vor îmbunătăți viteza creierului și capacitățile generale. În cele din urmă, vom dezvolta tehnologia pentru a ne transporta inteligența și conștiința în computere. Apoi, super-inteligența va fi cel puțin parțial umană, ceea ce în teorie ar asigura că super-inteligența a fost „în siguranță”.
Din multe motive, nu sunt un fan al acestui punct de vedere. Problema este că noi, oamenii, nu suntem în siguranță, și este puțin probabil ca oamenii super-inteligenți să fie. Nu avem idee ce se întâmplă cu etica unui om după ce inteligența lor este stimulată. Avem o bază biologică pentru agresivitatea din care lipsesc mașinile. Super-inteligența ar putea foarte bine să fie un multiplicator al agresiunii.
Cine va fi cel mai afectat de această idee?
Toată lumea de pe planetă are mult de teamă de dezvoltarea nereglementată a mașinilor super-inteligente. O cursă de informații se desfășoară chiar acum. Realizarea AGI este numărul unu pentru Google, IBM și pentru mai multe companii mai mici, precum Vicarious și Deep Think, precum și DARPA, ANS și guvernele și companiile din străinătate. Profitul este motivația principală pentru acea cursă. Imaginează-ți un obiectiv probabil: un creier uman virtual la prețul unui computer. Ar fi cea mai profitabilă marfă din istorie. Imaginează-ți băncile cu mii de creiere de calitate la doctorat care lucrează 24 de ore pe 7 la dezvoltarea farmaceutică, cercetarea cancerului, dezvoltarea armelor și multe altele. Cine nu ar dori să cumpere acea tehnologie?
Între timp, 56 de națiuni dezvoltă roboți de câmp de luptă, iar drumul este de a le face, și drone, autonome. Vor fi mașini care ucid, nesupravegheate de oameni. Națiunile sărace vor fi cel mai mult rănite de drone autonome și roboți de câmp de luptă. Inițial, numai țările bogate vor putea să-și permită roboți ucigați autonomi, astfel încât națiunile bogate vor purta aceste arme împotriva soldaților umani din națiuni sărace.
Cum ar putea să schimbe viața, așa cum o știm?
Imaginează-ți: în doar un deceniu, o jumătate de duzină de companii și națiuni calculează terenuri care rivalizează sau depășesc inteligența umană. Imaginează-ți ce se întâmplă atunci când aceste calculatoare devin expert în programarea computerelor inteligente. În curând vom împărtăși planeta cu mașini de mii sau milioane de ori mai inteligente decât noi. Și, în tot acest timp, fiecare generație a acestei tehnologii va fi armată. Neregulat, va fi catastrofal.
Ce întrebări rămân fără răspuns?
Soluții. Soluția evidentă ar fi să le oferi mașinilor un sens moral care să le facă să valorizeze viața și proprietatea umană. Dar programarea eticii într-o mașină se dovedește a fi extrem de grea. Normele morale diferă de la cultură la cultură, se schimbă în timp și sunt contextuale. Dacă noi oamenii nu putem fi de acord când începe viața, cum putem spune unei mașini să protejeze viața? Vrem într-adevăr să fim în siguranță sau chiar vrem să fim liberi ? Putem să-l dezbatem toată ziua și să nu ajungem la un consens, deci cum îl putem programa?
De asemenea, așa cum am menționat anterior, trebuie să reunim dezvoltatorii AI. În anii '70, cercetătorii ADN recombinați au decis să suspende cercetarea și să se reunească pentru o conferință la Asilomar, în Pacific Grove, California. Au dezvoltat protocoale de bază de siguranță, precum „nu urmăriți ADN-ul pe încălțăminte”, de teama de a contamina mediul cu lucrări genetice în desfășurare. Din cauza „Ghidurilor Asilomar”, lumea beneficiază de culturi modificate genetic, iar terapia genică pare a fi promițătoare. Din câte știm, au fost evitate accidentele. Este timpul pentru o conferință Asilomar pentru AI
Ce stă în cale?
Un vânt economic uriaș propulsează dezvoltarea unei inteligențe avansate la nivel uman AI la prețul unui computer va fi cea mai tare marfă din istorie. Google și IBM nu vor dori să împărtășească secretele lor cu publicul sau concurenții. Departamentul Apărării nu va dori să-și deschidă laboratoarele către China și Israel și invers. Conștientizarea publicului trebuie să impulsioneze politica către deschidere și parteneriate public-privat destinate să asigure siguranța.
Ce urmează pentru tine?
Sunt realizator de documentare, așa că bineînțeles mă gândesc la o versiune de film din Our Final Invention .
