Anul trecut, Facebook a creat doi chatbots și i-a rugat să înceapă să vorbească între ei, exersându-și abilitățile de negociere. S-a dovedit că roboții au fost destul de buni la negocieri - dar au făcut-o folosind un limbaj alcătuit care era de neînțeles pentru oameni.
Continut Asemanator
- Acest artist se aruncă în lumea clandestină a secretelor și supravegherii clasificate
Aici se duce lumea. Calculatoarele creează conținut unul pentru celălalt, nu pentru noi. Fotografiile sunt făcute de computere, pentru ca alte computere să le poată vizualiza și interpreta. Totul se întâmplă în liniște, adesea fără cunoștința sau consimțământul nostru.
Așadar, a învăța cum să vedeți ca un computer - a face vizibile aceste comunicări între mașini - poate fi cea mai importantă abilitate a secolului XXI.
Pe 25 octombrie 2018, Cvartetul Kronos - David Harrington, John Sherba, Hank Dutt și Sunny Yang - au susținut un concert la Smithsonian American Art Museum. Au fost urmăriți de 400 de oameni și de o duzină de algoritmi de inteligență artificială, acesta din urmă cu amintirea lui Trevor Paglen, artistul din spatele expoziției „Site-uri nevăzute”, care este în prezent vizualizat la muzeu.
În timp ce cântau muzicienii, un ecran deasupra lor ne-a arătat oamenilor ce văd calculatoarele.
În timp ce Kronos și-a desfășurat drumul printr-o piesă jalnică originară din Imperiul Otoman, pe ecran algoritmii au detectat fețele muzicienilor, care conturau buzele, ochii și nasul pentru fiecare persoană (și ocazional vedeau fețe „fantomă” unde nu existau niciodată - adesea în Mopul de păr al fondatorului Kronos, Harrington). Pe măsură ce algoritmii au devenit mai avansați, fluxul video a dispărut până când au rămas doar linii de neon pe un fundal negru. În cele din urmă, contururile faciale au dispărut până când o aranjare abstractă de linii - probabil tot computerul necesar pentru a înțelege „fața”, dar complet neinteligibil pentru oameni - a rămas tot ce a rămas.
„Mașină de vedere”, Trevor Paglen, Cvartetul Kronos (Bruce Guthrie) 
„Mașină de vedere”, Trevor Paglen, Cvartetul Kronos (Bruce Guthrie) 
„Mașină de vedere”, Trevor Paglen, Cvartetul Kronos (Bruce Guthrie) 
„Mașină de vedere”, Trevor Paglen, Cvartetul Kronos (Bruce Guthrie) 
„Mașină de vedere”, Trevor Paglen, Cvartetul Kronos (Bruce Guthrie) 
„Mașină de vedere”, Trevor Paglen, Cvartetul Kronos (Bruce Guthrie) 
„Mașină de vedere”, Trevor Paglen, Cvartetul Kronos (Bruce Guthrie) 
„Mașină de vedere”, Trevor Paglen, Cvartetul Kronos (Bruce Guthrie) 
„Mașină de vedere”, Trevor Paglen, Cvartetul Kronos (Bruce Guthrie) 
„Mașină de vedere”, Trevor Paglen, Cvartetul Kronos (Bruce Guthrie) 
„Mașină de vedere”, Trevor Paglen, Cvartetul Kronos Debutul de pe East Coast al spectacolului intitulat „Sight Machine”, ca și cealaltă lucrare a lui Paglen, a cerut spectatorilor și ascultătorilor să învețe cum să vadă cum fac computerele și să reexamineze relația umană cu tehnologia - telefoanele din buzunarele noastre și ochii din cerul și totul între ele.
Este anul 2018, iar ideea că telefoanele mobile ne urmăresc nu se mai simte ca o teorie a conspirației, propusă de un blogger din subsol, care poartă pălărie. Google a fost prins la începutul acestui an urmărind locațiile utilizatorilor de telefoane Android, chiar dacă utilizatorii au dezactivat funcția. Mulți oameni sunt convinși că telefoanele noastre ne ascultă pentru a difuza mai bine reclame - Facebook și alte companii neagă aceste taxe, deși este posibil din punct de vedere tehnic și legal să facă acest lucru. Jurnaliștii tehnici Alex Goldman și PJ Vogt au investigat și au descoperit același lucru: nu există niciun motiv pentru care telefoanele noastre nu ar fi ascultate, dar, pe de altă parte, agenții de publicitate pot obține suficiente informații despre noi prin alte metode pe care pur și simplu nu au nevoie .
În acest context, s-a efectuat „Sight Machine”. Zeci de camere cam ce vizionau Kronos Quartet au trimis video live de la performanță la un rack de calculatoare, care folosește algoritmi de inteligență artificială off-the-raft pentru a crea imagini strălucitoare. Algoritmii sunt aceiași folosiți în telefoanele noastre pentru a ne ajuta să ne luăm selfie-uri mai bune, cele folosite de mașinile care se conduc cu autovehicule pentru a evita obstacolele, iar cele folosite de forțele de ordine și de orientarea armelor. Așadar, în timp ce rezultatele de pe ecran au fost uneori frumoase sau chiar amuzante, a existat un subcurent de groază.
„Ceea ce mă uimește cu această lucrare specială este că ne arată ceva care este - și acest lucru este adevărat pentru toate lucrările sale - ne arată ceva care este deranjant și îl face folosind trucuri”, spune John Jacob, curatorul muzeului. pentru fotografie, care a organizat „Site-uri nevăzute”.
„Este un truc deliberat”, spune el, „și funcționează”.
Mai târziu, algoritmi sofisticati de recunoaștere facială au făcut judecăți despre membrii Kronos și și-au afișat rezultatele pe un ecran. "Acesta este John [Sherba]. John are între 24-40 de ani", a spus computerul. "Soarele [Yang] este 94, 4% feminin. Soarele este supărat 80% și neutru 10%."
"Unul dintre lucrurile pe care sper că spectacolul le arată", spune Paglen, este câteva dintre modurile în care genul de a percepe calculatoarele nu este neutru. Este extrem de părtinitor ... cu tot felul de presupuneri politice și culturale care sunt nu neutru. " Dacă sistemul de clasificare a genurilor spune că Sunny Yang este de 94, 4 la sută femei, atunci asta înseamnă că cineva este 100 la sută feminin. "Și cine a decis ce este 100 la sută de femei? Barbie este 100 la sută feminină? Și de ce genul este binar?" Întreabă Paglen. „Văzând că se întâmplă într-un moment în care guvernul federal încearcă să șteargă literalmente oamenii de gen, este amuzant pe de o parte, dar pentru mine este oribil.”
Un algoritm ulterior dispensat cu procentele și mutat pentru a identifica pur și simplu obiecte din scenă. "Microfon. Vioară. Persoană. Meduză. Perucă." (Ultimele două sunt în mod clar greșeli; algoritmul pare să fi confundat Hank Dutt pentru o meduză și părul real al lui Harrington pentru o pelerină.) Atunci clasificările au devenit mai complexe. "Sunny ține o pereche de foarfece", a spus mașina în timp ce lumina îi sclipea șirurile de violoncel. „John ține un cuțit”. Ce s-ar întâmpla dacă clasificatorul ar da aceste informații - incorecte - pentru aplicarea legii, nu vom ști niciodată.
Cei mai mulți utilizatori finali ai platformelor AI - care nu sunt artiști - ar putea susține că aceste sisteme ar putea avea prejudecăți proprii, dar primesc întotdeauna o înregistrare finală de către un om. Un algoritm creat de Amazon, Rekognition, pe care compania îl vinde forțelor de ordine și, eventual, ICE, a recunoscut în mod greșit 28 de membri ai Congresului ca fiind persoane care au fost acuzate de o infracțiune, comparând fețele cu mugshots într-o bază de date publică. La acea vreme, Amazon a susținut că ACLU, care folosea sistemul pentru a face meciurile, a folosit Rekognition incorect. Compania a spus că setarea implicită a sistemului pentru meciuri, numită „prag de încredere” este de doar 80 la sută. (Cu alte cuvinte, algoritmul era doar 80% sigur că Rep. John Lewis a fost un criminal.) Un purtător de cuvânt al Amazon a spus că recomandă departamentelor de poliție să folosească un prag de încredere de 95 la sută și că „Amazon Rekognition este aproape exclusiv utilizat pentru a ajuta restrânge câmpul și permite oamenilor să-și revizuiască rapid și să ia în considerare opțiunile folosind judecata lor. ”Calculatoarele pot comunica între ele, dar - deocamdată - încă cer oamenii să facă apelul final.
Muzica, aleasă de Paglen cu aport de la Kronos, are și ceva de spus despre tehnologie. O piesă, "Powerhouse", de Raymond Scott, este "probabil cea mai faimoasă pentru a fi folosită în desene animate în scenele din fabrică", spune Paglen. "Dacă vedeți vreodată un fel de producție excesivă și înnebunire, aceasta este adesea muzica care vorbește despre asta. Pentru mine este un mod de a gândi la această industrializare aproape caricatură și să le situăm în contextul tehnologiei." O altă piesă, „Different Trains” de Steve Reich, a închis setul. Kronos efectuează doar prima mișcare, care este despre copilăria lui Reich în anii 1930 și 40; Paglen spune că se gândește la piesă ca sărbătorește „un sentiment de exuberanță și progres pe care le facilitează trenurile”. *
Acesta a fost cuplat cu imagini dintr-o bază de date publică numită ImageNet, care sunt folosite pentru a învăța calculatoarele care sunt lucrurile. (De asemenea, numite "date de antrenament", așa că da, este un pic de un punct.) Ecranul a luminat imagini imposibil de rapid, care arată exemple de fructe, flori, păsări, pălării, oameni în picioare, oameni care se plimbă, oameni care sar și persoane ca Arnold Schwarzenegger. Dacă ai vrea să înveți un computer cum să recunoască o persoană, cum ar fi Schwarzenegger, sau o casă sau conceptul de „cină”, ai începe să arăți unui computer aceste mii de imagini.
Au existat și videoclipuri scurte de oameni care se sărutau, îmbrățișau, râd și zâmbesc. Poate un AI instruit în aceste imagini ar fi unul binevoitor, prietenos.
Dar „Trenuri diferite” nu se referă doar la optimism; mișcările ulterioare, pe care Kronos nu le-a jucat joi, dar sunt „implicate” de primul, sunt despre modul în care promisiunea călătoriei cu trenul a fost însușită pentru a deveni un instrument al Holocaustului. Trenurile, care păreau a fi un progres tehnologic, au devenit vehiculele în care zeci de mii de evrei au fost mutați în lagărele morții. Ceea ce părea o tehnologie binevoitoare a devenit subvertit pentru rău.
"Este ca, 'Ce ar putea merge prost?" Spune Paglen. "Colectăm toate informațiile despre toți oamenii din lume."
Și, de fapt, pe măsură ce „Trenuri diferite” s-a încheiat, accentul s-a schimbat. Ecranul nu mai afișa imagini cu Kronos sau datele de antrenament de la ImageNet; în schimb, a arătat un flux video live al publicului, deoarece algoritmii de recunoaștere facială au ales caracteristicile fiecărei persoane. Într-adevăr, chiar și atunci când credem că nu suntem urmăriți, suntem.
Într-un flux video live al publicului, algoritmii de recunoaștere facială au ales caracteristicile fiecărei persoane. (Bruce Guthrie) Pentru a povesti această poveste, am ieșit din casă și am mers până la stația de metrou, unde am scanat o carte electronică legată de numele meu pentru a trece prin turnicul și, din nou, când am ieșit din metrou. În centrul orașului, am trecut de o jumătate de duzină de camere de securitate înainte de a intra în muzeu, unde am văzut cel puțin încă două (un purtător de cuvânt al Smithsonianului spune că Smithsonianul nu folosește tehnologia de recunoaștere facială; departamentul poliției metropolitane DC spune același lucru despre camerele sale).
Am înregistrat interviuri folosind telefonul meu și am încărcat audio la un serviciu de transcriere care folosește AI pentru a-mi da seama ce spun eu și subiectele mele și pot sau nu să vizez publicitatea către mine pe baza conținutului interviurilor. Am trimis e-mailuri folosind Gmail, care încă „citește” tot ceea ce trimit (deși nu mă mai servește reclame).
Pe parcursul procesului de raportare, în timp ce mergeam prin oraș, m-am confruntat cu - nu creez asta - mașina Google Street View. De două ori. Nu este paranoia dacă te urmăresc cu adevărat, nu?
Deci, ce a mai rămas, în această lume în care calculatoarele văd și, eventual, fac judecăți despre noi? „Sight Machine” ne îndeamnă să învățăm cum să gândim ca un computer, dar ne amintește, de asemenea, că există unele părți din noi, care sunt, încă, pe deplin umane.
Paglen spune că „este ceva care nu poate fi cuantificabil ... atunci când urmărești un sistem de viziune pe computer care interogează în esență interpreți, chiar pentru mine subliniază această mare diferență în percepțiile dintre modul în care percepem cultura și emoția și sensul. și toate modalitățile prin care acestea sunt invizibile pentru sistemele autonome. "
Sau după cum spune Harrington, puteți face muzică cu o vioară din lemn sau una făcută pe o imprimantă 3D. Puteți utiliza un arc din fibră de carbon sau unul din lemn de pernambuco. Dar, spune el, arcul trebuie să fie tras de-a lungul corzilor. Muzica „devine mai prețioasă pentru că este făcută manual”.
Și deocamdată, asta este încă ceva ce putem face. Este posibil ca utilajele să nu mai aibă nevoie de noi. Dar când vine vorba de sunetul solemn al unui arc pe o sfoară de vioară și de șirurile emoționale care notează remorchetoare, nu avem nevoie de mașini.
„Trevor Paglen: Sites Unseen”, curat de John Jacob, continuă la Smithsonian American Art Museum din Washington, DC până la 6 ianuarie 2019. Este programat să călătorească la Muzeul de Artă Contemporană din San Diego, 21 februarie - 2 iunie, 2019.
* Nota editorului, 2 noiembrie 2018: Această poveste a fost editată pentru a clarifica sensul și povestea de origine a compoziției „Trenuri diferite” a lui Steve Reich.
