Com la tecnologia segresta les ments de la gent: d'un mag i un dissenyador de l'ètica de Google

giovanni ets tu

Sóc expert en com la tecnologia segresta les nostres vulnerabilitats psicològiques. Per això, vaig passar els darrers tres anys com a dissenyador d’ètica a Google preocupant-me per dissenyar les coses d’una manera que defensés que les ments de mil milions de persones no fossin segrestades.

Quan fem servir la tecnologia, sovint ens centrem amb optimisme en totes les coses que fa per nosaltres. Però vull mostrar-vos on pot fer el contrari.

On explota la tecnologia les febleses de la nostra ment? ?

Vaig aprendre a pensar així quan era mag. Els mags comencen buscant punts cecs, vores, vulnerabilitats i límits de la percepció de les persones, de manera que poden influir en el que fan les persones sense que ni tan sols se n’adonin. Un cop sabeu prémer els botons de la gent, podeu tocar-los com un piano.

Jo sóc jo fent màgia de mans a la festa d'aniversari de la meva mare(Foto de l'autor)

I això és exactament el que els pensen els dissenyadors de productes. Juguen les teves vulnerabilitats psicològiques (conscient i inconscientment) contra tu en la cursa per cridar la teva atenció.

Vull mostrar-vos com ho fan.

Segrest # 1: si controleu el menú, controlareu les opcions

Limitació de l’elecció(Foto de l'autor)

La cultura occidental es basa en ideals d’elecció i llibertat individuals. Milions de nosaltres defensem aferrissadament el nostre dret a prendre decisions lliures, mentre ignorem com aquestes opcions són manipulades aigües amunt per menús que no vam escollir en primer lloc.

Això és exactament el que fan els mags. Donen a la gent la il·lusió de la lliure elecció mentre configuren el menú perquè guanyin, independentment del que trieu. No puc emfatitzar prou fins a quin punt és profunda aquesta visió.

Quan es dóna a les persones un menú d’eleccions, poques vegades pregunten:

• què no hi ha al menú?
• per què em donen? aquestes opcions i altres no?
• conec els objectius del proveïdor de menú?
• és aquest menú potenciant per la meva necessitat original, o les decisions són realment una distracció? (per exemple, una àmplia gamma de pastes de dents)

Per exemple, imagineu-vos que sou dimarts amb els amics i voleu continuar la conversa. Obriu Yelp per trobar recomanacions properes i veure una llista de bars. El grup es converteix en una colla de rostres que contemplen fixament els seus telèfons comparant barres. Analitzen les fotos de cadascun, comparant begudes de còctel. Aquest menú continua essent rellevant per al desig original del grup?

No és que els bars no siguin una bona opció, sinó que Yelp va substituir la pregunta original del grup (on podem anar a continuar parlant?) Per una pregunta diferent (què és un bar amb bones fotos de còctels?) Tot donant forma al menú.

A més, el grup s’enamora de la il·lusió que el menú de Yelp representa un conjunt complet d’eleccions per on anar. Mentre miren cap avall els seus telèfons, no veuen el parc del carrer amb una banda que toca música en directe. Troben a faltar la galeria emergent de l’altra banda del carrer que serveix creps i cafè. Cap dels dos no apareix al menú de Yelp.

Yelp substitueix subtilment la necessitat del grup, on podem anar a parlar? quant a fotos de còctels servits.(Captura de pantalla: Tristan Harris)

Com més opcions ens doni la tecnologia en gairebé tots els dominis de la nostra vida (informació, esdeveniments, llocs on anar, amics, cites, feines) - més suposem que el nostre telèfon sempre és el menú més útil i útil per triar . Es aixo?

El menú més apte és diferent del menú que té més opcions . Però quan ens rendim a cegues als menús que ens ofereixen, és fàcil perdre la noció de la diferència:

• Qui és lliure aquesta nit per passar l’estona? es converteix en un menú de persones més recents que ens han enviat missatges de text (a qui podríem fer ping).
• Què passa al món? es converteix en un menú de notícies.
• Qui és solter per sortir a una cita? es converteix en un menú de cares per lliscar sobre Tinder (en lloc d'esdeveniments locals amb amics o aventures urbanes a prop).
• He de respondre a aquest correu electrònic. es converteix en un menú de tecles per escriure una resposta (en lloc de potenciar formes de comunicar-se amb una persona).

Yelp substitueix subtilment la necessitat del grup, on podem anar a parlar? quant a fotos de còctels servits.(Foto de l'autor)

Quan ens llevem al matí i girem el telèfon per veure una llista de notificacions: emmarca l’experiència de despertar-me al matí al voltant d’un menú amb totes les coses que he perdut des d’ahir. (per obtenir més exemples, vegeu Xerrada de Empowering Design de Joe Edelman )

Una llista de notificacions quan ens despertem al matí: fins a quin punt es desperta aquest menú d’eleccions? Reflecteix el que ens interessa? (de l'Empowering Design Talk de Joe Edelman)(Foto: Tristan Harris)

Mitjançant la configuració dels menús que escollim, la tecnologia segresta la forma en què percebem les nostres opcions i les substituïm per altres de noves. Però, com més fixem-nos en les opcions que se’ns donen, més notarem quan realment no s’ajusten a les nostres necessitats reals.

Direcció # 2: poseu una màquina escurabutxaques en milers de milions de butxaques

Si sou una aplicació, com manteniu la gent enganxada? Converteix-te en una màquina escurabutxaques.

La persona mitjana comprova el seu telèfon 150 vegades al dia. Per què ho fem? Estem fent 150 conscient opcions ?

Amb quina freqüència reviseu el vostre correu electrònic al dia?(Captura de pantalla: Tristan Harris)

Una de les principals raons per les quals és l’ingredient psicològic número 1 de les màquines escurabutxaques: recompenses variables intermitents .

Si voleu maximitzar l’addicció, tot el que han de fer els dissenyadors de tecnologia és vincular l’acció d’un usuari (com tirar de palanca) amb un recompensa variable . Estireu una palanca i de seguida rebeu una recompensa atractiva (un partit, un premi!) O res. L’addicció es maximitza quan la taxa de recompensa és més variable.

Aquest efecte funciona realment a les persones? Sí. Les màquines escurabutxaques guanyen més diners als Estats Units que el beisbol, les pel·lícules i els parcs temàtics combinat . En relació amb altres tipus de jocs d’atzar, la gent s’implica de manera problemàtica amb les màquines escurabutxaques 3–4 vegades més ràpid segons la professora de la Universitat de Nova York, Natasha Dow Schull, autora de Addicció per disseny.

Però aquí teniu la lamentable veritat: diversos milions de persones tenen una màquina escurabutxaques a la butxaca:

• Quan traiem el telèfon de la butxaca, ho estem jugant a una màquina escurabutxaques per veure quines notificacions rebem.
• Quan estirem per actualitzar el nostre correu electrònic, ho estem jugant a una màquina escurabutxaques per veure quins nous correus electrònics hem rebut.
• Quan llisquem cap avall amb el dit per desplaçar-nos pel canal d’Instagram, ho farem jugant a una màquina escurabutxaques per veure quina foto ve després.
• Quan fem lliscar les cares cap a l’esquerra / dreta en aplicacions de cites com Tinder, ho estem jugant a una màquina escurabutxaques a veure si aconseguim un partit.
• Quan toquem el número de notificacions vermelles, ho farem jugant a una màquina escurabutxaques al que hi ha a sota.

Notificacions vermelles(Captura de pantalla: Tristan Harris)

Les aplicacions i els llocs web ofereixen recompenses variables intermitents a tots els seus productes perquè són bones per als negocis.

Però en altres casos, les màquines escurabutxaques emergeixen per accident. Per exemple, no hi ha cap empresa maliciosa darrere tot el correu electrònic que conscientment va optar per convertir-la en una màquina escurabutxaques. Ningú no treu beneficis quan milions revisen el seu correu electrònic i no hi ha res. Tampoc els dissenyadors d’Apple i Google voler els telèfons funcionen com les màquines escurabutxaques. Va sorgir per accident.

Però ara empreses com Apple i Google tenen la responsabilitat de reduir aquests efectes convertir les recompenses variables intermitents en menys addictives i més predictibles amb un millor disseny. Per exemple, podrien habilitar les persones per establir hores previsibles durant el dia o la setmana per al moment en què volen comprovar les aplicacions de les màquines escurabutxaques i ajustar-se corresponentment quan es lliurin missatges nous per alinear-los amb aquests horaris.

Segrest # 3: por a perdre alguna cosa important (FOMSI)

Una altra forma en què les aplicacions i els llocs web segresten la ment de la gent és que indueixen l’1% de probabilitats que us perdeu alguna cosa important.

Si et convenç que sóc un canal d’informació important, missatges, amistats o oportunitats sexuals potencials, serà difícil que desactivis, cancel·les la subscripció o suprimeixis el teu compte, perquè (aha, guanyo) és possible que trobeu a faltar alguna cosa important:

• Això ens manté subscrits a butlletins de notícies fins i tot després que no hagin lliurat avantatges recents (i si trobo a faltar un anunci futur?)
• Això ens manté amic de les persones amb les quals no parlem des de fa temps (i si enyoro alguna cosa important?)
• Això ens impedeix lliscar les cares a les aplicacions de cites, fins i tot quan ni tan sols ens hem trobat amb ningú des de fa temps (i si trobo a faltar això) un partit calent a qui m'agrada?)
• Això ens fa continuar utilitzant les xarxes socials (i si trobo a faltar aquesta important notícia o quedo enrere del que parlen els meus amics?)

Però si ens apropem a aquesta por, descobrirem que no té límits : sempre trobarem a faltar alguna cosa important en qualsevol moment quan deixem d’utilitzar alguna cosa.

• Hi ha moments màgics a Facebook que trobarem a faltar si no l’utilitzem durant la sisena hora (per exemple, un vell amic que visita la ciutat) ara mateix ).
• Hi ha moments màgics que trobarem a faltar a Tinder (per exemple, la nostra parella romàntica de somni) en no passar el nostre 700è partit.
• Hi ha trucades de telèfon d’emergència que trobarem a faltar si no estem connectats les 24 hores del dia, els 7 dies de la setmana .

Però viure moment a moment amb la por de perdre alguna cosa no és com estem construïts per viure.

I és increïble la rapidesa amb què, una vegada que deixem anar aquesta por, ens despertem de la il·lusió. Quan desconnectem més d'un dia, cancel·leu la subscripció a aquestes notificacions o aneu a Campament a terra - les preocupacions que pensàvem que no passen realment.

No trobem a faltar allò que no veiem.

La idea, i si trobo a faltar alguna cosa important? es genera abans de desconnectar-lo, cancel·lar-lo o apagar-lo - No després. Imagineu-vos si les empreses tecnològiques ho reconeguessin i ens ajudessin a sintonitzar de manera proactiva les nostres relacions amb amics i empreses en termes del que definim com a temps ben aprofitat per a les nostres vides, en lloc de tenir en compte allò que podríem trobar a faltar.

Segrest # 4: aprovació social

Fàcilment una de les coses més persuasives que pot rebre un ésser humà.(Captura de pantalla: Tristan Harris)

Tots som vulnerables aprovació social . La necessitat de pertànyer, de ser aprovats o apreciats pels nostres companys és una de les motivacions humanes més altes. Però ara la nostra aprovació social està en mans d’empreses tecnològiques.

Quan el meu amic Marc em marca, m’imagino que fa un elecció conscient per etiquetar-me. Però no veig com una empresa com Facebook va orquestrar el seu primer fet.

Facebook, Instagram o SnapChat poden manipular la freqüència amb què les persones s’etiqueten a les fotos suggerint automàticament totes les cares que les persones haurien d’etiquetar (per exemple, mostrant un quadre amb una confirmació d’un clic, etiqueta Tristan en aquesta foto?).

Així que quan Marc em marca, en realitat és responent al suggeriment de Facebook, no fer una tria independent. Però mitjançant opcions de disseny com aquesta, Facebook controla el multiplicador de la freqüència amb què milions de persones experimenten la seva aprovació social en línia .

Facebook utilitza suggeriments automàtics com aquest per aconseguir que la gent etiqueti més persones, creant més externalitats i interrupcions socials.(Captura de pantalla: Tristan Harris)

millor producte de cbd per a l'ansietat

El mateix passa quan canviem la nostra foto de perfil principal: Facebook sap que és un moment en què ho som vulnerable a l’aprovació social : què pensen els meus amics de la meva nova foto? Facebook pot classificar-lo més al feed de notícies, de manera que es manté durant més temps i a més amics els agradarà o el comentarà. Cada vegada que els agradi o els comenti, ens tornarem a retirar.

Tothom respon de manera innata a l’aprovació social, però algunes dades demogràfiques (adolescents) són més vulnerables que altres. Per això, és tan important reconèixer la capacitat que tenen els dissenyadors quan exploten aquesta vulnerabilitat.

Segrest # 5: Reciprocitat social (tit-for-tat)

• Em feu un favor: t’ho dec una propera vegada.
• Tu dius, gràcies: he de dir que ets benvingut.
• M’envieu un missatge de correu electrònic: és una mala educació no tornar-vos a contactar.
• Em segueixes: és groller no tornar-te enrere. (especialment per a adolescents)

Nosaltres som vulnerable a la necessitat de correspondre amb els gestos dels altres . Però, com passa amb l'aprovació social, les empreses tecnològiques ara manipulen la freqüència amb què ho experimentem.

En alguns casos, és per accident. Les aplicacions de correu electrònic, missatges de text i missatgeria són fàbriques de reciprocitat social . Però en altres casos, les empreses exploten aquesta vulnerabilitat a propòsit.

LinkedIn és l’infractor més evident. LinkedIn vol que tantes persones es creïn obligacions socials entre elles com sigui possible, perquè cada vegada que corresponen (acceptant una connexió, responent a un missatge o recolzant algú per una habilitat), han de tornar a linkedin.com on poden aconseguir que la gent passi més temps.

Igual que Facebook, LinkedIn explota una asimetria en la percepció. Quan rebeu una invitació d'algú per connectar-vos, us imagineu que fa una persona elecció conscient per convidar-vos, quan en realitat és probable que responguessin inconscientment a la llista de contactes suggerits de LinkedIn. Dit d’una altra manera, LinkedIn es converteix en el vostre impulsos inconscients (afegir una persona) a noves obligacions socials que milions de persones se senten obligades a pagar. Tot i que es beneficien del temps que la gent dedica a fer-ho.

LinkedIn explota una asimetria en la percepció.(Foto: Tristan Harris)

Imagineu-vos que milions de persones s’interrompin així durant tot el dia, corrent com gallines amb el cap tallat, recíprocament, tot dissenyat per empreses que se’n beneficien.

Benvingut a les xarxes socials.

Després d’acceptar un aval, LinkedIn s’aprofita del vostre biaix per correspondre oferint * quatre * persones addicionals per a la vostra aprovació a canvi.(Captura de pantalla: Tristan Harris)

Imagineu-vos si les empreses tecnològiques tenien la responsabilitat de minimitzar la reciprocitat social. O si hi havia una organització independent que representés els interessos del públic (un consorci industrial o una FDA per a tecnologia) que supervisés quan les empreses tecnològiques abusaven d’aquests biaixos?

Segrest núm. 6: bols sense fons, canals infinits i reproducció automàtica

YouTube reprodueix automàticament el següent vídeo després d'un compte enrere(Captura de pantalla: Tristan Harris)

Una altra manera de segrestar les persones és mantenir-les consumint coses, fins i tot quan ja no tenen gana.

Com? Fàcil. Feu una experiència limitada i finita i converteix-la en un flux sense fons això continua .

El professor de Cornell, Brian Wansink, ho va demostrar en el seu estudi podeu enganyar la gent perquè continuï menjant sopa donant-los un bol sense fons que s’omplen automàticament mentre mengen. Amb els bols sense fons, les persones mengen un 73% més de calories que les que tenen els bols normals i subestimen quantes calories van menjar per 140 calories.

Les empreses tecnològiques exploten el mateix principi. Els feeds de notícies estan dissenyats a propòsit per omplir-se automàticament amb motius per mantenir-vos desplaçats i, a fi, eliminen qualsevol motiu perquè feu una pausa, reconsidereu-vos o marxeu.

També és per això que els llocs de vídeo i xarxes socials com Netflix, YouTube o Facebook reproducció automàtica el següent vídeo després d’un compte enrere en lloc d’esperar que feu una tria conscient (per si no ho feu). Una gran part del trànsit d’aquests llocs web es basa en la reproducció automàtica del següent.

Reproducció automàtica de Netflix en acció(Foto: Tristan Harris)

Les empreses tecnològiques solen afirmar que només facilitem la visualització del vídeo als usuaris ells volen per veure quan realment estan servint els seus interessos comercials. I no els podeu culpar, perquè augmentar el temps dedicat és la moneda per la qual competeixen.

En lloc d’això, imagineu-vos si les empreses tecnològiques us ho van donar vincula conscientment la teva experiència per alinear-se amb el que seria temps ben aprofitat per a tu. No només limitar el quantitat de temps que dediqueu, però el qualitats del que seria el temps ben dedicat.

Segrest núm. 7: interrupció instantània vs. lliurament respectuós

Les empreses saben que els missatges que interrompen la gent immediatament són més persuasius per aconseguir que la gent respongui que els missatges enviats de manera asíncrona (com ara el correu electrònic o qualsevol safata d'entrada diferida).

Tenint en compte l’elecció, Facebook Messenger (o WhatsApp, WeChat o SnapChat, en aquest cas) ho faria prefereixen dissenyar el seu sistema de missatgeria per interrompre els destinataris immediatament (i mostrar un quadre de xat) en lloc d’ajudar els usuaris a respectar l’atenció dels altres.

En altres paraules, la interrupció és bona per als negocis .

També és del seu interès augmentar el sentiment d’urgència i reciprocitat social. Per exemple, Facebook automàticament li diu al remitent quan va veure el seu missatge, en lloc de deixar que no reveli si el va llegir (ara que ja sabeu que he vist el missatge, em sento encara més obligat a respondre.)

Per contra, Apple permet als usuaris activar o desactivar els rebuts de lectura amb més respecte.

El problema és que maximitzar les interrupcions en nom del negoci crea una tragèdia dels béns comuns, arruïnant els períodes d’atenció mundial i provocant milers de milions d’interrupcions innecessàries cada dia. Aquest és un problema enorme que hem de solucionar amb estàndards de disseny compartits (potencialment, com a part de Temps ben passat ).

Segrest núm. 8: agrupar les vostres raons amb les seves raons

Una altra manera que les aplicacions et segresten és agafant les seves raons per visitar l'aplicació (per realitzar una tasca) i fes-los inseparables dels motius empresarials de l’aplicació (maximitzar la quantitat que consumim un cop hi som).

Per exemple, en el món físic de les històries de queviures, els motius més populars per visitar són les recàrregues de farmàcies i la compra de llet. Però les botigues de queviures volen maximitzar la quantitat que compra la gent, de manera que posen la farmàcia i la llet al fons de la botiga.

En altres paraules, fan que el que volen els clients (llet, farmàcia) sigui inseparable del que vol l'empresa. Si les botigues ho fossin realment organitzat per donar suport a la gent , ho farien posa els elements més populars al davant .

Les empreses tecnològiques dissenyen els seus llocs web de la mateixa manera. Per exemple, quan voleu cercar un esdeveniment de Facebook que tingui lloc aquesta nit (la vostra raó), l'aplicació Facebook no us permet accedir-hi sense haver d'arribar abans al feed de notícies (els seus motius), i això és a propòsit. Facebook vol convertir tots els motius que tingueu per utilitzar Facebook en la seva raó, que és maximitzar el temps que passeu consumint coses .

En un món ideal, les aplicacions sempre us proporcionarien un manera directa per aconseguir el que vols per separat del que volen.

Imagineu-vos una declaració digital de drets que descrigui els estàndards de disseny que obligaven els productes utilitzats per milers de milions de persones a donar suport a maneres que els permetin navegar cap als seus objectius.

Segrest # 9: opcions incòmodes

Se’ns diu que és suficient perquè les empreses facin opcions disponibles.

• Si no us agrada, podeu utilitzar sempre un producte diferent.
• Si no us agrada, sempre podeu donar-vos de baixa.
• Si sou addicte a la nostra aplicació, sempre la podeu desinstal·lar del telèfon.

Empreses de forma natural voleu prendre les decisions que voleu que feu més fàcils i les decisions que no volen que feu més difícils. Els mags fan el mateix. Faciliteu que un espectador pugui escollir el que voleu que triï i més difícil escollir el que no.

Per exemple, NYTimes.com us permet prendre una decisió gratuïta per cancel·lar la vostra subscripció digital. Però en lloc de fer-ho quan premeu Cancel·la la subscripció, ells enviar-vos un correu electrònic amb informació sobre com cancel·lar el vostre compte trucant a un número de telèfon això només està obert en determinats moments.

NYTimes afirma que ofereix una opció gratuïta per cancel·lar el vostre compte(Captura de pantalla: Tristan Harris)

revisió del present a Broadway

En lloc de veure el món en termes de disponibilitat d’eleccions , hauríem de veure el món en termes de fricció necessària per adoptar decisions . Imagineu-vos un món on les opcions estiguessin etiquetades amb la dificultat de complir-les (com els coeficients de fricció) i que hi hagués una entitat independent (un consorci industrial o sense ànim de lucre) que etiquetés aquestes dificultats i establís normes sobre la facilitat de la navegació.

Segrest # 10: errors de previsió, estratègies de peu a la porta

Facebook promet una opció senzilla per veure Foto. Encara faríem clic si donés el preu real?(Foto: Tristan Harris)

Per últim, les aplicacions poden aprofitar la incapacitat de les persones per predir les conseqüències d’un clic.

La gent no pronostica intuïtivament cost real d'un clic quan se’ls presenta. Els venedors utilitzen les tècniques de la porta per demanar una petició petita innòcua per començar (només un clic per veure quin tuit es va retuitejar) i augmentar des d’allà (per què no us quedeu una estona?). Pràcticament tots els llocs web d’interacció utilitzen aquest truc.

Imagineu-vos si els navegadors web i els telèfons intel·ligents, les portes d’entrada a través de les quals les persones prenen aquestes decisions, estaven realment atents a la gent i els ajudaven a predir les conseqüències dels clics (basant-se en dades reals sobre quins beneficis i costos va tenir realment ?).

Per això, afegeixo el temps estimat de lectura a la part superior de les meves publicacions. Quan plantegeu el veritable cost d’una elecció davant de la gent, esteu tractant els usuaris o el públic amb dignitat i respecte. En un Temps ben passat Internet, les opcions es podrien emmarcar en termes de cost i benefici previstos, de manera que la gent tenia el poder de prendre decisions informades per defecte, no fent una feina addicional.

TripAdvisor utilitza la tècnica del peu a la porta demanant una revisió d'un sol clic (Quantes estrelles?) Mentre amaga l'enquesta de tres pàgines que hi ha darrere del clic.(Foto: Tristan Harris)

Resum i com podem solucionar-ho

Us molesta que la tecnologia segresti la vostra agència? Jo també ho sóc. He enumerat algunes tècniques però, literalment, n’hi ha milers. Imagineu prestatgeries senceres, seminaris, tallers i formacions que ensenyen tècniques d’aquest tipus als aspirants a emprenedors tecnològics. Imagineu-vos centenars d’enginyers que cada dia tenen la feina d’inventar noves maneres de mantenir-vos enganxats.

La màxima llibertat és una ment lliure i necessitem tecnologia del nostre equip que ens ajudi a viure, sentir, pensar i actuar lliurement.

Necessitem que els nostres telèfons intel·ligents, pantalles de notificacions i navegadors web siguin exosquelets per a les nostres ments i relacions interpersonals que posin en primer lloc els nostres valors, no els nostres impulsos. El temps de la gent és valuós . I l’hauríem de protegir amb el mateix rigor que la privadesa i altres drets digitals.

Tristan Harris va ser filòsof de productes a Google fins al 2016, on va estudiar com la tecnologia afecta l’atenció, el benestar i el comportament de mil milions de persones. Per obtenir més recursos sobre Temps ben gastat, vegeu http://timewellspent.io .

ACTUALITZACIÓ: La primera versió d’aquesta publicació no tenia reconeixements per a aquells que van inspirar el meu pensament durant molts anys, inclòs Joe Edelman , No siguis Raskin , Raph D'Amico, Jonathan Harris i Damon Horowitz .

El meu pensament sobre els menús i la presa de decisions estan profundament arrelats en el de Joe Edelman treball sobre Valors humans i elecció de decisions .