Per una banda, dono la benvinguda als nostres senyors d’IA

Aquest any, per primera vegada, un ordinador va superar el campió del món de Go, un dels jocs més complexos coneguts per l’home. Aquest va ser un altre moment decisiu en el progrés de la intel·ligència artificial.

Per fer-vos una idea del complex que és Go, hi ha 2.082 × 10 ^ 170 configuracions de taules possibles. És a dir, 2 amb 170 zeros després. El més probable és que el cervell ni tan sols pugui concebre un nombre tan gran (però un ordinador sí). O per fer-vos una idea de la grandària d’un nombre això és a dir, només hi ha 10 ^ 80 àtoms a l'univers, és a dir, un seguit de 79 zeros.

La raó per la qual és tan gran és que Go és tan complicat que per vèncer a un jugador humà de primer nivell, una màquina hauria d’aprendre a pensar de manera creativa, improvisant i adaptant-se a la situació actual sense poder calcular tot el possible. resultat; és a dir, hi ha d’haver una intel·ligència artificial seriosa, com la intel·ligència real i creativa.

En cas que no hàgiu aconseguit la nota, tota la IA es farà càrrec del món, aquí teniu els pocs fets que heu de conèixer.

1. Els ordinadors són cada vegada més intel·ligents.
2. Els ordinadors són cada vegada més intel·ligents a un ritme accelerat, és a dir, els avenços que solien trigar deu anys ara triguen un any. Els avenços que solien trigar un any, ara triguen setmanes o fins i tot dies.
3. És molt probable que dins de la nostra vida hi hagi ordinadors molt més intel·ligents i capaços que qualsevol ésser humà.
4. Aquests ordinadors més intel·ligents probablement podran dissenyar i millorar la tecnologia (és a dir, ells mateixos) i crear una nova tecnologia que ni tan sols podem començar a entendre.

Les persones que entenen els punts anteriors solen tenir una de les dues reaccions. Ja sigui:

1. Creuen que estem totalment fotuts. Els ordinadors s’apoderaran de tot i ens mataran / esclavitzaran a tots. O bé:
2. Això provocarà una utopia tecnològica que solucionarà totes les nostres ximples disputes humanes i que tots puguem viure feliços després d’haver tingut orgia al nostre món ultra-VR que existeix al núvol.

Com passa amb la majoria de coses, és probable que la veritat en algun lloc del mig.

Però fins i tot si la merda colpeja el ventilador, fins i tot si els robots ens veuen com els polls que arruïnen el cuir cabellut immaculat d’aquest planeta i volen arrodonir-nos a tots i llançar-nos a un volcà actiu, fins i tot, sense voler inventar els mecanismes propis extinció ...

... no m'importa. No importa. No em molesta. I tampoc no us hauria de molestar. En una mica explicaré el perquè. Però, ara com ara, heu de saber que, per primera vegada, dono la benvinguda als nostres nous senyors de robots.

ACCELERAR EL CREIXEMENT A LA INDÚSTRIA TÈCNICA

Els desenvolupaments tecnològics es composen, causant la taxa del desenvolupament mateix per accelerar. Això vol dir que, com més tecnologia avançada creem, més fàcil és crear tecnologia encara més avançada. Com a resultat, quan observem l’avenç de la tecnologia informàtica, veiem una corba exponencial, és a dir, com més temps passa, més ràpid es desenvolupen les coses. Els desenvolupaments tecnològics es composen, provocant l’acceleració del ritme de desenvolupament.(Foto: Dennis Skley / Flickr)

La potència informàtica s’ha duplicat de mitjana cada 18 mesos des de fa 50 anys . Pel que fa a la potència de càlcul en brut, els ordinadors ara rivalitzen amb les habilitats del cervell del ratolí, on fa només uns anys els ordinadors ni tan sols podien competir amb un cervell d’insecte.

Per donar-vos un exemple més immediat de com ha avançat la tecnologia ràpida, ara es fan més fotografies cada 2 minuts de les que es van fer durant tot el segle XIX. Aproximadament el 10% dels 3,5 bilions de fotos que es van fer mai es van fer en els darrers dotze mesos.

Si de fet estem en una corba exponencial quan es tracta d’avenços d’alta tecnologia, a la gent li agrada Jeremy Howard probablement tinguin raó quan diu que estem a pocs anys de la intel·ligència artificial de màquines que rivalitza, si no que supera, la nostra en molts dominis que abans es creien exclusivament humans.

I, per cert, la IA s’està introduint en més i més dominis de la nostra vida.

Fa tan sols una dècada, la gent es reia del mal rendiment dels cotxes que conduïen amb auto. Avui, només una dècada després, els cotxes autònoms no només poden acabar un recorregut tancat, sinó que circulen per autopistes molt transitades, al costat de vehicles conduïts per humans.

I quan els ordinadors no superen els jugadors del campió mundial Go, estan ocupats fent coses com ara escrivint articles sobre esports i esdeveniments d’última hora , escrivint descripcions d’imatges que no havien vist mai, i diagnosticar càncer . Per a moltes d’aquestes tasques, els ordinadors són tan bons si no millors que els humans i, per als que no ho són, sí aprenentatge com fer-los cada dia millor sense l’ajut dels humans.

Fa uns pocs anys, el programari de reconeixement facial era increïblement car i no era tan bo per identificar persones en entorns del món real. Es considerava una tecnologia super-avançada a nivell d’espionatge i realment només l’utilitzaven uns quants governs mundials.

Ara Facebook pot etiquetar de merda als teus amics de la barbacoa del cap de setmana passat.

Heus aquí el que passa amb l’acceleració del creixement dels ordinadors: un dia arribarà un moment en què construirem un ordinador més intel·ligent que qualsevol humà de la Terra . Aquell dia, els ordinadors ens usurparan com els principals solucionadors de problemes del planeta i, a partir d’aquí, els nostres pensaments, decisions i accions aniran quedant obsolets lentament. Les màquines seran millors que nosaltres en tot, de manera que cada vegada serem més útils.

Això aterra algunes persones. Imaginen algun tipus de futur com terminator o bé La matriu on les màquines ens esclavitzen o ens exterminen.

Altres persones esperen amb impaciència l’ascens dels robots amb una mena de fervor culte perquè creuen que les seves capacitats de resolució de problemes superaran tant les nostres que la vida esdevindrà inimaginablement agradable i lliure de problemes. Totes les malalties es curaran. La pobresa, la fam al món, la guerra i el canvi climàtic es resoldran. Disposarem d’una infinita estona d’oci i, en casos extrems, hi ha qui creu que les màquines ens faran immortals.

ELS DOS RESULTATS POSSIBLES

Com que sempre se’ns diu que siguem fotuts positius, comencem pels tecno-utopistes.

Hi ha gent com Ray Kurzweil que pensen que la tecnologia no només millorarà les nostres vides, sinó que salvarà la humanitat i possiblement garantirà el nostre lloc a l’univers indefinidament. Kurzweil creu en la tecnologia futura, com ara els nanobots, que repararan les nostres cèl·lules i revertiran l’envelliment o eliminaran l’excés de greix i sucre per poder menjar el que vulguem. I per si de cas els nostres cossos físics no són capaços de viure per sempre, Kurzweil creu que tindrem la capacitat de pujar el cervell al núvol i viure en un món virtual per sempre, molt després que els nostres cossos físics hagin desaparegut.

Altres en aquest camp pensen que una superintel·ligència artificial seria capaç de respondre a preguntes massa complexes perquè els humans ni tan sols les puguin entendre i ens en sortirem exponencialment. A més, les màquines no només inventarien gadgets i widgets millors, sinó que inventarien formes exponencialment més eficients de construir gadgets i widgets, cosa que permetrà que pràcticament tothom al planeta obtingui els seus beneficis.

Algunes línies de raonament donen suport a aquesta idea. En primer lloc, tot i que la tecnologia ha creat alguns problemes nous per a la humanitat, com ara les armes nuclears i les celebritats de YouTube, fins ara ha estat clarament un benefici net per a la humanitat. Tot i el que els polítics i els experts volen que creieu, la persona mitjana a la Terra és millor del que eren fa pocs anys i es deu en gran part a que la tecnologia és cada vegada millor, més barata i més estesa. Si continua aquesta tendència, potser no ens preocupem.

En segon lloc, Kurzweil i els seus partidaris creuen que la tecnologia no tindrà cap motiu per fer mal a la humanitat perquè no només la creem nosaltres, sinó convertint-nos en una part més de nosaltres . Creuen que fins i tot arribarem a un punt en què la nostra biologia i la nostra tecnologia són indistingibles. Si aquest és el cas, diu l’argument, qualsevol forma de tecnologia perjudicial per als humans també és perjudicial per a ella mateixa i no pot persistir una tecnologia autodestructiva de cap mena. És a dir, moriria ràpidament de la mateixa manera que una mutació genètica perjudicial s’elimina ràpidament del conjunt de gens. No pot persistir cap tecnologia autodestructiva de cap mena.(Foto: m_hweldon / Flickr)

Però és probable que els tecno-utopistes siguin esbiaixats perquè no reconeixen que totes les tecnologies es poden utilitzar per a diversos propòsits, tant beneficiosos com destructius. També són esbiaixats perquè ignoren el fet que els humans es mouen lentament per adaptar-se a les noves tecnologies i que sempre hi ha grups de persones que intentaran abusar d’aquestes tecnologies per als seus propis fins egoistes.

A l’altre campament, teniu els techno-armagedons. Acabo de fer aquesta paraula, però aparentment existeix, perquè la revisió ortogràfica m’ho va dir.

El que els falta als convencionals als tecno-armageddonistes (la majoria d’ells encara no saben bé què pensar), ho componen el poder de les estrelles de les celebritats. Bill Gates, Stephen Hawking i Elon Musk són només alguns dels principals pensadors i científics que ho són arrossegant-se els pantalons la rapidesa amb què es desenvolupa la IA i el poc preparat que som com a espècie per les seves repercussions. Quan es va preguntar a Musk quines eren les amenaces més imminents per a la humanitat en un futur proper, va dir ràpidament que hi havia tres: la primera guerra nuclear a gran escala; segon, el canvi climàtic. Abans de nomenar-ne un tercer, va callar. Quan l’entrevistador li va preguntar: Quina és la tercera? Va somriure i va dir: diguem que espero que els ordinadors decideixin ser agradables amb nosaltres.

Espero que no siguem només el gestor d’arrencada biològic per a la superintel·ligència digital. Malauradament, això és cada vegada més probable

- Elon Musk (@elonmusk) 3 d’agost de 2014

Possiblement el més franc i respectat dels tecno-armagedons és el filòsof suec Nick Bostrom. Una cosa que temen Bostrom i altres és tecnologia de millora automàtica fugitiva ; és a dir, una màquina prou intel·ligent per fer-se més intel·ligent (o les noves versions d’ella mateixa) sense la intervenció humana. Si arriba a un punt en què supera la intel·ligència humana, és molt poc temps abans que la llei de l’acceleració retorni la sobrecàrrega i la corba exponencial es dispari cap amunt i no la podrem aturar. Bostrom fa un bon punt aquí: crear alguna cosa que sigui més intel·ligent del que podria ser un desastre evolutiu per a la vostra espècie.

Correm un risc real de no poder controlar una entitat que té ordres de magnitud més intel·ligents que nosaltres. Potser si els ordinadors es fan prou intel·ligents, descobriran una manera de domesticar-nos molt, com els humans, els cavalls domesticats per fer treballs com ara arades i cotxets i carros de guerra (o el que fessin els cavalls de l’infern aleshores). El que fa por és que aquest podria ser el millor escenari per a nosaltres: fer treballs per a màquines que no poden fer o que no volen fer, perquè igual que els humans van crear una nova tecnologia per substituir el cavall, un superintel·ligent superintel·ligent la màquina acabaria produint una nova tecnologia per substituir-nos. I, bé, diguem que la població de cavalls no és el que era abans.

Alguns argumenten que això no és versemblant perquè els humans construïm tecnologia tenint en compte la seguretat. Però, nomenar la darrera vegada que algú NO va fer servir un gran avanç tecnològic amb finalitats nefastes o destructives? Ah, sí, és cert. Mai.

PER QUÈ NO M’IMPORTA EL QUE PASSA I TAMBÉ T’HAURIA DE FER

Suposem, doncs, que es creen màquines superintel·ligents i que impedeixen a la humanitat. Suposem que no estan integrats en nosaltres i en el nostre cervell d’alguna manera i suposem que gent com Hawking i Musk tenen raó: que la humanitat realment és només una unitat d’arrencada multimilenari cap a la hiperintel·ligència digital i hem sobreviscut a la nostra utilitat.

Encara no em preocupa.

Per què? Doncs bé, per mantenir el tren del punt bala rodant, prenem aquest punt per punt:

1. La comprensió del bé / del mal per part de les màquines probablement superarà la nostra. Quan va ser l'última vegada que un gos o un dofí va cometre un genocidi? Quan va ser l'última vegada que un ordinador va decidir vaporitzar ciutats senceres en nom de conceptes abstractes com 'llibertat' i 'pau mundial'?

És cert, la resposta no és mai.

El meu punt aquí no és que les màquines intel·ligents no vulguin exterminar tota l’espècie humana. El meu punt és que, com a humans, estem llançant pedres des d’una casa de vidre aquí. Què coi sabem sobre l’ètica i el tractament humà dels animals, el medi ambient i els altres? A quina pota hem de parar?

És cert: gairebé res. Quan es tracta de qüestions morals, la humanitat històricament fa front a la prova. Les màquines súper intel·ligents probablement arribaran a entendre l’ètica, la vida / mort, la creació / destrucció a un nivell molt superior al que mai podríem fer per nosaltres mateixos. I aquesta idea que ens exterminaran pel simple fet que no som tan productius com abans, o que de vegades podem ser una molèstia, crec, només projecta els pitjors aspectes de la nostra pròpia psicologia en alguna cosa que no ho sé i no ho puc entendre.

Ara mateix, la major part de la moral humana es basa en una preservació i promoció obsessiva de cadascuna de les nostres consciències humanes individuals. Què passa si la tecnologia avançada fa arbitrària la consciència humana individual? Què passa si la consciència es pot replicar, ampliar i contraure a voluntat? Esborrarà completament qualsevol comprensió ètica que poguéssim tenir. Què passa si eliminar totes aquestes presons biològiques ineficients i ineficients que anomenem cossos pot ser en realitat una decisió molt més ètica que no pas deixar-nos continuar esquitxant i esquitxant el nostre camí durant vuitanta-pocs anys d’existència? Què passa si les màquines s’adonen que seríem molt més feliços si ens alliberem de les nostres presons intel·lectuals i ampliem la nostra percepció conscient de les nostres pròpies identitats per incloure tota la realitat perceptible? I si pensen que som només un munt d’idiotes babaus i ens mantenen ocupats amb una pizza i videojocs increïblement bons fins que tots morim per la nostra pròpia mortalitat? Qui som? I qui hem de dir?

Però diré això: estaran molt més ben informats que mai.

2. Fins i tot si decideixen matar-nos o esclavitzar-nos, segur que seran pràctics al respecte. Els éssers humans solem causar més problemes quan estem no és feliç . Quan no estem contents, és quan ens posem de mal humor, plorosos, enfadats i violents. És llavors quan comencem revoltes polítiques i cultes religiosos i bombardejant països remots i exigents que es respectin els nostres drets, maleït! i comença a matar indiscriminadament fins que algú ens faci cas com la mare mai ho va fer .

Si les màquines intenten fer-nos-en com Skynet El Terminator , llavors tindrem a les nostres mans una guerra civil mundial, i això no serveix per a ningú, especialment per a les màquines. Les guerres civils són ineficients. I les màquines estan programades per obtenir eficiència.

Quan els humans som feliços, no tenim temps per a aquestes coses: estem massa ocupats rient i fotent com per preocupar-nos. Per tant, una manera molt més pràctica de desfer-nos de nosaltres seria que les màquines ens manipulessin per desfer-nos alegrement de nosaltres mateixos. Serà així Jim Jones a escala mundial. Qualsevol cosa que ens preparin semblarà la millor maleïda idea de la que mai hem sentit parlar - ningú de nosaltres serà capaç de resistir-s'hi i estarem tots d'acord eufòricament amb el seu pla - i després, boom, s'acabarà . Ràpid i indolor. Serà el Kool-Aid amb cordons de cianur de millor gust que s’hagi concebut mai. I tots estarem a la cua feliçment degollant-ho.

Ara, si s’ho pensa, no és tan malament. Batega bombardejant-se per drons o vaporitzant-se en una explosió nuclear.

Pel que fa a l'esclavitud, passa el mateix. Un esclau delirantment feliç mai no es rebel·la. M’imagino una mena d’acord de tipus Matrix-y en el qual ens mantenim en un estat al·lucinogènic constant en què es tracta de Mardi Gras a MDMA gairebé 24/7/365. No pot ser tan dolent, oi?

3. No hem de témer el que no entenem. Moltes vegades els pares crien un fill molt més intel·ligent, educat i amb més èxit que ells. Els pares reaccionen de dues maneres davant d’aquest nen: o se senten intimidats per ella, insegurs i desesperats per controlar-la per por de perdre-la, o s’asseuen i aprecien i estimen que han creat alguna cosa tan fantàstic que fins i tot ells poden. No entén totalment en què s'ha convertit el seu fill.

Els que intenten controlar el seu fill a través de la por i la manipulació són pares de merda. Crec que la majoria de la gent estaria d’acord en això.

I ara mateix, amb la imminent aparició de màquines que us posaran a vosaltres, a mi i a tothom que coneixem fora de la feina , estem actuant com els pares de merda. Com a espècie, estem a punt de parir el nen més prodigiosament avançat i intel·ligent del nostre univers conegut. Continuarà fent coses que no podem comprendre ni entendre. Pot seguir sent amorós i fidel a nosaltres. Pot portar-nos i integrar-nos en les seves aventures. O pot decidir que érem uns pares de merda i deixar de trucar-nos.

Passi el que passi, això no hauria de canviar la nostra opinió sobre aquest moment. És més gran que nosaltres. A qui li importa si som un gran i llarg disc d’arrencada evolutiu per a alguna cosa més gran del que podem comprendre? Això és genial! Vol dir que teníem una feina. I vam venir i ho vam fer fotut. Sigueu feliços de formar part de la generació que la va veure fer. I ara acomiadem-nos amb llàgrimes quan el nostre fill es prepara per sortir de casa i començar una vida tan increïble que existeix més enllà de l’horitzó de la nostra comprensió.

Mark Manson és un autor, blogger i empresari que escriu a markmanson.net .