La intel·ligència artificial s'està tornant intel·ligent ràpidament. Els avenços recents de la tecnologia, que es manifesten en les impressionants capacitats d'aplicacions com ChatGPT, han despertat la por que la IA. aviat es farà càrrec de la humanitat, i no de la bona manera. L'any passat, un enginyer de Google va reclamar l'IA de l'empresa. chatbot LaMDA era tan intel·ligent que s'havia convertit en 'sentint'. Aquest any, alarmat pel perill potencial de la IA, un grup de més de 1.000 empresaris i acadèmics tecnològics, entre ells Elon Musk, al març va demanar una pausa de sis mesos de formació A.I. sistemes més avançat que el GPT-4 d'OpenAI, el model d'idioma més nou que alimenta ChatGPT.
Tot i que les aplicacions de grans models de llenguatge (LLM), com ara ChatGPT i Bard de Google, han demostrat el potencial de superar els humans en moltes tasques i substituir llocs de treball, no són de cap manera les mateixes que el cervell humà perquè els mecanismes d'aprenentatge subjacents són diferents, David. Ferrucci, un científic informàtic i primer pioner de la IA comercial. aplicació, va dir a Observer.
Ferrucci és més conegut com el creador d'IBM Watson. Desenvolupat a finals de la dècada del 2000 per respondre preguntes al programa de proves de televisió Perill! , el sistema informàtic va vèncer els participants humans al joc el 2011.
'Quan el Perill! El repte es va proposar a principis del 2007, jo era l'únic d'IBM Research, fins i tot a la comunitat acadèmica, que pensava que es podia fer i bàsicament es va apuntar per seguir-lo', va dir Ferrucci a Observer en una entrevista.
què passa si un home pren el pla b
En el seu nucli, IBM Watson és un sistema basat en l'aprenentatge automàtic que va aprendre a respondre Perill! preguntes digerint grans quantitats de dades de programes anteriors. Va sortir en un moment en què l'aprenentatge profund, un subconjunt de la intel·ligència artificial, començava a implantar-se. Abans d'això, els sistemes informàtics depenien molt de la programació i supervisió humana.
El 2012, poc després de l'èxit de Watson, Ferrucci va deixar IBM després de 18 anys per dirigir A.I. investigació per Associats de Bridgewater , el fons de cobertura més gran del món. Durant la major part de l'última dècada, el treball de Ferrucci s'ha centrat a desenvolupar una IA híbrida, que pretén combinar l'aprenentatge automàtic basat en dades amb el raonament lògic, és a dir, entrenar algorismes per 'pensar' més com els humans.
El 2015, Bridgewater va finançar amb llavor un projecte intern liderat per Ferrucci que finalment es va convertir en una empresa independent anomenada Cognició elemental . L'IA híbrida d'Elemental Cognition. Les aplicacions es poden utilitzar en la gestió d'inversions, planificació logística i descobriment de fàrmacs, segons el seu lloc web. Al febrer, la startup va signar a Bridgewater com a client.
En una entrevista amb Observer a principis d'aquest mes, Ferruci va parlar dels diferents processos d'aprenentatge de ChatGPT i del cervell humà, la necessitat d'una IA híbrida i per què pensa que la proposta d'una IA de sis mesos. la pausa és més simbòlica que pràctica.
La transcripció següent s'ha editat per a més claredat.
Què és exactament la IA híbrida?
La IA híbrida combina un procés inductiu basat en dades amb un procés lògic. L'aprenentatge automàtic és un procés basat en dades. Només millorarà amb més i més dades d'entrenament disponibles. Però per comunicar-se amb els humans, també cal lògica i raonament.
La cognició humana funciona de la mateixa manera, tal com s'explica al llibre de Daniel Kahneman Pensant, ràpid i lent. El cervell humà treballa pensant ràpidament i lentament al mateix temps. Per aconseguir una presa de decisions precisa i fiable, necessiteu el millor dels dos mons.
En què és diferent el pensament ràpid del pensament lent? Per què necessitem tots dos?
El pensament ràpid és quan extrapolem de la nostra experiència, o dades, i després generalitzem. La generalització pot ser incorrecta, però, perquè es basa en trets superficials que podrien correlacionar amb les dades, però que no són realment causals: aquest és el fonament del pensament prejudicial.
El pensament lent és formular un model de com penso que funcionen les coses: quins són els meus valors? Quines són les meves suposicions? Quines són les meves regles d'inferència? I quina és la meva lògica per treure una conclusió?
Fox News propietat de l'Aràbia Saudita
Quan parlem d'A.I. avui, solem pensar automàticament en l'aprenentatge automàtic, que, com heu dit, és un procés basat en dades. Hi ha exemples reals d'IA purament lògica?
Sí, la IA impulsada per la lògica. s'ha assimilat a moltes aplicacions del món real. Representacions formals de la lògica de resolució de problemes, com els sistemes basats en regles o els sistemes de resolució i optimització de restriccions, s'estan utilitzant per a aplicacions de gestió, programació, planificació, control i execució de recursos.
Però no els pensem com a A.I. ja, en gran part perquè, amb la revolució del big data i l'aprenentatge automàtic, l'A.I. es va associar fortament amb els sistemes d'aprenentatge automàtic.
On es troben els LLM com GPT i LaMDA en l'espectre de pensament ràpid/lent? Són realment propers a la intel·ligència humana, com va afirmar un enginyer de Google l'any passat?
Els LLM produeixen grans estructures de dades que capturen les probabilitats estadístiques de determinades seqüències de paraules després d'altres seqüències de paraules. El que fa ChatGPT són prediccions estadístiques basades en les característiques superficials del llenguatge. Amb prou dades d'entrenament i tècniques d'aprenentatge automàtic realment potents, aquests models poden imitar un llenguatge fluid.
Això no és un raonament lògic. És difícil argumentar que una gran taula de probabilitats és sensible. Jo diria que no. Tanmateix, una cosa interessant de la cognició humana és que combinem un text de sons coherents amb fets. Estem com, això sona molt bé, deu ser cert. Però la veritat requereix una comprensió i una anàlisi més profundes més enllà dels trets superficials del llenguatge.
Estàs nerviós per A.I. finalment superant els humans?
A.I. poden realitzar certes tasques millor que els humans. Fa anys que és cert. Avui, a mesura que milloren les dades i les tècniques d'entrenament, és cada cop més fàcil entrenar la IA. sistemes per fer més tasques humanes. Crec que és molt significatiu. Però no crec que A.I. va a prendre el relleu. No hi ha cap entitat independent que et vulgui conquerir. Tanmateix, A.I. es pot abusar fàcilment. Crec que és una preocupació real.
Elemental Cognition va signar recentment Bridgewater com a client, que també és un dels primers inversors de la vostra empresa. Com es pot híbrir l'A.I. ajudar els gestors d'inversions a entendre millor l'economia i els mercats?
Entendre l'economia es presenta de dues formes: identificar patrons en dades i interpretar aquests patrons per entendre què està passant.
En la gestió d'inversions, l'objectiu final és fer prediccions precises observant indicadors econòmics, com ara els tipus d'interès i els preus de les accions. Les dades tenen molt a dir-te. Si poguéssiu veure patrons a les dades, això és molt potent. I si podeu interpretar els patrons i donar sentit al que està passant a l'economia, llavors teniu una altra perspectiva. És gairebé com si poguéssiu fer controls i equilibris: aquí teniu les correlacions que es mostren a les dades i aquí teniu la meva comprensió de com funcionen les coses. Estan d'acord o no?
Què us sembla la proposta d'aturar l'A.I. entrenar durant sis mesos?
No crec que això sigui pràctic per començar, perquè els grans models lingüístics no són un secret. Sempre hi haurà empreses treballant-hi. Seguirem veient molts experiments. No crec que tingui sentit aturar aquesta experimentació.
fer una pregunta gratuïta a un psíquic
Però crec que té sentit fer un pas enrere i pensar molt en això. Els responsables polítics han de començar a pensar com regular la IA. perquè es pot abusar de diverses maneres. És probable que vegem que es desenvolupa i s'aplica una regulació.
