Aquí van las 10 recomendaciones de esta semana:
1. Thinking, Fast and Slow
Daniel Kahneman
La semana que acaba de pasar, murió Daniel Kahneman, pensador liminal y uno de los padres de la Economía del Comportamiento, y nos dejó una obra que hizo dar un salto a varias disciplinas.
Este es el libro de divulgación que popularizó su trabajo de investigación y que se ha convertido en un clásico contemporáneo.
A principios de los años 70, durante sus charlas con su amigo Amos Tversky en la Universidad Hebrea de Jerusalén , Kahneman observó que sus colegas versados en estadística (él mismo incluido) tenían la misma intuición de mierda para evaluar riesgos que los estudiantes de licenciaturas que protagonizaban la mayoría de los experimentos de los departamentos de Económicas y Psicología de las universidades americanas e israelíes.
Esta inocente observación inició un largo viaje hacia las peculiaridades de nuestra intuición.
Nuestra intuición (que Kahneman llama Sistema 1) es poderosa, miope y con una marcada tendencia a fabular.
WYSIATI (What You See Is All There Is o Lo que ves es todo lo que hay) es el modus operandi preferido de nuestra intuición: coger unos pocos datos visibles y mezclarlos con causalidades espurias para armarse una historia coherente y convincente.
Esta miopía de nuestra intuición es de alguna manera un superpoder que generalmente no aprendemos a controlar.
Y Kahneman describe sus hipótesis y experimentos (la mayoría craneados maquiavélicamente junto con Tversky) que prueban hasta qué punto esto es así.
¿Qué aspecto tiene la intuición humana?
Esta es la lista de la compra que Kahneman incluye en el libro:
CHARACTERISTICS OF SYSTEM 1
-generates impressions, feelings, and inclinations; when endorsed by System 2 these become beliefs, attitudes, and intentions
-operates automatically and quickly, with little or no effort, and no sense of voluntary control
-can be programmed by System 2 to mobilize attention when a particular pattern is detected (search)
-executes skilled responses and generates skilled intuitions, aft er ade quate training
-creates a coherent pattern of activated ideas in associative memory
-links a sense of cognitive ease to illusions of truth, pleasant feelings, and reduced vigilance
-distinguishes the surprising from the normal
-infers and invents causes and intentions
-neglects ambiguity and suppresses doubt
-Is biased to believe and confirm
-exaggerates emotional consistency (halo effect)
-focuses on existing evidence and ignores absent evidence (WYSIATI)
-generates a limited set of basic assessments
-represents sets by norms and prototypes, does not integrate
-matches intensities across scales (e.g., size to loudness)
-computes more than intended (mental shotgun)
-sometimes substitutes an easier question for a difficult one (heuristics) is more sensitive to changes than to states (prospect theory)
-overweights low probabilities
-shows diminishing sensitivity to quantity (psychophysics)
-responds more strongly to losses than to gains (loss aversion)
-frames decision problems narrowly, in isolation from one another.
El Sistema 2, que sería un proceso de control ejecutivo, encargado de concentrar la atención dispersa y dirigirla hacia tareas lógicas y específicas, tiene una relación un poco más compleja de lo que podría parecer a simple vista:
"It appeared that System 2 is ultimately in charge, with the ability to resist the suggestions of System 1, slow things down, and impose logical analysis. Self-criticism is one of the functions of System 2. In the context of attitudes, however, System 2 is more of an apologist for the emotions of System 1 than a critic of those emotions—an endorser rather than an enforcer. Its search for information and arguments is mostly constrained to information that is consistent with existing beliefs, not with an intention to examine them. An active, coherence-seeking System 1 suggests solutions to an undemanding System 2."
Todo esto apunta a que tenemos un handicap mostruoso cuando se trata de percibir la realidad.
Sí y no.
Porque…
"We already know that the Human mind is not bound to reality."
Nuestra realidad está hecha de marcos y descripciones, de puntos de vista.
Y podemos escapar un punto de vista repercibiendo esa realidad.
La forma de procesar el pensamiento nos ata a nuestra intuición, pero a la vez estamos equipados para guiar nuestra intuición de formas no preestablecidas.
La habilidad de repercibir, por ejemplo, está en el centro de lo que llamamos creatividad.
Esto quiere decir que, en última instancia, nuestros límites cognitivos son los que habilitan nuestra libertad creativa.
2. Choices, Values and Frames
Editado por Daniel Kahneman y Amos Tversky
Si te has leído Pensar rápido, pensar despacio y quieres profundizar, esta es una buena opción.
Aquí se va a fondo con los alcances y posibilidades de la prospect theory o teoría de las perspectivas.
Son papers académicos, no es una lectura fluida ni agradable, pero las ideas que contienen recompensan el esfuerzo.
Lo más interesante para un CPSer: Los estudios y ejemplos sobre efectos de framing y cómo el contexto condiciona nuestros juicios y conducta.
Esta cita es de uno de los papers que se incluyen (Camerer, Babcock, Loewenstein, Thaler) y que explica, entre otras cosas, por qué es menos probable encontrar un taxi durante un día lluvioso.
"Because drivers face wages that fluctuate from day to day and can work flexible hours, the intertemporal substitution hypothesis makes a clear prediction: drivers will work longer hours on high-wage days. Behavioral economics suggests an alternative prediction: Many drivers told us they set a target for the amount of money they wanted to earn that day and quit when they reached the target. (The target might be a certain amount beyond the lease fee or twice the fee.) Daily targeting makes exactly the opposite prediction of the intertemporal substitution hypothesis. When wages are high, drivers will reach their target more quickly and quit early. On low-wage days they will drive longer hours to reach the target."
3. The Winner's Curse: Paradoxes and Anomalies of Economic Life
Richard H. Thaler
Más sobre los quirks de nuestra intuición. Esta vez del profesor Richard Thaler, coautor de Nudge, amigo de Kahneman y otro de los padres de la economía conductual.
Las anomalías a las que se refiere el subtítulo son anomalías con relación al modelo racional económico de toma de decisiones.
Allí tenemos epítomes del comportamiento económico irracional como la maldición del ganador en una subasta:
"In a normal type of auction in which the high bidder wins and pays whatever he or she bid, there are two factors to consider, and they work in opposite directions. An increase in the number of other bidders implies that to win the auction you must bid more aggressively, but their presence also increases the chance that if you win, you will have overestimated the value of the object for sale -suggesting that you should bid less aggressively.
Solving for the optimal bid is not trivial."
O las preferencias revertidas, que es un fenómeno que se da cuando las preferencias expresadas por un sujeto se invierten cuando cambia la forma en que se presentan las opciones.
"Economists were introduced to the preference reversal phenomenon by David Grether and Charles Plott (1979) who designed a series of experiments to ‘discredit the psychologists' work as applied to economics.
These authors began by generating a list of 13 objections and potential artifacts that would render the preference reversal phenomenon irrelevant to economic theory. Their list included poor motivation, income effects, strategic responding, and the fact that the experimenters were psychologists (thereby creating suspicions leading to peculiar behavior). Grether and Plott attempted to eliminate preference reversals by various means (e.g. by offering a special incentive system), but to no avail. Indeed, preference reversals were somewhat more common among subjects responding under financial incentives than in a control group facing purely hypothetical questions."
4. The Intelligent Eye
David N. Perkins
Hablábamos de cómo gestionar nuestra intuición. Aquí hay una manera posible.
El creador del Project Zero de la Universidad de Harvard, distingue entre 3 tipos de inteligencia:
Una de base estrictamente neurológica, que sería la contribución directa del sistema nervioso a la conducta inteligente.
Otra inteligencia denominada experiencial, que surge de la interacción con el mundo acumulada a lo largo de la vida y que se aplica de manera espontánea. Lo que también podríamos llamar intuición.
(Y que podríamos mapear al Sistema 1 de Kahneman)
Y la inteligencia reflexiva, también llamada metacognición, que es el uso estratégico de nuestros recursos intelectuales para gestionar la intuición.
(Esta inteligencia la podríamos mapear al Sistema 2)
La inteligencia basada en la experiencia es rápida y funcional en el 90% de los casos, pero viene hasta el tope de sesgos, prejuicios, heurísticos variopintos y una marcada aversión a aventurarse más allá de lo obvio. Su North Star Metric es la eficiencia a cualquier precio.
El libro de Perkins va de cómo afrontar las situaciones del 10% restante.
Para eso recurre a un conjunto de problemas mal definidos, complejos, no obvios y demandantes: la observación, exploración e interpretación de obras de arte.
Es un libro que en apenas cien páginas, y sirviéndose de un puñado de fotografías y pinturas, presenta una serie de estrategias disposicionales para dirigir nuestra intuición hacia territorios más interesantes.
"We might say that often art is invisible, not the whole work of course, but significant aspects of the work. We simply do not see it. We see the physical thing, but not the art of it.
By looking longer and in more refined, informed, and systematic ways, we can come to see what at first we missed. The eye is more intelligent with both experiential and reflective intelligence at work.
We adults can easily test for ourselves the invisibility of art on first glance by looking longer and harder, trying to make visible what at first is unseen.
The Volunteers (un grabado de Käte Kollwitz) does not volunteer its subtleties instantly. We need to look persistently and intelligently. Most works are like this largely invisible at first, they gradually reveal themselves to the patient eye and mind. Indeed, the invisibility of art is virtually a logical consequence of how art functions as a symbol system.
Nelson Goodman in his Languages of Art emphasizes that works of art are ‘dense and replete’, the nuances along virtually any dimension count as significant parts of a work, and influence the substance and tone of its statement.With so much to see, how could we expect to see it easily?
5. How to Solve it: A New Aspect of Mathematical Method
George Pólya
Los heurísticos son atajos dictados por la experiencia.
Reglas prácticas y aproximadas, que son falibles y no ofrecen garantías.
Aunque es probable que te ayuden a resolver un problema, a veces pueden ser un obstáculo.
¿Por qué entonces el matemático Pólya les dedicó un libro entero?
Porque para él constituían las fuentes de la invención, aquellas que Leibnitz estaba obsesionado con explorar, y sobre todo porque reconoció su valor como estrategias metacognitivas: los recursos para gestionar la intuición y esa riqueza de experiencia de los que hablaba Perkins en su presentación del concepto de inteligencia reflexiva.
La tercera parte del libro incluye un "diccionario breve de heurísticos"
Algunas de sus estrategias:
Dividir el problema no resuelto en problemas más pequeños que sean más fáciles de abordar.
Identificar el lemma, o aquello que se está presuponiendo.
Intentar pensar en un problema similar que uno ya sepa cómo resolver.
Si estás atascado, deberías preguntarte:
¿Cuál es la incógnita?
¿Cuáles son los datos?
¿He utilizado todos los datos?
¿Puedo dibujar un diagrama?
¿Puedo trazar un plan para resolver el problema paso a paso?
¿Puedo reformular el problema?
¿Puedo verificar el resultado?
¿Puedo trabajar hacia atrás?
¿Puedo modificar una solución o método conocido para que sea adecuado para este caso?
Otra estrategia muy curiosa que ha sugerido Pólya es buscar en los proverbios y refranes de la cultura popular procedimientos heurísticos y reglas para resolver problemas.
No puedo dejar de pensar que el refranero español debería.estar hasta los topes de esta clase de heurísticos.
La cita del libro que he escogido para compartir es la traducción libre que hace Pólya de un pasaje escrito por Papo de Alejandría, el matemático del siglo IV, donde se habla del analyomenos, o el arte de resolver problemas.
"The so-called Heuristic is, to put it shortly, a special body of doctrine for the use of those who, after having studied the ordinary Elements, are desirous of acquiring the ability to solve mathematical problems, and it is useful for thia alone. It is the work of three men, Euclid, the author of the Elements, Apollonius of Perga, and Aristaeus the elder. It teaches the procedures of analysis and synthesis.
In analysis, we start from what is required, we take it for granted, and we draw consequences from it, and consequences from the consequences, till we reach a point that we can use as starting point in synthesis. For in analysis we assume what is required to be done as already done (what is sought as already found, what we have to prove as true).
We inquire from what antecedent the desired result could be derived; then we inquire again what could be the antecedent of that antecedent, and so on, until passing from antecedent to antecedent, we come eventually upon something already known or admittedly true.
This procedure we call analysis, or solution backwards, or regressive reasoning.
But in synthesis, reversing the process, we start from the point which we reached last of all in the analysis, from the thing already known or admittedly true. We derive from it what preceded it in the analysis, and go on making derivations until, retracing our steps, we finally succeed in arriving at what is required. This procedure we call synthesis, or constructive solution, or progressive reasoning.
Now analysis is of two kinds: the one is the analysis of the 'problems to prove' and aims at establishing true theorems. The other is the analysis of the 'problems to find' and aims at finding the unknown. "
Después de esta cita de Papo de Alejandría, Pólya prosigue dando un ejemplo no matemático de cómo se podría aplicar lo que Papo llama análisis y que no es otra cosa que invención.
"A primitive man wishes to cross a creek, but he cannot do so in the usual way because the water has risen overnight. Thus, the crossing becomes the object of a problem. 'Crossing the creek' is the x of this primitive problem.
The man may recall that he has crossed some other creek by walking along a fallen tree. He looks around for a suitable fallen tree which becomes his new unknown, his y. He cannot find any suitable tree but there are plenty of trees standing along the creek. He wishes one of them would fall. Could he make a tree fall across the creek?
There is a great idea and there is a new unknown: by what means could he tilt the tree over the creek?
This train of ideas ought to be called analysis if we accept the terminology of Pappus. If the primitive man succeeds in finishing his analysis he may become the inventor of the bridge and of the axe.
What will be the synthesis? Translation of ideas into actions. The finishing act of the synthesis is walking along a tree across the creek."
6. The Creative Mind: Myths and Mechanisms
Margaret Boden
Boden es una de las pioneras en la investigación de la Inteligencia Artificial.
Desde hace más de 45 años trabaja en el cruce entre las ciencias cognitivas y computación.
Y en este libro aborda la creatividad humana y traza paralelos con lo que podríamos llamar una creatividad artificial hecha de sistemas generativos y heurísticos.
Boden concibe la actividad creadora alrededor del mapeo, exploración y transformación de espacios conceptuales, y la divide en improbabilística, por un lado, donde la creación se limita a nuevas combinaciones valiosas de ideas familiares, e imposibilística por el otro, donde las nuevas ideas generadas en un espacio conceptual específico no podrían haber sido generadas antes por considerarse imposibles de acuerdo con sus mapas.
La mayoría de los heurísticos dirigen al pensador hacia los caminos más propensos a alcanzar el objetivo fijado, asumiendo el mapa actual del espacio conceptual, y dejando sin explorar las vías menos prometedoras.
Pero otros heurísticos abren nuevos caminos en un espacio conceptual.
Los heurísticos mejor diseñados pueden cambiar otros heurísticos y, en ocasiones, directamente transformar el mapa.
Recuerdo haber descubierto el trabajo de Boden vía Douglas Hofstadter, y uno de los proyectos reseñados en este libro es Copycat, el programa más emblemático del laboratorio de Hofstadter.
"Two computational concepts with which to map the changing contours of the mind:
Generative system and heuristic.
Just as English grammar allows for sentences about purple spotted hedgehogs, so other generative systems implicitly define a structured space of computational possibilities.
Heuristics are ways of selectively -insightfully- moving through this space and/or transforming it, sometimes by changing other heuristics."
"One very general heuristic is to consider the negative.
One way of getting a new slant on a problem is to negate some aspect of it, whether consciously or unconsciously.
When this heuristic is applied to a structural aspect of the problem, as opposed to a mere superficial detail, it can change the conceptual geography in one step.
Negating a constraint is not the same as dropping it: wanting any non-red sweet is not the same as wanting any sweet, whatever its color.
However, dropping constraints is a general heuristic too."
7. Las trampas del dinero
Dan Ariely y Jeff Kreisler
Nada modifica la conducta de las personas tanto como el dinero.
Pagar o recibir dinero conlleva una carga emocional tan grande que afecta desmedidamente cualquier relación profesional o personal.
Estudiar los efectos psicológicos del dinero y las relaciones complejas entre valor y precio debería ser parte central del estudio del Factor X.
Dan Ariely es profesor de economía conductual y su clásico Predictably Irrational es la biblia del estudio del comportamiento del consumidor.
En este libro, usando un tono humorístico a veces un poco pesado pero tolerable en general, advierte de los sesgos y heurísticos que pueden hacer que asignemos valor a algo que no lo tiene, que paguemos de más por algo que no lo vale, o que depositemos una confianza excesiva en nuestra propia inteligencia y capacidades.
"El valor del trabajo de los cerrajeros, los artistas y los autores de libros sobre dinero no procede del tiempo y el esfuerzo que percibimos, sino del tiempo y el esfuerzo que han dedicado a desarrollar sus habilidades durante toda su carrera profesional. Los artesanos han perfeccionado el arte de lograr que lo que hacen parezca fácil de hacer, aunque realmente no lo sea. Desde Picasso a cualquier padre o madre, en ocasiones los trabajos más difíciles parecen mucho más sencillos de lo que son en realidad.
No obstante, hay que tener mucho cuidado para no caer en la trampa del falso esfuerzo. Debemos huir del exceso de transparencia. Si un consultor se empeña en mostrarnos con detalle los grandes esfuerzos que ha realizado para no aportarnos gran cosa, aparte de una factura de 100 mil dólares, más vale reconsiderarlo. Si una página web no es más que una barra de progreso y un gran botón que dice '¡Pague ahora!', busque otra.
Ya lo dijo el gran grupo de filósofos del siglo XX Public Enemy (que además es un grupo de hip-hop): 'No te creas la publicidad'. Si la descripción se algo, o el proceso para consumirlo, es prolijo y pretencioso, lo más probable es que estemos pagando por esa descripción o ese proceso, aunque no añada ningún valor real. Cuidado con la heurística del esfuerzo irrelevante: muy pocas veces hay razón para comprar un martillo artesanal."
8. The Routledge Handbook of Philosophy and Implicit Cognition
J. Robert Thompson
Una guía al fascinante y mayormente inexplorado mundo de la cognición implícita.
¿Por qué el ser humano tiende a decir una cosa mientras hace otra?
¿Por qué nos vemos como seres racionales con acceso transparente a nuestra mente, y sin embargo hacemos cosas que no podemos explicar, o que directamente no somos conscientes de estar haciendo?
La conducta humana hunde sus raíces en procesos intencionales que podemos percibir, reconocer y expresar, pero también en procesos más relacionados con la intuición, muchas veces invisibles para los demás y, críticamente, para el propio agente de la conducta.
Yendo más allá de los sistemas duales de Tipo 1 y 2 (o Sistema 1 y 2, como los bautizó Kahneman), y desde el trabajo precursor de Hermann von Helmholtz sobre la inferencia inconsciente hasta los últimos desarrollos en teoría de la mente implícita, pasando por las representaciones mentales, el conocimiento tácito, y los mecanismos implícitos en la experiencia de agencia, este manual ofrece un panorama muy completo de un campo de estudio aún marginal o fringe de la psicología contemporánea, pero muy útil para ayudarnos a gestionar el factor humano.
"Michael Polanyi is responsible for the popularity of the term 'tacit knowledge", and for developing the concept in its multiple aspects by generalizing from the case he makes for its role in science to all forms of intelligent engagement with the world. By identifying it with science, and arguing that tacit knowledge was indispensable for science, he assured its respectability, but at the same time assured that it would be controversial, and it has been.
The core of the idea of tacit knowledge is contained in the slogan, "we know more than we can tell". Tacit knowledge is knowledge that we cannot articulate. (...) At the center of his own distinctive conception there are two ways of speaking about articulating the tacit. The positive conception is concerned with the process of knowing, and the dependence of this process on elements of the knowing process that cannot be articulated, the paradigm of which is the process of scientific discovery. The tacit in these cases he assimilates to skills and comments that it is 'continuous in its inarticulateness with the knowledge possesed by animals and infants, who also possess the capacity for reorganizing their inarticulate knowledge and using it as an interpretative framework.'
The other conception is concerned with unaccountable elements, particularly in verbalization, which pose limits to such things as the formalization of scientific knowledge, but also to any attempt to make tacit knowledge fully explicit. In discussing 'easily intelligible speech', where 'the tacit is coextensive with the text of which it carries the meaning', he comments that 'the tacit component is the information conveyed'.
The information conveyed, the meaning, is different from the text, despite being coextensive with it. Similarly, 'hearing a message and knowing what it conveys to us' are two different things. In neither the verbal nor the nonverbal case can the knowledge be adequately articulated."
9. La creatividad
Luis Bassat
Luis es gran creativo publicitario y una vaca sagrada de la publicidad en España.
Y como.tantos otros publicitarios.de su estirpe, aprendió el oficio vendiendo a puerta fría.
En su caso televisores, en una época en que aún eran el cutting edge en tecnología.
Aquí va la historia en sus propias palabras, de mis preferidas de don Luis:
"En el año 1958 acepté un trabajo como vendedor de televisores Marconi, que me permitía vender por la mañana e ir a la universidad por la tarde. Tras un día de formación, sí, un día, me dieron una zona de Barcelona para vender esos televisores a domicilio. En los dos primeros días llamé a un montón de puertas. A todos les interesaba un televisor, pero nadie estaba dispuesto a pagar por él 120.000 pesetas, casi el doble de lo que entonces valía entonces un Seat 600. Una mañana, tras varias visitas, entré en un bar a tomar un café. Mientras lo tomaba, le pregunté al dueño qué tal le iba el negocio. Me comentó que lo tenía lleno durante toda la semana, pero que el sábado, y especialmente el domingo, no había manera de llenarlo. En ese mismo momento se me encendió la bombilla, tuve mi primera idea comercial: le dije que en ese barrio no había nadie que tuviera un televisor en casa y que, si él ponía uno en el bar, yo le haría unas tarjetas que depositaría en los buzones de toda la zona, invitando a los vecinos a disfrutar del partido del domingo, con el único compromiso de tomar una consumición. Me aceptó la prueba y el éxito fue espectacular. Desde aquel primer domingo, con un televisor en su bar, nunca más tuvo problemas de clientela y el consumo no fue un simple café, sino también bocadillos y cervezas. Nunca más visité un domicilio y me concentré exclusivamente en bares. Así pagué no solo mi primer año de carrera, sino una moto Vespa y todo el tabaco que quise fumar. (La moto me duró tres años y el hábito de fumar, hasta que cumplí treinta y uno, cuando por suerte lo dejé.)"
Y aquí nos habla sobre la resolución de problemas como proceso creativo:
"Hace años aprendí que para resolver un problema es bueno hacerse estas cuatro preguntas:
1. Cuál es el problema
2. Cuáles son las causas del problema
3. Cuáles son las posibles soluciones
4. Cuál es la mejor solución
1. ¿Cuál es el problema? Esa es la pregunta más difícil de contestar. No vale decir que vendemos menos. Hay que ser tan específico como sea posible. Si decimos, por ejemplo, que desde hace tres meses las ventas en el Levante español, especialmente en hipermercados, han descendido un 5 %, lo que afecta al resultado total de las ventas en España, eso ya está mucho mejor.
2. ¿Cuáles son las causas del problema? Debemos enumerarlas todas, hasta las que pensemos que no son tan relevantes.
3. ¿Cuáles son las posibles soluciones? Aquí se requiere ya algo de imaginación. Para definir el problema y enumerar las causas, basta con ser analítico y racional. Para empezar a buscar posibles soluciones se requiere, además, un poco de imaginación, de creatividad.
4. ¿Cuál es la mejor solución? Finalmente, escoger de entre todas ellas una, o más de una, y acertar requiere buen criterio, capacidad de asumir algún riesgo y también, por qué negarlo, algo de suerte.
Pues bien, ¿por qué digo todo esto que, durante muchos años, tuve ocasión de practicar, cada vez que alguien de mi agencia venía a mi despacho con un problema?
Porque también es un proceso creativo.
El proceso que desarrollamos los creativos es prácticamente el mismo que se sigue para la resolución de problemas. También consiste en preguntarse cuál es el problema que hay que resolver, intentar definirlo perfectamente, detallar cuáles son los antecedentes, pensar en las posibles soluciones y en qué consecuencias se pueden derivar de cada una de ellas, y finalmente decidir cuál es la solución original y creativa que resuelve mejor el problema."
10. Possible Minds: 25 Ways to Look at AI
Editado por John Brockman
Publicado en 2019, bastante antes del hype y las controversias por la IA generativa y los grandes modelos de lenguaje, es muy interesante leer este libro a la luz del desconcierto que provocan los actuales modelos grandes entre científicos, cuyas teorías han quedado ya muy desfasadas en relación con la evidencia experimental sobre la mejora y ampliación de las capacidades de generalización, el fenómeno del grokking y los patrones complejos e ininteligibles dentro de la arquitectura de transformers.
Con aportaciones de Judea Pearl, Daniel Dennett, David Deutsch, Steven Pinker o Alison Gopnik, entre otros, aquí se tocan todos los palos y se exponen todas las especulaciones, desde las más optimistas hasta las más paranoicas: deep learning, agentes potencialmente conscientes, la AGI y la posibilidad de que acabe matándonos a todos.
Y aunque me decanto por las posiciones más optimistas, no deja de ser fascinante estudiar los planteos apocalípticos de algunos de estos pensadores icónicos.
Mis ensayos preferidos:
El de David Deutsch sobre cómo los conceptos erróneos sobre el origen del pensamiento humano distorsiona nuestras ideas sobre la inteligencia artificial general, el de Alex Pentland sobre desarrollo de ecosistemas híbridos, y el de Alison Gopnik acerca de los diferentes procesos de aprendizaje y la capacidad humana de formular hipótesis válidas a partir de un solo ejemplo.
"Any ability based on guessing must include means of correcting one’s guesses, since most guesses will be wrong at first. (There are always many more ways of being wrong than right.)
Bayesian updating is inadequate, because it cannot generate novel guesses about the purpose of an action, only fine-tune—or, at best, choose among—existing ones.
Creativity is needed.
As the philosopher Karl Popper explained, creative criticism, interleaved with creative conjecture, is how humans learn one another’s behaviors, including language, and extract meaning from one another’s utterances.
Those are also the processes by which all new knowledge is created: They are how we innovate, make progress, and create abstract understanding for its own sake. This is human-level intelligence: thinking.
It is also, or should be, the property we seek in artificial general intelligence (AGI). Here I’ll reserve the term “thinking” for processes that can create understanding (explanatory knowledge).
Popper’s argument implies that all thinking entities—human or not, biological or artificial—must create such knowledge in fundamentally the same way. Hence understanding any of those entities requires traditionally human concepts such as culture, creativity, disobedience, and morality—which justifies using the uniform term “people” to refer to all of them.
Misconceptions about human thinking and human origins are causing corresponding misconceptions about AGI and how it might be created.
For example, it is generally assumed that the evolutionary pressure that produced modern humans was provided by the benefits of having an ever-greater ability to innovate.
But if that were so, there would have been rapid progress as soon as thinkers existed, just as we hope will happen when we create artificial ones.
If thinking had been commonly used for anything other than imitating, it would also have been used for innovation, even if only by accident, and innovation would have created opportunities for further innovation, and so on exponentially.
But instead, there were hundreds of thousands of years of near stasis. Progress happened only on timescales much longer than people’s lifetimes, so in a typical generation no one benefited from any progress.
Therefore, the benefits of the ability to innovate can have exerted little or no evolutionary pressure during the biological evolution of the human brain. That evolution was driven by the benefits of preserving cultural knowledge.
Benefits to the genes, that is.
Culture, in that era, was a very mixed blessing to individual people. Their cultural knowledge was indeed good enough to enable them to outclass all other large organisms (they rapidly became the top predator, etc.), even though it was still extremely crude and full of dangerous errors.
But culture consists of transmissible information—memes—and meme evolution, like gene evolution, tends to favor high-fidelity transmission.
And high-fidelity meme transmission necessarily entails the suppression of attempted progress.
So it would be a mistake to imagine an idyllic society of hunter-gatherers, learning at the feet of their elders to recite the tribal lore by heart, being content despite their lives of suffering and grueling labor and despite expecting to die young and in agony of some nightmarish disease or parasite.
Because even if they could conceive of nothing better than such a life, those torments were the least of their troubles.
For suppressing innovation in human minds (without killing them) is a trick that can be achieved only by human action, and it is an ugly business."
Hasta aquí las recomendaciones de esta semana.
Espero haberte inspirado a pensar en cuestiones interesantes y seguir indagando en ellas.
Si estás disfrutando de las recomendaciones, agradezco tu Like y Restack.
También tus recomendaciones, que puedes dejar en los comentarios o enviarlas por aquí:
La próxima semana, otros 10 libros.
-Álvaro de Biblioteca CPS
La mente no es un recipiente a llenar sino un fuego a encender