Acerca de Lovejoy

Arthur Oncken Lovejoy (Berlín, 10 de octubre de 1873 -- Baltimore, 30 de diciembre de 1962) fue un filósofo e historiador proponente de la historia de las ideas (HI) en el mundo anglosajón. De manera errónea se le atribuye la fundación de la HI porque Marcelino Menéndez Pelayo fue el primero en acuñar el término (Historia de las ideas estéticas en España, 1883--1889), así como José Ortega y Gasset trabajó sobre la HI durante los mismos años (Ideas y creencias y Sobre la razón histórica, 1940--1944). Pese a esta dificultad, no hay dudas de que Lovejoy se enfocó en teorizar la HI y en refinar sus metodologías.

Este enlace es una ficha de Lovejoy elaborada por el Departamento de Filosofía de la Universidad Johns Hopkins, institución en la que trabajó por casi 40 años. Una de las cuestiones interesantes sobre esta semblanza es que no se enfoca en resumir lo que Lovejoy entendió por HI. Para esto es mejor consultar tres de sus obras ---al menos sus primeras secciones--- y uno de sus papers: Primitivism and Related Ideas in Antiquity (1935, coescrito con George Boas), The Great Chain of Being: A Study of the History of an Idea (1936), Essays in the History of Ideas (1948) y «Reflections on the History of Ideas» (1940) publicado en el primer número de Journal of the History of Ideas, revista académica que fundó y que permanece activa.

En su lugar, esta ficha menciona más facetas de la vida y obra de Lojevoy como activista social, defensor de la libertad académica, anticomunista, crítico del pragmatismo, epistemólogo, fillósofo de la mente y pensador sobre el tiempo y la evolución. En cada faceta hay enlaces de interés a escritos de Lovejoy disponibles en acceso abierto. Por ello, esta semblanza es un punto de partida para quien tenga interés en la vida y obra de Arthur Oncken Lovejoy.

Comentarios en HN.

Opinión de Chomsky sobre los Modelos Grandes de Lenguaje como ChatGPT

En esta entrevista en inglés ---aquí en español--- realizada por Polychroniou, Chosmky de nueva cuenta manifiesta su escepticismo ante los Modelos Grandes de Lenguage (LLM, por sus siglas en inglés). Estas fueron mis citas favoritas (el resaltado es mío, más adelante en español):

As I understand them, the founders of AI---Alan Turing, Herbert Simon, Marvin Minsky, and others---regarded it as science, part of the then-emerging cognitive sciences, making use of new technologies and discoveries in the mathematical theory of computation to advance understanding. Over the years those concerns have faded and have largely been displaced by an engineering orientation.

Engineering projects can be useful, or harmful. Both questions arise in the case of engineering AI. Current work with Large Language Models (LLMs), including chatbots, provides tools for disinformation, defamation, and misleading the uninformed. The threats are enhanced when they are combined with artificial images and replication of voice.

These considerations bring up a minor problem with the current LLM enthusiasm: its total absurdity, as in the hypothetical cases where we recognize it at once. But there are much more serious problems than absurdity.

One is that the LLM systems are designed in such a way that they cannot tell us anything about language, learning, or other aspects of cognition, a matter of principle, irremediable. Double the terabytes of data scanned, add another trillion parameters, use even more of California’s energy, and the simulation of behavior will improve, while revealing more clearly the failure in principle of the approach to yield any understanding. The reason is elementary: The systems work just as well with impossible languages that infants cannot acquire as with those they acquire quickly and virtually reflexively.

Data of performance provide evidence about the nature of the internal system, particularly so when they are refined by experiment, as in standard field work. But even the most massive collection of data is necessarily misleading in crucial ways. It keeps to what is normally produced, not the knowledge of the language coded in the brain, the primary object under investigation for those who want to understand the nature of language and its use.

Unless carefully controlled, AI engineering can pose severe threats. Suppose, for example, that care of patients was automated. The inevitable errors that would be overcome by human judgment could produce a horror story. Or suppose that humans were removed from evaluation of the threats determined by automated missile-defense systems. As a shocking historical record informs us, that would be the end of human civilization.

I can easily sympathize with efforts to try to control the threats posed by advanced technology, including this case. I am, however, skeptical about the possibility of doing so. I suspect that the genie is out of the bottle. Malicious actors---institutional or individual---can probably find ways to evade safeguards. Such suspicions are of course no reason not to try, and to exercise vigilance.

Lo mismo pero en su traducción al español:

Entiendo que los padres de la IA ---Alan Turing, Herbert Simon y Marvin Minsky, entre otros--- la consideraban una ciencia, parte de las entonces incipientes ciencias cognitivas, y se valían de las nuevas tecnologías y los nuevos descubrimientos en la teoría matemática de la computación para avanzar en el entendimiento. A lo largo de los años, esa tendencia ha ido desapareciendo y se ha visto desplazada en gran medida por el enfoque de la ingeniería.

Los proyectos de ingeniería pueden ser útiles o perjudiciales. Ambas cuestiones se plantean también en el caso de la ingeniería de IA. El trabajo actual con modelos de lenguaje LLM, como los chatbots, ofrece herramientas para desinformar, difamar y confundir a los que no tienen muchos datos. La amenaza es mayor cuando se combinan con imágenes artificiales y réplicas de voz.

Estas consideraciones sacan a relucir un pequeño problema del entusiasmo actual con los LLM: que son totalmente absurdos, como en los casos hipotéticos, que se veía enseguida. Sin embargo, hay problemas mucho más graves que el absurdo.

Uno de ellos es que los sistemas de LLM están diseñados de tal manera que no nos dicen nada del lenguaje, del aprendizaje ni de otros aspectos cognitivos, y es una cuestión de principio, irremediable. Aunque dupliquemos los terabytes de datos registrados, añadamos unos millones de parámetros más y utilicemos todavía más energía de California, la simulación de comportamiento mejorará, pero al mismo tiempo, revelará con mayor claridad el fracaso de principio de un enfoque que no busca ningún tipo de entendimiento. La razón es evidente: los sistemas funcionan igual de bien con lenguas imposibles de aprender que con las que los niños adquieren rápido y casi instintivamente.

Los datos de la actuación ofrecen pruebas sobre la naturaleza del sistema interno, especialmente cuando los experimentos los hacen más precisos, como es habitual en el trabajo de campo. Pero hasta la recolección de datos más exhaustiva induce necesariamente a error en aspectos cruciales. Se atiene a lo que se produce normalmente, no al conocimiento del lenguaje codificado en el cerebro, objeto principal de investigación para los que quieren entender la naturaleza del lenguaje y su uso.

A menos que se controle con cuidado, la ingeniería de IA puede representar serias amenazas. Supongamos, por ejemplo, que el cuidado de pacientes estuviera automatizado. Los errores inevitables que el juicio humano solucionaría podrían provocar una historia de terror. O imaginemos que apartamos a los humanos de la evaluación de amenazas determinadas por los sistemas automatizados de defensa antimisiles. Como nos indica un documento histórico estremecedor, sería el final de la civilización humana.

Comprendo perfectamente los esfuerzos de quienes intentan controlar las amenazas que supone la tecnología avanzada, también en este caso. Sin embargo, soy escéptico acerca de la posibilidad de llevarlo a cabo. Me temo que la caja de Pandora ya está abierta. Los actores maliciosos ---institucionales o particulares--- seguramente encuentren las vías para eludir las salvaguardias. Aunque estos temores, por supuesto, no son motivo para no intentarlo ni para bajar la guardia.

Acerca de la BVP

La Biblioteca Virtual de Polígrafos (BVP) de la Fundación Ignacio Larramendi se propone ---a partir de una idea de Menéndez Pelayo, creador del término polígrafo en el sentido que se emplea aquí--- hacer accesible el pensamiento de polígrafos españoles, portugueses, brasileños e hispanoamericanos mediante la recopilación digital de sus obras. El proyecto en parte se lleva a cabo mediante la colaboración con otras instituciones.

El polígrafo y el poligrafista

La palabra polígrafo se refiere en este contexto al creador polifacético cuya obra marcó un punto de inflexión en su campo. Se llama poligrafista al investigador especialista en alguno o algunos de los polígrafos que componen la BVP y que escribe un estudio sobre su figura y su obra.

Historia y reconocimientos

La BVP es un proyecto que ideó y puso en marcha Ignacio Hernando de Larramendi en los años noventa del siglo XX, con la intención de aprovechar las posibilidades que las incipientes nuevas tecnologías ofrecían para la conservación y la difusión del conocimiento.

Ignacio Larramendi centró esta biblioteca en cuatro colecciones que recibieron el nombre de uno de los polígrafos más importantes de cada una de ellas: Marcelino Menéndez Pelayo, para la colección de polígrafos españoles, José de Anchieta, para la de brasileños, Francisco Manuel de Melo, para la de portugueses, y Andrés Bello, para la de hispanoamericanos.

La BVP ha sido seleccionada por el clúster de datos bibliográficos de la W3C como Case Study. También ha sido elegida por Europeana como un EDM Case Study.