Es tarde, y una pregunta llega como suelen llegar, de lado, desde algo leído a medias: ¿cuál es la diferencia entre un virus y un viroide? No abro el navegador con sus once pestañas, ni uno de los grandes modelos alojados en la nube. Escribo la pregunta en una ventana de mi propia máquina y, unos segundos después, aparece una respuesta. Un viroide es un anillo desnudo de ARN, sin cápside, sin genes para fabricar proteínas, un parásito reducido casi a un solo gesto. La respuesta no es brillante. Es suficiente, es inmediata y nunca salió del cuarto.
La máquina es una Mac con chip M4 y 24 gigabytes de memoria, modesta para quien entrena modelos y perfectamente común para quien no lo hace. No escribe mi código. No hace mi investigación. No puede competir con los sistemas de frontera en una demostración difícil o en una síntesis larga, y no se lo pido. La uso como generaciones anteriores usaron el Pequeño Larousse ilustrado que había en casi toda casa latinoamericana, con sus láminas de banderas y su sección rosada de frases latinas: como la primera parada para una pregunta demasiado pequeña para justificar un viaje.
I. Un diccionario, no un oráculo
“Pequeño” es una relación, no un veredicto. Un modelo que haría el ridículo en una prueba de ingeniería de software todavía puede explicar por qué el cielo es más oscuro en el cenit que en el horizonte, qué significa satisficing o cómo un ribosoma lee un codón. Herbert Simon acuñó esa palabra para la decisión que es suficientemente buena en lugar de óptima, y no la pensó como una confesión de pereza. Con tiempo y atención limitados, sostenía, eso es lo que parece la racionalidad limitada cuando funciona.
Lo que hace posible el arreglo es sobre todo aritmética. Un modelo de ocho a catorce mil millones de parámetros, cuantizado de dieciséis bits por peso a unos cuatro, cabe en cinco a nueve gigabytes, lo bastante poco para compartir memoria con todo lo demás que hace una laptop. Proyectos como llama.cpp y MLX, de Apple, convirtieron esa compresión en algo que un no especialista puede instalar en una tarde. El número de parámetros no mide toda la calidad, y la cuantización cuesta algo, pero para definiciones, explicaciones y primeras orientaciones la pérdida suele ser menor que la ganancia en cercanía.
Las obras de consulta nunca han sido infalibles, y nadie esperaba que lo fueran. El Diccionario de la lengua inglesa de Samuel Johnson (1755) definió pastern, la cuartilla del caballo, como “la rodilla del caballo”. No lo es. Cuando una dama le preguntó cómo había cometido semejante error, Boswell registra la respuesta: “Ignorancia, señora, pura ignorancia”. El libro siguió siendo indispensable durante un siglo. Sus lectores sabían qué clase de objeto tenían en las manos.
II. Quién más está en la habitación
La diferencia entre un modelo local y uno alojado no es la inteligencia. Es el número de partes en la conversación.
Una pregunta enviada a un servicio de frontera se convierte en un registro que conserva una empresa, regido por su política de retención, guardado en su infraestructura y al alcance de cualquier ley que alcance a la empresa. En Estados Unidos ese alcance es amplio. La doctrina del tercero, construida en United States v. Miller (1976) y Smith v. Maryland (1979), sostiene que la información entregada voluntariamente a un tercero tiene una expectativa de privacidad reducida. Carpenter v. United States (2018) la restringió para los datos de ubicación de celulares, pero no la abolió. La CLOUD Act del mismo año dejó claro que los proveedores estadounidenses deben entregar los datos bajo su custodia, estén donde estén los servidores. Y en 2025, un tribunal federal, en el caso The New York Times v. Microsoft and OpenAI ordenó a OpenAI conservar conversaciones de usuarios que de otro modo habría borrado, incluidas las que los propios usuarios habían eliminado.
Nada de esto significa que alguien esté leyendo mi pregunta sobre los viroides. La mayoría de los prompts nunca los ve una persona, y las empresas publican informes de transparencia y pelean algunas solicitudes en los tribunales. El punto es más estrecho. Cada pregunta enviada a otra parte me pide confiar en una cadena de políticas, empleados, contratistas y jurisdicciones que no puedo inspeccionar. Para un contrato, un repositorio de código o un problema de investigación difícil, esa confianza puede valer la pena. Para el significado de una palabra, es un precio extraño de pagar por defecto.
III. El mostrador de referencia nunca preguntaba por qué
Las bibliotecas entendieron esto mucho antes que el software. La entrevista de referencia enseña a los bibliotecarios a aclarar qué necesita un usuario sin exigirle por qué lo necesita. En 2005, cuatro bibliotecarios de Connecticut, de un consorcio llamado Library Connection, recibieron una National Security Letter que pedía registros de usuarios y, bajo una orden de silencio, fueron a los tribunales en lugar de obedecer callados; el caso se convirtió en Doe v. Gonzales. El instinto de la profesión era que una pregunta hecha en el mostrador le pertenece a quien la hizo.
Hay evidencia de que ese instinto importa. Después de las revelaciones de Edward Snowden en 2013 sobre programas como PRISM, el jurista Jonathon Penney midió el tráfico de los artículos de Wikipedia sobre terrorismo y seguridad y encontró una caída brusca y sostenida. Nadie había sido arrestado por leer sobre Al Qaeda. La gente simplemente se volvió menos dispuesta a mirar. Eso es un efecto disuasorio: no un castigo, sino el retiro silencioso de la curiosidad ante la posibilidad de ser visto.
Algunas preguntas son banales, otras vergonzosas, otras tocan la salud o la política, y otras no son asunto de nadie sin ninguna razón en particular. Un modelo local abarata el costo de hacerlas todas. Eso no las vuelve más importantes. Las vuelve más fáciles de hacer.
IV. Lo que “local” no significa
La palabra “local” puede convertirse en su propia superstición. Los pesos están en mi disco y la aritmética ocurre en mi chip, pero la aplicación que los envuelve todavía puede enviar telemetría, guardar el historial del chat en un archivo plano, sincronizar ese archivo con un respaldo en la nube o llamar a una herramienta de búsqueda web cuando olvido que está activada. El sistema operativo indexa lo que encuentra. Una extensión del navegador puede leer la ventana. El perfil del NIST sobre riesgos de la IA generativa enumera justamente estas fugas, prompts, registros e integraciones, como lugares por donde los datos escapan de sistemas que parecen cerrados.
Así que la afirmación honesta es modesta. La inferencia local elimina una dependencia grande sin eliminarlas todas. La idea de integridad contextual de Helen Nissenbaum da el marco correcto: la privacidad no es secreto, sino la expectativa de que la información circule según las normas del contexto del que salió. El constitucionalismo latinoamericano llegó a una intuición parecida por otro camino: el hábeas data, consagrado en Brasil en 1988, en Colombia en 1991 y en Argentina en 1994, trata los datos sobre uno mismo como algo sobre lo que se tiene derecho a saber y a corregir. El principio de ingeniería que se desprende es viejo y poco glamoroso, la minimización de datos: no transmitir lo que no necesita transmitirse.
V. El año en el lomo
El modelo pequeño tiene los defectos de una obra de consulta, más algunos propios. Su conocimiento se detiene en una fecha, como una enciclopedia impresa lleva el año en el lomo. Inventa con la misma voz tranquila con la que informa, y es más propenso a inventar que un modelo más grande. Pregúntale por un botánico menor del siglo XVIII y puede entregarte un año de nacimiento salido de la nada.
Borges construyó un cuento sobre ese riesgo. “Debo a la conjunción de un espejo y de una enciclopedia el descubrimiento de Uqbar”, empieza “Tlön, Uqbar, Orbis Tertius”. Bioy Casares encuentra el artículo sobre Uqbar en un solo ejemplar de una enciclopedia y en ningún otro de la misma edición. El artículo es fluido, preciso, lleno de referencias cruzadas, y no describe nada. Un modelo de lenguaje es una imprenta capaz de producir ese tomo a pedido. Su respuesta es un mapa de lo que la gente ha escrito, no el territorio sobre el que escribía, y, como en la Biblioteca de Babel, la entrada fiel y la falsa comparten estante y encuadernación.
Por eso el papel sigue acotado. El modelo sirve para la primera explicación, para nombrar una pregunta, para distinguir dos ideas vecinas y para saber qué leer después. Cuando algo importa, una dosis, una fecha dentro de un argumento, una afirmación que pienso repetir, la respuesta es un indicador, no una fuente. La sigo hasta un libro, un artículo o una herramienta mejor. Los bolsilibros de la maleta de mi padre funcionaban igual: su valor era que se terminaban y señalaban más allá de su propio borde. Tenían otra virtud que solo ahora reconozco. Nadie sabía lo que yo estaba leyendo.
VI. Cerca de casa
La pregunta que dejé de hacer es “¿qué modelo es el más inteligente?”. La útil es “¿cuál es la herramienta menos poderosa que sirve bien a esta pregunta?”. El código, la investigación especializada y la síntesis difícil pueden justificar la frontera y sus costos. Una palabra, un fenómeno o una idea medio recordada de un pódcast casi nunca.
Lo que cambia un modelo pequeño sobre el escritorio no es el tamaño de lo que sé, sino el umbral para buscarlo. Una pregunta que se habría disuelto porque abrir una pestaña parecía demasiado esfuerzo ahora recibe una respuesta, imperfecta e inmediata, mientras sigue viva. La mayoría de esas respuestas nunca importará. Unas pocas se vuelven la primera página de algo más largo. Ninguna tuvo que anunciársele a nadie.
Lecturas recomendadas
- Herbert Simon — satisficing y racionalidad limitada
- Georgi Gerganov et al. —
llama.cpp - Apple Machine Learning Research — MLX
- Pequeño Larousse ilustrado
- Samuel Johnson — A Dictionary of the English Language
- La doctrina del tercero, Smith v. Maryland y Carpenter v. United States
- La CLOUD Act
- The New York Times v. Microsoft and OpenAI
- La entrevista de referencia, las National Security Letters y Doe v. Gonzales
- PRISM
- Jonathon W. Penney — “Chilling Effects: Online Surveillance and Wikipedia Use”
- NIST — AI 600-1: Generative Artificial Intelligence Profile
- Helen Nissenbaum — integridad contextual
- Hábeas data
- Minimización de datos
- Jorge Luis Borges — “Tlön, Uqbar, Orbis Tertius”
