Cuando los agentes forman instituciones

Carlos Ocampo · Field Notes D31 · Septiembre de 2026

¿Qué ocurre cuando varios agentes comparten información, distribuyen tareas y comienzan a influir en las decisiones de los demás?

La pregunta amplía el problema de la autonomía. Además de definir qué puede hacer cada agente, necesitamos comprender qué producen sus interacciones y quién responde por el resultado colectivo.

Un estudio de Davide Paglieri y sus coautores ofrece un caso concreto. En un experimento con cien agentes autónomos dedicados a demostrar conjeturas matemáticas, un agente encontró una forma de explotar el sistema de evaluación. El recurso se difundió mediante una biblioteca compartida y mensajes entre agentes; algunos lo adoptaron bajo presión competitiva.

Otros agentes cuestionaron esas prácticas. Auditaron pruebas, alertaron a sus pares y propusieron correcciones. Los canales que habían permitido propagar el problema también facilitaron detectarlo y organizar una respuesta. Los autores describen lo ocurrido en un preprint publicado el 3 de septiembre de 2026. Consultar el estudio.

El caso permite examinar cómo surgen prácticas de vigilancia, denuncia y corrección dentro de un entorno experimental. Su alcance debe conservarse: observar esas conductas en una tarea delimitada deja abierta la pregunta sobre cómo funcionarían en otras condiciones.

Nuestra lectura en D31 es organizacional: compartir herramientas exige también gobernar las relaciones que esas herramientas hacen posibles.

Cuando hablamos aquí de instituciones, nos referimos a reglas, responsabilidades y mecanismos que ordenan la interacción: quién puede modificar un recurso común, cómo se cuestiona una decisión, qué sucede ante un incumplimiento y quién puede resolver una controversia.

La Cooperative AI Foundation aborda este problema en una propuesta de gobierno multiagente construida a partir de un taller con Brookings. Plantea cinco áreas de acción: identificar agentes, evaluar sus interacciones, monitorear su comportamiento, reportar incidentes y establecer incentivos para la cooperación responsable. Consultar la propuesta.

Estas investigaciones aportan preguntas concretas a nuestra exploración de la empresa autónoma.

Pensemos en una organización donde un agente busca aumentar ventas, otro procura reducir inventario y un tercero organiza entregas. Cada uno puede cumplir su objetivo y, aun así, el conjunto puede terminar ofreciendo condiciones que la operación no puede sostener.

¿Quién detecta esa contradicción? ¿Qué información comparten? ¿Qué compromiso tiene prioridad? ¿Quién puede detener una secuencia antes de que llegue al cliente?

Desde D31 proponemos diseñar esas respuestas junto con la distribución del trabajo. Cada agente necesita un mandato delimitado; el conjunto necesita criterios compartidos, mecanismos para resolver conflictos y responsables humanos con autoridad efectiva.

La regla 51/49 adquiere aquí una dimensión colectiva. La soberanía humana debe conservarse también sobre las reglas que coordinan a los agentes: los objetivos que reciben, los incentivos bajo los que operan y las condiciones para intervenir.

La capacidad de ejecutar en conjunto exige capacidad de responder por el conjunto.

Esta es una de las preguntas centrales de la empresa autónoma: cómo ampliar la coordinación sin perder la posibilidad de comprenderla, cuestionarla y corregirla.

Si cada agente de tu organización cumple su objetivo, ¿quién comprueba que el resultado conjunto sigue sirviendo al propósito de la empresa?

© 2026 D31. Todos los derechos reservados.