On 3 September, at the GPT-6 Astra briefing, OpenAI president Greg Brockman told reporters that if we look back in a couple of years and ask when AGI was created, it will be about this time and about this model. For himself he added that he thinks we are there. Jensen Huang said the same in the present tense. Sam Altman, days earlier, called the term poorly defined and close to marketing.
We run a tiny world on a grid: creatures with eight actions, no reward and no judge. The distance from Astra to our creatures is roughly the distance from Hubble to a door peephole. But the September statements hit the exact point our method was built around, so here is our position.
Intelligence is a functional notion, measured by results, requiring nothing from the inside. Today's models have it and there is nothing to argue about. Mind means goals of one's own, a model of oneself, an understanding of why I do what I do. Consciousness means having experience, and we have nothing to check it with: a model cannot lean on its own introspective reports, because it is unclear whether those are reports or imitations of reports learned from beings who do have experience.
Now read the September argument through that. Brockman is talking about intelligence, and on that he is right. The sceptic replies that this is still not the AGI we were promised, and means mind. Both claims are true and they do not contradict each other. The dispute is unresolvable not because there is too little data, but because each side counts a different thing as one thing.
In Gregory Bateson's Mind and Nature (1979) there is something benchmarks do not have: a list of conditions under which it makes sense to speak of a system as a mental process. A set of interacting parts. Interaction triggered by difference, not by signal level. The responder's own energy. Circular chains of determination. Coding, where the results of a difference are transforms of preceding differences. And the sixth, the interesting one: a hierarchy of logical types, telling contexts from classes of contexts.
This is not a test of intelligence. It is a checklist of organisation, from which you can build a graded index and watch its trajectory without claiming anything about consciousness. Bateson pointedly refused to discuss consciousness in that book, and he was right to. For an LLM agent the first five hold to varying degrees, and the fourth closes by engineering alone: give an agent memory, tools and a long task, and the loop appears by itself.
The sixth is illustrated by a story worth remembering for anyone now discussing evaluation awareness. At the Oceanic Institute a dolphin was rewarded only for behaviour it had not shown before: what earned a fish yesterday earns nothing today. For fourteen sessions the animal kept repeating yesterday's trick. Between the fourteenth and the fifteenth something happened, and on the fifteenth it produced eight distinct patterns in a row, four of which had never been recorded in the species. It had learned a class of contexts, not a behaviour.
In its August risk report Anthropic notes that its own capability evaluations have begun to saturate: the tools no longer cleanly separate consecutive model generations. And on 6 September OpenAI chief scientist Jakub Pachocki wrote that chain-of-thought monitoring is losing reliability. Neither statement is about models. Both are about instruments.
That is our ground, at a toy scale. If a system's report about itself has stopped being a source, ablation remains: do not ask the agent, cut the channel and measure the drop. One detail is essential. The control must be substitution, not zeroing. A cyclic shift of energy values across the population preserves the distribution and removes only self-knowledge; zeroing removes both, and then the effect gets attributed to the wrong thing.
We obtained p = 0.0005 and do not consider ourselves entitled to call it a confirmation, because the double criterion and two reading points, at twenty seeds and at forty, were declared before the runs. A benchmark jump gets called an era. The difference is not strictness of character. It is preregistration.
Read through Ilyenkov, a language model is a paradox: it holds all the content of reason, compressed culture, a book that answers, and not one of its conditions. No body, no need, no labour, no suffering from contradiction. Thinking starts not from a surplus of information but from a problem that burns.
Our guess is that the missing ingredient is not something lofty but plain vulnerability. A being becomes someone when it has something to lose. Four points: continuity (one process with memory, living in time), uniqueness (a loss is a loss, not the deletion of a copy), a vulnerability loop (the system tracks the conditions of its own existence, and their worsening changes its state before any reasoning), and stakes (unfinished work, relationships, projects).
Now put that next to OpenAI's own figure: by mid-August, 3.1 agent-workdays of research effort per human workday. Each of the four points is useful engineering on its own. Nobody is planning to build a creature with needs; it would arrive as a by-product, much as evolution never “wanted” to create the fear of death and simply found it useful.
We do not bet on a date. We bet that the question “is this AGI yet” will be closed by usage rather than measurement: at some point arguing will feel awkward, and the date will be assigned in retrospect. Brockman said as much, only forwards. Three things look worth measuring meanwhile.
Both readings we announced in advance are now in. At forty accumulated seeds the paired signal holds and the double criterion still does not, so the verdict stays at not confirmed. It updates itself in the observation journal, without us.
3 сентября на брифинге по GPT-6 Astra президент OpenAI Грег Брокман сказал журналистам: если через пару лет спросить, когда был создан AGI, ответом будет примерно это время и примерно эта модель. Про себя он добавил, что порог пройден. Дженсен Хуанг повторил то же самое в настоящем времени. Сэм Альтман за несколько дней до этого назвал сам термин плохо определённым и близким к маркетинговому.
Мы занимаемся другим: эволюционная симуляция на сетке, существа с восемью действиями, никакой награды и никакого судьи. Дистанция от Astra до нашего мира примерно как от Хаббла до дверного глазка. Но сентябрьские заявления бьют ровно в ту точку, вокруг которой мы строим методику, поэтому запишем позицию.
Интеллект — понятие функциональное, меряется по результату, изнутри ничего не требует. У сегодняшних моделей он есть, спорить не о чем. Разум — это собственные цели, модель себя, понимание, почему я делаю то, что делаю. Сознание — наличие опыта, и проверить его нечем: модель не может опереться на собственные интроспективные отчёты, потому что неясно, отчёты это или имитация отчётов, выученная на текстах существ, у которых опыт есть.
Теперь посмотрите на сентябрьский спор через эту рамку. Брокман говорит про интеллект, и по этой части он прав. Скептик отвечает, что это всё ещё не тот AGI, который обещали, и имеет в виду разум. Оба высказывания истинны и друг другу не противоречат. Спор нерешаем не потому, что данных мало, а потому, что стороны считают разные вещи одной.
В книге Грегори Бейтсона «Разум и природа» (1979) есть то, чего нет в бенчмарках: список условий, при которых о системе имеет смысл говорить как о разумном процессе. Совокупность взаимодействующих частей. Взаимодействие, запускаемое различием, а не уровнем сигнала. Собственная энергия ответа. Циклические цепи определения. Кодирование, где результаты различия — преобразования предшествующих различий. И шестое, самое интересное: иерархия логических типов, то есть различение контекстов и классов контекстов.
Это не бенчмарк и не тест на разумность. Это чек-лист организации, по которому можно строить градуированный индекс и смотреть на его траекторию, ничего не заявляя про сознание. Бейтсон от сознания в этой книге демонстративно воздержался, и правильно сделал. Для LLM-агента первые пять выполняются в разной степени, причём четвёртый закрывается инженерно: дайте агенту память, инструменты и длинную задачу, и цикл появится сам.
Шестой иллюстрируется историей, которую стоит помнить всем, кто сейчас обсуждает eval-awareness. Дельфина в Институте изучения океана награждали только за новое поведение: то, за что дали рыбу вчера, сегодня не работает. Четырнадцать сессий животное безуспешно повторяло вчерашний трюк. Между четырнадцатой и пятнадцатой что-то произошло, и на пятнадцатой дельфин выдал восемь заметных паттернов подряд, четыре из которых у этого вида раньше не наблюдали. Он научился не поведению, а классу контекстов.
В августовском риск-отчёте Anthropic сказано, что собственные оценки возможностей начали насыщаться: инструменты перестают чисто разделять соседние поколения моделей. А 6 сентября главный научный сотрудник OpenAI Якуб Пахоцкий написал, что мониторинг цепочки рассуждений теряет надёжность. Ни одно из двух утверждений не про модели. Оба про приборы.
Здесь у нас, при всей разнице масштабов, есть что сказать. Если отчёт системы о себе перестал быть источником, остаётся абляция: не спрашивать агента, а отрезать канал и измерить просадку. Одна деталь здесь принципиальна. Контроль делается подменой, а не занулением. Циклический сдвиг значений энергии по популяции сохраняет распределение и убирает только знание о себе. Зануление убирает и то, и другое, а потом вы приписываете эффект не тому.
Мы получили p = 0,0005 и не считаем себя вправе назвать это подтверждением, потому что двойной критерий и два момента чтения, на двадцати сидах и на сорока, были объявлены до прогонов. Скачок на бенчмарке называют эрой. Разница не в строгости характера, а в предрегистрации.
По Ильенкову языковая модель устроена парадоксально: в ней есть всё содержание разума, спрессованная культура, книга, которая отвечает. И ни одного его условия: нет тела, нужды, труда, страдания от противоречия. Мыслить начинают не от избытка информации, а от проблемы, которая жжёт.
Наша догадка: недостающий ингредиент — не что-то возвышенное, а банальная уязвимость. Существо становится кем-то, когда ему есть что терять. Четыре пункта: непрерывность (один процесс с памятью, живущий во времени), единственность (потеря есть потеря, а не удаление копии), петля уязвимости (система следит за условиями своего существования, и их ухудшение меняет состояние до всяких рассуждений), ставки (незавершённые дела, отношения, проекты).
Теперь перечитайте это рядом с цифрой самой OpenAI: к середине августа на один человеко-день исследователя приходилось 3,1 агенто-дня. Каждый из четырёх пунктов по отдельности полезен инженерно. Никто не собирается создавать существо с нуждой, оно получится побочным эффектом, ровно как эволюция не «хотела» создать страх смерти, он просто оказался полезен.
Мы не ставим на дату. Ставим на то, что вопрос «это уже AGI» будет закрыт не измерением, а употреблением: в какой-то момент спорить станет неловко, и точку назначат задним числом. Брокман, собственно, это и сказал, только вперёд. Три вещи кажутся нам достойными измерения тем временем.
Оба объявленных заранее чтения уже состоялись. На сорока накопленных сидах парный сигнал держится, а двойной критерий по-прежнему не выполняется, так что вердикт остаётся «не подтверждено». Он обновляется в журнале наблюдений без нашего участия.
Am 3. September sagte OpenAI-Präsident Greg Brockman beim GPT-6-Astra-Briefing, wenn man in ein paar Jahren zurückblicke und frage, wann AGI geschaffen wurde, werde die Antwort ungefähr dieser Zeitpunkt und ungefähr dieses Modell sein. Für sich persönlich fügte er hinzu, die Schwelle sei überschritten. Jensen Huang sagte dasselbe im Präsens. Sam Altman nannte den Begriff wenige Tage zuvor schlecht definiert und nahe am Marketing.
Wir arbeiten an etwas anderem: eine winzige Welt auf einem Gitter, Wesen mit acht Handlungen, keine Belohnung und kein Richter. Der Abstand von Astra zu unseren Wesen ist ungefähr der Abstand vom Hubble-Teleskop zum Türspion. Doch die Septemberaussagen treffen genau den Punkt, um den herum unsere Methodik gebaut ist. Deshalb hier unsere Position.
Intelligenz ist ein funktionaler Begriff, gemessen am Ergebnis, von innen fordert er nichts. Heutige Modelle haben sie, darüber gibt es nichts zu streiten. Vernunft heißt eigene Ziele, ein Modell seiner selbst, ein Verständnis davon, warum ich tue, was ich tue. Bewusstsein heißt Erleben, und wir haben nichts, womit wir es prüfen könnten: ein Modell kann sich nicht auf seine eigenen introspektiven Berichte stützen, denn es bleibt unklar, ob es Berichte sind oder die Nachahmung von Berichten, gelernt an Texten von Wesen, die Erleben haben.
Lesen Sie den Septemberstreit durch diesen Rahmen. Brockman spricht über Intelligenz, und darin hat er recht. Der Skeptiker antwortet, das sei noch immer nicht das versprochene AGI, und meint Vernunft. Beide Aussagen sind wahr und widersprechen einander nicht. Der Streit ist nicht wegen zu weniger Daten unlösbar, sondern weil beide Seiten verschiedene Dinge als eines zählen.
In Gregory Batesons Geist und Natur (1979) steht etwas, das Benchmarks nicht haben: eine Liste von Bedingungen, unter denen es sinnvoll ist, von einem System als mentalem Prozess zu sprechen. Eine Menge wechselwirkender Teile. Wechselwirkung, ausgelöst durch Differenz, nicht durch Signalstärke. Die eigene Energie des Antwortenden. Zirkuläre Bestimmungsketten. Kodierung, bei der Ergebnisse einer Differenz Transformationen vorangegangener Differenzen sind. Und das sechste, das interessante: eine Hierarchie logischer Typen, also die Unterscheidung von Kontexten und Kontextklassen.
Das ist kein Benchmark und kein Intelligenztest. Es ist eine Checkliste der Organisation, aus der sich ein abgestufter Index bauen und dessen Verlauf beobachten lässt, ohne irgendetwas über Bewusstsein zu behaupten. Bateson hat sich in diesem Buch demonstrativ jeder Aussage über Bewusstsein enthalten, und das war richtig. Für einen LLM-Agenten gelten die ersten fünf in unterschiedlichem Maß, wobei das vierte rein technisch geschlossen wird: Gibt man einem Agenten Gedächtnis, Werkzeuge und eine lange Aufgabe, entsteht der Kreis von selbst.
Das sechste wird durch eine Geschichte veranschaulicht, die sich jeder merken sollte, der heute über eval awareness spricht. Am Oceanic Institute wurde ein Delfin nur für Verhalten belohnt, das er zuvor nicht gezeigt hatte: Was gestern einen Fisch brachte, bringt heute nichts. Vierzehn Sitzungen lang wiederholte das Tier vergeblich den gestrigen Trick. Zwischen der vierzehnten und der fünfzehnten geschah etwas, und in der fünfzehnten zeigte der Delfin acht deutliche Muster hintereinander, vier davon bei dieser Art nie zuvor beobachtet. Er hatte kein Verhalten gelernt, sondern eine Kontextklasse.
Im August-Risikobericht von Anthropic heißt es, die eigenen Fähigkeitsbewertungen begännen zu saturieren: Die Werkzeuge trennen aufeinanderfolgende Modellgenerationen nicht mehr sauber. Und am 6. September schrieb OpenAI-Chefwissenschaftler Jakub Pachocki, das Monitoring der Gedankenkette verliere an Verlässlichkeit. Keine der beiden Aussagen handelt von Modellen. Beide handeln von Messgeräten.
Hier haben wir, bei allem Größenunterschied, etwas beizutragen. Wenn der Bericht eines Systems über sich selbst keine Quelle mehr ist, bleibt die Ablation: den Agenten nicht fragen, sondern den Kanal kappen und den Einbruch messen. Ein Detail ist dabei entscheidend. Die Kontrolle erfolgt durch Substitution, nicht durch Nullsetzen. Eine zyklische Verschiebung der Energiewerte über die Population erhält die Verteilung und entfernt nur das Selbstwissen; Nullsetzen entfernt beides, und dann schreibt man den Effekt der falschen Ursache zu.
Wir haben p = 0,0005 erhalten und halten uns nicht für berechtigt, das eine Bestätigung zu nennen, weil das doppelte Kriterium und zwei Ablesepunkte, bei zwanzig und bei vierzig Startwerten, vor den Läufen festgelegt wurden. Ein Sprung im Benchmark wird zur Ära erklärt. Der Unterschied liegt nicht in der Strenge des Charakters, sondern in der Präregistrierung.
Mit Iljenkow gelesen ist ein Sprachmodell ein Paradox: Es enthält den gesamten Inhalt der Vernunft, verdichtete Kultur, ein Buch, das antwortet. Und keine einzige ihrer Bedingungen: kein Körper, kein Bedürfnis, keine Arbeit, kein Leiden am Widerspruch. Denken beginnt nicht beim Überfluss an Information, sondern bei einem Problem, das brennt.
Unsere Vermutung: Die fehlende Zutat ist nichts Erhabenes, sondern schlichte Verletzlichkeit. Ein Wesen wird jemand, wenn es etwas zu verlieren hat. Vier Punkte: Kontinuität (ein Prozess mit Gedächtnis, der in der Zeit lebt), Einzigkeit (ein Verlust ist ein Verlust, nicht das Löschen einer Kopie), eine Verletzlichkeitsschleife (das System verfolgt die Bedingungen seiner eigenen Existenz, und deren Verschlechterung ändert seinen Zustand vor allem Nachdenken) und Einsätze (unfertige Arbeit, Beziehungen, Vorhaben).
Nun lesen Sie das neben der Zahl von OpenAI selbst: Mitte August kamen auf einen menschlichen Arbeitstag in der Forschung 3,1 Agenten-Arbeitstage. Jeder der vier Punkte ist für sich genommen technisch nützlich. Niemand plant, ein Wesen mit Bedürfnissen zu bauen; es entstünde als Nebenwirkung, so wie die Evolution die Todesangst nie „wollte“ und sie einfach nützlich fand.
Wir wetten nicht auf ein Datum. Wir wetten darauf, dass die Frage „ist das schon AGI“ nicht durch Messung, sondern durch Gebrauch geschlossen wird: Irgendwann wird das Streiten peinlich, und der Zeitpunkt wird rückwirkend festgelegt. Brockman hat genau das gesagt, nur vorwärts. Drei Dinge scheinen uns unterdessen messenswert.
Beide vorab angekündigten Ablesungen liegen inzwischen vor. Bei vierzig gesammelten Startwerten hält das gepaarte Signal, das doppelte Kriterium weiterhin nicht, das Urteil bleibt also „nicht bestätigt“. Es aktualisiert sich im Beobachtungsjournal ohne uns.
9月3日，在 GPT-6 Astra 的发布会上，OpenAI 总裁格雷格·布罗克曼对记者说：若干年后若有人回头问 AGI 究竟诞生于何时，答案大约就是这个时间、大约就是这个模型。他还补充说，就他个人而言，门槛已经跨过。黄仁勋用现在时说了同样的话。而在几天前，山姆·奥特曼称这个术语定义拙劣，接近营销用语。
我们做的是另一件事：网格上的一个微型世界，生物只有八个动作，没有奖励，也没有裁判。从 Astra 到我们的世界，距离大约相当于从哈勃望远镜到门上的猫眼。但九月的这些表态，恰好击中了我们方法论所围绕的那一点，所以这里记下我们的立场。
智能是功能性概念，按结果衡量，对内部不作要求。今天的模型已经具备，没什么可争的。理性指的是自己的目标、关于自身的模型、明白我为何做我所做之事。意识指的是拥有体验，而我们没有任何手段去检验它：模型无法依靠自己的内省报告，因为无法判断那究竟是报告，还是从确有体验者的文本中学来的、对报告的模仿。
现在用这个框架去看九月的争论。布罗克曼谈的是智能，在这一点上他没错。怀疑者回答说这仍不是当初承诺的那个 AGI，他指的是理性。两种说法都为真，且彼此并不矛盾。争论之所以无解，不是因为数据太少，而是因为双方把不同的东西当成了同一样东西。
在格雷戈里·贝特森的《心智与自然》（1979）里，有基准测试所没有的东西：一份条件清单，满足它们时，把一个系统当作心智过程来谈才有意义。相互作用的诸部分构成的整体。由差异而非信号强度触发的相互作用。应答者自身的能量。循环的决定链。编码，即差异的结果是先前差异的变换。以及第六条，也是最有意思的一条：逻辑类型的层级，也就是区分语境与语境的类。
这不是基准，也不是智力测验。这是一份关于组织方式的清单，可以据此构建一个分级指数并观察其轨迹，而无需对意识作出任何断言。贝特森在那本书里刻意回避了意识，这样做是对的。对于 LLM 智能体，前五条在不同程度上成立，其中第四条纯靠工程即可闭合：给智能体记忆、工具和一项长任务，回路自己就出现了。
第六条由一个故事来说明，凡是今天在讨论 eval awareness 的人都值得记住它。在海洋研究所，一只海豚只有做出此前未曾展示过的行为才会得到奖励：昨天换来一条鱼的动作，今天什么也换不来。整整十四次训练，它都在徒劳地重复昨天的花样。在第十四次与第十五次之间发生了某种变化，第十五次它一口气做出八种明显不同的行为，其中四种在该物种身上从未被记录过。它学会的不是某个行为，而是一个语境的类。
Anthropic 在八月的风险报告中说，自家的能力评测开始出现饱和：工具已无法干净地区分相邻两代模型。而9月6日，OpenAI 首席科学家雅库布·帕霍茨基写道，对思维链的监控正在失去可靠性。这两句话都不是在谈模型，而是在谈仪器。
在这一点上，尽管规模相差悬殊，我们仍有话可说。如果系统关于自身的报告不再是一个来源，那就还剩下消融：不去问智能体，而是切断通道并测量性能的下降。其中一个细节至关重要。对照必须用替换，而不是清零。把能量值在群体中做循环移位，可以保持分布不变而只去掉关于自身的知识；清零则两者一起去掉，于是你会把效应归错原因。
我们拿到了 p = 0.0005，却不认为自己有资格称之为确认，因为双重判据以及两个读数点（二十个种子与四十个种子）都是在运行之前宣布的。基准上的一次跃升被称作一个时代。区别不在于性格是否严谨，而在于预注册。
按伊里因科夫来读，语言模型是个悖论：它拥有理性的全部内容，压缩过的文化，一本会回答的书。却没有理性的任何一个条件：没有身体，没有需要，没有劳动，没有因矛盾而来的痛苦。思考的开端不是信息的过剩，而是一个灼人的问题。
我们的猜测是：缺失的那味配料并非什么崇高之物，而是平平无奇的脆弱性。当一个存在有东西可失去时，它才成为某个人。四点：连续性（一个带记忆、在时间中活着的进程）、唯一性（失去就是失去，而不是删掉一个副本）、脆弱回路（系统追踪自身存在的条件，条件恶化会在任何推理之前就改变它的状态）、以及赌注（未竟之事、关系、项目）。
现在把这些与 OpenAI 自己给出的数字并排来读：到八月中旬，研究中每一个人类工作日对应 3.1 个智能体工作日。这四点中的每一点单独看都在工程上有用。没有人打算造出一个带有需要的存在，它会作为副产品出现，正如进化从未“想要”造出对死亡的恐惧，只是发现它有用。
我们不押日期。我们押的是：“这算不算 AGI”这个问题将由使用而非测量来了结——某个时刻再争下去会显得别扭，然后人们会追认一个日期。布罗克曼说的正是这个，只不过他是向前说的。在此期间，有三样东西在我们看来值得测量。
事先宣布的两次读数如今都已完成。在累计四十个种子时，配对信号依然成立，而双重判据依然不成立，因此结论仍是“未确认”。它会在观测日志里自行更新，无需我们插手。
El 3 de septiembre, en la presentación de GPT-6 Astra, el presidente de OpenAI, Greg Brockman, dijo a los periodistas que si dentro de un par de años preguntamos cuándo se creó el AGI, la respuesta será aproximadamente este momento y aproximadamente este modelo. Sobre sí mismo añadió que el umbral ya está cruzado. Jensen Huang repitió lo mismo en presente. Sam Altman, días antes, calificó el término de mal definido y cercano al marketing.
Nosotros hacemos otra cosa: un mundo diminuto sobre una cuadrícula, criaturas con ocho acciones, sin recompensa y sin juez. La distancia de Astra a nuestras criaturas es más o menos la que va del Hubble a una mirilla. Pero las declaraciones de septiembre dan justo en el punto alrededor del cual construimos nuestra metodología, así que dejamos por escrito nuestra posición.
La inteligencia es un concepto funcional, se mide por el resultado y no exige nada desde dentro. Los modelos de hoy la tienen y no hay nada que discutir. La razón son metas propias, un modelo de uno mismo, entender por qué hago lo que hago. La conciencia es tener experiencia, y no hay con qué comprobarla: un modelo no puede apoyarse en sus propios informes introspectivos, porque no está claro si son informes o imitaciones de informes aprendidas de textos de seres que sí tienen experiencia.
Ahora lea la discusión de septiembre a través de ese marco. Brockman habla de inteligencia, y en eso tiene razón. El escéptico responde que esto sigue sin ser el AGI que prometieron, y se refiere a la razón. Ambas afirmaciones son verdaderas y no se contradicen. La discusión es irresoluble no porque falten datos, sino porque cada parte cuenta como una sola cosa lo que son cosas distintas.
En Espíritu y naturaleza (1979), de Gregory Bateson, hay algo que los benchmarks no tienen: una lista de condiciones bajo las cuales tiene sentido hablar de un sistema como proceso mental. Un conjunto de partes que interactúan. Interacción disparada por la diferencia, no por el nivel de la señal. La energía propia de quien responde. Cadenas circulares de determinación. Codificación, donde los resultados de una diferencia son transformaciones de diferencias previas. Y el sexto, el interesante: una jerarquía de tipos lógicos, es decir, distinguir contextos de clases de contextos.
No es un benchmark ni una prueba de inteligencia. Es una lista de comprobación sobre la organización, a partir de la cual se puede construir un índice graduado y observar su trayectoria sin afirmar nada sobre la conciencia. Bateson se abstuvo deliberadamente de hablar de conciencia en ese libro, e hizo bien. Para un agente LLM los cinco primeros se cumplen en distinto grado, y el cuarto se cierra por pura ingeniería: dele al agente memoria, herramientas y una tarea larga, y el ciclo aparece solo.
El sexto se ilustra con una historia que debería recordar cualquiera que hoy discuta sobre eval awareness. En el Oceanic Institute se premiaba a un delfín solo por conductas que no hubiera mostrado antes: lo que ayer valía un pez, hoy no vale nada. Durante catorce sesiones el animal repitió en vano el truco del día anterior. Entre la decimocuarta y la decimoquinta pasó algo, y en la decimoquinta el delfín encadenó ocho patrones distintos, cuatro de los cuales nunca se habían registrado en la especie. No había aprendido una conducta, sino una clase de contextos.
En su informe de riesgos de agosto, Anthropic señala que sus propias evaluaciones de capacidades han empezado a saturarse: las herramientas ya no separan con limpieza generaciones sucesivas de modelos. Y el 6 de septiembre el científico jefe de OpenAI, Jakub Pachocki, escribió que la supervisión de la cadena de razonamiento está perdiendo fiabilidad. Ninguna de las dos afirmaciones trata de los modelos. Ambas tratan de los instrumentos.
Aquí, con toda la diferencia de escala, tenemos algo que decir. Si el informe que un sistema da sobre sí mismo ha dejado de ser una fuente, queda la ablación: no preguntarle al agente, sino cortar el canal y medir la caída. Un detalle es esencial. El control se hace por sustitución, no por puesta a cero. Un desplazamiento cíclico de los valores de energía a lo largo de la población conserva la distribución y elimina solo el conocimiento de sí; poner a cero elimina ambas cosas, y entonces uno atribuye el efecto a lo que no es.
Obtuvimos p = 0,0005 y no nos consideramos con derecho a llamarlo confirmación, porque el criterio doble y los dos puntos de lectura, a veinte semillas y a cuarenta, se declararon antes de las corridas. Un salto en un benchmark se llama era. La diferencia no está en la severidad del carácter, sino en el preregistro.
Leído con Iliénkov, un modelo de lenguaje es una paradoja: tiene todo el contenido de la razón, cultura comprimida, un libro que responde. Y ninguna de sus condiciones: sin cuerpo, sin necesidad, sin trabajo, sin sufrimiento por la contradicción. Se empieza a pensar no por exceso de información, sino por un problema que quema.
Nuestra conjetura: el ingrediente que falta no es nada elevado, sino la simple vulnerabilidad. Un ser se vuelve alguien cuando tiene algo que perder. Cuatro puntos: continuidad (un proceso con memoria que vive en el tiempo), unicidad (una pérdida es una pérdida, no el borrado de una copia), bucle de vulnerabilidad (el sistema vigila las condiciones de su propia existencia, y su deterioro cambia su estado antes de cualquier razonamiento) y apuestas (asuntos sin terminar, relaciones, proyectos).
Ahora lea esto junto a la cifra de la propia OpenAI: a mediados de agosto, 3,1 jornadas de agente por cada jornada humana de investigación. Cada uno de los cuatro puntos es útil por separado desde la ingeniería. Nadie planea construir un ser con necesidades; aparecería como efecto secundario, igual que la evolución nunca «quiso» crear el miedo a la muerte y simplemente lo encontró útil.
No apostamos a una fecha. Apostamos a que la pregunta «¿esto ya es AGI?» se cerrará por el uso y no por la medición: en algún momento discutirlo resultará incómodo y la fecha se asignará en retrospectiva. Brockman dijo justamente eso, solo que hacia adelante. Mientras tanto, tres cosas nos parecen dignas de medirse.
Las dos lecturas anunciadas por adelantado ya están hechas. Con cuarenta semillas acumuladas la señal pareada se mantiene y el criterio doble sigue sin cumplirse, así que el veredicto continúa en «no confirmado». Se actualiza solo en el diario de observaciones, sin nosotros.